2025-06-25 11:48来源:本站
虽然基因人工智能在自动化任务和创建复杂的文本回复、图像、视频甚至软件代码方面提供了广泛的好处,但这项技术也被称为“流氓”——一种被称为幻觉的异常现象。
加州帕洛阿尔托(Palo Alto)的图灵公司(Turing)的首席执行官乔纳森?西达思(Jonathan Siddharth)表示:“之所以会出现幻觉,是因为法学硕士在最普通的形式下,没有对世界的内部状态表示。”图灵公司利用人工智能来远程寻找、招聘和聘用软件工程师。“没有事实的概念。他们根据目前为止看到的内容预测下一个单词——这是一种统计估计。”
GenAI还可能意外地暴露敏感或个人身份数据。在最基本的层面上,这些工具可以收集和分析来自互联网、公司甚至政府来源的大量数据,以便更准确、更深入地向用户提供内容。缺点是人工智能收集的信息不一定是安全存储的。人工智能应用程序和网络可以使敏感信息容易受到第三方的数据利用。
例如,智能手机和自动驾驶汽车可以跟踪用户的位置和驾驶习惯。虽然该跟踪软件旨在帮助该技术更好地了解用户习惯,从而更有效地为用户服务,但它也会收集个人信息,作为用于训练人工智能模型的大数据集的一部分。
数字转型服务公司UST的首席人工智能架构师阿德南?马苏德(Adnan Masood)表示,白宫即将出台的法规“姗姗姗姗来,这是在美国政府利用和遏制人工智能技术的关键时刻迈出的一大步。”
马苏德说:“我对将监管范围扩大到研发领域持保留态度。”“人工智能研究的性质需要一定程度的开放和集体审查,而过度的监管可能会扼杀这种开放和集体审查。特别是,我反对任何可能阻碍开源人工智能计划的限制,这是该领域大多数创新背后的推动力。这些协作平台可以快速识别和修复人工智能模型中的缺陷,加强其可靠性和安全性。”
GenAI也容易受到固有偏见的影响,比如人工智能辅助招聘应用往往会选择男性而不是女性,或者选择白人候选人而不是少数族裔。而且,随着基因人工智能工具在模仿自然语言、图像和视频方面做得越来越好,很快就不可能区分假结果和真结果;这促使公司设立“护栏”,防止最坏的结果,不管这些结果是坏人偶然的还是故意的。
在美国努力控制人工智能之前,欧洲国家也采取了类似的措施,以确保该技术不会产生违反欧盟法律的内容;可能包括儿童色情,或者在一些欧盟国家,否认大屠杀。在ChatGPT这款自然语言处理应用遭遇涉及用户对话和支付信息的数据泄露后,出于隐私方面的考虑,意大利彻底禁止了该应用的进一步开发。
欧盟的“人工智能法案”(AI Act)是西方国家出台的首个此类法案。拟议的立法在很大程度上依赖于现有的规则,如《通用数据保护条例》(GDPR)、《数字服务法》和《数字市场法》。人工智能法案最初是由欧盟委员会于2021年4月提出的。
由于隐私和偏见问题,各州和市政当局正在考虑限制使用基于人工智能的机器人来寻找、筛选、面试和雇用求职者。一些州已经将相关法律写入了法律。
预计白宫还将依靠美国国家标准与技术研究院(National Institute of Standards and Technology)收紧有关测试和评估人工智能系统的行业指导方针——这些规定将建立在拜登政府今年从15家主要科技公司那里获得的关于人工智能的安全、安保和信任的自愿承诺的基础上。
马苏德说,拜登的举动尤其重要,因为人工智能正在经历持续的繁荣,在创造内容、深度伪造和潜在的新形式的网络威胁方面产生了前所未有的能力。
他补充说:“这种情况清楚地表明,政府的角色不仅是监管者,而且还是人工智能技术的推动者和消费者。”“通过要求联邦政府对人工智能进行评估,并强调其在网络安全中的作用,美国政府承认人工智能既是战略资产,也是潜在风险的双重性质。”
马苏德表示,他坚定地主张对人工智能进行细致入微的监管,因为监督人工智能产品的部署对于确保它们符合安全和道德标准至关重要。
“例如,用于医疗保健或自动驾驶汽车的先进人工智能模型必须经过严格的测试和合规检查,以保护公众福祉,”他说。