特拉维夫，以色列（美联社）——通过人工智能和计算服务的急剧增长，美国科技巨头已经悄悄地授权以色列在加沙和黎巴嫩更快地追踪和杀死更多的武装分子。但被杀害的平民人数也在飙升，这加剧了人们的担忧，即这些工具正在导致无辜人民的死亡。

　　多年来，军方一直雇佣私营公司来制造定制的自主武器。然而，以色列最近的战争标志着美国制造的商业人工智能模型被用于积极战争的一个主要例子，尽管人们担心它们最初不是为了帮助决定谁生谁死而开发的。

　　以色列军方使用人工智能来筛选大量的情报、截获的通信和监视，以发现可疑的言论或行为，并了解敌人的行动。美联社的一项调查发现，在哈马斯武装分子于2023年10月7日发动致命的突然袭击后，该公司对微软和OpenAI技术的使用激增。调查还揭示了人工智能系统如何选择目标以及它们可能出错的方式的新细节，包括错误的数据或有缺陷的算法。这份报告基于内部文件、数据以及对以色列现任和前任官员及公司员工的独家采访。

　　“这是我们首次确认商业人工智能模型直接用于战争，”人工智能研究所（AI Now Institute）首席人工智能科学家、OpenAI前高级安全工程师海蒂·赫拉夫（Heidy Khlaaf）说。“科技在推动这种不道德和非法的战争中发挥的作用是巨大的。”

　　随着美国科技巨头在唐纳德·特朗普总统的领导下逐渐占据重要地位，美联社的调查结果引发了人们对硅谷在未来自动化战争中所扮演角色的质疑。微软希望与以色列军方的合作关系能够进一步发展，而与以色列的合作可能有助于决定这些新兴技术在世界范围内的使用。

　　美联社在审查公司内部信息时发现，去年3月，以色列军方对微软和OpenAI人工智能的使用激增，比10月7日袭击发生前一周高出近200倍。从那时到2024年7月，它在微软服务器上存储的数据量翻了一番，超过13.6拍字节——大约是美国国会图书馆存储每本书所需数字内存的350倍。仅在战争的头两个月，军方对微软庞大的计算机服务器库的使用就增长了近三分之二。

　　在那次造成1200人死亡、250多人被劫持的袭击之后，以色列的目标是消灭哈马斯，以色列军方称人工智能是“游戏规则的改变者”，可以更快地提供目标。据加沙和黎巴嫩卫生部称，自战争开始以来，加沙和黎巴嫩已有5万多人死亡，加沙近70%的建筑遭到破坏。

　　美联社的调查采访了六名以色列现役和退役军人，其中包括三名预备役情报官员。大多数人要求匿名，因为他们没有被授权讨论敏感的军事行动。

　　美联社还采访了14名微软、OpenAI、b谷歌和亚马逊的现任和前任员工，其中大多数人也因为害怕报复而匿名接受采访。记者查阅了该公司的内部数据和文件，其中包括一份详细说明微软与以色列国防部之间1.33亿美元合同条款的文件。

　　以色列军方表示，其分析人员使用人工智能系统帮助识别目标，但与高级官员一起独立审查目标，以符合国际法，权衡军事优势与附带损害。一位被授权接受美联社采访的以色列高级情报官员说，合法的军事目标可能包括与以色列作战的战斗人员，无论他们身在何处，以及武装分子使用的建筑物。官员们坚持认为，即使人工智能发挥了作用，也总是有几个层次的人参与其中。

　　以色列军方对美联社的一份声明说：“这些人工智能工具使情报过程更准确、更有效。它们更快地确定更多目标，但不以准确性为代价，在这场战争中，它们多次能够最大限度地减少平民伤亡。”

　　以色列军方拒绝回答美联社关于其使用美国科技公司商业人工智能产品的详细书面问题。

　　微软拒绝对本文发表评论，也没有回应有关向以色列军方提供云和人工智能服务的详细书面问题清单。在其网站上的一份声明中，该公司表示，它致力于“在全球范围内支持技术的积极作用”。在其长达40页的《2024年负责任的人工智能透明度报告》（Responsible AI Transparency Report）中，微软承诺在整个开发过程中管理人工智能的风险，“以减少伤害的风险”，但没有提及其利润丰厚的军事合同。

　　文件和数据显示，先进的人工智能模型由ChatGPT的制造商OpenAI通过微软的Azure云平台提供，并由以色列军方在那里购买。微软一直是OpenAI最大的投资者。OpenAI表示，它与以色列军方没有合作关系，其使用政策规定，其客户不应使用其产品开发武器、破坏财产或伤害人民。然而，大约一年前，OpenAI改变了其使用条款，从禁止军事用途改为允许“符合我们使命的国家安全用例”。

　　有一个新闻提示“text-indent: 2em;”>有限公司联系美联社全球调查团队，邮箱：[email]受保护的)。为了安全起见保密通信，使用免费的Signal应用程序+1(202)281-8604。

　　消息人士称，人工智能系统何时会出现错误，很难识别，因为它们与许多其他形式的智能一起使用，包括人类智能。

　　2023年11月，以色列和哈马斯盟友真主党在黎巴嫩边境发生冲突，霍达·希贾兹带着三个年幼的女儿和母亲逃离时，她们的汽车遭到炸弹袭击。

　　在他们离开之前，大人们告诉女孩们在房子前面玩，这样以色列的无人机就会知道他们带着孩子一起旅行。妇女和女孩们和Hijazi的叔叔萨米尔·阿尤布（Samir Ayoub）一起开车，他是一家左翼广播电台的记者，开着自己的车。他们听到头顶非常低的地方传来一架无人机的嗡嗡声。

　　不久，空袭击中了Hijazi驾驶的汽车。它从斜坡上倾斜下来，突然燃烧起来。Ayoub设法把Hijazi拉了出来，但她的母亲——Ayoub的妹妹——和三个女孩——14岁的Rimas， 12岁的Taline和10岁的Liane——都死了。

　　希贾兹回忆说，在他们离开家之前，其中一个女孩坚持要给花园里的猫拍照，“因为也许我们再也见不到它们了。”

　　最后，她说，“猫活了下来，女孩们走了。”

　　罢工前不久，一家便利店的监控录像显示，Hijazi一家坐在一辆现代（Hyundai） SUV里，母亲和其中一个女孩在装水。这家人表示，视频证明以色列无人机应该看到这些妇女和儿童。

　　在这家人被击中的第二天，以色列军方公布了这次袭击的视频，以及一系列类似的视频和照片。与图片一起发布的一份声明称，以色列战斗机“击中了450多个哈马斯目标”。美联社的视觉分析将以色列军事视频中的道路和其他地理特征与三名女孩死亡地点的卫星图像相匹配，该地点距离商店1英里（1.7公里）。

　　一名以色列情报官员告诉美联社，过去三年来，人工智能一直被用来帮助确定所有目标。在这种情况下，人工智能可能确定了一个住所，而其他情报收集可能会将一个人安置在那里。在某个时刻，车离开了住所。

　　目标房间里的人会决定发动袭击。他说，错误可能在任何时候发生：之前错误的信息可能标记错了住所，或者他们可能撞错了车。

　　美联社还从了解那次空袭的另一位消息人士那里看到了一条消息，该消息人士证实这是一次失误，但没有详细说明。

　　以色列军方发言人否认在空袭过程中使用了人工智能系统，但拒绝回答人工智能是否帮助选择了目标，或者是否错了。军方告诉美联社，官员们调查了这一事件，并对结果表示“悲伤”。

　　微软和总部位于旧金山的初创公司OpenAI是近年来支持以色列战争的众多美国科技公司之一。

　　b谷歌和亚马逊根据“光轮计划”（Project Nimbus）向以色列军方提供云计算和人工智能服务，这是以色列于2021年首次测试其内部人工智能瞄准系统时签署的一份价值12亿美元的合同。军方使用的是思科和戴尔的服务器群或数据中心。IBM的独立子公司红帽（Red Hat）也向以色列军方提供了云计算技术，微软在美国国防合同中的合作伙伴Palantir technologies与以色列建立了“战略合作伙伴关系”，提供人工智能系统，以帮助以色列的战争努力。

　　b谷歌表示，它致力于负责任地开发和部署“保护人类、促进全球增长、支持国家安全”的人工智能。戴尔发表声明说，该公司承诺在与包括以色列在内的全球公共和私人组织合作时，遵守最高标准。红帽公司发言人Allison Showalter表示，公司为其全球客户感到自豪，这些客户遵守红帽公司的条款，遵守适用的法律法规。

　　Palantir、思科和甲骨文均未回应置评请求。亚马逊拒绝置评。

　　据一名与微软Azure系统合作的以色列情报官员说，以色列军方使用微软Azure来汇编通过大规模监控收集到的信息，并对这些信息进行转录和翻译，包括电话、短信和音频信息。然后，这些数据可以与以色列的内部目标系统进行交叉核对，反之亦然。

　　他说，他依靠Azure在海量文本中快速搜索术语和模式，比如在一份50页的文档中查找两个人之间的对话。Azure还可以发现人们在文本中给彼此指路，然后可以与军方自己的人工智能系统交叉引用，以确定位置。

　　美联社查阅的微软数据显示，自10月7日的袭击以来，以色列军方大量使用转录和翻译工具以及OpenAI模型，尽管它没有详细说明是哪一种。通常，转录和翻译的人工智能模型在英语中表现最好。OpenAI公司承认，其广受欢迎的人工智能翻译模型Whisper可以转录并翻译成阿拉伯语等多种语言，可以编造没有人说过的文本，包括添加种族评论和暴力言论。

　　“我们是否应该基于模型可能构成的东西来做出这些决定？”以色列军方表示，任何从阿拉伯语翻译过来的电话对话或用于确定目标的情报都必须由说阿拉伯语的军官审查。

　　与瞄准系统合作过的以色列军官和其他技术专家表示，人工智能仍然可能因为许多原因而出错。一名情报官员表示，他曾看到过由于机器将阿拉伯语翻译成希伯来语而导致的定位错误。

　　在阿拉伯语中，描述火箭推进榴弹的发射管握力的单词与“付款”一词是相同的。他说，有一次机器翻译错了，验证翻译的人最初没有发现这个错误，这可能会把谈论付款的人添加到目标名单中。他说，这名警官碰巧在那里，发现了这个问题。

　　截获的与个人资料相关的电话还包括这个人打电话的时间，以及通话对象的姓名和电话号码。但需要额外的步骤来收听和验证原始音频，或查看翻译后的文本。

　　有时附加在个人资料上的数据是错误的。例如，据这位官员说，该系统错误地将一份高中生名单识别为潜在的武装分子。他说，附在几个人的个人资料上的Excel电子表格用阿拉伯语写着“期末考试”，其中至少有1000名学生的名字出现在加沙一个地区的考试名单上。他说，这是附在人们档案中的唯一证据，如果他没有发现这个错误，那些巴勒斯坦人可能会被错误地标记。

　　他说，他还担心年轻军官（有些还不到20岁）在人工智能的帮助下迅速找到目标的压力下，会过早下结论。

　　另一名使用瞄准系统的士兵说，单凭人工智能就可能得出错误的结论。例如，人工智能可能会标记出与哈马斯有联系的人所拥有的房子，但此人并不住在那里。他说，在房子被袭击之前，人们必须确认谁在里面。

　　这名士兵告诉美联社：“很明显，有些事情我可以和平地生活，有些事情我本可以在一些有针对性的袭击中做得更好，这些都是我负责的。这是战争，事情会发生，错误会发生，我们是人。”

　　塔尔·米姆兰（Tal Mimran）在以色列军方担任了10年的预备役法律官员，并在三个北约工作组工作，研究在战争中使用包括人工智能在内的新技术。他说，以前，审查和批准一次空袭需要一个多达20人的团队，每天甚至更多。现在，有了人工智能系统，军方每周批准数百个。

　　米姆兰表示，过度依赖人工智能可能会强化人们现有的偏见。

　　教授网络法律政策的米姆兰说：“确认偏见会阻止人们自己进行调查。”“有些人可能很懒，但有些人可能害怕违背机器，害怕犯错。”

　　在美国科技公司中，微软与以色列军方的关系在过去几十年里尤为密切。

　　在哈马斯发动袭击后，这种关系以及与其他科技公司的关系得到了加强。以色列军方最高信息技术官员去年在一次演讲中表示，以色列的战争反应使其自己的服务器紧张，并增加了对外部第三方供应商的依赖。当她描述人工智能如何为以色列在加沙提供了“非常显著的作战效率”时，她身后的大屏幕上出现了微软Azure、b谷歌云和亚马逊网络服务（Amazon Web Services）的标志。

　　“我们的系统已经到了真正需要它的地步，”计算与信息系统中心（Center of Computing and Information systems）的指挥官雷切利·登宾斯基上校（Racheli Dembinsky）说。

　　根据美联社审查的一份文件，微软与以色列国防部之间的一份为期三年的合同始于2021年，价值1.33亿美元，使其成为该公司仅次于美国的全球第二大军事客户。以色列军方在微软内部被归类为“S500”客户，这意味着它作为该公司全球最重要的客户之一获得了最高优先级。

　　以色列军方与微软的服务协议包括至少635个单独的订阅，按特定的部门、单位、基地或项目代码字列出。美联社审查的订阅名称包括“Mamram”和“8200”，这是一个以技术实力闻名的精英情报单位。

　　在10月7日的攻击发生大约两周后，Azure收到了一份紧急支持申请，要求将计划中的维护中断推迟到今年余下的时间，因为任何停机都可能“对挽救生命的系统产生直接影响”。该请求被标记为来自“Glilot - 8200”，这是一个高度安全的军事基地，驻扎着8200部队，负责秘密行动，收集信号情报和密码解密，网络战和监视。

　　记录显示，在战争的前10个月，微软的全球Azure支持团队回应了以色列军方大约130个直接请求。一份内部文件显示，微软的咨询服务部门还与以色列军方密切合作，这部分收入占该部门总收入的一半。

　　在以色列，一个由至少九名微软员工组成的团队致力于为军方提供服务。根据他们的在线简历，其中包括一名在8200部队服役14年的高级管理人员和一名前军事情报部门的IT主管。微软的数据存储在特拉维夫市外两栋巨大建筑内的服务器场中，这些建筑被围在顶部有铁丝网的高墙后面。微软还在特拉维夫以北的赫兹利亚（Herzliya）经营着一个占地4.6万平方米的企业园区，在以色列南部的Gav-Yam还有一个办公室，那里悬挂着一面巨大的以色列国旗。

　　长期以来，以色列国防军一直处于将人工智能用于军事用途的前沿。2021年初，以色列推出了一款名为“福音”（Gospel）的人工智能工具，它可以对以色列大量的数字化信息进行分类，从而为潜在的打击目标提出建议。该公司还开发了Lavender，它利用机器学习从情报数据库中过滤出要求的标准，并缩小潜在目标的范围，包括人。

　　一名使用该系统的情报官员说，Lavender根据一个人是武装分子的可能性，将其分为0到100级。他说，排名是基于情报，比如这个人的家谱，如果一个人的父亲是一名已知的服刑武装分子，以及截获的电话。

　　2021年5月，以色列军方发动了以色列情报官员所说的“第一次人工智能战争”，对哈马斯进行了为期11天的轰炸。当时，以色列军方官员将人工智能描述为“力量倍增器”，使他们能够进行比以前冲突多得多的空袭。

　　以色列军方2021年发布的一篇帖子也描述了在战争中使用人工智能的风险：“与广告技术和游戏领域不同，情报领域的错误决定可能会造成生命损失。”同一篇帖子还描述了军方采用人工智能方法来分析交流中的情感语气，专家们发现，这种技术无法分辨出人们讲话中的俚语、行话或细微差别。

　　科技公司和以色列军方之间的关系也在美国产生了影响，一些美国员工提出了道德问题。

　　去年10月，微软解雇了两名员工，原因是他们帮助在华盛顿雷德蒙德的公司园区组织了一场未经授权的巴勒斯坦难民午餐守夜活动。微软当时表示，它“根据内部政策”终止了一些人的雇佣，但拒绝透露细节。

　　被微软解雇的员工之一、与倡导组织“反对种族隔离”（No Azure for Apartheid）合作的霍萨姆·纳斯尔（Hossam Nasr）表示，他和前同事正在推动微软停止向以色列军方出售云和人工智能服务。

　　“云和人工智能是21世纪的炸弹和子弹，”纳斯尔说。“微软正在向以色列军方提供数字武器，以杀害、致残和驱逐巴勒斯坦人，这是对我们这个时代最严重的道德嘲弄。”

　　今年4月，b谷歌解雇了约50名员工，原因是他们在公司加州总部静坐抗议加沙战争。

　　前bbb软件工程师Emaan Haseem是被解雇的人之一。Haseem说，她曾在一个团队工作，帮助测试“主权云”的可靠性——这是一个安全的服务器系统，与b谷歌的全球云基础设施的其余部分分开，甚至公司本身也无法访问或跟踪其存储的数据。她后来通过媒体报道得知b谷歌正在为以色列建立一个主权云。

　　哈西姆说：“似乎越来越明显的是，我们只是在尝试设计一些东西，我们不必关心客户如何使用它，以及他们是否不公平地或不道德地使用它。”

　　谷歌表示，这些员工被解雇是因为他们扰乱了工作空间，让同事感到不安全。谷歌没有回答有关其是否签约为以色列军方建立主权云以及是否对其人工智能模型的战时使用进行限制的具体问题。

　　加沙目前处于不稳定的停火状态。但最近，以色列政府宣布将在其所有军事部门扩大其人工智能发展。

　　与此同时，美国科技巨头们继续巩固在华盛顿的权力。微软向特朗普的就职基金捐赠了100万美元。b谷歌首席执行官桑达尔·皮查伊在总统就职典礼上获得了一个主要席位。OpenAI首席执行官萨姆·奥特曼在特朗普上任的第二天会见了总统，讨论了一个投资高达5000亿美元的合资企业，用于人工智能基础设施。

　　在将于周二出版的新书中，Palantir首席执行官亚历山大·卡普呼吁美国军方及其盟友与硅谷密切合作，设计、制造和获取人工智能武器，包括“将主宰未来战场的无人驾驶飞机群和机器人”。

　　“美国及其盟友的命运取决于他们的国防和情报机构迅速发展的能力，”卡普写道，根据美联社获得的一份预先副本。

　　OpenAI去年修改了其使用条款，允许用于国家安全目的，谷歌本月早些时候也紧随其后，对其公共道德政策进行了类似的修改，删除了不会将其人工智能用于武器和监视的措辞。b谷歌表示，它致力于负责任地开发和部署“保护人类、促进全球增长、支持国家安全”的人工智能。

　　随着科技公司竞相争取合同，那些失去亲人的人仍在寻找答案。

　　尽管有这么多痛苦，我还是忍不住问：为什么要“text-indent: 2em；”>Biesecker在华盛顿报道，Burke在旧金山报道。美联社记者Abby Sewell和Sarah El Deeb在贝鲁特，Julia Frankel和Natalie Melzer在耶路撒冷，Dake Kang在北京，Michael Liedtke在旧金山也参与了这篇报道。