以色列将AI嵌入致命性军事行动：用前所未有速度选定空袭目标

来源：澎湃新闻

·目前以色列军方主要使用两个人工智能系统参与军事作战。一个是用于处理大量数据并选择空袭目标的系统；另一个是用于计算弹药装载量并制定突袭计划的人工智能模型。

·“如果人工智能的计算出现错误，且人工智能自己也无法解释，那么谁应该为这个错误负责呢？你可能因为一个失误而杀死一家人。”

以色列国防军（IDF）开始使用人工智能（AI）系统选择空袭目标和组织战时后勤工作，以应对与伊朗等国的紧张局势。

据彭博社7月17日报道，目前，以色列军方主要使用两个人工智能系统参与军事作战。一个是用于处理大量数据并选择空袭目标的系统；另一个是用于计算弹药装载量并制定突袭计划的人工智能模型。军方官员表示，现在可以在数分钟内选择空袭目标并实施袭击，这是前所未有的速度。

支持者认为，这些先进的算法可能超越人类的能力，帮助军方最大限度地减少伤亡，而批评者则警告说，过度依赖越来越自主的系统可能会带来致命的后果。

为全面战争设计，已在加沙地带获实战经验

以色列官员表示，除了使用人工智能系统处理大量数据并选择空袭目标，军方正在通过另一个名为“火力工厂（FireFactory）”的人工智能模型快速实施随后的突袭，该模型根据军方批准的空袭目标数据来计算弹药装载量，对数千个目标进行优先级排序并将其分配给飞机和无人机，并制定时间表。

赋予人工智能对军事行动的高度控制权引发了大量争议和讨论。以色列国防军的一位官员表示，这两个系统的每一个目标和空袭计划目前均由人类操作员监督和审核，但这项技术目前还没有受到任何国际或国家层面的监管。

“如果人工智能的计算出现错误，且人工智能自己也无法解释，那么谁应该为这个错误负责呢？”耶路撒冷希伯来大学国际法讲师、前军事法律顾问塔尔·米姆兰（TalMimran）说，“你可能因为一个失误而杀死一家人。”

军队使用人工智能的细节在很大程度上仍然属于机密。军方官员透露，以色列国防军通过使用有争议的人工智能系统在加沙地带进行定期空袭，并获得了战场经验。此前，以色列经常在加沙地带进行空袭以应对火箭袭击。2021年，以色列国防军将加沙地区为期11天的冲突描述为世界上第一场“人工智能战争”，称其利用人工智能来识别火箭发射台并部署无人机群。以色列还在叙利亚和黎巴嫩进行空袭，目标是亲伊朗的民兵组织的武器运输，例如黎巴嫩真主党（Hezbollah）。

近几个月来，以色列几乎每天都对伊朗的浓缩铀活动发出警告。如果两国爆发军事冲突，以色列国防军预计伊朗在加沙、叙利亚和黎巴嫩的代理组织将进行反击，这将导致以色列陷入自50年前埃及和叙利亚突袭引发赎罪日战争后，第一次严重的多战线冲突。

以色列国防军官员指出，像“火力工厂”这样基于人工智能的工具就是为这种场景量身定制的。“以前需要几个小时的事情，现在只需要几分钟，再加上几分钟的人工审核。”军队数字化转型部门的负责人乌里（Uri）上校说，出于安全原因只能使用他的名字。乌里在特拉维夫的以色列国防军总部发表讲话时称：“我们用同样数量的人做了更多的事情。”

这些官员强调，该系统是为全面战争而设计的。长期以来，以色列国防军一直在使用人工智能。最近，它已经将这些系统扩展到各个部门，试图将自己定位为自主武器的全球领导者。其中一些系统是由以色列国防承包商建造的，而其他例如StarTrack边境控制摄像机则由军队开发，这些摄像机通过观看数千小时的视频来识别人员和物体，它们共同构成了一个庞大的数字架构，专门用于解析大量无人机和闭路电视录像、卫星图像、电子信号、在线通信和其他数据以供军队使用。

处理这些海量信息是军队8200部门运行的数据科学与人工智能中心的任务。该中心位于情报部门，是以色列许多科技百万富翁在公司创业成功之前完成义务兵役的地方。一位发言人称，该中心负责开发的系统“改变了以色列国防军对目标的概念”。

严重担忧

此类工具开发方式的秘密性引起了人们的严重担忧，一些人认为半自动化系统和完全自动化杀戮机器之间的差距可能在一夜之间缩小。在这种情况下，机器将被赋予定位和打击目标的能力，而人类将完全被排除在决策之外。

“只需要一些软件上的改变，就可以让它们从半自动化转变成完全自动化。”“停止杀手机器人（StopKillerRobots）”组织的自动化决策研究员凯瑟琳·康诺利（CatherineConnolly）说。

另一个担忧是，人工智能的快速采用速度超过了对其内部运作方式的研究速度。人工智能系统的许多算法是由拥有不透露专利信息的私营公司和军方开发的。批评者强调，算法得出结论的内在机制缺乏透明度，以色列国防军承认存在这个问题，但表示输出结果是由士兵仔细审查的，而且其军事人工智能系统会留下记录，让人类操作者能够追溯其步骤。

“有时，当你引入更复杂的人工智能组件，比如神经网络时，理解‘它的大脑经历了什么’是相当困难的。所以我说对可追溯性感到满意，而不是对可解释性感到满意。也就是说，我想了解这个过程中对我来说重要的东西，并监控它，即使我不明白每个‘神经元’在做什么。”乌里上校称。

以色列国防部拒绝透露其在人工智能方面的投资金额，军队也不愿讨论具体的国防合同，尽管它证实“火力工厂”是由以色列国防承包商拉斐尔公司（RafaelAdvancedDefenseSystemsLtd）开发。

“我们可以假设美国、中国和其他几个国家在人工智能领域也有先进的系统。”以色列国家安全研究所的高级研究员利兰·安特比（LiranAntebi）说，“但与以色列不同的是，据我所知，他们从来没有展示该系统的实战操作和成功使用。”

今年2月，第一届全球军事领域负责任的人工智能峰会在荷兰举行，中国和美国等60多个国家参加并签署了关于军事领域人工智能负责任使用的行动倡议，以色列是唯一没有签署的与会国家。

目前，将人工智能系统引入军事作战还没有任何限制。尽管联合国主持了10年的谈判，但还没有一个国际框架规定，当计算机判断错误时，谁应该对平民伤亡、事故或意外升级负责。