俄罗斯入侵一年后，乌克兰领土上正在上演一场人工智能（AI）武器的军备竞赛。当勇敢的乌克兰军队使用改装的商用四轴飞行器向俄罗斯士兵投掷手榴弹时，西方观众欢呼雀跃。当残暴的俄罗斯军队派出大量廉价的伊朗巡航导弹摧毁医院、发电厂和公寓楼时，他们会发出嘘声。但这种简单的“我们与他们”的叙述掩盖了一个令人不安的趋势——武器慢慢的变聪明。
很快，完全自主的致命武器系统可能会在冲突中变得司空见惯。有些已经上市。幸运的是，在撰写本文时，很少有人真正用于战争，也没有在乌克兰使用过。然而，一直在变化的事件令人关切。
对遥控武器使用电子对抗措施的必然逻辑正在推动双方提高这些武器的自主性。这促使我们越来越接近一个危险的世界，在这样一个世界里，致命的自主武器系统是造成大规模伤亡的廉价且广泛可用的工具——每个军火超市都有大规模杀伤性武器，出售给独裁者、军阀或。
尽管很难讨论禁止可能有助于乌克兰事业的武器，但现在迫切地需要世界各国政府这样做并限制在战争中用AI。没有人想要机器人威胁的黯淡未来。
首先，各国政府至少需要就禁止杀伤人员自主武器的条约开始认真谈判。AI和机器人领域的专业协会应制定并执行行为准则，禁止致命自主武器的工作。全世界的人们都应该明白，让算法决定杀死人类是一个糟糕的主意。
究竟什么是“致命自主武器系统”？根据联合国的说法，它们是“在没有人类监督的情况下定位、选择和打击人类目标的武器”。这个定义中的“参与”一词是“杀戮”的委婉说法。
当前的人工智能系统展示了所有必需的能力——规划任务、导航、3D测绘、识别目标、飞越城市和建筑物以及协调攻击。有很多平台可用。这中间还包括：尺寸从厘米到米不等的四轴飞行器；固定翼飞机（从业余大小的包裹递送飞机和全尺寸导弹携带无人机到“自主就绪”超音速战斗机，如BAE系统塔拉尼斯）；无人驾驶卡车和坦克；自主快艇、驱逐舰和潜艇；甚至骷髅人形机器人。
俄乌冲突中出现了很多类型的半自主武器。例如，俄罗斯正在部署“智能”巡航导弹，以达到严厉的效果，击中行政大楼和能源设施等预定目标。这些武器包括伊朗Shahed导弹，由于其声音而被乌克兰人昵称为“轻便摩托车”，它们能沿着河流低空飞行以避免被发现并在等待指示时盘旋一个区域。这些攻击的关键是使用成群的导弹来压倒防空系统，同时最好能够降低无线电链路以避免被发现。有报道称，新的Shahed正在配备红外探测器，使它们能够锁定附近的热源，而不一定要通过无线电从控制器传达目标更新—— 如果这是真的，这将是迈向完全自主的重要一步。
自战争初期以来，乌克兰人就对坦克和其他目标部署了土耳其 Bayraktar 遥控武器。跟着时间的推移，俄罗斯防空系统和干扰的改善使这些武器更加脆弱，效率降低；此外，它们每个的成本约为5万美元（比Shaheds贵250倍）。改装用于投掷手榴弹的商用遥控四轴飞行器已被证明在小规模战术行动中有效，遥控船已被用于攻击海军目标。但是，随着干扰系统成为常态，远程操作变得更困难，自主武器越来越有吸引力。
在其他地方，致命的自主武器已经销售了好几年。例如，自 2017 年以来，土耳其一家国有制造商 （STM） 一直在销售 Kargu 无人机，该无人机有餐盘大小，携带 1 公斤炸药。根据该公司在 2019 年的网站，该无人机能够“自主和精确”地打击车辆和人员，“根据图像选择目标”和“跟踪移动目标”。据联合国报道，尽管有严格的武器禁运，但利比亚民族团结政府在 2020 年使用了 Kargu 无人机自主 “追捕” 撤退部队。
以色列Harpy无人机可以在一个地区上空飞行几个小时，寻找与视觉或雷达信号相匹配的目标，然后用其23公斤的爆炸有效载荷摧毁它们。（在乌克兰普遍的使用的俄罗斯柳叶刀导弹也有类似的特征。）
为什么军队要追求能自己决定是不是杀死人类的机器？与遥控武器一样，自主飞机、坦克和潜艇可以执行对人们来说会自杀的任务。它们比载人同行更便宜、更快、更机动、射程更远；在飞行中能承受更高的重力；并在没有生命支持系统的情况下在水下运行。但是，与遥控武器不同，自主武器即使在由于干扰而没有办法进行电子通信的情况下也能发挥作用，并且比人类远程控制的任何武器的反应速度都快。李开复（Kai-Fu Lee）等人将自主武器描述为继火药和核武器之后的“第三次战争革命”。
一个普遍赞成的论点是，通过自主武器发起战争将保护军人的生命，就像据说遥控武器和巡航导弹一样。但这是一个谬论。另一方也会拥有这种武器——正如我们在乌克兰看到的那样，士兵和平民的死亡人数是惊人的。
经常提出的另一点是，与其他战争模式相比，致命自主武器区分平民和战斗员的能力可能会减少附带损害。美国和俄罗斯一直在引用这种所谓的好处，其效果是阻止了在瑞士日内瓦举行的《特定常规武器公约》（CCW）的多边谈判——自2014年以来，这些谈判一直零星发生。
该案基于两项主张。首先，AI系统比人类更不容易犯错误——现在这是一个可疑的命题，尽管它最终可能会成为现实。其次，自主武器将用于与步枪、坦克和捕食者无人机等人类控制的武器基本相同的场景。这似乎无疑是错误的。如果自主武器被目标不同的各方更频繁地使用，并且在叛乱、、内战和等不太明确的环境中使用，那么区分平民和士兵的任何假定优势都是无关紧要的。
开发致命自主武器是一个坏主意的原因还有很多。最大的，是“人类能期待部署数百万个平台，其敏捷性和杀伤力将使人类完全没有办法防御”。2017年YouTube上一段倡导军备控制的视频说明了这一道理，它展示了“屠宰机器人”——成群的廉价微型无人机用AI和面部识别来暗杀政治对手。因为不需要人为监督，一个人可以发射几乎无限数量的武器来消灭整个人口。武器专家一致认为，杀伤人员群应归类为大规模毁灭性武器。出于这个原因，人工智能社区几乎一致反对自主武器。
此外，AI系统可能会被黑客入侵，或者事故可能会升级冲突或降低战争的门槛。若机器人做出生死攸关的决定，人类的生命就会贬值，引发道德和正义问题。2019年3月，联合国秘书长安东尼奥·古特雷斯（António Guterres）在日内瓦向自主武器谈判代表总结了这一案例：“拥有在没有人类参与的情况下夺走生命的权力和自由裁量权的机器在政治上是不可接受的，在道德上令人反感，应该被国际法所禁止”。然而，除了国际人道法之外，仍然没有禁止制造和销售致命自主大规模杀伤性武器的规则。
不幸的是，政治并没有跟上技术进步的步伐。数十个人权和军备控制组织加入了“阻止杀手机器人运动”，该运动呼吁禁止致命的自主武器。政治家和政府未能采取行动，尽管民意调查显示公众广泛支持这样的禁令。
最好的解决方案就是禁止致命的自主武器，也许是通过联合国大会发起的一个程序。另一个可能性是，由专家组提出作为折衷措施，并由红十字国际委员会正式向国际社会提出（见3k3tpan），即禁止杀伤人员自主武器。
随着俄乌战争的进行，随着自主武器技术的快速的提升（以及使用它的愿望），世界没办法承受因此带来的混乱。政府需要满足看似简单的要求：为公民提供一些保护，防止被机器人追捕和杀害。