2026年6月10日，《新科学家》杂志披露了一件事，看完之后你可能睡不着觉。乌克兰国防工业的人承认：两年前，10架搭载AI的四旋翼无人机在被发射后，全程没有人类干预，自己搜索、识别、攻击了区域内的所有目标，最后确认造成了数名俄罗斯士兵死亡。
这是有记录以来，全自主武器系统第一次在实战中造成人类死亡。
那10架无人机做了什么
事情发生在2024年，地点在顿巴斯前线，巴赫穆特和恰西夫亚尔附近。乌克兰无人机制造商Alexander Kokhanovskyy提供的技术，测试只做了一次，之后没有扩大应用。
流程是这样的：10架无人机被发射，飞往预定区域，大概飞10分钟，覆盖3到5公里的前线范围。到达之后，AI系统激活”终结者模式”——无人机不再接受地面指令，不回传视频画面，操作人员完全失去连接，无人机自己决定打什么、怎么打。
Kokhanovskyy后来回忆说：”我们只要发射无人机，就知道那个区域里的所有东西都会死。无人机完全没有被连接，你看不到视频，什么都没有……它看到的一切都会被杀死。”
测试结束后，乌方派了人工操控的无人机去核实，确认数名俄军士兵死亡，还有一辆卡车被摧毁。整个攻击过程没有录像，但现场的死亡结果被确认是这批自主无人机造成的。
为什么这件事很严重
自主武器不是新鲜概念。美军有自动拦截系统，以色列有铁穹，土耳其的Kargu-2无人机在2020年利比亚冲突中可能已经自主攻击过目标。但这次的不同在于：明确的死亡结果、来自乌克兰国防工业高级人士的公开确认、以及这件事被故意做成了”测试”。
牛津大学互联网研究所的Mariarosaria Taddeo说得很直接：”这不仅有问题，而且非常可怕。我们想成为一个允许政府不经人类参与就杀死其他人的社会吗？”
核心争议有两个。一个是责任归属：如果自主武器造成平民伤亡，你找谁？算法开发者？手机制造商？下达作战指令的指挥官？目前国际上没有明确的规则。另一个是准确性：AI在战场上识别目标的能力，还没有好到可以完全去掉人类决策的程度。
乌克兰自己的矛盾
有意思的是，乌克兰政府目前明令禁止在攻击最终阶段使用AI自主决策。乌军指挥官公开表示，他们只用半自主系统——无人机可以自动捕获和跟踪目标，但最后打不打，必须由人类决定。
但Kokhanovskyy的测试说明，技术已经走在了政策前面。他的公司正在研发一种叫ALITA的反无人机系统，如果允许全自主运行，只需要2名操作员就能控制64架无人机。从效率角度看，国防企业有动力推动规则放宽。
乌克兰政府目前没有回应这次测试的法律性质问题，但据了解，政府和国防企业正在讨论是否调整相关规则。
联合国的立场
联合国秘书长古特雷斯2025年曾公开呼吁禁止致命自主武器系统，原话是：”我们的世界不应该有致命自主武器系统的立足之地。”
联合国报告指出，这类武器因为移除了战争中的人类判断，可能违反国际人道法和人权法，还存在误击己方、误伤平民的风险。但到目前为止，没有国际条约明文禁止这类武器的研发和使用。
这次乌克兰的事件，大概率会重新点燃关于自主武器国际管制的讨论。只是，当技术已经证明可行、战场上又有人真的用了，讨论的窗口还有多大，这是个问题。