上个月，Anthropic和美国国防部之间爆发了一场不太为人知的谈判——表面上是关于一份AI技术供应合同，但实际上触碰到了一个非常深刻的哲学和安全问题：我们应该让AI在多大程度上参与战争决策？这场争论的走向，可能会决定未来几十年人类如何打仗，甚至是否还能控制战争。
Anthropic画了两条红线
Anthropic在这次的合同谈判中，坚持保留两条「红线」：第一条，禁止将他们的AI用于美国本土的大规模监控；第二条，禁止开发能够自主识别、追踪并杀死目标的完全自主武器系统。换句话说，Anthropic愿意把Claude卖给军方用，但有两个底线不能碰。
这两条红线听起来很合理，但美国国防部显然不满意。今年1月，国防部长Pete Hegseth要求重新谈判所有现有AI合同，新条款允许五角大楼在「任何合法用途」的模糊范围内使用这些公司的技术。这个措辞之宽泛，基本上等于说「我们想怎么用就怎么用，你们别管」。
完全自主武器离我们多远
很多人以为「完全自主武器」还是科幻电影里的东西，但现实比想象中更接近。美国军方其实已经在用AI辅助打击决策了——Project Maven，这个项目从2017年就开始让AI分析无人机监控画面，帮助识别潜在目标。当时Google参与了这个项目，结果引发内部员工大规模抗议，四千多人联名请愿，Google最后选择不续约。
Anthropic自己的CEO Dario Amodei其实也没说完全自主武器一定是坏事。他在博客里写过，「完全自主武器（那些把人类完全踢出循环、自动化选择和打击目标的武器）可能被证明对我们的国防至关重要。」
这句话值得反复读。一家AI公司的CEO，一边画着「红线」，一边又说这类武器「可能至关重要」——这里的矛盾，基本上就是整个AI行业在军事应用问题上的缩影。
速度至上主义的代价
这场争论里最让人不安的一点，是国防部长Hegseth在备忘录里直白地写道：「不接受足够快的风险，超过了不对齐的风险」——翻译过来就是，宁可出问题，也不能慢下来。这种「速度至上」的哲学，一旦应用到武器系统上，后果可能是灾难性的。
想想看，如果AI系统能在几秒钟内完成从识别目标到批准打击的整个流程，人类在这个循环里还有多少实际的控制权？名义上可能还有「人类监督」，但当系统处理速度比人类反应速度快几个数量级的时候，这种监督到底有多大意义？
国际社会还在吵架，但技术发展不会等
联合国下面有个「特定常规武器公约」论坛，专门讨论致命自主武器系统的问题，每半年开一次会。但开了十几年，各国还在为「什么是致命自主武器」这个定义吵个没完，更别提达成有约束力的协议了。与此同时，各国军方都在悄悄研发相关技术，等国际社会达成共识，可能黄花菜都凉了。
Anthropic和五角大楼的这场博弈，最后会怎么收场，现在还看不清楚。但有一件事是确定的：AI进入战争这件事，不是「会不会发生」的问题，而是「已经发生了，我们能不能控制住它」的问题。答案如何，可能取决于接下来几个月这些合同谈判的结果。