中国现代国际关系研究院科技与战略中心主任 刘冲

  近来，美国国防部宣称美军将向“智能优先”作战形态加速转变，与多家美国头部科技企业签署合作协议，大大加速实战化智能体系部署，引发国际侧目。与此同时，“神话模型”（Mythos）暴露出的网络攻击与关键基础设施风险，也令国际社会忧心忡忡。与人工智能技术爆炸式跃进和风险的几何式涌现相比，当下军事智能国际治理聚焦“人在环路”和国际法适用等学理性问题，讨论节奏缓慢、共识机制乏善可陈。人们不禁要问，究竟什么是人工智能安全治理真正重要的问题？既有国际规范能否解决这些问题？面对空前放大的算法战争后果、空前赋能的非国家行为体力量、空前加深的智能安全鸿沟，惟有铁肩担道义，摒弃小圈子，精诚谋合作，才能确保人工智能始终朝着有利于人类文明进步的方向前进，中方倡导的慎重负责、以人为本、智能向善、多边主义等理念，愈发具有至关重要的启示意义。

  “人在环路”就能解决智能安全风险吗？

  自2014年在联合国《特定常规武器公约》（CCW）框架下，启动致命自主武器系统（LAWS）的国际讨论以来，“是否允许无人杀人机器人”“人是否应当始终处于决策环路中”等问题，已经成为国际军事智能治理的核心议题。推而广之，也无外乎讨论既有国际法在人工智能安全领域的适用问题。美国国防部曾推出“负责任”人工智能战略，其中最主要的目标在于，建立完整的军事智能责任链条（Accountability）。其核心逻辑仍然是责任链条的可追溯性，即强调人类是否仍然处于决策环路之中、是否存在明确责任主体，以及事后是否能够进行问责。

  然而，在人工智能革命性提升战争速度、规模与复杂度的条件下，如果仅仅停留在“人是否在环路中”的讨论层面，实际上已经越来越难解释智能化战争真正的人道主义风险，可能放任智能化战争导致的严重人道主义后果，仅仅强调“责任可追溯”，并不意味着“后果可接受”。因为今天战争形态真正发生变化的，并不仅仅是“机器是否自主开火”，而是人工智能正在以前所未有的方式改变战争的规模、速度与升级逻辑。与“人是否在环路”相比，真正的问题在于，如何以新的国际共识约束算法战争的严峻后果。

  今天，即便最终决策仍由人类作出，人工智能系统也已经能够在极短时间内生成数百乃至上千个潜在目标，并在“感知—决策—打击”链条中实时推荐作战方案。人工智能并没有简单替代人类，而是在指数级扩张人类实施暴力的能力。许多智库已经开始警告，这种“快速推荐—短时审核”的模式，正在使人类决策越来越接近“橡皮图章”状态。与过去美军无人机驾驶员“像打电子游戏一样”随意开火相似，如今的军队指挥官面临同样的道德判断，是否能够对下达命令可能造成的人道后果，有感同身受的充分认识？回头看，以色列军队依仗智能算法，在加沙大开杀戒，造成空前的人道灾难。美国、以色列在智能情报分析的加持下，悍然“斩首”伊朗最高领袖，无端把伊朗及海湾国家卷入战火，也让全球陷入空前的能源危机。上述教训充分表明，算法战争真正危险的地方，并不仅仅是“无人自主”，而是战争升级速度空前加快、打击规模空前放大。

  从国际法层面看，过去国际法关于战争行为的规制，实际上是建立在人类决策能力有限的基础之上。而在智能化战争时代，这一基础条件已经发生了根本变化。未来国际治理真正需要讨论的问题，不只是“谁负责”，更是如何建立新的智能时代国际规范，约束决策者审慎使用空前赋能的战争工具。这一过程不可能仅靠单一国家或单一专业完成。它需要大国承担责任，需要国际组织发挥协调作用，也需要国际法、人工智能、网络安全、战略研究与公共政策形成跨学科共同体。本质上，这是一项“以人为本、伦理先行”的全球治理工程。

  如何应对非国家行为体威胁？

  相比国家间战争，另一个日益引发关注的问题，是人工智能对非国家行为体的极大赋能。从低成本无人机到前沿AI模型，从自动化网络攻击到目标识别能力，越来越多原本只有国家才能掌握的能力，正在低价化、民用化与开放化。

  近期美国“神话模型”引发高度关注。美国财政部与监管机构担忧，类似前沿模型未来可能被用于针对金融系统和关键基础设施的大规模网络攻击。多份国际智库报告也反复警告：前沿AI系统正在同时增强网络攻击、生物风险、信息操控与自主武器能力。前沿AI不仅可能改变国家间军事平衡，也可能显著降低非国家行为体实施大规模破坏的门槛。如何防止低成本智能化平台被恶意使用，已成为迫在眉睫的重大国际治理需求。美国财政部长贝森特近来表示，中美两国正就人工智能的安全护栏机制展开对话，以推进最佳实践，设立防线确保最先进的AI模型不会被恐怖组织、黑客集团或其他“非国家行为体”获取和滥用。

  “智能向善”，决不只是抽象的口号。人工智能本身并不天然向善，真正决定其后果的，始终是人类如何使用。正像人工智能大量催生“一人公司”有助于繁荣经济，恶意行为体同样可能因为人工智能的赋能产生前所未有的破坏力。只有各国真诚合作，建立行之有效、共同遵守的国际规范和安全护栏，才可能切实防范智能时代的非国家行为体威胁。

  “智能鸿沟”能否携手跨越?

  人工智能，是人类发展新领域。一些国家发展，一些国家不发展，一些国家有能力，一些国家没有能力，是智能时代可能产生的最大不公平,也是大量中小国家面临的最大战略危险。

  无论是慑止大国军事智能化的算法战争威胁，还是防御非国家行为体的智能威胁，许多国家都可能茫然无措，难以形成有效的网络安全以及国家关键基础设施防御体系。近期，英伟达CEO黄仁勋指出，为了防范强大的AI系统（如Mythos）可能带来的安全威胁，需要依赖大量的开源智能体（AI Agents）协同工作来守护网络安全。未来可以通过开源模型与开放式智能体生态，共同提升全球网络安全能力。这一思路实际上具有重要启发意义。历史经验充分表明，技术出口管制难以万无一失，随着前沿AI网络攻击、自动化漏洞挖掘与关键基础设施攻击能力飞速提升，仅仅限制技术扩散，势必顾此失彼、挂一漏万。真正的危险，并不只是技术扩散本身，而是防御能力发展的严重不平衡。真正重要的问题，是如何让所有国家共同具备防御AI风险的能力。

  如果只有少数大国具备先进AI安全能力，而大量国家长期缺乏基本防御能力，那么未来全球安全体系本身就会越来越脆弱。全球网络安全能力建设、AI安全工具开放合作、中小国家智能化防御体系建设，以及国际性的AI风险预警与协同机制，理应成为未来全球治理的重要方向。

  人类社会历史已经无数次证明，发展中带来的问题，只能通过发展解决。以邻为壑、唯我独尊、拉小圈子，只会削弱人类共同安全。“注重发展”，精诚合作，才能切实保障人工智能时代的国家安全。

  碳硅竞先千古变，纷纷霸乱几时休。在算法战争、智能体攻防的全新时代，没有任何一个国家能够单独应对前沿AI带来的系统性风险。人类面临的最重要问题，不是各国人工智能技术的竞争，而是如何在竞争中避免失控，维护共同安全。惟有从人类命运共同体的战略高度出发，同心同德，守望相助，才能确保人类文明的航船，从容飞渡智能时代的乱云巨浪。