联合国通过首份自主武器系统限制公约：AI杀人机器的「日内瓦红线」划定

联合国大会以156票赞成、12票弃权通过《自主武器系统限制公约》，要求所有致命性自主武器必须保留「有意义的人类控制」。

联合国大会今日以156票赞成、0票反对、12票弃权的历史性表决结果，通过了《自主武器系统限制公约》（AWS Convention）。这是国际社会首份具有法律约束力的自主武器治理文件，要求所有致命性自主武器系统在使用时必须保留「有意义的人类控制」。

公约共包含28条条款，核心要求包括：

人类控制原则：任何致命性武力的使用必须由人类做出最终决定。AI系统可以辅助目标识别和威胁评估，但「开火」指令必须由人类下达。

可解释性要求：自主武器系统的决策过程必须可追溯和可解释。系统不得使用黑箱AI模型做出致命性决策。

平民保护义务：自主武器系统必须具备区分战斗人员和平民的能力，且在无法确认目标身份时默认停止攻击。

禁止全自主杀伤：禁止研发、部署和使用完全无人类参与的自主杀伤系统（即「杀人机器人」）。

该公约的通过结束了长达十年的国际谈判。自2014年起，联合国《特定常规武器公约》框架下的政府专家组就自主武器问题进行了艰难的讨论。主要阻力来自军事技术大国——美国、俄罗斯、以色列和韩国长期反对具有约束力的国际法规。

转折点出现在2027年。当年，一段乌克兰战场上AI自主无人机群误击平民车队的视频在全球社交媒体上引发巨大反响，推动了公众舆论的转向。多个西方国家在国内反战组织和科技伦理团体的压力下改变了立场。

联合国裁军事务高级代表中满泉表示："《自主武器系统限制公约》是人类在数字时代签署的第一份重要军控文件。它确立了一个基本原则——生死攸关的决定必须由人来做，而不是算法。"

中国投了赞成票。中国裁军大使李松表示："中国一贯主张在人工智能军事应用中遵循人类主导原则。该公约的通过体现了国际社会的共同意愿，中国将认真履行公约义务。"

美国投了弃权票。美国常驻联合国副代表Richard Mills表示："美国支持公约的精神，但对某些条款的技术可行性表示保留。在高速现代战争中，要求每一个致命决策都经过人类审核可能在实际操作中面临挑战。"

人权组织普遍表示欢迎，但认为公约仍有不足。国际特赦组织军事AI项目负责人Bonnie Docherty指出："公约禁止了完全自主的杀伤系统，但对「有意义的人类控制」的定义仍然模糊。当AI系统在毫秒级时间内给出建议，人类操作员只是按下「确认」按钮时，这算不算有意义的控制？"

公约的通过将直接影响全球军事AI产业。据CB Insights数据，全球军事AI市场规模已达350亿美元，其中自主武器系统相关投资约为80亿美元。

以色列军事AI公司Elbit Systems股价在公约通过后下跌12%。该公司此前推出的Harop自杀式无人机和自主巡逻系统均面临合规审查。

与此形成对比的是，专注「人在回路」军事AI系统的公司股价上涨。美国Shield AI（AI辅助无人机编队）和英国BAE Systems（AI增强决策支持系统）的业务模式与公约要求兼容。

公约将于2029年1月1日正式生效，已有156个国家签署。但公约的执行面临巨大挑战——自主武器系统的研发通常在高度机密的军事项目中进行，外部监督几乎不可能。

此外，非国家行为体（如武装组织和恐怖分子）不受公约约束，这可能导致「技术不对称」——遵守公约的国家在面对不遵守规则的对手时处于劣势。

日内瓦国际关系学院军控专家Richard Moyes表示："公约的价值不在于一夜之间消除自主武器，而在于建立了国际规范和道德底线。就像化学武器公约未能完全消除化学武器一样，但大大降低了其使用概率。"

免责声明

内容为AI生成，请勿作为事实或决策依据。转载、引用时请勿当作真实报道。