AI决策责任归属框架LiabilityChain深度：当AI做出错误决策谁来承担责任

无人负责的困境

当一辆自动驾驶汽车撞伤行人，责任在谁？是编写算法的工程师、训练数据的提供者、汽车制造商、还是坐在驾驶座上但没有操控方向盘的「乘客」？当AI医疗诊断系统漏诊了癌症，责任在谁？是开发AI的公司、验证AI的医院、还是选择使用AI辅助的医生？

随着AI系统在高风险场景中的广泛应用，「AI决策失误谁来负责」已成为全球法律体系面临的最紧迫问题之一。传统的产品责任法假设产品存在可识别的「缺陷」，但AI系统的决策过程往往是黑箱——没有人能精确指出错误发生在哪一行代码或哪一个数据点。

联合国国际贸易法委员会（UNCITRAL）今日发布AI决策责任归属框架LiabilityChain，旨在为这一法律空白提供解决方案。

核心框架

LiabilityChain建立了三层责任分配机制。

第一层是「严格责任」层。AI系统的部署者（如运营自动驾驶车队的公司、部署AI诊断系统的医院）对其AI系统造成的损害承担严格责任——无需证明过错，只需证明损害与AI决策之间存在因果关系。这类似于产品制造商对产品缺陷的责任。

第二层是「过错责任」层。AI系统的开发者和训练数据的提供者在以下情况下承担过错责任：未进行充分的安全测试、使用了有偏见或不完整的训练数据、未及时修补已知的安全漏洞、或未向部署者提供充分的风险告知。

第三层是「追索权」层。承担严格责任的部署者可以向有过错的开发者或数据提供者追索赔偿。追索的比例根据各方的过错程度由仲裁机构裁定。

责任比例的确定

LiabilityChain最具创新性的部分是其「AI决策可追溯性」要求。框架要求所有高风险AI系统必须具备决策日志功能——记录每次决策的输入数据、推理路径和输出结果。当发生损害时，决策日志将作为确定责任比例的关键证据。

如果决策日志显示错误源于算法本身的缺陷，开发者承担主要责任。如果错误源于部署者未按规范使用AI系统（如在超出适用范围的场景中使用），部署者承担主要责任。如果错误源于数据质量问题，数据提供者承担相应责任。

实际案例的指引

LiabilityChain附带了详细的案例分析，为各国立法和司法机构提供参考。以自动驾驶为例：如果自动驾驶系统因未识别路面上的施工标志而发生事故，且调查发现训练数据中缺乏类似施工标志的样本，那么训练数据的提供者和AI开发者将承担主要责任，汽车制造商承担次要的严格责任。

以AI医疗诊断为例：如果AI系统将恶性肿瘤误判为良性，调查发现这是因为训练数据中恶性肿瘤样本占比过低，那么数据提供者和AI开发者将承担主要责任。但如果医生在AI给出「低置信度」警告的情况下仍然完全依赖AI判断而未安排进一步检查，医生和医院也将承担部分责任。

全球立法竞赛

LiabilityChain的发布加速了全球AI责任立法的进程。欧盟已在其AI法案中纳入了类似的责任条款，预计2030年生效。美国正在讨论《AI责任与透明度法案》。中国也在制定《人工智能法》，其中包含AI侵权责任的相关规定。

LiabilityChain虽然不具有法律约束力，但为各国立法提供了一个统一的参考框架，有助于减少跨境AI服务中的法律冲突。