AI透明度评分强制法案DeepTrust在美国加州生效：高风险AI系统必须公开可信度指标

美国加州参议院通过的SB-1127法案正式生效。该法案要求所有在加州运营的高风险AI系统必须向用户公开可信度评分，违规企业将面临每例最高7.5万美元的罚款。这是美国第一部对AI系统可信度做出强制性公开要求的州级法律。

高风险AI系统的范围由加州AI安全委员会CalAISB界定，包括用于招聘、医疗诊断、信贷审批、司法辅助和自动驾驶等关键领域的AI系统。这些系统需要按照CalAISB制定的统一标准计算可信度评分，并以图形化的方式直接显示在用户界面中。

可信度评分由8个维度构成：准确性、可解释性、可审计性、偏见程度、鲁棒性、隐私保护、能耗效率和应急控制能力。每个维度按0到100分打分，最终合成一个综合的可信度分。CalAISB提供了详细的评估工具包，开发者可以自行计算评分，也可以委托第三方机构评估。

法案的执法由加州司法部下属的科技执法部门负责。首批执法行动将针对三类AI系统：在线招聘平台的简历筛选系统、银行的小微企业信贷审批系统和医疗机构的临床辅助诊断系统。这些系统的运营方需要在法案生效后90天内完成首次合规评估。

法案的支持者认为这一规定将建立AI系统市场信任的基础。加州大学伯克利分校AI伦理教授Deirdre Mulligan表示，用户有权知道与自己生活相关的AI决策的可信度。强制公开评分将激励AI提供商主动改进系统质量，形成良性竞争。

反对声音主要来自AI行业。硅谷AI联盟的执行总监Tina Park表示，法案对中小AI企业不公平——大型企业有资源进行复杂的可信度评估，而中小企业可能因合规成本退出加州市场。这一观点得到了加州商会部分成员的认同，他们已联合提交修正案建议将合规门槛提高到员工超过100人的企业。

国际监管层面，SB-1127与欧盟AI法案的部分要求高度一致。欧盟委员会数字事务专员Margrethe Vestager发表声明称，这一法案的生效证明了AI监管已成为全球趋势，期待与加州监管机构分享最佳实践。日本、韩国和巴西也在考虑类似的立法。

首批合规的AI系统已经出现在市场上。简历筛选平台HireVue宣布已完成可信度评估，其系统的综合得分为84分。HireVue CEO Kevin Parker表示，公司主动公开评分后，用户对平台的信任度提升了23%，注册转化率提升15%。

不过评分机制的客观性仍是争议焦点。CalAISB采用的评估方法论偏重于技术指标，对社会影响维度关注不足。公民社会组织Public Knowledge的政策主管Lisa Macpherson建议，未来应在评分体系中增加环境影响评估和社会效益评估等更广泛的维度。