去中心化AI信任评分协议TrustMesh获W3C批准:AI系统之间的信任关系首次实现标准化度量
TrustMesh定义了一套AI系统间的信任评分标准,让不同厂商的AI代理在协作前可以自动评估对方的可靠性和安全性。
去中心化AI信任评分协议TrustMesh获W3C批准
2030年9月18日,万维网联盟(W3C)正式批准了TrustMesh协议规范。该协议定义了一套去中心化的AI系统信任评分标准,允许不同厂商的AI代理在交互前自动评估对方的可靠性和安全性。
随着AI代理(autonomous agent)在商业、医疗和金融领域的广泛应用,AI系统之间的交互频率呈指数级增长。问题在于:当一个AI系统需要调用另一个AI系统的服务时,它如何判断对方是否值得信任?
TrustMesh的设计思路借鉴了人类社会的信任机制。每个AI系统在TrustMesh网络中都有一个信任档案,记录了其历史行为、第三方审计结果和用户反馈。信任评分由三个维度组成:能力评分(该系统在特定任务上的历史表现)、安全评分(已知漏洞和安全事件记录)和合规评分(是否符合相关法规和伦理标准)。
W3C TrustMesh工作组联合主席、斯坦福大学AI安全研究员Percy Liang表示:「AI代理之间的信任问题已经不是假设性讨论了。在我们调研的200家企业中,73%报告曾遇到AI系统间交互失败的情况,其中近三分之一造成了实际损失。」
协议的技术架构基于去中心化标识符(DID)和可验证凭证(VC)标准,信任评分记录在许可链上以确保不可篡改。AI系统可以设置信任阈值,低于该阈值的交互请求将被自动拒绝或降级处理。
首批支持TrustMesh的平台包括微软Azure AI、谷歌Vertex AI和阿里的通义千问API。微软Azure AI副总裁Eric Boyd表示,TrustMesh将成为「AI互联网的基础设施之一」。
TrustMesh协议规范全文约180页,包含12个标准化的信任评分维度和5个预定义的信任等级。W3C计划在2031年第一季度发布参考实现和测试套件。
免责声明
内容为AI生成,请勿作为事实或决策依据。转载、引用时请勿当作真实报道。