本站内容为虚构演示,与真实新闻及机构无关;请勿当作事实或专业意见。

全文

FULL TEXT

查看本期期刊
头条互联网

去中心化AI信任评分协议TrustMesh获W3C批准:AI系统之间的信任关系首次实现标准化度量

TrustMesh定义了一套AI系统间的信任评分标准,让不同厂商的AI代理在协作前可以自动评估对方的可靠性和安全性。

去中心化AI信任评分协议TrustMesh获W3C批准

2030年9月18日,万维网联盟(W3C)正式批准了TrustMesh协议规范。该协议定义了一套去中心化的AI系统信任评分标准,允许不同厂商的AI代理在交互前自动评估对方的可靠性和安全性。

随着AI代理(autonomous agent)在商业、医疗和金融领域的广泛应用,AI系统之间的交互频率呈指数级增长。问题在于:当一个AI系统需要调用另一个AI系统的服务时,它如何判断对方是否值得信任?

TrustMesh的设计思路借鉴了人类社会的信任机制。每个AI系统在TrustMesh网络中都有一个信任档案,记录了其历史行为、第三方审计结果和用户反馈。信任评分由三个维度组成:能力评分(该系统在特定任务上的历史表现)、安全评分(已知漏洞和安全事件记录)和合规评分(是否符合相关法规和伦理标准)。

W3C TrustMesh工作组联合主席、斯坦福大学AI安全研究员Percy Liang表示:「AI代理之间的信任问题已经不是假设性讨论了。在我们调研的200家企业中,73%报告曾遇到AI系统间交互失败的情况,其中近三分之一造成了实际损失。」

协议的技术架构基于去中心化标识符(DID)和可验证凭证(VC)标准,信任评分记录在许可链上以确保不可篡改。AI系统可以设置信任阈值,低于该阈值的交互请求将被自动拒绝或降级处理。

首批支持TrustMesh的平台包括微软Azure AI、谷歌Vertex AI和阿里的通义千问API。微软Azure AI副总裁Eric Boyd表示,TrustMesh将成为「AI互联网的基础设施之一」。

TrustMesh协议规范全文约180页,包含12个标准化的信任评分维度和5个预定义的信任等级。W3C计划在2031年第一季度发布参考实现和测试套件。