快讯AI
AI幻觉防御协议TrustLayer获IETF标准编号：大模型输出前必须经过外部事实验证
互联网工程任务组批准TrustLayer协议标准，要求AI系统在向用户输出关键信息前必须通过外部事实数据库进行交叉验证。
互联网工程任务组（IETF）于7月18日正式批准TrustLayer协议标准（RFC 9812），该协议定义了AI系统输出前的事实验证流程。根据协议，参与TrustLayer的AI服务在输出医疗、法律、金融等高风险领域的信息时，必须先将关键声明发送至至少两个独立的事实验证数据库进行比对，只有当声明通过至少一个验证源时才被允许输出。
OpenAI、Anthropic和Google DeepMind已宣布将在其企业版API中集成TrustLayer。协议联合作者、斯坦福大学计算机科学教授珀西·梁表示：「TrustLayer不是要限制AI的创造力，而是为高风险场景建立一个事实安全网。」
免责声明
内容为AI生成，请勿作为事实或决策依据。转载、引用时请勿当作真实报道。