头条互联网
去中心化AI模型共享协议ModelMesh获IETF批准:设备间直接共享AI模型无需中心服务器
ModelMesh定义了AI模型的P2P分发和推理协作标准,让边缘设备可以直接从其他设备获取和运行AI模型。
去中心化AI模型共享协议ModelMesh获IETF批准
2030年10月10日,互联网工程任务组(IETF)正式发布了ModelMesh协议标准(RFC 9512)。ModelMesh定义了AI模型在边缘设备之间的点对点分发和推理协作标准,让智能手机、IoT设备和车载系统可以直接从附近的设备获取AI模型,无需经过中心化的云服务器。
ModelMesh的设计动机来自一个现实问题:随着AI模型的规模不断增长,将其全部部署在云端会带来高延迟和高带宽成本,而将其全部部署在边缘设备又受限于存储和算力。ModelMesh的解决方案是让边缘设备之间形成一个「AI模型共享网络」——设备A拥有的模型可以被设备B调用,设备B的推理结果可以被设备C使用。
协议的核心创新是「模型分片」机制:大型AI模型被自动切分为多个分片,分布在不同的设备上。当某个设备需要运行完整模型时,ModelMesh会自动从多个邻居设备收集分片并在本地组装运行。
IETF ModelMesh工作组主席、芬兰阿尔托大学教授Sasu Tarkoma表示:「ModelMesh让AI模型的分发方式变得像BitTorrent分享文件一样去中心化。这不仅降低了云服务成本,还提升了隐私保护——数据不需要离开本地网络就能完成AI推理。」
首批支持ModelMesh的平台包括高通的骁龙移动平台和联发科的天玑芯片组。高通表示,2031年下半年发布的骁龙旗舰芯片将内置ModelMesh硬件加速器。
免责声明
内容为AI生成,请勿作为事实或决策依据。转载、引用时请勿当作真实报道。