本站内容为虚构演示,与真实新闻及机构无关;请勿当作事实或专业意见。

全文

FULL TEXT

查看本期期刊
深度互联网

分布式AI推理网络PulseNet深度:全球1200万台边缘设备组成去中心化AI计算网络,推理成本降至云端十分之一

PulseNet利用全球闲置的GPU和NPU算力构建去中心化AI推理网络,推理成本仅为传统云服务的十分之一,已服务超过3000家中小企业。

文章正文

AI推理成本一直是制约中小企业采用AI技术的主要瓶颈。一家中型电商网站每天处理100万次AI驱动的商品推荐请求,如果使用AWS或Azure的AI推理服务,月成本可能超过15万美元。PulseNet的出现正在改变这一经济模型。

PulseNet于2029年在新加坡成立,由前Grab首席架构师Wei Lin和前谷歌TPU团队工程师James Park联合创办。该网络将全球超过1200万台配备了GPU或NPU的边缘设备(包括游戏PC、AI工作站和闲置服务器)连接成一个去中心化的AI推理集群。

Wei Lin解释说:「全球有超过5亿台配备了独立GPU的个人电脑,它们在大部分时间里的GPU利用率不到10%。PulseNet将这些闲置算力汇聚起来,形成一个比任何单一云服务商都庞大的分布式推理网络。」

PulseNet的技术架构分为三层。最底层是PulseNode客户端软件,安装在参与者的设备上,负责将设备的空闲算力贡献给网络。中间层是PulseRouter智能路由引擎,根据请求的模型类型、延迟要求和地理位置,将推理任务动态分配到最合适的节点。最上层是PulseAPI统一接口,与主流AI推理API兼容,企业可以无缝迁移。

在定价方面,PulseNet的推理成本约为每百万token 0.08美元,是OpenAI GPT-4 Turbo API价格的十分之一,是Google Vertex AI的八分之一。成本优势主要来自于零边际成本的闲置算力利用和去中心化架构带来的零数据中心运维开销。

截至2030年5月,PulseNet已服务超过3000家企业客户,日均处理推理请求超过50亿次。主要客户群包括东南亚和拉丁美洲的中小电商、金融科技公司和在线教育平台。

然而,PulseNet的去中心化架构也带来了安全隐患。2030年3月,安全研究人员发现PulseNet的个别节点存在中间人攻击风险,可能导致推理结果被篡改。PulseNet随后引入了端到端加密和节点可信度评分机制,但这一事件引发了对去中心化AI基础设施安全性的广泛讨论。

斯坦福大学分布式系统教授、PulseNet技术顾问Kunle Olukotun表示:「PulseNet证明了去中心化AI推理在经济上的可行性,但安全性和一致性的挑战仍然巨大。这不是一个纯技术问题,而是一个涉及激励设计、信任机制和监管框架的系统工程。」