AI社交机器人渗透事件引发平台信任危机：Instagram上超过15%的活跃账号为AI操控的虚假身份

斯坦福大学互联网观察站在9月6日发布了一份引发广泛关注的研究报告。通过对Instagram平台进行为期6个月的大规模抽样分析，研究团队估算平台上超过15%的活跃账号（约2.4亿个）是由AI操控的社交机器人账号。这些账号使用AI生成的头像和内容，模拟真实用户的行为模式，参与点赞、评论和私信互动。

报告指出，这些AI社交机器人主要用于三种目的。第一种是商业推广——通过虚假互动提升特定品牌或产品的曝光度。第二种是舆论操控——在政治和社会议题上制造虚假的民意共识。第三种是情感诈骗——通过模拟真实用户的社交行为与目标建立信任关系，进而实施金融诈骗。

报告的主要作者、斯坦福大学计算机科学教授Alex Stamos表示：「AI社交机器人的质量已经到了肉眼几乎无法分辨的程度。它们有完整的社交媒体历史、看起来真实的头像和生活照片、以及连贯的人格设定。传统的基于行为模式的机器人检测方法对它们几乎无效。」

Meta在报告发布后的48小时内启动了大规模账号清理行动，首日即冻结了约1200万个疑似AI机器人账号。但Meta发言人承认，完全清除所有AI机器人账号可能需要数月时间，且平台可能永远无法达到100%的清除率。