12月19日，一张“阿里千问全员会”图片在网络流传，图中疑似阿里千问员工聚集在广场上手举豆包，广场一侧有“干死豆包”标语。相关信息迅速扩散，随后阿里千问官方微信公众号辟谣，确认图片为AI生成，并调侃“大家都是干AI的，相煎何太急”。该事件再次让AI伪造图的传播隐患与治理难题进入公众视野。

AI伪造图片乱象频发

网传图片显示“阿里千问全员会”现场，员工身着统一服装高举豆包，背景标语为“干死豆包”，并传言员工现场“掰开豆包吃掉”以表决心。图片因涉及阿里巴巴旗下“千问”与字节跳动旗下“豆包”两款AI应用的竞争关系，迅速引发热议。

阿里内部人士及千问官博当天回应称图片系AI伪造，指出多处细节错误：工牌、千问LOGO设计是错的，现场的人群规模和行为模式不符合真实企业活动逻辑等。此后，阿里千问在官方公众号发了很多AI生成的梗图，并话锋一转，欢迎大家多来玩千问App的生图功能。

阿里千问官方公众号辟谣文章截图。

南都大数据研究院留意到，此类AI伪造图片事件并非孤例。今年以来，以AI伪造图片频繁现身，引发多起不良社会影响：西藏定日县6.8级地震后流传的“小男孩被埋废墟”图片，广东强对流天气期间扩散的“冰雹比鸡蛋大、砸垮房屋”等不实画面，广州流浪汉入侵民居虚假图片，小鹏汽车车展低俗车模虚假配图，甚至连伊朗宣称击落以色列“F-35”战机后公布的残骸照片，都被证实是AI生成的虚假图片……

这些AI伪造图片凭借高度逼真的视觉质感，在社交平台快速裂变传播，轻易误导公众认知、煽动社会情绪，更值得警惕的是，其渗透范围已覆盖多个领域，对社会信任体系和公共秩序构成潜在威胁。

立法明确，AI生成内容“打标”成刚性要求

事实上，针对AI伪造图片等乱象早已受到国家关注，相关治理工作也已经部署开展。2024年中央网信办发布的“清朗”系列专项行动整治重点中就包括了“清朗·规范生成合成内容标识”专项行动。而今年初发布的2025年“清朗”系列专项行动整治重点中，继续关注AI技术滥用乱象，强调突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。

同时，相关监管政策也逐步落地。9月1日，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成的文字、图片、视频等内容必须“亮明身份”，防止虚假信息传播。明确利用AI技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。对传播平台也提出明确要求，规定提供网络信息内容传播服务的服务提供者需核验文件元数据中的隐式标识。

以“多元共治”化解AI虚假内容治理痛点

为何明明立法明确“打标”，AI伪造图等AI虚假内容却仍“横行”网络，该如何进一步治理？对此，日前《人民日报》刊发的中央网信办文章中提到，“兴利除弊推动新技术新应用健康有序发展，加强网信领域新技术研发应用，进一步做好人工智能生成合成内容标识有关工作，加快技术治网能力建设，提升网络安全、数据安全和人工智能安全治理水平。”

南都大数据研究院还留意到，多名专家在接受不同媒体采访时分别从源头治理、溯源机制、惩治力度、科普宣传等多个角度支招AI滥用乱象治理，提出应尽快推动形成多方联动的共治格局。而在今年9月举行2025 Inclusion·外滩大会上，南都大数据研究院发布的《AI新治向：生成式人工智能内容与传播风险观察》报告也揭示了生成式AI伴生的多类风险，同时解析AI虚假内容传播链和成因。报告从多个角度、不同主体视角分别提出治理建议，提出“多措并举，多元共治”的治理建议，让AI安全为发展输送动力。

据了解，南都大数据研究院持续开展“AI新治向”系列课题研究，聚焦内容生态、算法伦理等关键议题，重点关注AI生成的虚假信息与误导性内容等现象，形成“建设性监督报道、专题研究报告、主题研讨活动、搭建生态共建平台”的共振，努力为AI安全发展提供扎实的调研支撑和决策参考。

出品：南都大数据研究院 AI新治向工作室

采写：南都研究员 方晓林