随着人工智能技术的飞速发展，利用深度合成、大语言模型等工具编造虚假信息的行为正成为网络空间治理的新挑战。据央视新闻报道，公安部近日通报，今年上半年全国公安机关共侦办利用人工智能工具生成网络谣言案件170余起，依法查处涉案人员190余人。这一数据凸显了AI技术被滥用于制造和传播谣言的严峻态势，也展现了执法部门依法打击、维护网络清朗的坚定决心。

AI造谣呈现产业化、智能化新特征

据公安部网安局相关负责人介绍，与传统网络谣言不同，利用AI工具生成的谣言具有“高仿真、低成本、快传播”的显著特点。不法分子通过ChatGPT、文心一言、Midjourney等生成式AI工具，仅需输入简单指令，即可批量产出图文并茂、甚至包含虚假“新闻联播”画面的“深度伪造”内容。部分案件已形成“AI生成-水军转发-蹭热点引流-变现获利”的完整黑灰产业链。

在已侦办的案件中，查获的虚假信息覆盖社会热点、突发事件、民生政策等多个领域。例如，某地公安机关破获一起利用AI生成“某地发生特大交通事故”谣言案，犯罪嫌疑人通过AI生成虚假现场图片和文字描述，编造伤亡数字，仅在数小时内便获得数十万次转发，严重扰乱公共秩序。

典型案例：从“AI写谣言”到“AI换脸诈骗”

公安部通报的典型案例中，多起案件涉及利用AI技术进行精准诈骗和诽谤。今年3月，浙江警方侦破一起“AI换脸”冒充企业高管发布虚假招聘信息案。嫌疑人利用AI换脸技术伪造公司负责人视频，通过社交平台散布“高薪招聘”谣言，骗取求职者保证金，涉案金额逾百万元。

另一起案件显示，某自媒体运营者为博取流量，利用AI工具“一键生成”多篇标注“某知名科学家发表争议言论”的虚假文章，并通过算法推荐广泛传播，严重损害专家声誉。直到公安机关介入调查，专家本人方才知晓“被发表”了大量不实言论。

危害叠加：不仅扰乱秩序，更侵蚀社会信任

中国政法大学网络法学研究所专家指出，AI生成谣言的社会危害性远高于传统谣言。一方面，AI生成内容在语言逻辑、细节呈现上几乎以假乱真，普通网民难以辨别；另一方面，由于AI可以“无底线”地模仿权威媒体语气、引用所谓“专家分析”和“数据报告”，极易引发公众恐慌，甚至影响金融市场稳定。

“当虚假信息与真实信息的边界被AI彻底模糊，社会信任体系将面临系统性风险。”该专家强调，尤其是在重大公共事件中，AI谣言可能迅速发酵为“信息疫情”，干扰政府决策和应急处置。

专项行动+技术反制：构建全链条治理体系

面对新型挑战，公安部已部署开展为期100天的网络谣言打击整治专项行动，重点打击利用AI工具的违法犯罪行为。除了依法查处涉案人员，公安机关还联合网信、工信等部门，对提供AI造谣工具的平台开展安全评估和约谈，督促企业落实内容审核责任。

“技术问题需要用技术手段解决。”据悉，公安部已组织科研力量研发专门针对AI生成内容的检测模型，并部署在重点网站和社交平台，实现对谣言线索的自动监测和预警。同时，检察机关正推动相关司法解释的完善，明确利用AI生成虚假信息的法律责任标准。

普法警示：网民需提升“AI素养”

公安部网安局提醒广大网民：网络不是法外之地，任何利用AI技术编造、传播谣言的行为都将受到法律严惩。对于普通用户而言，在转发来历不明的“新闻”“视频”前，应保持警惕，注意查看信息来源，核实内容真实性。遇到疑似AI生成的逼真内容，可通过搜索关键词、查阅官方渠道等方式求证。

随着AI技术的持续演进，网络谣言治理将是一场持久战。公安部表示，将继续保持对利用AI工具违法犯罪的高压态势，同时呼吁社会各界共同参与，提升全民的网络素养和“AI识别能力”，筑牢防范谣言的“防火墙”。

（来源：央视新闻/公安部网安局）