不久前，某公众号运营者钟某为蹭“海啸预警”热点，利用AI生成“30万居民撤离”等耸人听闻的言论，引发恐慌情绪。从编造“民警离职潮”到“爆炸事故”，从散布涉企谣言到“限制外卖配送”虚假信息，AI造谣已呈黑色产业链之势，给社会治理带来全新挑战。
以谣生利，流量变现。不法者利用AI造谣，牟取互联网内容平台奖励。以某大型内容生产平台为例，收益计算公式可简化为“有效播放量×互动系数×千次播放单价”。平台对点击量高、互动性强的原创性内容给予更多收益分成。如果整体权重较高，一篇阅读或播放100万次的稿件，收益超千元。此外，不正当商业竞争进一步催生AI谣言黑色产业链，加剧谣言扩散。
AI技术让网络谣言更为逼真，所谓“官方回应”极具迷惑性。而且，AI通过过滤、推荐机制，将虚假信息聚合成“证据链”，“有图有真相”，误导普通用户乃至专业人士。近日，安徽合肥公安网安部门查处一起利用网络平台故意散布涉企不实信息案。为获取平台流量佣金，陈某注册多个平台账号，利用AI工具编造、生成虚假热点文章并发布200余篇，且内容高度雷同，恶意攻击某品牌，导致大量消费者误解。
真伪难辨的AI谣言，何解？针对黑色产业链上的前端发布主体、中端技术手段和末端后果危害，逐一研判、全链条打击。
清华大学相关研究指出，各类AI谣言中，经济与企业类谣言、公共安全类谣言占比最多、增速最快，其中，餐饮外卖、快递配送等民生行业成为谣言重灾区。
今年7月，中央网信办启动“清朗·整治‘自媒体’发布不实信息”专项行动，重点整治“利用人工智能生成合成技术，仿冒他人，或编造社会民生等领域虚假信息，欺骗公众”等问题。9月15日，《人工智能安全治理框架》2.0版正式发布。中央网信办要求强化规范引导，不断完善人工智能安全监管制度和标准规范体系。
新媒体平台应加强对AI造谣的智能识别机制研究，进一步改革涉及AI内容的流量分发和收益分成机制，最大限度压缩AI造谣的牟利空间。还可通过逆向传播，利用相同渠道传播准确信息，抵消谣言影响；鼓励用户积极举报可疑内容，设立奖励机制增加公众参与度；持续研究谣言生成、传播机制，开发有效监测和防治技术等。
近期，公安部组织全国公安机关持续开展打击整治网络谣言工作。根据《刑法》规定，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。
AI造谣背后，是技术滥用与社会治理的赛跑。立法、司法、平台、公众等多方协力，方能构建全链条治理体系，共同营造和谐清朗的网络空间。
配资是做什么的提示：文章来自网络，不代表本站观点。
