警告：警惕人工智能程序被利用制造虚假新闻，每日产量惊人超千篇

发布时间：2025-02-03 18:18:20 来源:AI工具屋

近年来，某些MCN机构利用人工智能程序生成大量虚假新闻，导致网络上充斥着大量不实信息，形成了病毒式的传播。同时，某些小说平台也依赖AI进行“创作”，每日推出数本电子书，但内容逻辑不通、辞藻空洞。甚至医学论文也因使用AI生成的虚假配图而被撤稿。如今，AI生成、伪造或篡改文本、图片、音频和视频的现象越来越普遍，产生了大量的“信息*”，引发了关于“AI污染”的讨论。

去年以来，生成式人工智能在全球掀起热潮，其颠覆性应用让许多行业和网民受益。然而，正如硬币有两面，其带来的负面问题也逐渐显现。清华大学的一份研究报告显示，近一年来经济与企业类AI谣言量增速惊人。一些专家认为，AI制造的“信息*”产量庞大，辨别难度较大，筛选成本高昂。

“AI污染”带来的危害显而易见。首先，它会让网民陷入认知幻觉，可能引发公众认知困惑，扭曲对现实和科学的理解。对于伴随互联网成长的年轻一代，其影响更是不堪设想。此外，“AI污染”还可能反噬AI产业的发展，虚假内容若成为训练新数据，将导致AI输出质量下降。更严重的是，“AI污染”涉及法律、伦理、社会稳定等诸多问题，可能侵犯知识产权、泄露身份信息，扰乱社会舆论，加大社会治理难度。

因此，整治互联网“AI污染”势在必行。中国互联网信息中心的数据表明，我国网民规模庞大，年轻一代已成为网络“原住民”，打造清朗的网络空间是保障每个网民美好生活的必要行动。为应对“AI污染”，首先应加大对AI学习和生成机制的源头治理，完善内容生成规则，强制打上显著标识。其次，加强对AI生成内容的筛查监管，开发审查算法规范传播途径。最后，提高用户对AI生成内容的辨别能力，增强防范意识和识别能力。

网络空间不是*场，整治“AI污染”需要各部门同抓共管和全社会共同参与。只有这样，我们才能拥有一个清朗安全的网络家园。