首页 > AI教程资讯

新华网评：AI技术不应用来造谣生事

发布时间：2024-12-20 06:52:57 来源:AI视频贴吧

近期，浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查，该团伙利用AI软件，拼接网络中误导性素材，剪辑成“原创”视频，并在多个平台发布，牟取非法流量返利。这种利用AI工具实施造谣的案件并不鲜见。随着人工智能技术飞速发展，AI生成内容比例逐步攀升，但其中也充斥着一些虚假信息，有的足可“以假乱真”，迷惑性极强。

利用AI造谣具有门槛低、批量化、识别难的特点。检索互联网，可见“伪原创工具”“AI洗稿”等网站和小程序，既可创作文案、帮写稿件，又能生成图片、合成视频。有媒体报道，曾经发布“西安爆炸”虚假新闻的账号所属机构，最高峰一天能生成4000至7000篇假新闻，让人触目惊心。AI如果被别有用心之人用以造谣、传播虚假信息，短时间内就可能快速传播，误导公众、影响舆论，严重时甚至扰乱社会秩序。对AI造谣违法行为，必须出重拳治理，要“狠打”也要“严防”。