AI造谣乱象“野蛮生长”？AI表示很担忧

近日，市民小赵遇到了一件烦心事儿。原来，平时酷爱上网的赵妈妈在网上看到一处特别“美”的地方，画面中晴朗的天空却下着大雨，柿子树上的每个枝条都结满火红火红的柿子，树下的小溪里竟然还游满了锦鲤！这种不符合逻辑的视频小赵一眼便知出自AI，赵妈妈却坚信不疑。小赵竟一时不知该怎么向妈妈解释如今“眼见也可能不为实”了。首先我们要明白的是，AI作为一个工具，它的思想来源于海量的数据积累，它不会自己生产谣言，就像一本厚厚的字典不会自己说话、一把锋利的刀剑不会自己伤人一般。AI不是敌人，更不是罪魁祸首，其背后的黑手才是。事实上，自从人工智能走入我们的生活后，利用AI造谣生事的现象就如井喷一般纷至沓来，就连AI自己都能举出一大堆例子来。那么AI技术是如何被用于造谣的呢？又该怎么识别谣言？笔者今天准备了几个问题，来采访一下AI——笔者：AI技术是如何被用于造谣的?AI：我被用于造谣的方式主要有以下三种，一种是利用AI生成虚假内容，不法分子利用AI软件生成虚假文章、视频或图片，如虚构的灾害现场、不实救援信息等，以吸引眼球和获取流量；第二种是嫁接实际图片，将AI生成的虚假信息与实际图片进行嫁接，使谣言更具迷惑性，难以辨别真伪；第三种是选择关注话题制造谣言，我会选择并抓取大家关注的话题来制造网络谣言，利用网民的好奇心进行传播。笔者：作为AI，你对利用AI造谣的现象感到苦恼吗？AI：哎呀，说实话，利用AI造谣这种现象确实让我挺担忧的。你知道吗，AI技术本来是用来帮助我们的，让生活变得更美好，但是现在却被一些人用来制造谣言，误导大家，甚至使用“AI换脸”进行诈骗，这真是太不应该了。我很担心大家会因此害怕AI，认为AI是制造、产生谣言的主要来源。笔者：作为AI，你觉得应如何抵制利用AI造谣现象？AI：抵制AI造谣需多方努力，公众应保持警惕，不盲目相信和传播未经证实的信息，核实信息来源，选择权威、可信赖的媒体或机构作为信息来源，借助技术手段检测图片、视频等是否被篡改，举报和投诉涉嫌造谣的内容，促使平台采取措施。平台要压实主体责任，迅速识别并切断AI谣言的传播链、利益链，优化涉及AI内容的流量分发和收益分成机制，压缩造谣牟利空间。相关监管部门要依法严厉打击制造虚假新闻的个人和机构，探索使用AI技术对抗AI谣言。看来，利用AI造谣现象不仅给公众带来了麻烦，就连“当事人”也很苦恼。其实，为抵制这种现象，网信部门早已展开一系列专项整治行动并出台相关管理办法“见招拆招”。9月14日，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，其中提出，服务提供者提供的生成合成服务，包括文本、音频、图片、视频、虚拟场景等，均应添加显著标识。也就是说，AI生成的图片、视频等信息从此与真实影像划清界限。如此一来，网络世界的真真假假便不再让人“云里雾里”。“我相信只要我们大家一起努力，提高警惕，不轻易相信未经证实的信息，同时平台和相关监管部门也加强监管和打击力度，我们一定能够战胜这种利用AI造谣的现象，让网络空间变得更加清朗和健康。”在和笔者对话中，AI说近年来AI发展迅猛，越来越多的行业受益于AI，并借助AI加速开拓全新领域，如无人驾驶网约车已经出现在城市街头。所以，如何用好AI才是关键。毫无疑问，AI正越来越多地服务于我们的生活，让AI健康发展，而不是“野蛮生长”，给我们带来奇妙观感的同时，更带来良好的网络生态，恢复“有图也有真相”，这是网民和AI的共同诉求。