最近,有网友发消息称,“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,家里的老人信以为真,已经开始下单了。
据媒体报道,在名为“般画234”的账号视频中,“张文宏”反复介绍着一种产品,口型是他的,声音也是他的,但稍微懂点AI的小伙伴们,一眼就能分辨出,这是AI合成的视频!此外,该账号的商品橱窗截图显示,这款蛋白棒已售出1266件。12日晚,记者已无法在平台搜索到该账号。
针对此事,记者联系到了张文宏医生,他表示:“这样的卖货账号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。我看购买量在不同的地方好像都有不少。我在发现这个事情后立即投诉过那个AI合成的视频,但他的账号一直在换,我最后也没有精力了。这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。事实上,从平台投诉结果来看,我觉得最终也难以解决问题。”除了向平台方投诉,张文宏称自己也曾考虑过报警,但对方看不见摸不到,就像幽灵一般难以描述,只能寄希望于相关部门加强监管。“报警总要有个对象对吧,现在报警报谁呢?他一天换一个账号,而且全是虚拟的,我向谁报警?所以我认为,他侵犯的是消费者的利益,我觉得相关部门应该处理。”张文宏说。记者注意到,12日,上海市消保委针对该事件严厉发声,表示未经当事人授权的AI合成带货行为已经构成了对消费者的欺诈,呼吁监管部门严厉处罚。【多知道点儿】学会三招识别AI“换脸换声”在进行视频对话时,我们可以要求对方在脸部面前,通过挥手的方式去识别实时伪造的视频。在挥手的过程中会造成面部的数据干扰,他所伪造的人脸会产生一定的抖动或闪现,或是一些其他异常的情况。在点对点的沟通过程中,可以问一些只有对方知道的问题,以此来验证对方的真实性。此外,我们还可以让对方通过按鼻子按脸的方式,观察其面部变化,真人的鼻子按下去会变形,但AI生成的鼻子不会,同样脸部也是一样的。
值得注意的是,以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展,“动起来”“挥手”“比数字”等有可能难不倒新技术,“数字人”同样能顺利完成以上动作,从而更加具备迷惑性。所以,防范AI诈骗,还是要从自身出发,做好信息保护,提高警惕。例如,不要泄露个人信息,尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等,个人公开在外的照片、视频越多,意味着AI算法参考的数据越多,生成的“数字人”就会更真实。
此外,在涉及资金交易等场景下,要多留心眼,不要轻易相信视频、声音。很多时候,传统的识别方式要比技术识别更有效。
最新发现
相关资讯
河北省举办首届NeuroMaster脑科学人工智能挑战赛
河青新闻网讯 11月17日,2024世界机器人大赛——河北省首届NeuroMaster脑科学人工智能挑战赛,在石家庄市第一中学成功举办。NeuroMaster脑科学人工智能挑战赛竞赛方向围绕脑机接口在典型领域的应用发展,竞赛内容设
2025-01-15 11:08:38
聚焦人工智能“互联网之光”博览会今日开幕
大江网 大江新闻客户端讯 全媒体记者陈春伟报道:11月19日,由世界互联网大会和浙江省人民政府共同主办的2024年世界互联网大会“互联网之光”博览会在乌镇盛大开幕。本届博览会设置了五大活动板块,包括展览展示、
2025-01-15 10:48:35
AI造谣乱象“野蛮生长”?专家:可设置敏感关键词禁止生成显著违法信息内容
央广网北京11月19日消息(记者王迟)近年来,人工智能(AI)技术发展迅速,成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而,却有一些别有用心之人将其变为造谣、敛财
2025-01-15 10:28:26
“互联网之光”博览会今天开幕全面聚焦人工智能
作为2024年世界互联网大会乌镇峰会的重要活动之一,今天上午,“互联网之光”博览会正式开幕。在2024年世界互联网大会“互联网之光”博览会的现场,记者看到,“互联网之光”的开幕式就在这里进行。今年,“互联网之光”
2025-01-15 10:08:24
探营世界互联网大会“互联网之光”博览会:看AI如何打败AI
上传一张照片,就能利用AI技术鉴别照片是不是其他AI的伪造品;不法分子使用了AI换脸技术,也能被AI精准识破。11月19日,2024年世界互联网大会乌镇峰会开幕,人工智能再次成为热议话题。在“互联网之光”博览会的蚂
2025-01-15 09:48:17
你会给AI署名吗?
近日,微信公众号封面图已经可以在后台选择AI生成,AI作为工具,在新闻人工作场景中的使用也越来越普及。那么,AI生成的插图需要署名吗?新闻产品中AI的运用,该如何拥有姓名?01是否署名成行业分歧你有没有发现
2025-01-15 09:28:08
今日热榜
语文学习新解法:海豚AI学用科技因材施教
2025-01-06 17:23:58马来西亚设立国家人工智能办公室
2024-12-19 16:44:28通用人工智能,是个啥智能?
2025-01-06 17:44:07谷歌发布新一代人工智能技术
2024-12-19 16:43:53聚焦人工智能、区块链、量子科技等9大前沿领域,2024年上海市产业青年创新大赛颁奖大会在静安举行
2024-12-19 17:08:14花6.5万元购“AI数字人”直播带货被禁播?买家能解约吗?法院
2024-12-19 21:30:55通用人工智能国赛为何连续两年落地安徽?
2024-12-19 23:31:31新华网评:AI技术不应用来造谣生事
2024-12-20 06:52:57首部《中国通用人工智能发展报告》蓝皮书发布
2024-12-20 13:34:15欧盟《人工智能法案》生效在即
2024-12-20 14:14:25热门推荐