在AI时代,我们常说“眼见为实”,但现实却已发生了改变。AI换脸技术的出现,让人眼中的“真实”不再可靠。不法分子利用这一技术实施诈骗,利用“肖像照片”或“貌似熟人的视频”作为诈骗工具,使防范难度显著增加。
我们常说“眼见为实”,但在AI时代,肉眼所看见的也不一定是真相。一些不法分子利用“AI换脸”技术实施诈骗,已成为一种新型骗局。一张“肖像照片”、一段“貌似熟人的视频”,都可能被不法分子利用作为诈骗的手段和工具。(央视新闻 8月18日)
电信网络诈骗本就变幻莫测,让人防不胜防,如今有了AI换脸技术的“加持”,更加大了防骗反诈的难度。对此,民众不仅要进一步擦亮眼睛、提高警惕,还需要技术力量有更大的作为,在技防层面实现“降维打击”。
虽然AI换脸几乎可以一键完成,但其依托的深度合成技术还是存在很高技术门槛与壁垒的。被不法分子利用来进行诈骗的AI换脸软件,大概率也是依托于各大科技公司或单位开发的相关产品,因而要在源头上阻止AI换脸技术被滥用,理论上不存在太大困难,毕竟绝大多数诈骗分子或团伙还没强大到能自主研发一套AI换脸系统。
动用技术力量打击AI换脸诈骗,一方面要从源头上防止技术被滥用。对于一些开放性的技术或AI模型,平台当然没有办法阻止诈骗分子使用,可对于此类几乎能以假乱真的深度合成技术内容,显然要有必要的提醒,明确告知受众其为AI技术生成的产品。
另一方面,要加大对AI换脸诈骗行为的识别力度。不法分子利用AI生成的图片、视频实施诈骗,完成换脸只是第一步,接下来还需要通过各种社交媒体平台向潜在目标传输虚假照片或视频,以达到迷惑对方实施诈骗的目的。在这种情况下,各大平台如果能研发并及时推出AI换脸诈骗检测与预警机制,那无形中又给用户的安全加了把锁。
除了技防层面的不断强化之外,反电诈宣传也要与时俱进,将AI换脸类诈骗的识别、防范及时纳入宣传范畴,让大家知晓在AI生成技术面前,有图不一定有真相,即便是视频也可以被伪造,让大家在网络生活中务必多留个心眼。
面对层出不穷的新型骗局套路和花样,作为自身安全第一责任人的广大民众,做好“提高警惕心莫贪”“陌生链接不点击”等常规防骗措施外,更要有针对性地防范AI换脸诈骗。AI换脸得以进行的前提是掌握了目标对象的面部信息与动作,让AI技术有训练与学习的数据素材。因而,大家在网络生活交往中,要进一步保护好自己的人脸等生物信息,不过度公开或分享动图、视频,不法分子无法轻易获取行骗对象的面部信息,自然也就无法通过AI换脸来实施诈骗行为了。可见,随着诈骗技术的水涨船高,民众的安全意识与防骗技能也要相应加以提升。
面对新型诈骗技术,除了技术防范和宣传外,我们每个人都应提高警惕,保护好个人信息。只有通过共同努力,才能有效遏制AI换脸诈骗的蔓延,保障网络安全。未来,我们需继续关注技术发展,增强防骗意识。
最新发现
相关资讯
AI换脸时代诈骗隐患:如何防范技术滥用与电信诈骗
AI换脸技术让诈骗手段更加隐蔽,一些不法分子利用这一技术实施诈骗,难度加大。民众需要提高警惕,技术力量需加强防范,同时反电诈宣传要跟上新技术的发展。
2025-04-25 15:55:49
电气与AI领域青年学者张翔昱加盟东南大学,引领科技创新
电气与人工智能领域的青年学者张翔昱已于2024年7月回国加盟东南大学,担任教授、研究员及博士生导师。张翔昱在电气工程及智能控制领域有着卓越的研究成果,曾在谷歌和美国国家可再生能源实验室工作。
2025-04-25 15:15:35
AI玩具与教育硬件如何塑造儿童未来?
随着AI技术的发展,儿童市场也迎来了新的变革。从AI玩具到教育硬件,越来越多的企业涌入这一领域。本文探讨了AI玩具、教育硬件在儿童陪伴中的角色及其潜在风险,尤其是在家长与技术的互动中带来的挑战。
2025-04-25 14:55:28
AIGC风吹文化界:短剧、游戏创新与创作者挑战
AIGC在短剧和游戏领域的应用引发广泛关注,尤其是《三星堆:未来启示录》的成功。AI在提升创作效率、提供灵感方面展现了强大潜力,但也面临版权、隐私等问题。本文探讨了AIGC对文化创作的影响及其挑战。
2025-04-25 14:35:19
中办国办发布市场准入新规涉及AI与新能源领域
中办、国办最新《意见》完善市场准入制度,提出优化新业态和新领域市场准入环境,特别是在人工智能和新型能源领域的政策调整。这一系列措施将促进市场开放,提升国际竞争力。
2025-04-25 14:15:14
中国电信申请天翼AI商标,涉及广告销售与通讯服务
中国电信集团有限公司近期申请了多枚“天翼AI”和“Tele AI”图形商标,涵盖广告销售、网站服务、通讯服务及科学仪器等国际分类,目前商标状态为等待实质审查。
2025-04-25 13:55:12
今日热榜
AI应用不断深化板块景气度持续提升
2025-04-10 10:05:06首部《中国通用人工智能发展报告》蓝皮书发布
2024-12-20 13:34:15通用人工智能,是个啥智能?
2025-01-06 17:44:07当科幻邂逅人工智能——读少儿科幻小说《机器女孩》
2025-01-08 15:15:50你会给AI署名吗?
2025-01-15 09:28:08同济大学人工智能通识课这样开!
2025-01-08 17:36:26AI搜索第一股再获支持,IDC报告显示360AI搜索多项指标引领行业
2025-01-21 16:20:25业界竞逐AI规模应用契机
2025-01-22 13:40:25早安!世界丨俄罗斯洲际导弹试射疑失败;日本推出人工智能相亲系统
2025-02-20 13:48:57世界互联网大会举办人工智能国际标准研讨会
2025-02-21 13:52:06热门推荐