爱信知识百科网

AI换脸新型诈骗来袭 双“法”齐下破解AI诈骗难题

热门资讯 · 2023-06-02 14:13:40
AI换脸新型诈骗来袭 双“法”齐下破解AI诈骗难题 AI换脸新型诈骗来袭

双“法”齐下破解AI诈骗难题

这几天,AI换脸诈骗的话题引发社会关注。

包头警方近日发布一起利用AI实施电信诈骗的典型案例。有骗子通过AI换脸和拟声技术佯装好友,对福州市某科技公司法人代表郭先生实施诈骗,在视频聊天“核实”对方身份后,郭先生10分钟内被骗子骗走430万元。

那么,如何判断AI诈骗,有哪些方法和手段可以防范AI诈骗?5月底,科技日报记者采访了相关专家。

AI换脸诈骗让人难以分辨

AI诈骗就是利用AI技术,模仿、伪造他人的声音、面孔、视频等信息,进行欺骗、敲诈、勒索等的犯罪活动。北京邮电大学信息与通信工程学院副教授路兆铭告诉科技日报记者,骗子会通过拨打骚扰电话等方式,录音提取诈骗对象及其重要关系人的声音特征,再利用AI技术进行语音合成,使诈骗对象放松警惕,进而用伪造的声音实施诈骗。

“而人脸效果更易取得对方信任,骗子用AI技术换脸,可以伪装成任何人。”路兆铭表示,骗子会利用AI技术,将他人的脸换成指定人的脸,冒充诈骗对象的亲人、朋友,通过合成视频或照片的方式来“以假乱真”,扰乱诈骗对象的视线,进而实施诈骗。

安天移动安全副总经理彭智俊在接受科技日报记者采访时表示,由于AI诈骗具有高度逼真、难以追踪、针对性强、手段多样的特点,受害者往往难以分辨真假,从而降低警惕。同时,犯罪分子隐匿在网络的阴暗角落,这也给警方侦破带来困难。

问题治理关键在“法”

面对AI技术滥用风险,如何整治AI诈骗,防止AI作恶?

关键在一个“法”字。这个“法”既包括科学技术方法的应用,也包括刚性治理的法律法规。

在科学技术方面,打击电信网络诈骗的科技装备发展迅速。例如,由厦门市美亚柏科信息股份有限公司研发的“AI-3300慧眼视频图像鉴真工作站”,不仅能鉴定利用传统伪造手段篡改的影像,而且对利用深度伪造技术进行了换脸、美颜、生成人脸、同图或异图复制篡改的影像也能够进行鉴定,可以为公安、司法行业提供技术支持。

而在法律法规方面,2022年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都进行了明确约束。该项规定发布实施后,此前一款主打AI换脸的App在被监管部门约谈后进行下架处理,处理原因为“如此换脸侵犯了公民的肖像权”。

需注意不自然的细节

“对于普通百姓而言,AI诈骗也不是完全‘防不胜防’,这需要大家有甄别的‘慧眼’。”彭智俊告诉科技日报记者,虽然AI生成的语音和表情已经相当逼真,但仍然可能存在一些不自然的细节。具体细节包括AI生成语音的节奏、音高变化和AI生成图像的面部表情过渡等,这些细节均与原始视频有较大的差别。

文章推荐:

未来已来,短视频阅读让好内容“大众化”

2018年至2022年全国生产安全事故总量比前5年下降80.8%

新疆岳普湖逾21万亩小麦开割 金色田野“丰”景好

应急管理部:已实现对6900余家重大危险源危化品企业在线监测

全景展现正定历史文化书籍:《品读正定》出版发行

中国石油大学:董某某与其在校研究生导师无任何亲属关系

中国无人驾驶高速地铁项目在土耳其开工

重庆油菜喜获丰收 总产量实现连续16年增长

与时间赛跑!这片试验田打响“麦收保卫战”

第一观察丨从一个“沙”字,领悟总书记的生态治理系统观念

标签列表