当前位置: 江南文明网 > 科技 > 智能 >

AI诈骗套路大揭秘

条评论

AI诈骗套路大揭秘

近期,“AI诈骗正在全国爆发”的话题多次冲上微博热搜。

就在上个月,企业老板郭先生突然接到了好友的微信视频,称自己急需430万走账,看着视频里的好友一脸焦虑,郭先生没多想就把钱转了过去,整个过程不到10分钟,事后郭先生才发现自己被骗子用AI换脸技术给骗了。

今年2月以来,AI相关的技术日新月异,带来的副作用也日益显现。深度伪造(deepfake)这一AI技术,能让视频中的人物变脸、变声,有人用它诈骗,有人将自家主播的脸换成明星的脸带货捞钱,还有人用它AI换脸“造黄谣”。

或许很多人没有意识到问题的严重性,认为技术还没有成熟到可以诈骗的地步,存有“侥幸”心理。5月31日,深燃直播间邀请到了瑞莱智慧联合创始人、算法科学家萧子豪,李旭反传防骗团队负责人李旭,就“怎样识别AI诈骗”这一主题展开对话。

两位嘉宾一位懂技术,一位懂反传,两种完全不同的视角,却有共同的“反诈科普”目标,对于AI诈骗主要有哪些手段、哪些人更容易被AI诈骗盯上、普通人应该如何预防AI诈骗等与生活息息相关的话题,都给出了非常实用的建议。

任何一项技术都是一把双刃剑,既能推动社会进步,又能挖掘人性中隐藏的恶,任何技术都应该要在可控、可监督的范围内发展。如今,AI大潮已经将我们裹挟其中,要想更好的应对,首先应该了解和学习它,继而依靠全社会的力量与它的暗面进行抗衡。

以下是直播实录,由深燃编辑整理:

01.AI诈骗,为什么屡禁不绝?

深燃:利用AI技术进行诈骗是今年才有的套路吗?

李旭: 早在2019年,打着AI算命、AI看相旗号的微信公众号、小程序或APP就火爆一时,实质上是通过诱导分享发展用户来吸金。

这两年,我们看到一些微商团队发布明星的祝福/宣传视频来发展下线,其中不少视频并非明星真实录制,而是运用了AI换脸、AI语音合成等技术制作而成,不少人信以为真而选择加入,结果陷入骗局。还有一些人利用AI生成图片/视频进行裸聊诈骗,要求受害者下载APP进而将其手机通讯录拷贝过来,后续以此为要挟进行敲诈,很多人中招。

深燃:AI诈骗有哪些常用手段?

李旭: 第一种是AI声音合成,骗子给受害人打骚扰电话,提取受害人的声音,后期对声音素材进行合成,用于诈骗。比如某公司财务的小王曾接到领导电话,要求其立即给供应商转账2万元,理由是避免缴纳滞纳金,由于领导的声音十分逼真,小王在一个小时内就转款完成,后来才发现被骗。

第二种是AI换脸,骗子首先会根据受害人发布在社交平台上的照片或视频信息生成假脸,然后在视频通话中利用AI换脸骗取受害人信任,被骗430万的郭先生就是这样上当的。

第三种是AI筛选受害人,骗子根据所要实施的骗术,通过AI技术筛选目标人群,在短时间内生产出定制化的诈骗脚本,实施精准诈骗。比如情感诈骗的骗子会筛选经常发布感情类信息的人群,金融诈骗的骗子会筛选经常搜索投资理财信息的人群。