近日，山东省济南市商河县公安局刑警大队破获了一起利用AI换脸技术诈骗的典型案件。

侦办此案的民警张振华介绍，今年5月份，黄某某（化名）在家刷短视频时收到了一条私信，对方自称是黄某某的表哥，寒暄几句取得黄某某初步信任后，希望黄某某帮自己给一个需要资金周转的朋友，转一笔大额资金。

刚开始，黄某某并未立即转账，但在与“表哥”进行了视频通话，黄某某见到视频中的人和表哥一模一样，确信了对方身份后，于是向对方提供的银行账户转了30余万元。

收到这笔钱后，对方还继续催促黄某某转出剩余的钱款。意识到不对劲的黄某某给表哥打去电话核实，才知道其表哥对此事毫不知情。发现上当受骗后，黄某某立即报警。最终，警方通过技术手段侦查，抓获犯罪嫌疑人7人，目前此案已进入法院审判阶段。

近年来，AI换脸、换声视频在网络上流行起来，AI合成的技术门槛逐渐降低。随着人工智能技术的广泛应用，一些不法分子开始利用其实施新型网络诈骗。

AI换脸技术究竟如何实现？AI诈骗能有多逼真？今天，派派君就和大家一起来关注如何防范这种骗术。

AI换脸诈骗频发，已有多人被骗

AI技术发展迅速，只需要提供一张带脸的照片，就可以把自己置换成视频、电视剧中的男（女）主角，而且拟真度非常高，毫无违和感。

有人把鹿晗的脸置换到刘亦菲扮演的“小龙女”角色中，看看实际效果，如果不是事先看过《神雕侠侣》，派派君还以为就是“本人”呢。

AI技术是把“双刃剑”，在给人们生活提供便利的同时，也给不法分子留下了可乘之机。

今年8月，宁夏银川市一男子被自称是其领导的骗子讹走了260万元。原因是男子在视频通话中，看到对方确实是其领导，才向对方提供的银行账户转账。对方收到资金后，称还剩38万元要转到对方提供的个人账户上，其发觉不对，打电话求证，领导称没有这回事，遂立即到公安机关报案。

今年6月，广州69岁的龚伯收到了来自“儿子”的电话，求助他转账100万元。龚伯看对方发来的视频后，确认是“儿子”本人，便来到银行火急火燎准备转账。好在，银行工作人员及时发现，龚伯所谓的“儿子”是AI换脸生成，赶忙拦截了支付，为老人家止损100万元。

今年4月，福州市某科技公司法人代表郭先生10分钟内被骗430万元。案发时，他的好友通过微信视频联系他，称有朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生就转账了。事后，郭先生拨打好友电话才得知被骗。

去年2月，浙江温州陈先生称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。

AI换脸技术能否以假乱真？

AI换脸技术的飞速发展和应用，使公众担心其是否可以做到以假乱真。

关于此问题，南京大学计算机科学与技术系郭延文教授回答道：“从图片到一些电视节目的制作，已经可以通过换脸技术对其本身进行一定的编辑。随着AIGC的迅速发展，目前通过人工智能，尤其是深度学习技术已经可以生成非常逼真的图像，甚至是视频。从换脸的角度上看，其实现在至少从我们非专业的角度去看，完全可以做到以假乱真，仿佛是原始成像或者拍摄实现的。”

此前，深圳一家为公安机关提供技术支持的科技公司，演示了AI如何做到在视频通话时换脸。其演示显示，一个高配置的电脑，合成一段10秒的换脸视频只需要一两分钟，视频通话时“AI换脸”相似度可以达到80%。

如何识别和预防AI诈骗？

AI诈骗技术如此成熟，到底怎么防？

中国社会科学院大学互联网法治研究中心执行主任刘晓春认为，涉及资金往来等风险场景应多途径核对。

上海申伦律师事务所夏海龙律师表示，在AI诈骗中，获取受害人面容及声音素材的途径比较多，一般是从受害人在社交媒体上分享的照片、短视频中获取，的确很难直接识别视频或声音的真假，最好的办法就是在接到可疑电话后直接跟本人核实。

警方支了以下五招：

一是保护信息，杜绝泄露。从源头着手，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；不提供可供复制模拟的信息，骗子自然无法得逞。陌生链接不要点，陌生软件不要下载，陌生好友不要随便加。

二是多重核验，确认身份。陌生人的电话要时刻保持警惕，切莫向不认识的人转账。骗子的最终目的都是诱导目标对象进行转账，因此在涉及钱款交易时，要提高安全意识，仔细核实收款账户户名信息，切勿贸然转账，保护好资金安全。如果是熟人，在线上转账前，一定要多次核验对方身份。除了常规的电话和视频，还可以在通话的过程中，加入一些只有你们俩知道的人和事。

三是谨慎转账，延时到账。避免通过微信等社交软件转账，将转账时间设定为“24小时”到账，以预留处理时间。

四是拒绝诱惑，提高警惕。要学会拒绝诱惑、提高警惕，避免占便宜心理，警惕陌生人无端“献殷勤”。

五是加强防范，及时报警。公检法没有安全账户，警察不会网上办案，如果有陌生来电说你犯事了，需要线上办案、冻结账户等情况，请立刻拨打110报警。

简单来说，就是要做到保护信息，杜绝泄露；多重核验，确认身份；谨慎转账，提高警惕。

最后，派派君请大家把这篇文章转发给家里亲友，特别是家里的老人家，提醒他们，以防被骗！

（参考资料：海报新闻、中国之声、中国新闻网、央视网、厦门日报、现代快报、济南公安、平安沙坡头、广州从化发布、梅州市反诈骗中心等）

话题主持 | 记者 郑宗敏

来源 | 羊城晚报•羊城派
责编 | 陈诗洁
校对 | 赵丹丹

实习编辑 | 唐小婷