极目新闻记者 兰莎 

通讯员 蔡源源 许国胜

近来，“AI孙燕姿”“AI王菲”们爆火出圈，成为短视频平台新一轮的流量密码。然而，与此同时，能以假乱真、掩人耳目的AI技术也在频频触及法律红线。

今年5月，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

无独有偶，据媒体此前报道，2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。

“以往AI换脸大多是针对社会名人，如今黑科技运用在对社会公众的诈骗上，令人防不胜防。”在网络平台，不少网友直呼可怕。

“AI换脸”真假难辨，如何防范？7月30日，中国电信湖北公司相关负责人接受了极目新闻记者采访。该负责人表示，可以通过三招秒辨AI假脸。第一招遮脸。提示对方用手遮挡脸部，软件无法及时渲染，对方会被当场拆穿；第二招看嘴。人的嘴部运动的最快最频繁，软件无法及时渲染，假脸的嘴部是极不自然的；第三招看眼，正常人眨眼间隔2到10秒，眨眼用时0.1—0.4秒，假脸无法精确复制，假脸的眼睛极不自然。

同时，她提醒道，面对利用AI等新型手段的诈骗，一是加强个人信息保护意识，谨防各种信息泄露；二是转账交易要格外留意，多重验证，确认身份；三是多多提醒、告诫身边的亲朋好友，做好宣传防范工作，共同预防受骗；四是遇到被骗或可疑情形，请注意保护证据并立即报警。