深度伪造技术可以骗过人脸识别系统,带来严重的安全漏洞

移动设备使用面部识别技术来帮助用户快速安全地解锁手机、进行金融交易或查看医疗记录。但根据宾夕法尼亚州立大学信息科学与技术学院的一项新研究,采用特定用户检测方法的面部识别技术非常容易受到基于深度伪造的攻击,这可能会给用户和应用程序带来严重的安全问题。

研究人员发现,大多数使用面部活动性验证的应用程序编程界面并不总是能检测到经过数字修改的照片或视频,这些照片或视频看起来像真实的其他人,也被称为深度伪造。使用这些检测措施的应用程序在识别深度造假方面也远不如应用程序提供商所宣称的那样有效。



该项目首席研究员、信息科学与技术副教授王婷(音)表示:“近年来,我们观察到面部认证和验证技术的重大发展,这些技术已应用于许多关键的安全应用。与此同时,我们也看到了深度伪造技术的重大进步,这使得合成真实的面部图像和视频变得相当容易,成本很低。因此,我们提出了一个有趣的问题:恶意攻击者是否可能滥用深度造假技术来欺骗面部验证系统?”

这项研究在本周的USENIX安全研讨会上发表,是第一个在真实世界环境中对面部活性验证安全性的系统研究。王和他的合作者开发了一种新的深度伪造攻击框架,名为LiveBugger,可以对面部活动性验证进行可定制的自动化安全评估。他们评估了6个领先的商业面部活性验证应用程序编程接口。研究人员表示,这些产品中的任何漏洞都可能被使用它们的其他应用程序继承,从而潜在地威胁到数百万用户。

LiveBugger使用从两个独立数据集获得的深度伪造图像和视频,试图欺骗应用程序的面部活动性验证方法,后者旨在通过分析用户面部的静态或视频图像、倾听用户的声音或测量用户对执行命令的反应来验证用户的身份。



研究人员发现,所有四种最常见的验证方法都很容易被绕过。除了强调他们的框架如何绕过这些方法之外,他们还提出了提高技术安全性的建议——包括消除只分析用户静态面部图像的验证方法,以及通过分析用户音频和视频的方法将嘴唇动作与用户声音相匹配。

这篇论文的第一作者之一、信息科学与技术博士生李长江(音译)表示:“尽管面部活性验证可以抵御许多攻击,但深度造假技术的发展给它带来了一个新的威胁,迄今为止我们对这一威胁知之甚少。我们的发现有助于供应商修复他们系统的漏洞。”

研究人员已经将他们的发现报告给了应用程序被用于这项研究的供应商,其中一家供应商已经宣布了开展深度假检测项目的计划,以应对正在出现的威胁。人脸识别已应用于许多关键场景,如在线支付、网上银行和政府服务。此外,越来越多的云平台已经开始提供面部表情验证作为平台即服务,这大大降低了成本,并降低了公司在其产品中部署这项技术的障碍。因此,人脸活性验证的安全性备受关注。

发表评论
留言与评论(共有 0 条评论) “”
   
验证码:

相关文章

推荐文章