服务粉丝

我们一直在努力
当前位置:首页 > 娱乐 >

“AI换脸”诈骗防不胜防?要用“法”打败“魔法”!

日期: 来源:肇庆发布收集编辑:肇庆发布

点开直播间乍一看,卖货的竟是当红女星。再定睛一看,“明星”其实是使用人工智能(AI)实时换脸技术的普通主播。他们冒充明星艺人,只为增加卖点,助力卖货……

近期,“AI换脸”的应用范围越来越广,但存在滥用之嫌,甚至有人利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。前不久,就有一男子因AI“偷脸”,10分钟被骗430万元。

如此以假乱真,让人防不胜防。“AI换脸”的法律边界在哪?普通人又该如何防范?

01

公司老板遭遇AI换脸诈骗

10分钟被骗取430万元

近日,内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

来自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。

基于对好友的信任,加上已经视频聊天“核实”了身份郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。

事后,郭先生拨打好友电话才得知被骗,原来骗子通过AI换脸和拟声技术,佯装好友对其实施诈骗。“当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”郭先生事后说。

02

AI换脸冒充明星带货

律师:或涉嫌侵权

除了佯装“熟人脸”实施诈骗,AI换脸还可能出现在直播带货中。最近,网上出现了一些“换脸直播”教程,教程发布者声称实时变脸软件可以帮助用户轻松“变脸”,极大地助力引流卖货

在一个展示换脸直播效果的视频中,使用者把名为“成龙”的模型载入相关软件后,摄像头前的人在直播画面中就有了与成龙相似的五官,但脸型和发型还保持原样。

记者发现,使用者歪头或变换表情时,五官动效切换得自然顺滑,只有手掌从脸前划过时,出现了比较明显的破绽。

△发布者展示换脸为“成龙”的实时效果和软件界面(视频截图)

北京岳成律师事务所高级合伙人岳屾山表示,换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为,会成为加重情节

岳屾山解释,只要未经肖像权人同意,在直播中通过技术手段把自己的脸换成了明星的脸,就是对明星肖像的侵权。根据不同情况,承担的后果可能不同。即便只是娱乐,不涉及盈利行为,也属于侵权。如果把明星肖像用于带货直播,属于是商业行为,在赔偿数额上一定会给予考虑。如果主观恶性、过错程度比较大,且因此获利,赔偿数额可能会更高。

记者注意到,一些使用换脸技术的直播并不会直接提到相关明星艺人的名字,但也不会主动声明或者否认。岳屾山认为,该行为涉嫌欺诈或是虚假宣传,让公众误以为就是明星在带货。如果货品本身质量不好,或者主播在带货过程中说的话或行为导致公众对被换脸的明星产生负面评价,明星可以主张名誉权的侵权责任。

03

AI技术存在滥用风险

务必保持防范意识

为规范人工智能发展,去年12月,《互联网信息服务深度合成管理规定》正式发布,明确了合成数据和技术管理规范。其中提到:深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。

近期,也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”,明确禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等,一经发现,平台将严格处罚。

对于个人而言,除了在形形色色的“明星脸”中保持清醒,避免陷入虚假宣传,更重要的是面对花样翻新的AI诈骗,必须保持防范意识。

保护信息,提高警惕。不要轻易透露自己的身份证、银行卡、验证码等信息,不要轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;

多重验证,确认身份。如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款,或涉及网络转账交易行为时,务必通过电话、见面等多途径核验对方身份,不要未经核实随意转账汇款;

  • 如不慎被骗或遇可疑情形,请注意保护证据,并立即拨打96110报警

  • 04

    整治AI换脸

    要用法打败“魔法”

    “短短10分钟,被骗430万元”“换脸冒充当红女星带货,赚得盆满钵溢”……这种“换脸”术和拟声术,让人防不胜防。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。

    整治AI换脸,当用“法”打败“魔法”。

    这个法,是方法、办法的法。有人说,防骗最有效的一招就是不信,无论对方怎么“换”、怎么变、怎么翻着花样骗,就是“不听不信不转账”。最关键的是,优化“打法”,升级高招,用更有效的方法“破防”。“魔高一尺,道高一丈”,面对骗子的新招数,我们的反诈术、防骗方法更要优化,总结出富有成效的好方法,并做好宣传普及,构筑反诈防骗的全民阵线。

    这个法,也是法规、法律的法。此前,一款主打AI换脸的App很火,“只需一张照片,演遍天下好戏”。但很快,在监管部门约谈后,这款App下架,原因很简单,如此换脸侵犯了公民的肖像权。去年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都有明确约束。显然,随着制度设计更精准,相关立法更健全,AI换脸空间将越来越逼仄。

    AI换脸术滥用,也促使大家思考一个深层次问题。新技术不断面世,带给了人们便利,但可能被居心叵测之徒非法利用。人们固然不能因噎废食,但也不能忽略它的双刃剑效应。如果缺乏应有规束,AI换脸则可能打开潘多拉魔盒。因势利导,使其趋利避害,这是我们要全力做到的。

    本文来源:央视新闻


相关阅读

  • *ST紫晶子公司告赢银行,仍有诸多麻烦待解

  • 雷达财经 文|杨洋 编|深海近日,*ST紫晶公告称,公司于5月18日收到珠海市香洲区人民法院送达的(2022)粤 0402 民初 5898号《民事判决书》。据公告,本次诉讼事项的基本情况为:2022 年
  • 亚华电子将于2023年5月26日在深交所上市

  • 2023年5月25日,深圳证券交易所发布关于山东亚华电子股份有限公司股票上市交易的公告。山东亚华电子股份有限公司人民币普通股股票将于2023年5月26日在深交所上市。证券简称为
  • *ST海投跌停,面值退市风险逼近

  • 雷达财经 文|林宜采 编|深海5月24日,截至收盘*ST海投跌5.38%,收报0.88元/股,总市值12.59亿元。雷达财经注意到,从5月17日起,*ST海投已连续6个交易日里收盘价低于1元。根据《深圳
  • IPO | 易点云在港上市首日低开破发,跌超7%

  • 2023年5月25日,易点云(02416.HK)今日在港股上市,上市首日开盘价9.46港元,较IPO发行价下跌7.16%。截至9:54,易点云报9.8港元,跌3.83%,总市值56.28亿港元。易点云主要以订阅方式为企
  • 妈妈割肝救子 家庭重获新生

  • 面对镜头,昕昕露出甜美的微笑高烧刚退,洪秀娥忙着整理行李“求求别乱跑、别乱动……”洪秀娥忙着整理从上海寄来的行李,不时呼唤着儿子的乳名。1岁7个月大的昕昕终于会走路了,在
  • 罗普特拟推回购稳定股价,公司此前遭立案调查

  • 雷达财经 文|林宜采 编|深海5月23日晚间,罗普特公告称,2023年5月17日,公司控股股东、董事长、实际控制人陈延行先生向公司董事会提议回购公司股份。提议内容为公司以自有资金或
  • 是谁?两个月销售1000万元,10余种产品各个旺销

  • 从开春到入夏,江西省德兴市荣兴苗木有限责任公司董事长周卫荣一直很忙,常常是早上五点起床卖苗,半夜十点都回不了家。公司成绩斐然,刚刚结束的春销季,销售额超过1000万元。这个数
  • 广州科创大赛,清华珠三角研究院在支持!

  • 大赛奖励支持第十二届中国创新创业大赛(广东·广州赛区)暨2023年广州科技创新创业大赛常规赛拟对初创企业组各行业赛获得一、二、三等奖,优胜奖、优秀奖的企业分别给予100万元

热门文章

  • 实力女神周海媚亮相《实力派》,谈人生聊表演

  • 当影视行业逐渐摆脱了流量控制,开启最本源的以内容为导向的竞争态势之后,那些在演艺圈努力打拼数十年的优秀演员,再度迎来了全新的春天。于是影视界“叔圈”“姐圈”频频破圈,成

最新文章

  • 石亭街道:多方联动助力食安创城

  • 导报讯(通讯员 林芷逸)为扎实推进漳州市国家食品安全示范城市创建工作,守护人民群众“舌尖上的安全”,落实好食品安全包保督导工作。连日来,石亭街道全面加强辖区食品安全监管检
  • 简阳市射洪坝解放学校开展安全教育主题活动

  • 近日,简阳市射洪坝解放学校开展了“民法典进校园 法律保驾护航”安全教育主题活动,进一步加强未成年人法治教育,提升学生的法律意识,提高自我保护能力。 活动现场,市