服务粉丝

我们一直在努力
当前位置:首页 > 财经 >

如何判断AI生成的特朗普被捕照是深度伪造的假货?

日期: 来源:数世咨询收集编辑:nana

你在社交媒体上看到的特朗普被捕照是AI生成的,虽然疯传,但绝对是假的。不过,有些照片般逼真的图片倒确实非常令人信服。其他的看起来就更像是视频游戏或者清醒梦截图了。Bellingcat创始人Eliot Higgins的一篇推特帖子在该平台上的浏览量涨到了300多万次,帖子显示特朗普被合成作战警察包围,他四处奔逃,还挑选监狱连体裤。

Higgins难道指望看客能分辨出他帖子里这种AI生成的虚假图像,与这位前总统预期被捕时可能流出的真实照片之间的区别吗? 

“我为这篇帖子生成了许多图片,很明显,焦点往往放在描述的首要对象身上——这个案例中也就是各位特朗普家族成员,焦点周围的一切通常不太对劲。”Higgins在电子邮件中说道。看向图片焦点之外。图片的这些其他部分看起来是不是后来加上去的?

尽管最新版AI图像工具取得长足进步,比如Midjourney(上述推特帖子中用到的就是该工具的第5版)和Stable Diffusion,但小细节中的错误仍是昭示伪造图像的常见标志。虽然AI艺术逐渐大行其道,但很多艺术家指出,现有的各种算法依然难以风格统一地自然呈现人体。 

仔细观察推特帖子中的特朗普AI生成图,很多图片中他的脸看起来很像真的,手也像,但身体比例就可能有些扭曲或融进旁边警官身上了。但是,虽然现在看起来这些违和之处还很明显,但经过更多训练和改进之后,算法或许就能够避免出现看起来奇奇怪怪的身体部位了。

还需要其他“马脚”吗?找找墙上、衣服上或其他物品上的奇怪文字。Higgins指出,乱七八糟的文本是区分真照片与假图像的一种方式。比如说,伪造的特朗普被捕图里,警察佩戴的徽章、帽子和拿着的其他文件上似乎有字。仔细一看,这些文字毫无意义。

另外就是,有时候你可以通过夸张的面部表情来判断图像是AI生成的。Higgins表示:“我还注意到,如果你让Midjourney生成表情,它往往会以夸张的方式呈现,连微笑这样的表情都能给你弄到笑出一堆褶子。”特朗普妻子脸上的表情更像是复刻了爱德华·蒙奇的《呐喊》,或者源自A24公司尚未发行的惊悚片剧照,而不像是摄影师拍下的照片。

谨记,世界领导人、名人、网红,以及网上流传有大量照片的任何人,其深度伪造照片看起来可能比AI为互联网曝光度低的人生成的照片更像真的。“很明显,人越出名,AI需要学习的图像就越多。”Higgins表示,“所以,非常著名的人士就渲染得极好,而不太出名的人往往就有点歪斜。”如果想要放下对算法能重建你面部的担忧,那你和朋友浪了一晚之后,就得三思而后发自拍了。(虽然AI生成器可能早就已经从网上抓取了你的照片数据。)

下届美国总统大选之前,推特关于AI生成图像的政策是怎样的?这个社交媒体平台目前的部分政策是,“不能分享可能欺骗或迷惑用户并引发伤害的合成、篡改或断章取义的媒体(‘误导性媒体’)。”但推特为并非故意误导浏览者的表情包、评论和帖子开了多个例外。 

就在几年前,我们还很难想象连普通人都很快就能在家里制作出非常逼真的世界领导人深度伪造图像。随着区别AI图像与真实图像越来越难,社交媒体平台可能需要重新评估自己对合成内容的处理方式,尝试找到各种办法,引导用户安然畅游生成式AI那复杂而又往往令人惶惑的世界。


以上图片转自Eliot Higgins的推特


参考阅读
AI可信吗?
对抗性AI攻击凸显基本安全问题
AI驱动的XDR解决方案和安全运营服务
ChatGPT爆火出圈带来的AI网络安全的思考

相关阅读

  • Adobe落地图片生成AI服务

  • 图片来源:Adobe界面新闻记者 | 彭新3月21日晚,图像软件公司Adobe宣布推出名为“萤火虫”(Firefly)的创意生成式AI服务,入局AIGC。目前Firefly已经集成在Adobe的企业级创意工具Ado
  • 微软Bing上线AI绘画功能

  • 出品 | OSC开源社区(ID:oschina2013)微软上线了 Bing Image Creator,这是一项采用 AI 技术的基于文字生成图像服务,底层采用了 OpenAI 提供的高级版 DALL∙E 模型。用户只需要使
  • 微软开源 Visual ChatGPT,7天斩获2.2万stars

  • ↓推荐关注↓来源:OSC开源社区(ID:oschina2013)除了大力投资 Open AI ,微软还亲自下场大搞 AI 。7 天前,微软开源了 Visual ChatGPT ,这个软件可以连接 ChatGPT 和一系列视觉模型,
  • Spring Boot + OpenAI 生成图像

  • 关注我,回复关键字“spring”,免费领取Spring学习资料。ChatGPT 是由 OpenAI 开发的强大语言模型,可以用于生成类似人类的文本。OpenAI API 允许开发人员访问该模型并在其自己
  • 机器视觉边缘检测算法详解

  • d点击下方卡片,关注“新机器视觉”公众号重磅干货,第一时间送达边缘检测相关算法的步骤如下: 1、滤波:边缘检测算法主要是基于图像强度的一阶和二阶导数,但导数的计算对噪声很敏
  • 一张照片定制自己的3D数字化身?

  • 近日,由微软亚洲研究院提出的 Roll-out Diffusion Network (RODIN) 模型,首次实现了利用生成扩散模型在 3D 训练数据上自动生成 3D 数字化身(Avatar)的功能。仅需一张图片甚至一

热门文章

  • “复活”半年后 京东拍拍二手杀入公益事业

  • 京东拍拍二手“复活”半年后,杀入公益事业,试图让企业捐的赠品、家庭闲置品变成实实在在的“爱心”。 把“闲置品”变爱心 6月12日,“益心一益·守护梦想每一步”2018年四

最新文章

  • 维护河湖健康生命 共同守护好一江碧水

  • 我市举行第三十一届“世界水日” 和第三十六届“中国水周”宣传活动岳阳晚报全媒体讯(记者 颜君)2023年3月22日是第三十一届“世界水日”,3月22日至28日是第三十六届“中国水周
  • 传拯救者手机全线裁撤,联想失去“联想”!

  • 3月21号晚上,联想召开了隆重的拯救者新品发布会,推出多款笔记本、平板电脑,以及周边生态产品。就在我还疑惑,为何没有新款拯救者手机时,脉脉上的一则消息,给出了答案。一位脉脉平
  • 张榜!

  • “芯战”打响了一纸诉讼本土企业被告上法庭纯正“中国芯”被贴上抄袭标签 “这不是一场维权的官司而是一次有备而来的掠夺”这场没有硝烟的战争战的是技术、是成果也是魄力