美国知名歌手泰勒·斯威夫特再度成为了AI深度伪造的受害者，近日，大量由人工智能生成的泰勒虚假色情、血腥照片在多个社交平台疯传，浏览量已超过千万，引发社交媒体震动，这也引发了美国白宫的注意。

深度伪造的“泰勒·斯威夫特”在网上疯传

泰勒团队或将起诉相关网站

据报道1月26日，白宫发言人皮埃尔在记者会上回应了这一事件，并表示：“我们对这种图片的流传感到震惊。虽然社交媒体公司在内容管理方面作出了自己的独立决定，但我们认为他们在执行自己规则方面可以发挥重要作用，以防止错误信息和未经同意的真实人物的私密图像传播。”她还尤其补充了执法不严对女性的影响更大，她们是网络骚扰的主要目标。

据了解，这些深度伪造的泰勒照片是由某人或某些人使用AI生成并上传到了一家不良网站上，这一网站上充斥了众多以名人为主角的不雅照，虚假照片很快传播到了主流社交媒体并在网友之间迅速传播，这也引起了泰勒数以千万粉丝的强烈不满和愤怒，粉丝们发起了“保护泰勒”的话题，“这太恶心了，这是非法的。”“停止传播斯威夫特的人工智能图片，她是一个有感情的人，她会受伤。”“尊重泰勒·斯威夫特，尊重所有女性。”

目前部分参与传播的账号已被社交平台封禁，各社交平台也在清除流传的图片，但是漏网之鱼依然存在，有人自建网站或者通过匿名群组售卖这些深度伪造的照片。实际上这不是泰勒第一次成为AI深度伪造的受害者，就在不久前，有人使用人工智能技术仿造了她的声音和形象来为商品进行推广，让消费者误以为这是泰勒代言的商品。据报道，目前泰勒的团队已在考虑通过法律手段来应对这一事件，传播虚假照片的网站可能会面临法律诉讼。

AI深度伪造技术引大众不安

立法约束迫在眉睫

在粉丝们为泰勒的遭遇而深感愤怒的同时，其他网民则传达出了对AI深度伪造技术的发展感到强烈不安的声音，“泰勒是影响力很大的明星，要是我们普通人也被深度伪造了不雅照可怎么办？”“AI发展的太快太恐怖了，我都不敢想如果是我那真的要跳进黄河洗不清了。”“支持AI立法，滥用危害太大了。”“这真的和我们的生活息息相关，ai照片视频的人类面部表情已经很像真人了，声音也能模仿得一样，这样的骗局普通人难以分辨。”从2023年起，国内已发生多起AI深度伪造诈骗案件，中招率相当高，叫人防不胜防，也已出现了多起利用AI技术造黄谣、传播不良信息的恶性事件。

面对以假乱真的AI伪造技术，国内外的专家学者、相关领域的企业机构也想过不少应对办法，比如在去年12月，一款名为mist的隐形图片水印在网上开源发布，该水印用于抵抗AI模型对图片的训练和抓取，这一水印能够极大程度的干扰AI模型，使之生成的图片遭受不同程度的破坏。此外，也有开发者建议让AI生成平台、公司给相关的AI生成软件加上隐形水印机制，以快速识别AI并进行溯源，各个社交平台也应以技术手段加强对于疑似AI生成图、文、视频内容的识别功能。在国内抖音、小红书等平台也已对疑似为AI生成的图文视频内容进行标识以提示用户小心分辨真假。

然而说到底，这些防止AI、识别AI的技术手段是治标不治本的，对AI深度伪造只能起到有限的阻止、震慑作用，深度伪造技术的泛滥根源之一在于其中有利可图，制造传播这些深度伪造图片、视频的人不仅仅是出于个人的猎奇心态，还可能从中获得高额回报，即便国家法律认定AI深度伪造是不合法的行为，也无法阻止利欲熏心者继续滥用这一技术。对AI技术的管控已经不能仅停留在倡议、呼吁的阶段，规范的立法和相应的惩处制度的推行也迫在眉睫，Ai技术不是洪水猛兽，但确实需要一个能约束它的铁笼。

扬子晚报|紫牛新闻记者 沈昭

编辑：秦小奕