* 后台回复“商论入群”即刻体验主编领读(订户专属全年服务)!
随着生成式AI的兴起,“数据中毒”的风险也在逐渐增加。由于类似ChatGPT和DALL-E 2的算法训练需要在开放式互联网上直接抓取数据,从理论上讲,任何能上网的人都可以在数据中注入“数字毒药”以攻击这些AI工具。有一些数据可能只是降低AI的工具性能,但有一些可能会有更特定的反应,例如在某个特定主题下提供虚假信息。虽然目前还没有数据中毒的重大案例出现,但随着直接联网的AI聊天机器人变得越来越普遍,未来对于数据的处理将会更严谨。在将数据集输入算法之前,生成式AI领域的巨头们会将从网络上抓取的数据集进行过滤。不过,更棘手的问题或许是该由谁来定义什么才算是数字毒药。订阅《经济学人·商论》APP,阅读本篇文章,了解更深入的“数据中毒”相关知识吧!
让机器学习算法走偏不是很难
构成现代AI系统的基础算法需要大量数据进行训练。这些数据大部分来自开放网络,不幸的是,这让AI容易遭受一种叫作“数据投毒”的网络攻击。这种攻击会修改训练数据集或在其中添加无关信息,让算法学习到有害或不良行为。就像真正的毒药一样,中毒的数据在造成损害之前可能不被察觉。数据投毒并不是个新概念。例如在2017年研究人员就演示过,这种攻击方法如何可能导致自动驾驶汽车的计算机视觉系统将停车标志误认作限速标志。但这种伎俩在现实世界中可行性如何,在当时还不清楚。安全关键型机器学习系统通常在由人类整理和标记的封闭数据集上进行训练,有毒数据难以混入其中而不被察觉,在波士顿的东北大学(Northeastern University)工作的计算机科学家阿利娜·奥普利亚(Alina Oprea)说。但随着近期运行在大语言模型(LLM)之上的ChatGPT和图像制作系统DALL-E 2等生成式AI工具的兴起,企业已经开始在大得多的存储库上训练算法,这些存储库里的数据往往是从开放的互联网上直接抓取的,而且在大多数情况下完全不加选择。从理论上讲,任何能上网的人都可以注入数字毒药攻击这些AI工具,苏黎世联邦理工学院(ETH Zürich)的计算机科学家弗洛里安·特拉默(Florian Tramèr)说。。... ...《经济学人·商论》持续关注全球大趋势,欢迎订阅浏览。订阅商论,即可免费加入【主编领读社群】获取完整解读