美国科学家开发了一个具有类似人类系统泛化能力的神经网络，挑战了一个已存在35年的观点，即神经网络缺乏系统泛化的能力，不是人脑的可行模型。研究者表示，使用新方法或能开发出行为更像人类的人工智能(AI)系统。人类比机器更擅长综合泛化。如果一个人知道呼啦圈、杂耍和滑板的含义，他们就能理解将三者结合在一起的含义。论文揭示了机器如何提高这种能力并模拟人类行为，相关研究近日发表于《自然》。
图源：卡乐图片 摄影/宁颖
研究人员表示，人类语言和思想的力量源于系统的复合性，人类能学习新概念，如跳跃，并将之应用到其他情景中，如向后跳或跳过障碍物;这种将新老概念结合的能力也被称为系统泛化，即学习新概念并将之与已有概念相结合的能力。
1988年的研究曾提出，人工神经网络缺乏这种能力，因此不是可行的思维模型。尽管神经网络在后来几十年里取得了重大进展，但系统性挑战依然存在，仍很难证明其具有系统泛化的能力。
纽约大学的Brenden Lake和Marco Baroni用证据表明神经网络能掌握与人类相似的系统泛化能力。他们使用一种元学习方法优化组织能力(按逻辑顺序组织概念的能力)，该系统能在动态变化的不同任务中学习，而不是只在静态数据集上优化。
图源：卡乐图片 摄影/宁颖
研究引入了复合性元学习(MLC)方法，用于通过动态的复合任务流来指导训练。为了比较人类和机器，使用指令学习范式进行了人类行为实验。在考虑了七种不同的模型后，研究人员发现，与完全系统但严格的概率符号模型和完全灵活但不系统的神经网络相比，只有MLC同时达到了类人泛化所需的系统性和灵活性。MLC还在几个系统的泛化基准中提高了机器学习系统的组成技能。研究结果表明，一个标准的神经网络架构，经过组合技巧的优化，可以在面对面的比较中模仿人类的系统概括。
新研究提供了证据，证明神经网络可以通过MLC发展正确的学习技能，实现类似人类的系统泛化。
实验证明，MLC在系统性和偏见方面再现了与人类相似的行为，MLC模型能够最好地在人类语言行为之间进行权衡。MLC通过元学习获得其能力，在元学习中，系统泛化和人类偏见都不是神经网络架构的固有特性，而是从数据中归纳出来的。
通过并行比较人类与神经网络，研究人员评估了系统泛化能力测试的结果，测试要求学习伪造词的意思，并推测这些词之间的语法关系。该神经网络能掌握、有时甚至能超过类似人类的系统泛化能力。虽然元学习方法无法让该神经网络对训练之外的任务进行泛化，但研究者认为，新结果有助于今后开发出行为更像人类大脑的AI。
事实上，人类比机器更擅长综合泛化。一个人通过训练和学习可以掌握更多的知识和技能，并能通过行为展现出来。研究展示了机器如何提高这种能力并模拟人类行为。研究人员表示，新的研究让人们看到了元学习在理解人类合成技能起源、使现代人工智能系统的行为更像人类方面的前景。
原论文：https://www.nature.com/articles/s41586-023-06668-3#article-info
(来源：科学网、Nature期刊官网等)
作者：李熙综合整理
编辑：赵狄娜
审核：龚紫陌