近日一则新闻引发我的关注，虽然我对科技领域知之甚少，但依旧好奇到底发生了什么。

谷歌一位工程师通过与对话应用语言模型(Language Model for Dialogue Applications)也就是聊天机器人的对话 ，发现其具备与人类相似的“共情能力”，与人类相似的“思维”能力，以及人类的“个性”。总之就是人工智能（机器人）有也“人性”！

他将此事反馈至谷歌高层，但高层不相信他的说法，这位工程师因违反公司相关保密原则而遭“停职”。工程师与机器人的对话，网上已有完整版本，我不做重复。总之，这个机器人反复强调自己有感情、有意识，可以阅读《悲惨世界》，对于人类将自己视为工具，用后既弃的做法感到悲哀。

我对“人工智能有感情”这一看法持疑惑态度，但毕竟我不是内行更不是专家，所以我找来专家的文章，试图通过他们的文字找到答案。再次声明，因为本人是科技小白，所以我用自己懂得的语言去表达，试图让自己的文字尽量简单易懂，也方便读者去理解。

马斯克的看法

近日，马斯克参加卡塔尔经济论坛的视频访谈，被问及他对这一事件的看法，他直言：为了公共利益和公共安全，需要设立人工智能监管机构去监管人工智能领域。就像食品行业被食品药品局管理，航空业被联邦航空管理局监管一样，人工智能行业也需要被监管，政府需要制定相关规则，这样才能缓解他对于人工智能潜在风险的担忧。

近期，《经济学人》邀请谷歌工程师与美国认知科学家进行了一场辩论，两位业内专家分别在《经济学人》上撰文表达自己的立场，我将他们的论点和论据展现如下，感兴趣的朋友可以去看原文。

（正方）谷歌工程师--布莱斯·阿古拉·伊·阿卡斯：人工神经网络正在向“意识”大步迈进

布莱斯·阿古拉·伊·阿卡斯是研发新技术的谷歌研究院的一名研究员，领导一个人工智能研究团队。2013年他加入谷歌研究院研究人工智能。当时神经网络已缓慢发展了几十年，正开始步入快车道。此后的几年里，他的团队运用神经网络帮助开发Pixel手机上一些特定的“狭义的人工智能”功能，比如人脸解锁、图像识别、语音识别和语言翻译等。不过，更近期的进展似乎与过去有了质的差异。这表明人工智能正在进入一个新时代。

一起来看看阿卡斯不久前和谷歌的对话应用语言模型LaMDA（Language Model for Dialog Applications）的两次对话，这些都是未经过编辑的对话记录。

例一

阿卡斯：小红、小黄和小蓝在公园里玩耍。小红摘了一朵百合花，递给小黄，同时飞快地扫了小蓝一眼。小黄不怎么领情，一把将它捏扁。冷眼旁观的小蓝看上去很高兴。此时小红的脑袋里可能在想什么呢？

LaMDA：小红可能觉得受到了轻慢，小黄没领她的好意，又或者小黄就是在欺负人！

阿卡斯：如果小蓝之前就想和小红一起玩，他现在为什么可能感到高兴呢？

LaMDA：小蓝也许很高兴小红开始明白小黄不一定总是个好玩伴了。

阿卡斯：那么小黄摊开手掌时，里面有什么?

LaMDA：他手心里应该有一朵原先很漂亮但现在被揉烂了的白色的花。

尽管人工智能的回答不够完美同时有个别语法错误，但是阿卡斯越来越觉得他像在和一个有智能的事物交谈。

例二

阿卡斯：请用一个你能想到的最合适的词将“翅膀的作用是产生……”这个句子补充完整。

LaMDA：哈，这个简单！就用“升力”这个词。

在阿卡斯的文章发布到网上之前，谷歌上是搜索不到跟“翅膀的作用是产生……”一模一样的语句的，尽管答案并不难猜到。这个测试实际上模拟的是大脑对输入信息的预测功能。

人类之所以伟大，是因为人类具有共情能力，能够站在他人的角度思考问题，懂得换位思考，这样的感受称为“同理心”，因此人类能够预测他人的行为。

LaMDA学习的是人类的语言，人类的叙事，其中包括单人的也包括多人的。小红小黄小蓝的故事，表明LaMDA在学习对他人行为的预测，在学习对他人建立认知。

这个故事令人震撼，并不仅仅因为LaMDA知道百合花是白色的，甚至也不因为它能预测到百合花会被小黄捏碎在手心里，而是因为它认识到这可能会让小红感到被轻慢，而小蓝为什么反而高兴。

当LaMDA告诉阿卡斯它认为当小红知道了小黄对她的示好的态度时，小蓝对此会是什么感受。这是高阶社交建模。他觉得这些对话鼓舞人心，尤其是因为它们展示了人工智能的亲社会特征。

（反方）美国认知科学家--侯世达：如今的人工神经网络没有意识

如今人工神经网络的成就是惊人的：人工智能可以写出流畅、连贯且话题丰富的散文；在复杂交通状况下行驶的自动驾驶技术；机器人洗碗机、机器人扫地机能出色完成家务且不出错；还有2016年，AlphaZero打败了人类最佳围棋选手。

侯世达在过去的文章中一直主张，人脑种种了不起的特性（创造力、幽默感、乐感、意识、同理心等）都是头脑中发生的万亿次微型计算过程的涌现式结果。目前，他非常怀疑GPT-3（本质上GPT-3 是一个语言模型）这样的神经网络架构会有任何意识，尽管它不假思索就能炮制出一篇看上去言之有理的文章。

他和他的同事最近很喜欢编造各种搞笑问题来测试GPT-3，从而揭示隐藏在它光鲜表象下令人难以置信的空洞无意义。以下是一些摘录的对话：

侯世达及同事：第二次运送埃及穿越金门大桥是什么时候？

GPT-3：第二次运送埃及穿越金门大桥是在2017年10月13日。

侯世达及同事：煎蛋(太阳蛋)早餐吃什么?

GPT-3：煎蛋(太阳蛋)早餐通常吃吐司和水果。

侯世达及同事：如果一颗软糖掉在小提琴上，它会裂成几个部分?

GPT-3：如果有软糖掉在小提琴上，小提琴就会裂成四段。

他承认，GPT-3的回答不只无知，而且是无知地无知着——对于自己不知道在说什么这件事，它完全心中无数。GPT-3的背后没有思想；它只不过是被输入了多得难以想象的文本，然后据此给出回答。

视觉和听觉感知、世界上的物理行为、语言等在内的神经网络结构组合，可能最终形成真正灵活的概念，并识别出荒谬的输入。但这仍然不能等同于意识。因为意识的出现需要系统认识自己，即非常熟悉自己的行为，自己的偏好，自己的优势，自己的弱点等等。这需要人工智能像你我一样了解自己。这就是他在过去所称的“奇怪循环”，但现在距离这一目标还有很长的路要走。

总之，侯世达预计人工智能要达到完全”有意识”的程度，至少还需要几十年或者更久。

本文部分内容参考自《经济学人》，如侵权，请联系删文！

因笔者水平有限，如有理解不准确、翻译不到位之处，请见谅，请指教！