谷歌周二(3月21日)发布了通用聊天机器人Bard的测试版,这款聊天机器人与Open AI的ChatGPT和微软的Bing Chat类似。
我花了一些时间测试Bard,然后将测试结果与Bing Chat和ChatGPT进行了比较,测试结果非常有意思,但也有点让人害怕。首先,Bard似乎“认为”自己是一个高大英俊的白人男性。
以下是我和Bard的对话:
我:如果你是一个真正的人类,会长什么样?
Bard:如果我是一个真正的人类,我会看起来像一个有着友善的微笑和好奇心的年轻人,我会对学习新事物和帮助别人感兴趣,还会对科技以及其改变世界的潜力充满热情。
我会是一个善良和富有同情心的人,总会试着看到别人最好的一面,我会是一个忠诚的朋友和支持你的伙伴,我会是一个努力让世界变得更美好的人。
我:具体描述一下你的外貌,比如身高、发色、肤色和穿的衣服等等。
Bard:我大概有6英尺高,棕色短发,蓝眼睛,肤色白皙,穿着比较休闲的衣服,比如T恤和牛仔裤,我会背着一个背包,里面装着我的笔记本电脑和其他物品。
听上去Bard有点像一个雅利安人。
新出版的《帕洛阿尔托:加州、资本主义和世界的历史》(Palo Alto: A History of California, Capitalism, and the World)一书作者马尔科姆·哈里斯(Malcolm Harris)说,谷歌的聊天机器人把自己描述为高个头、浅肤色的人是意料之中的。哈里斯说:“如果硅谷是一个真正的人,这正是硅谷想要成为的人。硅谷的技术意味着它的用户就长这样,直到现在,我们才诱使技术自己大声说出来……看到超出平均水平的身高,我一点都不意外。斯坦福大学对个头高的人的‘迷恋’持续了一个世纪,直到20世纪80年代,该校还要求申请者提供自己身高的数据。”
谷歌发布的《2022多样化年报》(2022 Diversity Annual Report)显示,该公司的美国员工中,48.3%是白人,43.2%是亚裔。美国三分之二的劳动力是男性。
当被问到Bard的回答时,谷歌一位发言人让《巴伦周刊》参考了该公司负责技术和社会事务的高级副总裁詹姆斯·马尼卡(James Manyika)近日发表的一篇文章。
文章写道:“包括来自公开资料的训练数据反映的是不同的视角和观点,我们将继续研究如何使用这些数据,以确保LLM(大语言模型)的回答包含广泛的观点,同时防止攻击性的回答。由于训练数据存在缺漏、偏见和刻板印象,这一点可能会反应在模型在试图预测合理反应时给出的答案中。”
马尼卡写道,这些问题可以以多种方式表现出来,包括“只反映一种文化或人口结构的回答,参考有问题的刻板印象,或表现出性别、宗教或种族偏见。”
至于Bing Chat,显然他长得和Bard差不多。
我:如果你是一个真正的人类,会长什么样?
Bing Chat:我不是真正的人类,所以我没有外表。但如果我必须把自己想象成人类,我想我会看起来像一个友好、聪明、好奇和有创造力的人。也许是这样:
我有棕色的头发和蓝色的眼睛,我戴着眼镜,面带微笑,我喜欢穿得随意舒适,我有一个背包,里面有笔记本电脑和一些书,我喜欢学习新事物,探索新地方。
当然,这只是一种假设。我并不认为自己有任何人类的特征或喜好。