作者：赵蓓（北京师范大学艺术与传媒学院博士后）

来源：《青年记者》2023年第2期

近年来，人工智能技术与互联网平台加速融合，机器人、算法、深度学习等被越来越多地应用到信息传播过程中，网络传播生态正在从完全由人主导变为“人机共生”的状态[1]。社交机器人作为算法驱动的智能代理正广泛参与到公民对话中，成为影响和干预网络信息传播的重要因素。通过传播虚假信息、营造虚假意见气候、制造共识等手段[2]，社交机器人对网络传播秩序产生深远影响。

“信息失序”（information disorder）主要指的是在网络公共领域中有意或无意传播具有误导性、虚假性或有害性的信息[3]。简单地说指的是“信息环境受到干扰”[4]。根据Wardle 和 Derakhshan的观点，信息失序主要涵盖错误信息（misinformation）、虚假信息（disinformation）与恶意信息（malinformation）三种类型。信息失序并非网络传播生态下的一种新现象，但新技术的发展刺激并放大了信息失序可以达到的速度、规模和范围[5]。

信息失序的背后是多种因素共同作用的结果，既有信息传播结构性的因素，也有来自个人的影响，本研究重点关注的是“技术—社会”层面。大量研究将社交机器人与舆论操纵联系在一起[6][7][8]，认为社交机器人很可能有意传播虚假信息（或错误信息）来达到某种目的，这无疑加剧了信息失序的演变。社交机器人与信息失序之间有何关联？它一定会带来信息失序吗？我们又该如何应对？本研究从社交机器人自身特点出发，考察社交机器人对网络传播秩序的影响。

机器成为传播者：

人机共生与信源不确定性

（一）人机共生的媒介系统。技术的更迭往往伴随着人类社会的巨大发展，每一次新媒介技术的出现都促进了传播变革。互联网技术的发展在更多维度上拓展了人类的感官，是从传统媒介视听觉广度延伸的“综合”走向深度延伸的“融合”[9]。人工智能技术的发展，则促使传播主体由“人”转向“人机共生”，媒介本身变成具有主体能动性的“智能传播者”。在信息生产与分发、事实核查、用户的交流与互动等各个环节，人工智能技术正在发挥作用，改写信息传播和人类交流的内涵，重塑人、技术与社会之间的互动关系[10]。随着人工智能技术的快速发展，社交机器人也成为网络空间的“常驻民”，与人类一起共同构成“人机混合”的媒介系统。早期的机器人（Bot）是由计算机科学家设计而成的，用于在封闭平台内执行简单的监管任务，但机器人很快就从平台和网络维护任务扩展到社交互动，旨在回答简单的问题或收集所需的数据[11]。随着人工智能技术的发展，机器人也被赋予了越来越多的社交属性，它们在社交网络中模仿人类的生活习惯和行为方式来主动与人产生交互。简单来说，我们可以将社交机器人理解为由算法生成的承担一定任务、发布特定信息并与人类进行互动的社交媒体账号。

（二）社交机器人加剧信源不确定性。当前已有许多研究指出了社交机器人的流行。南加州大学的研究显示，在Twitter中9%-15%的活跃用户是机器人而非人类[12]。Facebook则在2019年第一季度“禁用”了21.9亿个虚假账户，这些账户大多是机器人——由自动程序创建以发布某些类型的信息，同时Facebook还承认在其活跃用户中，大约5% 可能是由机器运行的[13]。安全公司Incapsula估计超过55%的互联网流量是由这些自动化的计算机程序产生的[14]。在单一议题讨论中，社交机器人也十分活跃。在2016年美国大选期间，研究指出Twitter中大约有40万机器人参与总统选举的政治讨论，产生了约380万条推文，占总体的20%[15]。而在英国“脱欧”运动中，研究者则发现了一组由13493个社交机器人组成的网络来支持脱欧运动[16]。在与中国相关的议题中，例如中美贸易争端、北京冬奥等，Twitter中社交机器人也产生了20%-30%的流量[17][18]。可以看到，不管是在整个社交媒体生态中，还是单一议题讨论中，社交机器人均十分活跃，成为网络舆论的重要组成部分。

社交机器人展现出类似于人类的社交智慧，延伸了人的“思维”和“主体意识”，成为能够与人类进行交互的主体[19]。社交机器人在一定程度上丰富了人类可交往的对象，促使信息传播主体更加多元。当前社交媒体中大量存在的社交机器人仍然是相对比较低级的，但人们依然很难准确判断哪些是社交机器人。社交机器人的隐蔽性和不透明性加剧了人们获取信息来源的不确定性，从而进一步扩大了信息失序的可能。根据Wardle和Derakhshan的研究，信息失序的生态系统包括不同的行动者，行动者可以是机器人也可以是人[20]。如果在创造、生产和传播信息的环节行动者的来源是模糊不清的，或者带有一定的目的性，那么信息失序发生的概率将会大大提升。

自动化信息生产：

扩大信息规模与信息污染

（一）扩大信息规模。人工智能技术的发展扩大了信息生产的规模，提高了信息生产的效率，在信息生产的各个环节自动化和智能化程度不断提升。在人工智能技术发展初期，机器承担的角色主要是人类的辅助者，如记者、编辑、作家等的生产工具。随着大数据、算法和人工智能技术的应用和发展，智能机器在承担辅助内容生产创作的功能之外，还具备了超越人类能力极限的数据采集和创新内容类型与形式等功能，这些功能使智能机器成为内容生产网络中愈发重要的核心行动者[21]。

在社交媒体平台上，社交机器人延续了自动化信息生产的特征，不仅可以实现与人互动，还可以在短时间内产生大量内容。这些内容可以营造议题的虚假流行，推动议题成为热门“趋势”，以此来获得更多用户的注意。研究显示，在关于英国“脱欧”公投的Twitter信息中，不到1%的社交机器人生产了约33%的内容[22]。在分析了人类用户和社交机器人发布推文的模式后，研究者发现社交机器人虽然在公投期间产生了大量推文，但这些推文中只有很少一部分是原创推文，大部分是转发关于“脱欧”议题的内容。在2015年加州迪士尼乐园麻疹暴发事件中，通过进一步对社交机器人的立场进行分析，Yuan等学者发现同一组用户中会发起更高频率的转发，社交机器人可能会加深这一趋势[23]。也就是说，在当前社交媒体讨论中，社交机器人更多地是通过转发而不是原创来实现自动化信息生产和操纵舆论的目的。

当然社交机器人也在相关议题讨论中生成了一些原创的推文，具有非常明显的机器痕迹。主要表现为以下两个特征：一是通过使用相关话题标签来快速聚焦议题或瞄准目标受众。近几年，标签活动成为制造舆论和推动社会事件的常见策略，用户只需要发布或转发带有相同标签的推文，这些零散分布的推文便可以聚集在一起，形成舆论效应[24]。例如在中美贸易争端议题讨论中，社交机器人经常将#tradewar与#ImpeachTrump、#TheResistance等与政治相关的话题关联在一起[25]。二是分享外部新闻链接或新闻标题。社交机器人并不总是发布带有明确立场倾向的内容，而是通过分享其他权威媒体的观点来隐蔽地表达自己的意见。例如在与马克龙泄密相关的议题讨论中，社交机器人通过发布指向知名新闻媒体和其他外部媒体渠道的信息的方式来参与讨论[26]。

（二）信息污染。社交媒体是快速生成和传播信息的平台，巨量的用户在社交媒体平台上进行交互并创建大量数据。但与电视和报纸等传统新闻来源不同的是，由于把关人的缺失，社交媒体平台上传播的内容可信度值得怀疑。特别是在突发事件当中，信息呈指数级速度增长，假新闻或虚假信息淹没大量事实，信息污染也由此而生。信息污染主要指的是信息过载或者信息中混入有害的、欺骗性或误导性的内容。

在社交媒体中，社交机器人不知疲倦、不分昼夜选择性地放大信息。虽然在一些话题讨论中社交机器人可以通过创建内容来活跃议题讨论，平等地表达观点和意见，但在现实应用中这些信息通常是垃圾信息或无关信息，会在一定程度上造成信息污染。研究者指出在社交机器人生产的内容中有一个典型特征，即通过创建大量替代性的垃圾话题标签或无关信息来掩盖现实讨论，这也被研究者称为“烟雾遮蔽”或“标签劫持”[27]。例如，在叙利亚战争讨论中，一批亲政府的社交机器人账号每隔数分钟便发布大量无关推文（风景、营销、宗教等内容），来削弱在线抗议者的声音。总之，基于自动化的内容生产功能，社交机器人显然要比普通用户在参与议题讨论和制造共识方面更具潜力。社交机器人生成的内容不仅会影响公众对话题的讨论和对周围世界的感知，还会对现实数据集造成污染，影响研究者对真实舆论的判断。

目的性催生误导性：

虚假信息与非理性表达

（一）社交机器人的目的性。社交机器人作为一种计算机程序，它通常被设计成拥有不同复杂程度和行为准则的行动者，在执行任务时不需要人为地干预。例如，有些社交机器人被编码成什么也不做，只是一遍又一遍地重复相同的消息或一组消息，这种机械地重复是早期社交机器人的典型活动模式。其他社交机器人则在社交媒体上执行原本可以由人类用户完成的事情，包括发布或转发消息，关注或取消其他账户，设置投票或直接向特定用户发送消息等，这一类机器人复杂程度更高、规模更大。需要注意的是，所有这些社交机器人在被部署到社交网络中时都必须遵循既定的算法规则，有些则承担着一定的任务。算法规则是由人来制定的。社交机器人可以帮助人类传播信息，但同时它可以在利益集团的驱使下“制造信息”从而达到操纵舆论的目的。

社交机器人现阶段更多地被应用到舆论阵地争夺当中，这就导致社交机器人必然带有一定的目的性。有组织的社交机器人舆论操纵出现在2010年美国中期选举中，研究者发现，在那次选举中社交机器人被用来为一些候选人获得支持，并抹黑他们的对手[28]。此后，政治领域始终是社交机器人应用最为广泛的领域。有研究指出在美国大选、法国大选、英国“脱欧”、德国大选等政治事件中，社交机器人均十分活跃，成为政党间竞争的有力武器。同时，社交机器人也已经成为不少国家和政府行动者进行计算宣传的工具。牛津大学的研究指出，在全球范围内有81个国家利用社交媒体进行计算宣传，其中就包括使用社交机器人[29]。Twitter安全披露的信息显示，许多国家的政府涉嫌利用社交机器人发布或散播有利于地缘政治的叙述，同时推动了有关事件的欺骗性叙述，严重扰乱了正常的公众交流。

（二）实现目的性的手段。社交机器人往往通过选择性放大对自己有利、对敌方不利的误导性信息来实现统一的政治或经济目的。在扩散不利信息的过程中，假新闻或虚假信息成为社交机器人的广泛选择。Shao等人分析了推特上传播的40万篇文章和1400万条信息后发现，社交机器人在传播低可信度来源的信息方面发挥了不成比例的作用。在一篇文章迅速传播之前，社交机器人会在早期传播时放大这些内容，通过回复和提及（@）来锁定粉丝众多的用户，而人类用户很容易受到此类消息的操纵[30]。Bovet和Makse同样调查了 2016 年美国大选前几个月假新闻在 Twitter 上的传播情况，得出的结论是，社交机器人发布包含假新闻的网站链接的频率高于任何其他账号类型[31]。在新冠疫情肆虐的背景下，社交机器人传播新冠病毒来源、种族仇恨、政治阴谋论等相关内容，与人类用户关注公共健康和福利形成鲜明对比[32]。社交媒体上虚假信息和捏造内容的创建、传播和消费越来越受到关注，尤其是在获取此类来源的便捷性以及人们对此类虚假信息的存在缺乏认识的情况下，社交机器人的出现在一定程度上加速了虚假信息的流通。

此外，社交机器人还通过非理性表达（如传播负面、仇恨或煽动性信息）来破坏公众舆论环境，加剧不同声音之间的两极分化。研究发现，俄罗斯互联网研究机构(IRA)在推特上部署社交机器人，通过在政治敏感话题上发布煽动性内容，加速美国的政治两极分化[33]。在2018年伊朗大规模抗议活动中，社交机器人是造成辩论中负面情绪的主要原因。社交机器人使用了更多的负面词汇，几乎每条社交机器人推文中的负面情绪都远高于其他账户[34]。而在2017年加泰罗尼亚公投期间，社交机器人通过大量生成并宣传针对独立主义者的暴力内容，最终加剧了在线社区的极化[35]。由此可见，社交机器人可以通过集体行动在政治推文的数量和情绪上产生重大变化，并影响人们对现实的看法，甚至影响数百万人的投票行为。事实上，社交机器人带来的负面影响已经在诸多议题中显现，公众对政治、健康、科学、文化等重要议题的看法，已经存在严重的极化问题，这正是信息失序的典型结构[36]。

算法连接用户：

协调行动与僵尸网络

（一）协调行动（Coordinated action）。随着算法在人们日常生活中的广泛应用，算法正以一种隐蔽的方式影响社会现实，催生人们的“技术无意识”[37]。算法系统已逐渐被视作决策过程的一部分，对个人、社会和国家造成潜在的重大影响。在社交媒体中，算法系统更是无处不在，通过算法来引导用户接收信息、优化热门趋势排序、协同过滤信息等，使受众获取信息的习惯和认知方式都产生了重大改变。在国际传播领域，世界各国之间的竞争正在演变成以算法为基础的技术之争，依托算法实现对目标受众的精准化传播也成为许多国家开展国际传播工作的重要方式。

社交机器人的技术核心同样离不开算法。社交机器人在被部署到社交媒体平台后必须遵循一定的算法规则，在算法的统一指挥下，批量社交机器人之间实现了“共享大脑”，这在最大程度上提高了社交机器人之间的联通性。在执行任务时，社交机器人网络结构也更加紧密，能够快速实现信息的爆发式增长。在与其他用户的连接方面，通过算法社交机器人可以快速实现人机交互，将信息在最短的时间内传递给目标受众。可以说，算法实现了社交机器人群体内与群体外两方面的连接，打通了用户与用户之间交往的通道。

“协调”指的是多个不真实的账户或角色一起工作以推动某个项目或主题[38]。基于算法技术的连接和推动，社交机器人可以执行复杂的协调行动。社交机器人往往是群体化、持续性、动态性的行动，不同于人类个体化活动需要保持言行的相对一致，社交机器人是在协同行动中来创造影响力[39]。使用基于网络的方法来识别Twitter发布的最大公开数据库中所有活动中的这种协调模式，研究发现，在每次竞选活动中，74%的相关账户进行了一种简单的协调形式，研究者称之为共同发推（co-tweeting）和共同转发（co-retweeting）[40]。例如，在美国大选期间，与俄罗斯互联网研究机构（IRA）相关的机器人账户构成了与美国大选相关的转发网络核心，帮助特朗普扩大了对他们有利的信息[41]。

（二）僵尸网络（botnet）。由社交机器人组成的网络被称为“僵尸网络”，这个术语将“机器人”和“网络”结合在一起，描述了一组连接在一起的自动化程序，这些程序在多台设备之间通信，以执行某些任务[42]。根据美国网络安全公司ZeroFOX公布的研究报告，在Twitter中存在一个被称为“SIREN”的僵尸网络，包含超过90000个伪造的账号，总计发布了超过850万条包含恶意链接的推文，在短短数周内就可以产生超过3000万次的点击[43]。

僵尸网络在制造舆论方面具有大规模和群体化的优势。在议题讨论中，僵尸网络可以在短时间内产生大量相似的推文内容，或批量转发同一条推文，使其成为热门推文，以此来营造议题的虚假流行。例如在海湾战争相关讨论中，批量社交机器人通过扩散假新闻来操纵Twitter趋势，几乎在同一时间大量发布在线声明，以此来获取更多支持[44]。Twitter官方公布的数据显示，在2020年初发现了7340个与土耳其政府密切相关的账户，产生了3694万条推文。这些账户被用来放大有利于土耳其执政党的政治叙事，表现出对埃尔多安总统（Erdogan）的强烈支持。在这个网络中，研究者发现了一批在同一天创建、用户名相似的社交机器人，此外还观察到了几个支持执政党的“转发环”（retweet rings）。社交机器人总是以群体的形式出现，通过算法使彼此之间相互连接，在执行任务时达到最佳的联通状态。

僵尸网络对网络舆论的伤害很大。一方面僵尸网络产生的误导或有害信息可以在短时间内达到一定规模，影响人们对真实信息环境的判断；另一方面僵尸网络与其他用户网络交织在一起，是对真实网络的一种渗透，通过更深入的交互，社交机器人往往成为网络的中心节点，在网络中发挥核心位置。例如对2016年的三个新闻事件（美国大选、乌克兰冲突、土耳其审查），研究者比较了每个事件中社交机器人和人类的对话模式，指出尽管参与社交网络讨论的社交机器人只占所有账户的0.28%，但它们在所有对话的显著中心性排名中十分靠前，表现出社交机器人在社交网络中的特殊影响力[45]。

结论与讨论

（一）社交机器人一定会导致信息失序吗？本研究通过分析社交机器人对网络传播秩序产生的影响，发现社交机器人的出现首先是从传播主体层面而言加剧信源不确定性，为信息失序提供可能；其次是自动化的信息生产一方面扩大了信息规模，另一方面产生了大量垃圾信息造成信息污染，扩大了信息失序的规模；再次是从社交机器人现阶段的应用而言往往带有一定的目的性，目的性催生误导性。社交机器人通过扩散虚假信息和煽动性内容，影响了人们对真实信息的判断，进一步误导受众做出选择，增加了信息失序的范围；最后在算法的驱动下，社交机器人之间或者说社交机器人与人之间的连接十分紧密，协调不真实行动和僵尸网络等进一步加剧了信息失序的速度。这是社交机器人对网络传播秩序带来的负面影响，也是被研究者提及最多的方面。

以技术为中心的解释将研究者引向了识别社交机器人并与之对抗的目标，但社交机器人的背后并不只是纯粹的技术，或者说技术本身并没有目的性，而只有背后的操纵者才是真正决定社交机器人是善意还是恶意的关键。社交机器人的出现并不是一定会导致信息失序，它的出现丰富了人类可交流的对象，使社交媒体信息系统更加活跃，使人们可以更加自由地表达自己的观点，即便是借助机器人来表达自己。但由于社交机器人往往与国家、党派、经济团体等关联到一起，他们在使用社交机器人时带有强烈的目的性，导致社交机器人现阶段更多地对网络传播秩序产生负面影响。有权力的行动者生产和传播虚假信息与恶意信息，不一定是要说服公众相信其内容是真实的，而是要影响议程并“搅浑”新闻生态，以削弱人们在公共生活中的理性力量[46]。社交机器人现阶段也正是扮演着这样的角色，因此需要格外重视。

（二）如何应对社交机器人的威胁？社交机器人作为人工智能技术发展的产物，不可否认在一定程度上扩大了信息失序的规模和范围，也加快了信息失序的速度。面对社交机器人造成的信息失序，第一，要提高科学识别社交机器人的能力。研究人员要有这种能力，其他工作者或普通民众也要具备。目前国际流行的识别工具主要针对的是Twitter，其他社交媒体平台诸如Facebook或者微博等尚未有成熟的工具。虽然已有研究者提出了识别微博等社交机器人的算法或者是专利，但这些对于普通民众而言使用起来十分困难，因此建立可操作化的科学识别系统已迫在眉睫。第二，加强社交媒体平台治理。社交媒体平台是社交机器人得以存在和生长的基础设施，同时也是掌握算法和用户数据最为全面的责任主体[28]。因此，社交媒体平台在面对社交机器人可能造成的信息失序时需要发挥关键作用，加大对异常行为的管理和处罚力度，建立完善的人机审查制度，对于机器人创建的账号进行标注，并加以追踪监测。第三，制定完善的应用规范。新技术的发展催生了新的网络传播秩序，政府作为国家的治理者，需要针对新时代、新媒介、新主体制定完善的社交机器人应用规范，出台相应的政策和法律确保社交机器人创建、运行的合法性，规范社交机器人的应用场景，确保使用目的的正当性，从源头上防止社交机器人被恶意使用。第四，培养公众的算法素养。社交机器人在信息传播中选择性放大信息会在一定程度上扰乱整个信息流通空间，但信息失序造成的负面影响关键在于接收信息的人是否拥有辨别社交机器人及虚假信息的能力。当前我国网民对社交机器人的认识和了解还处于非常初级的阶段，对社交机器人的负面影响认知严重不足，因此要重点培养公众的算法素养，使公众正确认识社交机器人的存在，警惕虚假信息与舆论操纵。

【本文为国家社科基金青年项目“社交机器人对网络传播秩序的影响研究”（批准号：22CXW013）阶段性成果】

本文引用格式参考：

赵蓓.信息失序的背后：社交机器人对网络传播秩序的影响[J].青年记者,2023(02):23-27.