作者:杨家明(中国人民大学新闻学院博士研究生;张萌:中国社会科学院新闻与传播研究所助理研究员)
来源:《青年记者》2024年第2期
引 言
在认知域中,算法逐渐成为信息筛选、排序、分类和控制的关键机制,从根本上干预着社会信息网络和个人认知系统的运作方式,对个人、群体乃至社会整体的认知产生了巨大的影响。由于算法的技术制式和政治经济逻辑已经嵌入了互联网与数字社会的底层架构,人们的信息消费、社会交往和决策行为也愈发依赖于算法所提供的各种“个性化服务”。
然而,纵使算法引导、形塑着人们看待和理解世界的方式,这种介入却不引人注意:它总是作为人们社会实践的背景性因素,以某种不可见的方式安排着人的认知秩序。算法在认知域中所呈现的这种重要且矛盾的作用,使我们可以将它视为一种“认知基础设施”(cognitive infrastructure)加以认识和分析。本文所讨论的问题正是,算法在认知域中扮演着怎样的基础设施型角色?
围绕此问题,本文首先将算法界定为一种干预、控制和构成着人认知的“认知基础设施”,通过制度视角(institutional perspective)考察算法在认知域的制度化形式,进而分析算法作为认知基础设施的运作方式,以及它如何对人的认知产生影响。在此基础上,进一步结合大国博弈的现实语境,从算法的基础设施型角色重新理解和反思算法认知战的基本逻辑。由此,本文希望为深入理解算法和认知的关系提供新的想象。
认知基础设施:算法在认知域的制度化形式
(一)重新认识算法:作为认知基础设施的算法
基础设施已经成为现代生活的一个中心现象,这一概念意指各种大型的、相互关联的、标准化的技术系统,它们具有跨越时空的强大组织能力,并由一系列复杂的结构和网络所定义[1]。在最传统的意义上,基础设施指的是构成现代社会生活基础的技术系统,如能源、交通和通信;而在更广泛的文化和物质意义上,基础设施包括了软性的文化技术,它构成便利物品、人和观念流通的制度化网络,并允许其跨越时间和空间进行交换[2]。
伴随着互联网和数字技术的兴起,学者们对基础设施研究的注意力也从传统的基础设施扩展至与互联网领域相关的技术系统,如数字平台、计算机软件和算法。无论是哪一种基础设施,其在本质上都具有社会技术性(socio-technical),因为一个系统不仅需要标准化的物质资源和技术硬件,还需要来自社会层面普遍的接受和依赖,才能成为基础设施。如果一个系统没有获得社会的认可和信任,或者对于它的使用具有强大的外部性,就难以有效地发挥作为基础设施的功能。
基础设施的社会技术性还意味着,它们通常以某些方式支持或限制着人们在特定领域中的社会实践。正如在认知域中,算法逐渐成为引导和操纵人的认知的关键机制,形塑着人关于现实的感知和观念,但也导致人们在某种程度上依赖于它所制造的认知规则和框架。
从功能的层面来看,算法是信息社会形成的前提和基础。它通过对海量信息进行过滤、分类和排序,促进了跨越时空的信息流通和交换,塑造了信息环境的基本秩序。考虑到人的认知是一种有限的认知资源(cognitive resource)[3],算法实际上发挥着引导和分配人的认知资源的作用。它提供了基于个人定制的认知服务,可以为人们认识外部世界、获取知识和意见并形成自己的观念提供条件。通过算法,个体可以节省获取信息的时间和成本,组织和机构也能对信息的流动过程进行控制。
从隐喻的层面来看,算法在认知域的运作具有不可见性。它成为人们认知实践的背景性因素,它的运作总是存在于后台之中。正如传播理论家彼得斯(John Durham Peters)所指出的,基础设施在正常发挥作用的时候通常是不可见的[4]。这并不是意味着算法不具备可追溯的技术结构,而是指它作为人们的认知实践的安排者,淡出了人类意识与经验的意向性范畴。除非算法系统出现了明显的问题或故障,或是用户主动对算法进行审计,我们通常不会意识到算法的存在。即使意识到了,我们也难以判断它是在什么层次和程度、以何种方式发挥作用的。
由于这些特性的存在,我们可以将算法视为一种在认知域中运作的基础设施。
(二)制度视角:算法在认知域中的制度化
人类学家拉金(Brian Larkin)曾指出,基础设施具有制度化的结构。那么,这种制度化在算法基础设施中是如何体现的?
第一,制度(institution)指涉的是现代社会中稳定可预测的构成部分,其形成特定生活领域、特定时间和地点中传播与活动的框架[5]。如今,算法逐渐渗透了特定的社会和文化生活的基本领域,提供了使不同的社会制度与人的认知相连接的机制,从而影响人们在认知过程中的自主性。例如,在西方国家的政治选举中,算法通过选择性地遮蔽或放大某一类意见性信息,改变用户接触的意见环境,进而干预用户的选举决策;而在消费和市场中,算法可以基于数据提取和分析,预测并引导人的需求,影响人们对于商品的关注和选择。通过这些方式,人的认知被算法连接并绑定到了不同的社会制度之中。
第二,算法本身也成为一个半独立的“机构”,为其他社会制度和行动者提供认知的规则和手段。虽然算法通常是由专业人员设计和创造的,也由相应的组织和机构所控制,但它仍然具有相当程度的独立性。这并非指算法已经具备了自我涌现的智能,而是指算法作为认知基础设施所具有的逻辑和偏向改造了社会行动者的实践,以自己的方式对人与社会产生影响。如今,基于算法的大规模信息采集机制和自动化数据处理进程已经成为社会组织和机构进行知识生产的重要方式,许多组织的工作都融入了包含组织行为准则和秩序进程的算法模式[6],这不仅促进了认知层面的组织方式的变化,也强化了算法在知识和信息的生成、控制与流通过程中的基础设施地位。
第三,算法作为“一个技术结构同时也是一个制度结构,有其占主导地位的方式,也有其受支配的网络”[7]。当我们在基础设施的意义上去理解算法时,也就意味着算法不仅仅是一组数据和代码,而是新型的社会权力关系的重要制造者。在算法的设计和开发过程中,谁拥有话语权、谁的利益得到考虑、谁的价值观得到认可等一系列问题从来都不只是技术问题,而是政治经济问题,反映了与算法基础设施这一社会技术系统相关的,根据阶层、种族、性别、职业和区域的不同而产生的等级制度和资源、利益的不平衡分配。并不是所有人都能从算法提供的认知资源中平等地获益,人与人之间在知识和信息获取层面的差距也不会因为算法的使用而缩减。
因此,算法引起了认知秩序的变化,这些变化已经在制度层面表现出来。在大众传播时代,人们获取的知识往往是由专业的新闻媒体和公共文化机构筛选和提供的。如今,算法取代了这些媒体机构的把关人角色,以个性化的信息服务和高效的信息处理为优势,控制着认知域中的信息流动,使得建立在原有的社会伦理和审查机制基础上的文化机构逐渐失效。在信息洪流中,算法客观上促进了信息与个体的适配,缓解了人们的认知压力和信息焦虑,但也使人们与某些信息相分离,排除了人们接触这些信息的可能性,从而将其限定在它预设的认知规则和框架中。
规则与配置:算法作为认知基础设施的运作方式
根据社会学家吉登斯(Anthony Giddens)的观点,制度的运作具有规则和资源配置两个主要特征[8]。规则也许是隐性存在和现实的,即讨论某一制度的特定情境下所谓恰当行为的隐性知识生产,而资源配置则涉及物质资源和权力的分配[9]。由此,我们可以从规则和资源分配两个方面理解认知基础设施的运作方式。
(一)制度性规则:隐蔽操纵与日常化监视
算法通过隐蔽操纵的方式干涉和引导人的认知,影响网络社会的信息环境和认知秩序。媒介环境学理论认为,由于媒介是我们感知系统的延伸,每一种媒介都有特定的感官特征,所以媒介会塑造人的感官形貌,并改变其接收讯息的方式[10]。在信息社会中,信息和数据对于个体和组织而言毫无疑问是重要的认知资源,但又将人们置于无限信息所制造的压力和混乱中。在此,算法恰好成为人与信息环境的“居间之物”,它虽然延伸了人的感知系统,并使人一定程度上免受在更宏观尺度上运行的信息流的冲击,但它也通过隐蔽的处理过程对信息进行了过滤、选择和加工,使人们接触到的现实不再是本真的现实,而是经过算法“修正”的现实。由于算法的代码原理本身具有复杂性,并且它已经深度嵌入各种平台和网络的底层架构之中,因而它对认知的操纵总是隐蔽的。
算法并不是客观的、中立的、无价值标准的社会技术系统,它对人的认知的干涉和引导总是建立在一定的意图、标准和价值原则的基础上,这些价值构成反映了算法设计者和控制者的利益,以及更广泛的意识形态标准。因此,隐蔽性必然是算法的制度性规则,一旦算法的操纵行为被揭露,人们将开始质疑算法及其控制者(如平台公司、新闻机构)的认知权威,并对算法的客观性与合理性产生怀疑。伴随着更多的人将算法视为一种有意义的对象进行处理,并对算法形成警惕意识,那么“算法想象”(algorithmic imaginary)也就会出现,它作为一种算法认知,是人们关于算法的实质、存在方式和运作过程的解释,以及在日常生活中感知和体验算法的各种方式[11]。算法想象意味着人们在面对算法的隐蔽力量时并不总是处于被支配的地位,人们会对算法系统的问题行为进行审计,从而揭露它的缺陷和问题,这些问题可能包括歧视、错误判断和违规的数据利用等[12]。
算法的制度性运作还体现在它对网络、社会和人实施的日常化监视上。制度化的稳定性总是以在日常生活中的深度渗透为基础,并嵌入生活的各种节奏和惯例中,否则就没有稳定性可言。算法是通过人与算法的日常化接触来实现对人的监视的,这样的监视每时每刻都在发生,它所依赖的是在物质生活和虚拟空间中几乎无处不在且通常难以辨认的数据采集和分析装置,这些装置使对人的行为的提取、预测和操纵成为可能。算法的日常化监视已经使对个人隐私边界和生活空间的侵犯成为一种常态的行为,瓦解了长期以来形成的社会信任和契约关系。算法似乎是游荡于社会中的技术幽灵,虽然人们逐渐意识到算法正在监视自己,但难以清晰地辨别它具体是在监视哪些对象,又是通过什么手段实现监视的,因此难以进行有效的防御和反抗。
归根结底,日常化的监视是有利可图的,已经成为当代资本积累的一种重要方式。祖波夫(Shoshana Zuboff)用“监视资本主义”(surveillance capitalism)的概念描述了这一现实。监视资本主义的基础是大数据和计算机中介的全球性架构,这种新形式的信息资本主义旨在预测和改变人类行为,以此作为产生收入和控制市场的手段[13]。算法的日常化监视构成了资本主义在数字经济领域的持续实验的一部分,而人的经济行为的改变通常是由认知引起的。日常化的监视既可以实时分析由政治经济实体引入的认知干预策略的效果,也可以为其部署认知干预策略提供关键的信息,从而使监视从根本上变得有利可图。这些实验是把握、控制人的心理和行为并制造新的市场的基础。就日常化监视可能产生的后果而言,它将人的认知绑定到特殊的政治经济秩序之中,并使认知具有了流通和交换价值。
(二)认知资源的配置:可见性分配与意识形态臣服
算法是认知领域中筛选、分类、排名和框架的重要机制,它生成了一种独特的可见性制度(regime of visibility),并对认知资源进行重新配置。这种可见性制度建立在隐蔽操纵和日常化监视的基础上,但它不同于福柯根据边沁所设想的“圆形”监狱而提出的全景监狱模式,因为在全景监狱中个体受到的是同等可能性的监视,而互联网和数字平台的算法并没有平等地对待每个人或每条信息。算法试图以一种不稳定的方式部署可见性:一个人、一条讯息可能永远不会被完全看到,或者被剥夺了可见的能力;它并不会对所有主题施以同等的可见性,可见性成为一种稀缺的资源,而不是随处可见的东西,它是一种奖励,而不是惩罚[14]。为了获得可见性,人们必须遵循数字平台中嵌入的算法逻辑。算法通过对可见性的分配进行“承诺”和操纵,诱使人们自觉按照平台规则行事并主动规范自身行为。
在认知基础设施的设计和制造过程中,可见性也不是均衡分配的,因为可见性已经成为一种权力表达,反映了基础设施与不平等的政治经济结构的联系。当一个或一组行动者具有话语权时,他们可以为一个社会技术系统设定议程,而那些缺乏这种权力的人可能会被边缘化[15],他们的利益和诉求不会被纳入考虑范围。如今,互联网和数字平台已经成为公共空间的一部分,因此算法对可见性的不均衡分配可能会影响某些个人和社区在社会政治生活中的可见性,以及人们对这些个人、社区及其地位的感知和判断,进而对公共利益和价值产生影响。从权力关系的角度看,当人们在基础设施方面被边缘化时,他们在权力结构中也往往处于次要位置,而基础设施总是倾向于增强国家和经济精英的权力[16],而不是为所有人赋权。
算法在分配可见性的过程中强化了自身作为技术意识形态的大他者(Big other)的地位,这是一种泛在的、不容质询和争议的权力形式。它表述了个体与其实在生存条件之间的想象性关系,提供了关于现实的幻觉和暗示,从而引导和操纵人们的认知。阿尔都塞(Louis Althusser)指出,意识形态的作用原理很简单:承认、臣服、保证——整个这些都以臣服为中心[17]。具体而言,人们为了获取算法提供的个性化服务,必须“让渡”一定的隐私和权利,使个人数据和媒体使用行为可以被算法追溯,并使这种“让渡”变得“习以为常”,进入自然化的范畴。这种自然化事实上默认了个体对算法的臣服关系,接受了算法安排和设定的认知秩序。
这种意识形态臣服反映了人对于算法的依赖,以及算法权威的合法化。如今,人们涉及认知的各种实践——如检索信息、阅读新闻、购买商品——都已深度依赖于算法逻辑。在很大程度上,切断与算法的联系就意味着切断与数字社会的联系,将人与数字社会的便利和服务相分离,这也是人们难以逃离算法的原因之一。在制度化的层面上,算法不仅仅是代码的组合,更是“通过计算过程对人、地点、事物和观念以及思想进行分类和分层的计算技术,以及与这些过程相关的思维、行为和表达习惯”[18],它意味着算法已经嵌入人的惯习之中,成为人认识世界和思考问题的重要手段,并逐渐合法化。
算法认知战:围绕认知基础设施的争夺和博弈
在大国博弈的现实背景下,算法已被纳入国家认知域作战的重要战略布局之中。2012年,美军发布的《信息作战条令》将作战领域划分为物理域、信息域和认知域,认知域作战已是美国和北约新一阶段军事战略的重点。如今,认知战正在成为一种由可靠算据、算力、算法支撑的战略概念与行动样式,被置于关系国家安全乃至国际安全全局的关键位置,成为大国博弈和国家战略布局的一个崭新主战场[19]。不同于传统的信息战和宣传战,认知战的目标不仅仅是对信息的内容、流动和传播过程进行控制,而且通过夺取人的心智、操纵人的思维、摧毁人的信任,来达到特定的政治目的。
2022年爆发的俄乌冲突已经成为多方势力展开认知角逐的超级实验室,凸显了算法在认知战中的核心作用。这种算法认知战基于全球一体化的网络空间,突破地域边界,形成全球性作战和动员能力,反映了数字时代战争形态和规则的颠覆性改变[20]。考虑到算法在认知域发挥的基础设施型角色,我们不能简单地将算法认知战视为以算法为工具和手段的心智作战,而是要进一步考察不同的利益相关者围绕认知基础设施进行的争夺和博弈,以此重新理解算法认知战的基本逻辑。具体而言,可以从以下三个层面理解。
第一是认知基础设施的先导性。认知战中的竞争归根结底是技术实力的竞争,这对国家的算力、数据、能源和其他类型的基础设施都提出了很高的要求。认知战虽然是没有硝烟的战争,但并不意味着它不会消耗大量的资源。一个国家的认知基础设施是否在信息生成、数据存储和流通控制方面具有强大的效能,将直接决定其在认知战中能否获得优势。认知基础设施的建设和研发在大国博弈和认知竞争中的作用是基础性和先导性的。因此,世界各国纷纷加快围绕认知域科技创新与实践展开布局,如欧盟、美国2013年相继提出“人脑工程”“人脑计划”等研究项目[21]。
第二是认知基础设施的竞争性。在认知域中,认知基础设施不是单数的,而是以复数的形式存在着。不同的认知基础设施背后是不同的所有者和控制者,这些认知基础设施在相互争夺人们看待世界的方式,竞相引导人们的认知和思维,使之与自身的战略目标和政治目的相符合。这种相互竞争是认知场域中持续的、长期存在的博弈态势,它没有终点。在行动者网络理论的视角下,认知基础设施不是被动的客体,它也是具有中介化意图的“行动者丛”。认知基础设施的意识形态是扩张性的,它总是试图向外部扩大自身的影响力和控制力。
第三是认知基础设施的嵌入性。认知基础设施并不具备绝对的独立性,相反,它具有嵌入性,它总是“嵌入其他结构、社会安排和技术中”[22]。认知基础设施是隐蔽的战争机器,它通常不会轻易暴露自身的本质面目,总是隐藏于其他的社会制度和日常生活中,潜移默化地影响人们的认知,使政治理念和意识形态可以隐蔽地进入人们的观念和思维。从嵌入性的视角理解认知基础设施,可以更好地认识它与政治、经济、文化和其他形式的社会制度之间的复杂关系。
需要注意的是,算法认知战虽然被视为现代战争的重要组成部分,但它与战争之间并不具有必然的同步性。即使两个国家之间没有爆发热战,由国家支持的认知攻势通常也是存在的。算法认知战是全天候、无死角、常态性的认知博弈,并且与人们在互联网上日常的新闻消费、媒体使用和内容生产隐秘相关。广义上的认知战,指的正是敌我双方、利益攸关方于互联网和数字空间中开展的认知角逐与认知对抗,其核心目的意在通过干预公众认知过程、主导公众情感认同来争夺话语权和主导权,进而将事件导向有益于本国利益的方向[23]。
算法认知战的前提是对认知基础设施的控制和运用,使之产生铺垫效果(priming effect)。通过对美国和西方国家的算法认知战及其策略进行分析,可以发现它们通过个性化信息推荐、限制浏览内容和信息接触、制造争议性话题、生成并扩散深度伪造信息等方式开展算法认知战,试图渗透并操纵目标群体的态度、思维和观念,进而使受众形成符合美国和西方国家利益的信息解释框架。从铺垫效果的角度看,经过某项铺垫刺激后,个人对后续所呈现的相关事件,倾向于采用与先前刺激相关的属性进行评估[24]。一旦形成这种认知固化(cognitine rigidity),受众为了保持认知的一致性将更倾向于根据已有的假设、倾向和认识来理解信息[25]。即使这些信息可能存在逻辑层面的漏洞和严重的失实问题,受众也难以维持对这些信息的准确和理性判断。
结 语
本文指出,认知基础设施是算法在认知域中的制度化形式,凸显了算法在干涉、引导和控制人的认知方面所发挥的重要作用,这要求我们重新认识和思考算法在认知域中的角色。算法作为认知基础设施,具有分配认知资源、安排认知秩序的功能,作为不可见的背景性因素发挥作用。一方面,算法是将认知域和其他社会制度相连接的机制,影响人们在认知活动中的自主性和对现实的认知、判断。另一方面,算法也作为半独立的社会机构,为其他的社会行动者提供认知的框架和手段。就运作方式而言,隐蔽操纵和日常化监视是认知基础设施的制度性规则,这些制度性规则保障了算法在认知域运作的稳定性。而可见性分配和意识形态臣服则是它配置认知资源的方式。在此过程中,算法建构了新形式的社会权力关系和不平等的认知秩序。
在大国博弈的现实语境下,算法认知战集中表现为不同的利益相关者围绕认知基础设施展开的争夺和博弈,反映了认知基础设施在认知战中的先导性、竞争性和嵌入性特征,对认知基础设施的控制和利用也成为算法认知战的必要前提。由于认知基础设施所具备的强大的技术可供性,由国家行动者主导的认知战及其布局和展开过程逐渐突破了客观的时间与空间等条件的限制,成为一种难以预测、隐蔽且不可见的认知攻势。考虑到认知基础设施在控制信息流动、分配认知资源、塑造认知规则等方面所发挥的系统性的作用,它也将在全球化的、广泛的跨境信息、商品和人的流动中产生更深远的影响,这是因为数字化社会中任何形式的社会实践都难从根本上与算法相分离,而大国博弈也不仅仅是围绕话语权和国际舆论的博弈,它与经济、社会和文化等不同的制度相互嵌入、相互影响。因此,从制度视角理解算法可以让我们对它的功能、角色及其与政治和社会之间的复杂关系形成全面的、全新的认识。最后,我们也需要继续深入研究算法(认知基础设施)和认知战之间的关系,提升我国应对认知战的防御力和反应力。
本文引用格式参考:
杨家明, 张萌.认知基础设施与算法在认知域的制度化.青年记者,2024(02):5-10.