破局立新：短视频平台内容审核机制创新探析

摘 要：为传播社会主流价值，符合国家和行业监管要求，互联网短视频平台对用户内容生产审核需求更加迫切。本文通过分析短视频平台内容审核现状及现存问题，提出互联网短视频平台内容安全审核创新的一些探索办法，以期为短视频内容生态健康高质量发展提供可行性建议。

关键词：短视频；抖音；内容审核；互联网平台；互联网监管

DOI:10.19483/j.cnki.11-4653/n.2022.08.001

基金项目：中国社会科学院创新工程重大科研项目“国家治理体系和治理能力现代化研究”的阶段性研究成果，项目编号：2019ZDGH014。

本文著录格式：黄楚新，贺文文.破局立新：短视频平台内容审核机制创新探析[J].中国传媒科技，2022（08）：7-10.

作者简介：黄楚新（1965-），男，湖南，中国社会科学院新闻与传播研究所数字媒体研究室主任，研究员，博士生导师，研究方向：新媒体传播；贺文文（1991-），女，江苏连云港，中国社会科学院大学新闻传播学院博士研究生，研究方向：新媒体传播。

作者单位：

中国社会科学院新闻与传播研究所；中国社会科学院大学新闻传播学院

导语

短视频作为当今新兴的传播形态，其所具有的视觉表现力和冲击力，使得全民参与、全民围观的互联网短视频狂欢变成全新的媒介奇观，也为传媒业态变革带来新的契机。在技术革新的赋能下，短视频、直播产业蓬勃发展。然而在人口红利见顶，行业增速放缓的阶段，部分短视频创作者为吸引和留住用户注意力，对内容审核机制进行特殊规避，创作内容中夹杂涉黄、涉暴等不良元素，“擦边球”等内容生产现象频发。庞杂的短视频内容生态为平台内容审核带来巨大挑战。智能、精准和高效的内容审核标准成为拥有庞大用户群体的短视频平台新的追求目标。内容审核机制的不断革新，对于构建健康内容生态、规范行业发展秩序、传播社会主流价值具有重要意义。

01

短视频平台内容审核生态现状

近年来，我国互联网短视频用户规模稳步增长，截至2021年12月，短视频用户规模达9.34亿，较2021年6月增长4600万，占网民整体数量92.8%。[1]短视频使用时长已反超即时通讯领域，成为占据用户网络时间最长的网络应用。[2]以引跑中国短视频行业的抖音为例，经过数次迭代升级，目前抖音是集创意短视频、电商、直播等功能于一体的多领域综合网络社区。截至2021年9月，抖音系日活约6.4亿[3]，优质内容生产是短视频平台维持用户活跃度及黏性进而拓宽商业化路径的根基，为与平台内容创作者实现共同“增量”的双赢局面，抖音自2020年9月以来持续推行创作者扶持计划，以百亿级流量资源扶持各垂直领域分赛道优质创作者及内容产品，助力创作者拓宽流量变现渠道，实现价值增益。巨大的流量红利和平台扶持刺激短视频内容生产方的激烈竞争，平台内容审核生态产生新变化。

1.1   生产全民化与机构化并存，待审核内容基数剧增

短视频以其准入门槛低、内容碎片化、多场景适应等特征在行业诞生之初就迅速实现了用户的大规模覆盖，每一个用户都是一家“媒体机构”。近年来短视频领域蓬勃发展，吸引大量资本涌入市场，平台发展定位迎合市场需求，导致大量专业MCN（多频道网络）机构应运而生，为短视频内容创作者提供综合支持。在此背景下，短视频内容生产数量呈指数型增长，仅2021年抖音平台视频发布总量逾7.9亿条[4]，待审核视频内容剧增，全天候无间断的内容上传也使审核人员分身乏术。在传统传播视野下，新闻从业者从信息采集和筛选阶段便开始“把关”，但短视频平台依赖UGC（用户生成内容）内容生产模式，用户往往不具备专业的媒介素养，导致信息在产制过程中的第一步“把关”环节丢失，压力迁移至平台后台的AI审核及人工多轮复审。当前短视频平台“把关”活动日趋复杂，虽然平台不断规范内容审核机制、增加关口，但囿于海量待审核视频，其效率与效力却不如传统媒体专业记者与编辑人员，“人人都是把关人”的口号与倡议实则并无太大效用。因此短视频平台的蓬勃发展带来的不仅是巨大的经济利益和传媒业态变革，也带来一系列如审核内容基数大、把关人作用弱亟须解决的核心问题。

1.2   短视频平台间互联互通，打破审核技术壁垒

截至2021年11月，我国凭借115万5G基站数量、4.5亿5G终端用户数量领先全球。5G时代的到来，为短视频未来向更高水平发展奠定了坚实的技术基础。以记录与传递为核心功能的媒介力量正被引导着发挥更多公共性的引导价值，通过对生活图景的完整记录与内容共享，各大互联网短视频平台正在通过连接与传播不断发挥更多公共性正向效能。

基于短视频内容传播特性，平台间的互联互通成为短视频平台发展与网络内容风险控制的一大战略举措，多平台协同分发有效提升了传播效果与风控能力，跨平台互动已成为众多短视频平台前端面向用户的重要功能。平台后端则依靠云审核平台，通过标准化和智能化提供统一服务，在降低成本的前提下最大限度满足内容信息安全，这为短视频内容审核机制与技术的共享提供可能。当前，我国互联网短视频的跨平台联动主要存在两种方式。一是在上级母公司指导下构建内容生态闭环，施行企业旗下子平台间互联互通。典型案例是字节跳动旗下以今日头条为主体构建的传播矩阵闭环，下设占据不同市场定位的短视频平台，包括抖音、抖音火山版、西瓜视频和抖音极速版，不同平台间相互引流，打破内容分享与技术壁垒，实现跨平台联动。二是通过企业合作和技术赋能，实现短视频内容的双向流动。如抖音和微博采用联动合作，一方面吸引微博用户观看抖音视频，另一方面通过短视频的强黏性增强微博用户互动量和活跃度。平台间内容的双向流动，也促使短视频平台为保证平台流出视频的质量符合流入平台的监管要求，不断健全内容审核机制，人机协同审核能力不断提升。

1.3   技术升级助力内容审核，“算法+人工”双重保障

当前我国互联网短视频平台内容审核机制大多施行“AI算法机器人+平台人工审核”的双向把关制度。抖音采用视频消重机制、特征标签识别机制及流量推荐复审机制等形式进行日常平台传播内容的审核。AI算法机器人会直接筛选出明显有违规信息的视频进行屏蔽以及限流，再将审核出的疑似违规内容进行打包分发，下放至人工内容审核部门进行鉴定。复审环节则是对人工审核内容和所给出的指导意见进行研判，可以说复审环节也是评判审核部门员工审核质量的重要环节。

我国短视频平台在发展之初，曾对人工智能审核和机器审核产生过度依赖。早期基于“对库”审核机制下的人工智能虽可以不间断快速识别违规内容信息，但缺点在于无法精准判断，问题频出。为了尽可能保证对内容的精准判断，各大互联网短视频平台不断引进高精尖技术人才，把深度学习、大数据分析、声音图像识别等技术不断融入AI算法运行中，运用于短视频内容审核一线。但部分内容创作者仍寻找审核漏洞，突破平台规则。在此背景下，人工审核的作用也开始被业界重视，就目前来看，我国短视频行业人工审核职业短时间内依旧无法被代替。

在人工审核员的选择上，无论是国家政策制定层面还是短视频行业自律层面都进行了较为严格的规定。2019年国家对开展短视频服务的网络平台进行了新一轮根据《网络短视频平台管理规范》的规定：“网络平台开展短视频服务，应当根据其业务规模，同步建立政治素质高、业务能力强的审核员队伍。审核员应当经过省级以上广电管理部门组织的培训，审核员数量与上传和播出的短视频条数应当相匹配。原则上，审核员人数应当在本平台每天新增播出短视频条数的千分之一以上。”[5]

为降低风险内容的出现以及满足庞大内容审核需求，互联网短视频平台当前均实行24小时不间断人工+AI算法机器人的方式进行审核，但由于人工审核工作中具有较强主观性，在内容审核中依旧存在无法完全保证审核精准性与客观性的情况。

02

短视频平台内容审核现实困境

在短视频产业急速扩张的过程中，部分内容创作者片面追求“流量至上”“数据为王”，对于内容生产出现价值偏离，导致恶意竞争、虚假信息、低俗内容、版权侵权等背离短视频创作规范的乱象频繁出现。受审核制度、侵权形式及价值导向的影响，短视频平台内容审核层面仍存在诸多问题。

2.1   先放后审，把关后置：平台内容审核滞后

互联网短视频平台虽经过几年发展已初步具备一定内容审核经验，但以抖音为代表的头部平台在部分内容的审核以及把关中仍需要进行更多努力与研判，对于不良信息与不良视频的传播影响认识不足，未扮演好“把关人”的角色，在履行社会责任方面存在失范现象。首先，当前短视频平台多采用以算法推荐技术为核心对视频内容的审核进行先放后审的后置“把关”模式。这里所说的先放后审并不是指用户视频上传畅通无阻，而是需要先经过算法程序的智能把关，即初审。然而与传统媒介环境中经过编辑层层筛选的严密把关制度不同的是，算法把关不具备对视频的真实表达偏离主流价值与否进行判断的能力，容易在流量化价值逻辑的驱使下造成窄化、失真、低俗信息的大量传播。其次，作为算法审核的重要补充的人工审核的二次把关作用也不尽如人意。目前，抖音的内容审核部门实行三班制轮岗，对疑似违规视频进行24小时审核，但是由于平台用户群体庞大，UGC内容生产作品数量不断堆积，导致在岗审核人员工作强度大、效率偏低、失误率较高以及主观色彩强的情况。虽有复审机制，但一些“擦边球”视频采取“降流”举措后仍然可以被小部分用户观看，并未对违规视频形成严格限制，对日益增长的用户群体与作品数量，当前的内容审核流程及审核处理方式并非长久之计。

2.2   规则缺失，界限模糊：短视频内容侵权形式异化

短视频用户黏度日益提升，规模巨大的用户群吸引大量资本入场，短视频内容营销随之兴起，内容侵权问题也伴随内容营销的发展愈演愈烈。短视频内容侵权问题因其规则缺失、界限模糊的特性一直是各大短视频平台难以处理的领域，监管力度的薄弱也导致该问题不断恶化，甚至出现侵权样态异化现象。

首先是音乐版权规则缺失问题。音乐是短视频平台内容传播过程中不可缺少的重要组成部分，但版权歌曲“一歌多用”“胡用乱用”“恶意剪辑”等现象层出不穷，特别是少数民族语言类音乐，受限于语言因素，其识别和审核难度升级。上述问题在内容监管中较难发现且难以处理，惩处界限模糊。短视频内容传播中，在助力内容创作者与其作品出圈上，音乐是不可或缺的重要元素。用户在进行短视频内容创作时，往往为了符合传播内容要求忽略“先获权，再使用”的操作路径，把其当成“免费午餐”。当版权音乐进入短视频平台后，内容创作者与音乐版权方的市场链条缺失、短视频传播的强分散性使得包括二次创作音乐的内容版权如何清晰界定成为棘手问题。

其次是原创视频的搬运抄袭问题。因为对直接搬运视频的侵权识别与监管较为容易，所以视频内容侵权也随着监管机制的升级演化出各种手段。简单的画面颠倒、镜像以及画面画幅裁减，都成为当下短视频侵权者逃避抖音内容侵权监管的手段。此外雷同视频内容配以不同画面比例和画面方向的短视频也层出不穷。一些视频制作者也在积极维权，在自己账号中发布对比视频，控诉违规者对自己的侵权行为，但维权收效甚微，甚至该条侵权视频热度下降后其被侵权作品会再次被剽窃。目前，各大短视频平台不断出台相关政策完善监管体系，如抖音对优质短视频创作者进行标识认证，一定程度上保护了一批头部创作者的短视频内容版权，但对大多数普通用户的原创短视频内容尚未采取有效的保护手段。

2.3   资本裹挟，被动管制：短视频内容审核外紧内松

针对内容生产乱象，各大短视频运营商已制定明确的内容审核监管规则，如抖音发布网络社区公约，其中有数十条条约明确规定平台禁止发布和传播的内容范围，内容审核人员也会定期对网络传播生态中热点及审核盲区进行总结。但平台中仍存在一些低俗内容及违规短视频并未得到有效封禁，例如，暗含涉黄、涉暴内容的视频仍存在小范围高热度传播情况，甚至经用户多次投诉也未获得有效快速处理。首先，短视频平台因其商业属性易陷入“流量VS自律”的矛盾中。资本的逐利性使短视频平台追求流量化价值逻辑，以抢占用户注意力为基本指标，忽视自身担负的社会责任和价值引领作用，缺乏主动管制的动力。对有旺盛市场需求并为平台带来巨大利润的服饰、美妆、本地生活服务等垂类领域，短视频平台实行宽松的监管模式，忽视部分短视频宣扬的过度消费主义等偏离社会主流价值的内容，甚至为其提供运营和流量扶持。对平台外的侵权行为，如大量对长视频平台作品的无版权剪辑、切条短视频作品，平台仅对被举报的短视频做删除下架处理，忽视视频版权保护义务。其次，短视频运营商以技术中立为借口，短视频内容审核高度依赖算法判断。而与此相悖的是算法背后的编写逻辑和运行规则由平台方自主研发和调试，算法后台“黑箱式”运作模式难以监管，内容审核的松紧程度由平台自己把握，这就造成平台内容审核外紧内松的现状。

03

短视频平台内容审核机制创新路径

当前短视频行业已步入存量竞争的阶段，以内容导向为起点的短视频行业仍需回归内容本身，才能实现拉新破局的节点性突破。着眼网络治理全局，从政策、平台、用户层面加强我国互联网视频平台内容审核举措，才能遏制短视频内容生产乱象，构建网络良性内容生态。

3.1   政策约束：内容分级与社会监管并举

当前短视频平台与传统媒体的内容审核机制在灵活度、广泛性、信息质量等方面均有不同定义，审核流程差异较大。传统媒体在监管体制中注重把握规范性与专业性，谨慎执行内容审核相关法律法规。相较于专业的传统信息传播平台，短视频平台具有强娱乐化传播范式，因此在内容监管的法律法规制定上需要“因地制宜”，以立法立规为主，行业监管为辅，并在监管“红线”内给予适当容错空间。

一是政策层面，推行短视频内容分级制度。政策出台与法律法规制定可以从根本上促进行业健康发展，对内有力规范平台行为，对外避免过多外界因素干预。在完善的法治体系下，可以以奖惩公开为原则实行互联网短视频内容分级制度，深化行业改革。当前我国小说业、影视业、游戏业分级制度逐步落实，短视频行业内容分级势在必行。具体来说，内容分级制度需要以政府为主导制定合理清晰的分级规则系统；以平台为具体实施者在视频内容发布时根据内容进行等级标注，并通过该级别划分推送至可观看用户人群；以用户为监督者，拓宽用户投诉举报渠道，完善平台共治机制，强化用户在平台中的主体意识和责任。当前各大短视频平台纷纷出台青少年模式，但青少年需求与成年人存在较大差别，一刀切的以时间限制为手段难以突破青少年网络权利和网络保护的博弈，内容分级制度助力平台青少年模式构建健康有序的网络表达空间，有效保护青少年网络权益。

二是社会监管层面，构建由用户、平台、青少年家长及相关权益保护人士合力而成的短视频监管长效机制。目前短视频平台的内容审核及违规信息的处理很大一部分源自用户举报，用户监管发挥重要效能。因此在平台功能设计上需健全举报功能，设立专门的举报模块，拓宽用户投诉渠道。违规内容举报机制的设立是平台对用户的赋权，可以分担当下部分短视频平台内容审核部门的工作压力，使每一位短视频用户都成为平台内容审核的监管力量。分权思维将为短视频平台内容审核降低成本，提高监管效果。

3.2   平台约束：技术升级与复审机制共建

短视频平台在内容审核环节需要强化社会公器意识，承担媒体社会责任，发挥价值引领作用。在此过程中，技术升级可成为有力抓手，深化技术在短视频内容生态治理层面的效能。目前国内短视频内容分级和过滤技术处于摸索阶段，相关第三方软件技术尚不健全，需要平台挖掘相关领域技术人员研发符合平台调性的分级过滤技术，形成高效有序的短视频智能监控机制。

从当前短视频平台内容审核流程来说，只有一部分平台设置复审机制，且力度不一。在设置复审机制的短视频平台中也存在复审“走过场”的现象，平台需严格防范复审机制成为审核人员的绩效考核指标，不能真正发挥内容二次及多次审核的实际效用，同时对复审后存在问题的短视频也应加大打击惩治力度。此外，复审机制有赖多方协助监督，应畅通便捷举报通道，对AI审核、首轮人工审核未能发现的违规视频等“漏网之鱼”一网打尽。政府监管部门和平台也要建立投诉受理程序，及时回应用户投诉、建议并反馈整改结果。由于短视频内容层出不穷、热点不断，审核机制与违规条例也应因时而变，紧跟当下热点事件，防止出现审核规则远远落后于实际问题的情况，切实提高互联网短视频平台的内容审核质量。2021年5月20日，抖音《电商创作者管理总则》正式落地，提出“应知明知责任”，治理效果显著，截至2021年12月抖音平台处罚违规创作者97.1万名。2022年2月9日，抖音安全中心发布《关于打击借冬奥对运动选手网暴、造谣的公告》，治理违规视频、评论内容6780条，对331个违规账号予以惩治。

3.3   用户管理：划分用户结构，提升用户自律

网络社会秩序形成的初级阶段主要依靠身份和心理契约。技术和硬件为网民提供了一个“大陆板块”，“登陆者”自生、自发形成社会共同体。[6]短视频平台在强大算力支撑和网络实名制政策支持下对用户职业、年龄、知识水平等信息进行结构划分，成为维护平台秩序的有力措施。用户真实信息及隐私在公共空间相互隐匿，但实名制的注册方式为用户示警，网络并非法外之地，清朗网络空间的构建需要用户共同努力。同时，要把握技术革新对用户结构划分带来的优势，后台可形成独立用户的可识别身份信息库，实现对不同用户的精准画像，从而进一步预测该用户的内容发布趋势和质量。针对不同用户采取不同等级的监管措施，并在后台通过数据库的形式，着重记录未来潜在违规风险内容发布的相关用户，做到提前备案及预防。

同时，作为互联网短视频平台，应不断宣传良好的互联网内容生态环境对用户生活的现实意义，普及违规违法视频的惩罚措施。目前抖音平台已出现例如“抖音安全中心”等相关账号，以官方账号为载体向大众普及平台违规内容案例及举报流程，在减少平台违规内容的蔓延上效果显著。

04

结语

当前，短视频行业发展逐渐从增量市场向存量市场过渡，借助信息生产轻量化、传播渠道立体化、市场下沉化等特征，已成为移动互联时代的常态化表达方式。[7]为促进互联网短视频平台规范向善发展，内容审核亟待加强，应在政策法规上实行内容分级与社会监管并举，在平台方面实现技术升级与复审机制并举，在用户层面合理划分用户结构，提升用户自律与媒介素养。互联网短视频平台在内容监管审核层面任重道远，唯有政策、平台、用户三方联动，短视频平台视频内容才能呈现高质量发展态势，打造良好内容生态。

// 参考文献

[1]中国互联网络信息中心.CNNIC发布第49次《中国互联网络发展状况统计报告》[R].http：//www.cnnic.net.cn/hlwfzyj/hlwxzbg/hlwtjbg/202202/P020220407403488048001.pdf，2022-02-25/2022-05-03.

[2]QuestMobile研究院网.2021中国移动互联网年度大报告[R].https：//www.questmobile.com.cn/research/report-new/222，2022-02-22/2022-04-21.

[3]36氪.抖音调整组织架构，2021年DAU增长承压[EB/OL].https：//baijiahao.baidu.com/s?id=1715210450081871552&wfr=spider&for=pc，2021-11-01/2022-05-23.

[4]青瓜传媒网.2021年抖音短视频直播营销年度报告[EB/OL].https：//www.opp2.com/268935.html，2022-01-19/2022-03-26.

[5]中国网络视听节目协会.网络短视频平台管理规范[EB/OL].http：//www.cnsa.cn/art/2019/1/9/art_1488_22442.html，2019-01-09/2022-02-15.

[6]郭玉锦，王欢.网络社会学[M].北京：中国人民大学出版社，2017.

[7]黄楚新.我国移动短视频发展现状及趋势[J].人民论坛·学术前沿，2022（5）：91-101.