本报记者 曲忠芳 李正豪 北京报道

伴随着信息通信技术的快速发展，以大数据、人工智能（AI）、5G等为代表的数字技术推动了内容产业的深刻变革，科技已经成为内容采集、生产、处理和传播的重要支撑，内容科技的概念应运而生。6月21日，中国信通院云计算与大数据研究所（以下简称“云大所”）所长何宝宏在2022内容科技成果发布会上表示，内容科技正在重构数字内容的生产与消费链条，改变内容产业的组织与分工模式，推动内容相关的新应用、新业务不断涌现。内容科技正全面融入人类经济、政治、文化、社会、生态文明建设的各领域和全过程。

“在看到内容科技产业发展积极面的同时，内容生产、分发、消费等环节也产生了新的问题与挑战——深度合成技术造成虚假信息泛滥、推荐算法带来‘信息茧房’效应、个人信息泄露风险加大等，如何平衡技术创新和风险治理已成为亟待解决的问题。”何宝宏如是说道。

《中国经营报》记者了解到，鉴于目前内容科技领域行业组织的缺失，中国信通院于今年初发起成立了内容科技产业推进方阵，并设立了内容生成、内容审核、内容分发与运营三个工作组。而此次会议上，内容科技产业推进方阵正式公布了数字人、内容审核、智能推荐、智能营销等内容科技热点领域的首批评测结果。中国信通院及内容科技产业推进方阵牵头制定的标准及研究成果，在很大程度上填补了我国内容科技产业发展的空白。

内容科技产业赛道清晰

何宝宏表示，从广义上看，内容科技产业是服务新闻出版、网络社交、广播电视、文化娱乐、经营销售等领域，支撑数字内容采集、生产、传播、存储、分析和治理的技术、工具、产品和服务的统称。截止到目前，内容科技产业方阵已取得一些突破性成果：在数字人领域牵头制定了2项ITU-T国际标准，在全球范围内属于首创；在内容审核领域多次支撑国家部委，已成为监管部门的重要助手；在内容分发与运营领域，智能推荐、智能营销等研究成果受到行业认可，填补了产业空白。

云大所副所长闵栋向记者展示了2022年首批内容科技产品评测成果，测评项目主要包括数字人系统基础能力评测、智能推荐系统可信能力要求评测、智能营销系列产品基础能力要求评测以及内容审核服务系统评测四大项。其中，在数字人系统测评中，腾讯云小微数智人平台V1.6.3、京东科技多模态数字人、火山引擎虚拟人平台等8个产品通过评测。

有目共睹的是，自去年“元宇宙”概念火热至今，市场上涌现出各种各样的数字人产品。云大所内容科技部工程师颜媚指出，数字人作为一种新兴事物在落地应用过程中，在生成途径、交互中存在许多待攻克的技术难题，而且存在较大的风险隐患——数字人技术如果被滥用可能会引发认知伦理问题。在这种情况下，云大所联合多家企事业单位开展了数字人技术标准研究，制订了多项国际标准和行业标准。

内容科技产业赛道逐渐清晰，云大所内容科技部副主任石霖此前在接受记者采访时表示，内容是与虚拟数字人、智能推荐、智能审核等关联最为紧密的场景之一，而且随着技术和服务的不断发展，这些技术之间出现了深度耦合的趋势。因此，从“内容”这个应用场景的角度去研究相关科技，能够更好更高效地推动相关产业健康发展。

内容审核领域难题突破

如果说数字人是近几年来的“新事物”“新领域”，那么内容审核显然已是一个长期性的问题。云大所内容科技部工程师陈文弢指出，网络生态治理成为全球性的问题，欧盟、美国、新加坡等相继发布一些法律法规，规范网民的互联网行为；而推特、Meta、Instagram等大型社交平台，也在积极建设专业的内容审核队伍。我国也陆续发布《互联网跟帖评论服务管理规定（修订草案征求意见稿）》等多个规章制度加强互联网内容的治理和监管，对互联网内容生态治理起到了约束和管理的效果，行业内逐渐形成“机器+人工”的内容审核方式。

陈文弢解释道，“机器+人工”的内容审核方式主要基于关键词过滤，为了发展更智能高效的审核方式，业界发展出基于云计算、人工智能和深度学习的审核架构。文本审核中，算法能够识别色情、暴力、违法犯罪、辱骂、广告等内容，除此之外，还可以定制专属内容进行识别。视频审核基于截帧技术，截取视频关键帧生成图像并转换成图片，再对图片进行审核，审核内容包括敏感标识、敏感人物、血腥暴力、色情等。音频审核中，首先将音频转成文字，然后再通过文字模型进行审核。目前，这种审核技术已经与各个行业出现深度融合的态势，比如新闻行业对错别字、人员排序、职位职称内容的识别，金融行业对是否仿冒他人注册、身份识别等安全问题的审核，教育领域关注的未成年人保护，检测吸烟、酗酒等行为。

尽管内容审核技术日趋成熟，但仍面临巨大挑战。首先，审核存在滞后性，某些信息在认定为违规信息前可能已在互联网大肆传播；一些信息虽然现在不是敏感信息，但以后可能会变成敏感信息。此外，违法违规信息的“伪装”“变异”技术在不断升级，以躲避检测识别。

为了应对这些困难，中国信通院云大所依托内容科技产业推进方阵开展了一些相关的技术研究和标准制定工作。同时，准备对现有标准进行更新、完善，拟增加深度伪造、特定人物识别，以及安全等专项评测标准，回应社会关切。同时，探索搭建第三方服务平台，满足行业内容审核需求，对审核人员进行培训，通过这些第三方服务，解决违法违规信息发现不及时，信息样本共享难的问题。

据悉，在首批内容科技产业成果中，国瑞内容安全检测引擎、东方通网信科技的网络不良信息监测系统、信工博特的智能内容审核系统等7项产品通过了评测。

（编辑：吴清 校对：颜京宁）