本报记者 李洋报道

如果无人驾驶出现事故，系统会做出保护行人还是保护司机的决策？

机器人更加个性化，是否能够做好安全监管？

AI“换脸术”“变声术”在娱乐大众的同时，如何避免被滥用甚至侵害他人权益的风险？

人工智能是否享有著作权？

在人工智能飞速发展的同时

相关法律、伦理、社会问题的研究

也成为行业发展不可回避的问题

人工智能究竟该如何健康发展？

近日，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。该治理原则突出了发展负责任的人工智能这一主题，强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。

随着近年来一系列顶层设计出炉

一大批企业投身人工智能领域

我国人工智能发展已在部分方面具有优势

与此同时

由此带来的安全风险、隐私、算法歧视、

行业冲击、失业、收入分配差异扩大、

责任分担等监管难题

也让人工智能的发展在争议中踽踽前行

Q.如何让机器符合人类道德规范？

A.对此，学界大体有3种设想：

一是自上而下，即在智能体中预设一套伦理规范，如自动驾驶汽车应将撞车对他人造成的伤害降到最低；

二是自下而上，即机器通过数据驱动，学习人类的伦理德道规范；

三是人机交互，即让智能体用自然语言解释其决策，使人类能把握其复杂的逻辑并及时纠正可能存在的问题。

在《治理原则》中

“发展负责任的人工智能”

成为贯穿人工智能发展的一条主线

更好协调人工智能发展与治理的关系

确保人工智能安全可控可靠

推动经济、社会及生态可持续发展

共建人类命运共同体

构成了《治理原则》的4个主要亮点

清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜：比如我们提出的“和谐友好”等原则，强调无论是人工智能提供的产品还是服务，都应该是负责任的、全面的，应以增进人类共同福祉为目标，应该符合人类的价值观和伦理道德，避免误用，禁止滥用、恶用。

上海大学教授、国家新一代人工智能治理专业委员会委员李仁涵：人工智能是一个新生事物，发展还是第一位的。推动我国人工智能的发展，也要在发展中解决问题。

中国科学院自动化研究所研究员、国家新一代人工智能治理专业委员会委员曾毅：现在一些技术开发者没有经过这方面的专业训练，通过创新为社会带来正面效应的同时，对相关的风险不重视或无意识，给社会带来了较大的隐患，希望《治理原则》的发布，能够推动“自适应”的治理，确保人工智能朝着对全人类、全社会及自然生态有益的方向发展。