横空出世的ChatGPT等人工智能，推出伊始万人追捧，近期却“风评”分化：层出不穷的新应用、新软件，频频涉嫌侵权、涉足造谣甚至诈骗。有欢迎、点赞，也有失望、焦虑……人工智能犹如川剧的“变脸”，不停地切换着在公众心目中的形象，而公众对人工智能应用的诸多反应，也正折射着人类对于人和技术复杂关系的微妙情感。

技术“顶流”背后的多重矛盾

近年来让我们震撼的各种新技术中，AI技术占有一席之地。AI是人工智能（Artificial Intelligence）的英文缩写，指的是通过计算机模拟人类智能；从应用广度和受关注度看，可谓时下新技术的“顶流”，亮点和便利频现，从智能家居、交通、金融到娱乐休闲，越来越多的场景涌现。

人工智能应用加速拓展的同时，那股脱缰野马的劲头也日益引发争议，让人喜忧参半的代表就是AI作画、AI写作、AI歌手。

AI“歌手”通过模仿人类歌手的声音和唱法，风格多样、制作高效、定制性强，成为视频网站“顶流”，一首歌能播放百万次。AI歌手让熟悉的音色和歌曲，产生了奇妙的化学反应，对于粉丝来说不啻于一种“福利”，整体点赞居多，但背后暗藏的多重法律和伦理问题不容忽视。

综合目前媒体报道的法律界人士意见，首先，AI歌手本质上是通过模仿现实歌手的声音和唱法来训练、推理，如制作者与现实歌手事先没有协商，迟早会面临声音权的矛盾；如果AI歌手在创作过程中使用了音乐人的作品或素材，制作发布且不进行报酬分配，可能会涉及著作权的矛盾。AI歌手“成名”有着相同的手法即模仿，相互间难免“撞车”，AI作品的版权保护也须引起重视。再者，如AI歌手模仿已故歌手，是否会引起道德和伦理争议也有待研判。

防止流量“推手”沦为“黑手”

另一类AI“灰色”运营的争议更大，引发对权利人利益、公共利益受损的质疑和忧心。

有媒体报道，有网友点开直播间，发现正在带货的竟是当红“明星”，再定睛一看，这些“明星”们，其实是使用了AI实时换脸技术的普通主播。律师表示，换脸直播用于公开传播可能涉嫌侵犯肖像权，一旦产生负面评价，还会涉及名誉权侵权。

和指向特定对象的侵权风险比起来，普通大众的知情权也会被人工智能不当应用累及，甚至公众秩序也可能受到扰乱。人工智能合成的照片、文字成为谣言来源，多次见诸媒体：一则网传3月起杭州“取消机动车尾号限行”的不实消息，就出自ChatGPT；5月，甘肃侦破首例利用AI人工智能技术炮制虚假信息案，嫌疑人也是通过ChatGPT将搜集到的新闻要素修改编辑后上传。人工智能换脸还介入诈骗，媒体报道，多地出现AI诈骗案例，有人10分钟被骗430万。

人工智能的出圈带来了惊喜，但逐渐被当成流量新“推手”后，问题和矛盾显现——技术可以成为顶流、吸来巨大流量，也可以变为幕后“黑手”，引发安全隐患，“反噬”使用者。设定边界，关键在于依法监管、依规约束、科学治理。

沿着法治轨道方行稳致远

人工智能应用涉及的法律风险，相关法规均有针对性。AI歌手涉及的法律问题主要是声音权和著作报酬分配权，这些在我国的民法典和著作权法中有规定。今年1月，《互联网信息服务深度合成管理规定》实施并明确，深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。4月，国家网信办公布《生成式人工智能服务管理办法（征求意见稿）》，提出“利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，承担该产品生成内容生产者的责任”。

人工智能技术一旦用于不良应用，并不是法律法规令行禁止就可以立刻杜绝的，需要提供者、使用者严守法律底线，恪守道德规范，“头顶璀璨星空，心怀道德法则。”也需要加强科技伦理治理，在实践中进一步细化优化管理，明确责任主体，打击黑灰产业链，防止人工智能被滥用、误用。

古希腊哲人说：有思想力的人是万物的尺度。人类创造的人工智能技术，终究要以人为尺度。技术本身是中性的，使用者必须坚持向善的取向和人本的原则，以是否适合人的使用、符合人类的愿景、利于人类社会的文明前途为评价标准，最终确保技术可控安全。

党的二十大报告提出，必须坚持“创新是第一动力”。事实证明，近年来各种爆发式涌现的新技术、新模式，无一不是创新的结果。以人工智能产业为例，2022年我国人工智能核心产业规模据测算达5080亿元，同比增长18%。但法治和创新是互相不可或缺的一体两面，以法治方式服务、规范、促进和保障科技创新，是实现高水平科技自立自强的需要。人工智能应用要持续发展、对社会产生良性的正向推动作用，就必须坚持在法治轨道上创新，方能行稳致远。

主持人 薛蓓

评论员 王君戎  薛蓓

编辑：景洁