ChatGPT发布以来，全球竞逐AI赛道，人工智能发展的速度已超乎我们的想象。不过现在，似乎无所不能、颠覆行业、成为未来发展趋势的ChatGPT目前正被层出不穷的负面包围。

　　目前，意大利已禁止全国使用GPT-4，给予OpenAI平台20天适应期，否则将面临2000万欧元罚款。欧盟、加拿大、法国、爱尔兰和德国也纷纷准备采取行动。美国总统拜登在白宫会议上讨论了AI对社会和国家安全的风险与机遇，表示AI的危险性有待观察。而由马斯克和图灵奖得主等人发起的公开信呼吁暂停高级AI发展，如今已有上万人签名。

　　封杀ChatGPT狂潮席卷全球

　　以ChatGPT为代表的生成式人工智能，正在激发包括微软、谷歌、Meta、百度、阿里巴巴等国内外科技巨头以及创业者的新一轮AI军备竞赛。

　　然而，从全球爆火到被多国“围堵”，ChatGPT正在引发更多监管层面的关注。

　　当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

　　图源：网络

　　随后，4月3日，德国联邦数据保护专员Ulrich Kelber表示，德国可能会效仿意大利，以数据安全方面的担忧为由，屏蔽ChatGPT。

　　法国和爱尔兰方面也联系了意大利数据监管机构，并讨论了调查结果，同时，加拿大隐私专员办公室(OPC)宣布开始调查ChatGPT背后的公司OpenAI，涉及“指控OpenAI未经同意收集、使用和披露个人信息”等投诉。

　　不仅如此，多国企业和机构也开始调查或采取措施限制使用该软件。

　　3月末，韩国三星半导体部门发生了3起因员工在ChatGPT上输入设备信息及重要会议摘要，导致公司机密外泄风险陡增的事件。

　　台积电、软银、日立、富士通、日本瑞穗金融集团等企业也开始限制ChatGPT等交互式人工智能服务在商业运作中的使用。

　　此外，摩根大通已经限制员工使用ChatGPT，亚马逊、微软和沃尔玛也已向员工发出警告，要求员工谨慎使用生成式AI服务，埃森哲则警告员工不要将客户信息暴露在ChatGPT中。

　　与此同时，另一个引发关注的焦点是，如今GPT-4可能具备“自我进化”的能力。前谷歌大脑研究工程师Eric Jang发现，GPT-4能够以合理的方式批评自己的成果，“AI是否能够超越人类”这个终极难题再度浮现。

　　曾有微软研究员发推说GPT-4根本无法写出“不押韵”的诗歌。然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗，可以说是满分。

　　似乎，人工智能发展到现在，已经成为令人“不安”的存在。

　　马斯克呼吁ChatGPT纳入监管

　　人工智能是柄双刃剑，具备强大能力的同时也伴随巨大的风险。推特首席执行官埃隆·马斯克(Elon Musk)甚至认为，对于未来文明而言，最大的风险之一就是人工智能。他呼吁建立对人工智能的监管。

　　3月29日，马斯克等千名业界和学界人士联署公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统，暂停至少6个月，以便制定和实施安全协议。

　　“ChatGPT已向人们展示了人工智能变得多么先进，我们需要监管人工智能的安全问题。任何有可能对人们造成风险的技术，比如飞机、汽车、药品，我们都有监管机构来监督这些技术的公共安全问题，人工智能也应该有类似的监管，因为它对社会的风险更大。这或许会减缓人工智能的发展，但我认为是好事。”马斯克表示。

　　图源：网络

　　4月11日，据《华尔街日报》报道，拜登政府已经开始研究是否需要对ChatGPT等人工智能工具实行检查。作为潜在监管的第一步，美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序。征求意见期限为60天。

　　“这些工具即便在起步阶段就能做到这些，这真令人惊讶。” 美国商务部下属机构国家电信与信息管理局局长艾伦·戴维森(Alan Davidson)说，“我们知道，我们需要设置一些界限，来确保这些技术被负责任地使用。”

　　目前，科技行业和政府官员已对人工智能技术潜在的危害表示担忧，包括使用该技术犯罪或是传播虚假信息。

　　值得一提的是，当地时间4月10日，据美国数字新闻网站 Axios报道，知情人士透露，著名科技投资人Ron Conway的投资公司SV Angel将于4月12日召集旧金人工智能山AI公司的高层讨论人工智能政策问题，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司的高管与政策代表将出席该会议，讨论如何负责任地开发AI、分享最好的实践案例，并商讨相关的公共政策框架和标准。

　　据悉，美国金融部门的监管机构已经对贷款机构如何利用人工智能来承销贷款进行调查，希望防止对少数群体的歧视。此外，美国司法部反垄断部门表示，该部门正在监控人工智能领域的竞争。联邦贸易委员会则警告这些科技公司，它们可能会因对人工智能产品做出虚假的或未经证实的声明而面临法律后果。

　　中国拟给生成式人工智能立规

　　4月11日，中国国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(简称《征求意见稿》)公开征求意见，《征求意见稿》共21条，从生成式人工智能服务商的准入，到算法设计、训练数据选择、模型到内容，以及用户实名和个人隐私、商业秘密等方面提出了相关要求。这意味着，当下爆火的生成式AI产业将迎来首份监管文件。

　　图源：中国网信网

　　依据征求意见稿，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下简称提供者)，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任;涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

　　提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：符合《中华人民共和国网络安全法》等法律法规的要求;不含有侵犯知识产权的内容;数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形;能够保证数据的真实性、准确性、客观性、多样性;国家网信部门关于生成式人工智能服务的其他监管要求。

　　而在《征求意见稿》发布的前一天，前搜狗CEO王小川的百川智能，商汤科技以及昆仑万维三家企业宣布杀入生成式人工智能大模型领域。

　　值得关注的是，《征求意见稿》中也明确了对生成式AI产业的支持和鼓励态度。《征求意见稿》提出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

　　(中国小康网综合人民网、经济日报、中国新闻网、每日经济新闻、第一财经等)

　　来源：中国小康网

　　作者：风华

　　审核：龚紫陌