在ChatGPT被热炒的氛围中,我们应当理性地看到,作为一种新型互联网服务的ChatGPT仍存在技术上的局限性。ChatGPT不具备实时查证的功能,其回答完全来自预先设置的数据库。ChatGPT缺少行业数据的训练,对于专业领域如法律、医疗行业的回答无法保证准确率。ChatGPT所提供的答案并不可靠,其并不擅长数学逻辑,也没有能力分辨一些信息的真假。这种技术上的局限性可能导致互联网治理的局面变得日益复杂。
同时,ChatGPT带来的伦理及监管问题也令人忧虑。如何对类似于ChatGPT的AI服务进行合理监管,成为监管者需要面对的新课题。第一,最直接的风险是数据泄露问题。ChatGPT本质上是以海量数据为基础进行训练的大模型,这意味着其数据越多、时效性越强,它的功能就越好,能给予用户更优质的交互体验。但用于ChatGPT或其他类似应用的训练数据,有可能会涉及商业机密、国家机密及个人隐私信息。那么,获取相关敏感信息的途径是否合法合规?如果造成敏感信息泄露,所造成的影响及后果该由谁来承担?目前,美国的一些公司为防止数据泄露的情况出现,已经要求公司职员在使用ChatGPT过程中严禁泄露商业机密,并正在着手制定相关的措施和规范。第二,ChatGPT带来的学术伦理问题引起教育界及学术界的担忧。自ChatGPT发布以来,越来越多的学生利用ChatGPT完成学业和功课,甚至将其用于作弊。教育工作者担心类似ChatGPT的互联网服务将导致学术不端行为的泛滥,使得培养学生的批判思维及创新能力变得愈发困难,且无法正确有效评估学生的能力和知识水平,进而影响到构建公平的学术氛围和学术环境。第三,ChatGPT及类似的业务可能会输出危及社会公共安全的有害信息。在诱导式提问下,ChatGPT类的应用可能为违法甚至犯罪活动提供便利。这可能使违法犯罪的门槛大大降低。监管者需要对这类有害信息及其可能造成的严重危害给予足够的重视。第四,ChatGPT及类似的业务可能带来意识形态问题。ChatGPT的输出由其模型所决定,而模型又来自算法选择以及用于模型训练的庞大数据库,这也就使得模型开发者能够相对容易地将自己所偏好的价值观植入训练数据,或通过算法选择呈现某种价值观。假若模型开发者的价值观存在着历史曲解、文化偏见以及种族歧视,那么这种曲解、偏见与歧视将会随着模型与用户的交互对用户产生潜移默化的影响,甚至是误导。因此,在当今国际国内各种思潮交织碰撞、东西方意识形态博弈的背景下,ChatGPT这类互联网服务可能会受到国家行为体以及非国家行为体的操控,成为意识形态传播的工具。ChatGPT作为由海量数据训练得到的人工智能模型,代表着AI技术取得的突破和AI行业的最新成果,其强大的产业应用能力、广泛的场景适用性势必极大提升人类社会各行业、各场景的内容生产效率。与此同时,ChatGPT及与其类似的互联网服务所带来的相关伦理及监管问题使得互联网治理面临新的挑战,需要政府、产业界、学界以及每个互联网用户认真审视和应对。(来源:中国社会科学报)