服务粉丝

我们一直在努力
当前位置:首页 > 科技 >

复旦MOSS距离ChatGPT还有多远?

日期: 来源:北京科协收集编辑:北京科协

侯树文 科技日报记者 王春

最近上热搜的MOSS,不是《流浪地球2》中量子计算机550W给自己起的新名字,而是复旦大学计算机科学技术学院教授邱锡鹏团队最新发布的国内第一个对话式大型语言模型,也被称作中国版ChatGPT。

2月20日,MOSS悄然上线,邱锡鹏团队发布至公开平台(https://moss.fastnlp.top/),邀公众参与内测。但是由于瞬时访问火爆,计算资源无法支撑,内测窗口已暂时关闭。

悄然上线,又匆匆关闭,MOSS这一“快闪”的举动,让它的亮相饱受争议。

科技日报记者在浏览器上输入公开平台的网址,其中对MOSS这样介绍:一种像ChatGPT的对话语言模型。MOSS能够按照用户的指示执行各种自然语言任务,包括问答、生成文本、总结文本、生成代码等。MOSS还能够挑战不正确的前提,并且拒绝不适当的请求。

那么相对于美国OpenAI的ChatGPT,中国的MOSS有何特别之处呢?记者在主页看到了这样的介绍:MOSS和ChatGPT的区别——如MOSS的参数量比ChatGPT少得多;MOSS通过与人类和其他AI模型交谈来学习,而ChatGPT是使用来自人类反馈的强化学习(RLHF)进行培训;MOSS将是开源的,以促进未来的研究,但ChatGPT可能不是这样。

据介绍,MOSS开发的基本步骤与ChatGPT一样,包括自然语言模型的基座训练、理解人类意图的对话能力训练两个阶段。作为MOSS主要作者之一,邱锡鹏表示:“MOSS与ChatGPT的差距主要在自然语言模型基座预训练这个阶段。MOSS的参数量比ChatGPT小一个数量级,在任务完成度和知识储备量上,还有很大提升空间。”

ChatGPT语言模型的参数量高达1750亿,而在它问世前,世界上最大的语言模型是微软开发的Turing-NLG,其参数量为170亿。自去年11月30日正式发布以来,ChatGPT上线5天,注册用户就突破百万。目前,其用户规模已达到1亿,成为互联网发展史上用户增长最快的消费级应用。

在关闭内测之后,MOSS官网发布公告称,MOSS还是一个非常不成熟的模型,距离ChatGPT还有很长的路要走。“我们是一个进行学术研究的实验室,无法做出和ChatGPT能力相近的模型。”科研团队相关负责人指出,当前版本的MOSS表现不够稳定,部分回答或存在事实差错、逻辑不顺等问题。不仅如此,MOSS的英文回答水平较中文回答水平更高,这主要受到其模型基座的单词收录量影响,MOSS学习了3000多亿个英文单词,但中文词语只学了约300亿个。

复旦大学计算机科学技术学院教授张奇是推出MOSS的复旦大学NLP实验室核心成员之一。对于ChatGPT背后模型所拥有的1750亿的参数规模,他在一次公开讨论中表示,学校这类机构很难去完成,目前百亿级的规模都已经非常困难。

按照ChatGPT目前开源的最简单复现版本、最便宜模式去计算,要做到1750亿的参数规模,需要大概6000万元的硬件成本,同时运算3.5个月。这还是所有事情都做对的情况,如中间有参数调整,或者想加速训练过程,就需要更高规模的投资。

归根到底还是研发投入的问题。而除了学术界,国内科技企业也纷纷摩拳擦掌开发自己的ChatGPT:原美团联合创始人王慧文近日明确表示,要“组队拥抱新时代,打造中国OpenAI”;百度此前宣布将在3月上线百度版ChatGPT——文心一言(英文名为ERNIE Bot);阿里达摩院正在研发类ChatGPT的对话机器人,目前已开放给公司内员工测试;科大讯飞也表示,Al学习机将成为公司类ChatGPT技术率先落地的产品……

相关阅读

  • 重读百度:文心一言意味着什么?

  • @新熵 原创 作者丨樟稻 编辑丨伊页 2022年11月30日,人工智能领域可能也迎来了与网景导航者的问世同样重要的关键时刻。当天,OpenAI的首席执行官山姆·阿尔特曼发推文称:“今
  • 谁最能从生成式人工智能中受益?

  • 在这一领域中,价值将在哪里产生?编者按:生成式人工智能正在科技领域掀起一股浪潮。那么,哪些公司将会从中受益,生成式人工智能将在哪些领域体现出最高的价值呢?本文来自编译,希望对
  • 上海市纪委书记李仰哲一行调研复旦大学

  • 2月21日下午,上海市委常委、市纪委书记、市监委主任李仰哲一行到复旦大学走访调研,复旦大学党委书记裘新参加调研并主持座谈会。市纪委副书记、市监委副主任孟文海,复旦大学党
  • “打不过”ChatGPT,就加入

  • 作者|Yinting Hou编辑|宋函ChatGPT掀起全球热潮,并开始“入侵”人类生活。2月19日,根据《韩国经济新闻》报道,出版商SnowfoxBooks即将发行一本由ChatGPT撰写的书籍《寻找人生目标
  • 百度文心大模型处于行业第一梯队能力全面领先

  • 火爆全球的ChatGPT让背后的大模型技术进入了更多人的视野。日前,国际权威咨询机构IDC发布《2022中国大模型发展白皮书》(以下简称《白皮书》),认为大模型是AI发展的必然趋势,并提

热门文章

  • OPPO k1的低价高配真实么?网友:不看不知道

  • 近日OPPO一款新机OPPO k1,摒弃了高价低配,就连自家老大哥r17都要怼一下。更是放弃了请代言人,以往的OPPO手机还没出来,各路流量小生,花样美男的代言就先来了。还有线下销售人员的
  • 一招教你手机无限制成为一台新设备

  • 大家平时用手机去注册app,肯定会遇到检测设备异常,交易关闭,等问题 这个都是手机已经不止1-2次注册过此app,不断更换手机仅是一个暂时的方法,却不是长久之计,手机总归会用完
  • 从零开始如何开网店

  • 随着互联网的高速发展,人们的生活发生了翻天覆地的变化,生活节奏越来越快,网购已经成为家家户户生活中离不开的一种购物方式了。网购的发展使得越来越多的人想要涉足电商事业,那

最新文章

  • 复旦MOSS距离ChatGPT还有多远?

  • 侯树文 科技日报记者 王春最近上热搜的MOSS,不是《流浪地球2》中量子计算机550W给自己起的新名字,而是复旦大学计算机科学技术学院教授邱锡鹏团队最新发布的国内第一个对话式
  • “甜妹子”杨冰的“宝藏”生意经

  • 杨冰,30岁出头,常常把笑容挂在脸上,被大家称为“甜妹子”,她常说“见人三分笑,客人跑不掉”。温柔甜美的她却有着令人意想不到的韧劲,认定的事就一定要去完成、去做好。作为
  • 江苏淮阴:关注种源安全 助力乡村振兴

  • 2月16日,江苏省淮安市淮阴区民建界别政协委员召开社情民意调研座谈会,围绕“种业振兴”议题展开讨论。民建淮安市委副主委、民建淮阴区基层委主委、淮阴区政协副主席张玉琴主