服务粉丝

我们一直在努力
当前位置:首页 > 情感 > 故事 >

ACM图灵大会开幕,王海峰解读文心大模型3.5最新进展

日期: 来源:极目新闻收集编辑:极目新闻

极目新闻记者 黄永进

实习生 韩春龙 彭监波 李彤

7月30日,记者从在汉举办的ACM中国图灵大会上获悉,百度文心一言已经发布3.5版本,将更好地为用户服务。会上,百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰解读文心大模型的核心技术,阐述人工智能产业模式,为人工智能技术及产业发声。据了解,文心一言已成为百度员工工作中的 “超级助理”,Comate智能编码伙伴帮助80%百度工程师提升编程效率,改变了程序开发模式,吸引了100多家合作伙伴。

王海峰在大会分享文心一言大模型

飞桨开发者数量已达到750万

当前,人工智能已经成为新一轮科技革命和产业变革的重要驱动力量,而深度学习是其关键核心技术,具有很强的通用性,呈现出标准化、自动化、模块化的工业大生产特征,推动人工智能进入工业大生产阶段。大模型具有效果好、泛化性强、研发流程标准化程度高等特点,成为人工智能发展的主流方向。

人工智能时代,IT技术栈发生根本性改变,从芯片、操作系统和应用三层架构,转变为芯片、框架、模型、应用四层架构。深度学习框架和大模型构成了产业智能化基座,支撑各行各业的应用智能化重构。

百度在“芯片—框架—模型—应用”人工智能四层技术栈全面布局,自研的深度学习平台飞桨支撑了文心大模型的高效训练和推理,截至目前飞桨平台开发者数量已达到750万。IDC报告显示,百度稳居中国深度学习平台市场综合份额第一。根据中国信通院发布的《深度学习平台报告(2022)》,飞桨是中国深度学习市场应用规模第一的深度学习框架和赋能平台。

据IDC报告,文心大模型综合评分第一,算法模型第一,行业覆盖第一

据了解,文心一言是百度自主研制的知识增强大语言模型,首先从数万亿数据和数千亿知识中融合学习得到预训练大模型,在此基础上采用有监督精调、人类反馈的强化学习和提示等技术,并具备知识增强、检索增强和对话增强等技术优势。

王海峰解读了文心大模型3.5的核心技术创新,通过飞桨与文心协同优化,文心大模型3.5实现了基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,模型效果提升50%,训练速度提升2倍,推理速度提升30倍。

在基础模型训练上,采用了飞桨最先进的自适应混合并行训练技术及混合精度计算策略,并采用多种策略优化数据源及数据分布,加快了模型迭代速度,显著提升了模型效果和安全性。同时,百度研发团队创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术,进一步提升模型效果及场景适配能力。

在知识增强和检索增强基础上,文心大模型3.5提出了“知识点增强技术”,使得模型能够更好地利用精细的知识点来提升理解生成等方面的能力,进而提升对世界知识的掌握和运用。

在推理方面,通过大规模逻辑数据构建、逻辑知识建模、多粒度语义知识组合以及符号神经网络技术,提升文心大模型3.5在逻辑推理、数学计算及代码生成等任务上的表现。

文心大模型3.5还新增了插件机制,包括官方插件百度搜索和ChatFile,使得文心一言能够生成实时准确信息和长文本摘要,拓展了大模型能力边界。

根据IDC最新发布的《AI大模型技术能力评估报告,2023》,百度文心大模型3.5在14个参评模型中拿下12项指标的7个满分,得到“综合评分第一,算法模型第一,行业覆盖第一”三个绝对第一。

Comate帮助80%百度工程师提升编程效率,已吸引100多家伙伴

王海峰在演讲中展示了文心一言的问答对话、文案生成、行程规划等能力,以及在办公、会议、编码等场景的应用。

文心一言先是根据要求写了一篇赞美“茶”的文章,全文赞美“茶”却未出现“茶”字,接下来又规划了“武汉一日游”的行程安排,确保能游览黄鹤楼,能吃到地道的武昌鱼,还创作了以“图灵大会”为题的藏头诗。

工作中,文心一言化身“超级助理”,帮助总结工作沟通要点,实时记录会议内容,形成会议议题、摘要及总结等关键信息,可以通过各类插件完成指令任务,包括查询日程、创建会议、设置待办、申请休假等,也可以在工程师编码过程中自动推荐和生成代码。据悉,目前这些功能已通过智能工作平台“如流”应用于百度的工作流程中,Comate智能编码伙伴帮助80%百度工程师提升编程效率,吸引了100多家合作伙伴。

对于大模型的产业模式,王海峰表示,在文心一言这类大模型产业落地的进程中,可以采用“集约化生产,平台化应用”的模式,即具有算法、算力和数据综合优势的企业将模型生产的复杂过程封装起来,通过低门槛、高效率的生产平台,为千行百业提供大模型服务,支撑产业智能化升级。

相关阅读

  • ChatGPT热潮后的AI权力竞逐:承诺、政策与趋势

  • 以下文章来源于复旦中美友好互信合作计划 ,作者赵子昂 田喆 姚旭* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台1. 拜登携手AI巨
  • 拓尔思:公司目前没有申请大模型牌照

  • 2023年7月28日,拓尔思(300229)在互动平台回复称,公司目前没有申请大模型牌照。根据项目研发进度,公司计划适时推出公安、法律、审计等行业大模型。公司成立的拓尔思数字经济研
  • Photoshop Beta版更新,添加生成式扩展AI功能

  • 【环球网科技综合报道】7月28日消息,Adobe公司宣布推出生成式扩展(Generative Expand)AI功能,已提供给Photoshop beta版用户。据介绍,通过该功能用户可以单击和拖动裁剪工具来扩

热门文章

最新文章

  • 挽弓搭箭,王世坤“射落”成都大运会湖北首金

  • 极目新闻记者 徐平 通讯员 李宁7月30日,在成都举行的第31届世界大学生夏季运动会(以下简称成都大运会)射箭项目男子复合弓团体决赛中,湖北运动员王世坤和队友杜美余、陈岩松组成
  • 打造乡村振兴齐鲁样板|双社共建助农增收

  • 直播日照7月30日讯 日照市供销社与村党组织领办合作社实行“双社共建”,联合省供销社直属企业鲁供农服集团,开展果园托管服务试点,推动果业提档升级,助农增收。眼下,正是黄桃陆续
  • 菏泽鲁西新区举行2023年“慈心一日捐”活动

  • 牡丹晚报全媒体记者 武霈为弘扬助人为乐、乐善好施的中华民族传统美德,7月29日,菏泽鲁西新区举行2023年“慈心一日捐”活动。涓涓细流,汇聚成海。活动中,鲁西新区领导班子带头捐
  • 十堰64个政府投资项目获批复 建设全面提速

  • 今年以来,十堰加快项目审批速度,累计批复政府投资项目64个,促进项目建设全面提速提质提效,加快补齐基础设施短板,持续增进民生福祉。这段时间,朝阳南路改线工程正进入施工攻坚阶