服务粉丝

我们一直在努力
当前位置:首页 > 科技 >

爆火出圈的ChatGPT,究竟需要怎样的算力?

日期: 来源:联想控股收集编辑:联想控股

编者按:

近日,OpenAI公司推出的人工智能聊天机器人模型ChatGPT爆火出圈,其使用大量训练数据模拟人类语言行为,通过语义分析生成文本,从而与用户进行逼真自然的交互,甚至可以写诗、写脚本、写论文、写代码……

ChatGPT的“走红”还将人工智能内容自动生成技术(AIGC)推上“热搜”。那么,什么是AIGC?以ChatGPT为代表的AIGC技术,背后需要哪些技术体系支撑?对此,我们推出AIGC系列解读文章,试图回答以上问题,并推荐相关书单供您进一步延展阅读。以下为本系列策划的第一篇文章。

算力,人工智能的“发动机”

数据、算法、算力是人工智能的三大核心要素,其中算力被誉为人工智能“发动机”。无论是数据还是算法,都离不开算力的支撑。

据ChatGPT的开发者OpenAI测算,自2012年以来,全球头部AI模型训练算力需求约3-4个月翻一番,每年头部训练模型所需算力增长幅度高达10倍。由此可见,算力的强劲支撑是支持AIGC未来进一步应用和普及的关键。

以ChatGPT为例,其由GPT-3.5模型提供支持,历经GPT-1、GPT-2、GPT-3三次迭代,参数量从1.17亿增至1750亿,预训练数据量从5GB增至45TB(数据相当于整个维基百科英文版的160倍)。

其中,GPT-3训练成本估算至少超过460万美元。为了提供其训练所需要的超强算力,2020年5月,微软投资10亿美元为OpenAI专门打造了一台超级计算机。该超级计算机托管在Azure上,包含超过28.5万个处理器内核和1万块GPU,每个显卡服务器的连接速度为400 Gbps/s,性能在超级计算机中可以排到前五。

通常情况下,AI大模型对算力资源的需求主要体现在三类场景,包括模型预训练、日常用户交互等运营、模型调优迭代训练。据华泰证券测算,训练一次ChatGPT模型(13亿参数)需要的算力约27.5PFlop/s-day,即以1万亿次每秒的速度进行计算,需要耗时27.5天;而ChatGPT单月运营需要算力约4874.4PFlop/s-day,对应成本约616万美元。

由此可见,要想训练出更优秀的AI模型,甚至让AI模型真正应用于各行各业,需要更为强劲的运算能力和更为丰富的算力资源。某种程度而言,算力已成制约AI产业化发展的重要因素。

AI芯片技术创新,助推运算能力升级

AIGC为人工智能大规模落地创造了丰富多元的场景,但是传统的CPU架构难以满足人工智能算法对算力的要求。对此,具有海量数据并行计算能力、能加速计算处理的AI芯片应运而生。

AI芯片是人工智能算力的硬件基石,其是针对人工智能算法进行特殊加工设计的芯片。在技术架构层面,AI芯片主要分为GPU(图形处理器)、CPU(中央处理器)、FPGA(现场可编程门阵列)、ASIC(专用集成电路),并在不同场景中各有所长。

通过搭配组合与协同,AI芯片已经对现有模型构成底层算力支撑,但面对未来潜在的算力指数级增长,短期可使用CHIPLET异构技术加速各类应用算法落地,而长期来看,打造存算一体芯片(减少芯片内外的数据搬运)或将成为未来算力升级的潜在方式。

● CHIPLET异构技术不仅可以突破先进制程的封锁,并且可以大幅提升大型芯片的良率、降低设计的复杂程度和设计成本、降低芯片制造成本,是加速算力升级的关键技术。但其需要牺牲一定的体积和功耗,因此将率先在基站、服务器、电动汽车等领域广泛使用。

● 存算一体能够在存储器中嵌入计算能力,以新的高效运算架构进行二维和三维矩阵计算,其具备更大算力、更高能效、降本增效等优势,可攻克数据搬运慢、搬运能耗大等计算关键瓶颈。

AI芯片技术创新将为AI算力提供强劲的支撑,进一步引领本土产业链弯道超车。目前,国内已有部分创新科技企业围绕相关技术创新展开布局。

其中,弘毅创投与联想创投共同投资企业后摩智能是国内首家采用存算一体技术打造大算力(单芯片算力达数百甚至千TOPS)的智能计算芯片公司,致力于突破芯片性能及功耗瓶颈,加速人工智能普惠落地,其提供的大算力、低功耗的高能效比芯片及解决方案,可应用于无人车、泛机器人等边缘端,以及云端推荐、图像分析等云端推理和训练场景。

普惠算力,为各行各业提供生产力

并不是所有企业或高校,都能像OpenAI一样拥有专属定制的“人工智能高性能计算中心”。对此,可以满足无处不在、集成优化、按需应用的“普惠算力”,有望在未来去助力更多AIGC的研发和应用,最终赋能千行百业。

“十四五”规划纲要明确指出,要加快构建全国一体化大数据中心体系,强化算力智能调度,建设若干国家枢纽节点和大数据中心集群,建设E级和10E级超级计算中心。

目前,我国已建成全球规模最大、技术领先的网络基础设施,算力产业链条持续完善,包括算力基础设施、算力平台、算力服务等在内的、具有国际竞争力的算力产业生态初步形成。截至2022年6月底,我国在用数据中心机架总规模超过590万标准机架,服务器规模近2000万台,算力总规模超过150EFLOPS,位列全球第二。

未来,随着全国算力“一张网”逐步打造完成,算力将成为像水、电、气一样的基础公共资源,无处不在、互联互通、普惠适用,促进各产业共融共生,推动数字经济高效发展。

前路漫漫,上下求索。算力生态的成熟完善,既需要国家政策指挥调度,也需要社会上的企业、高校等力量汇聚成流。

作为双实融合的代表企业,联想集团在算力方面有着较深的技术积累。围绕“端-边-云-网-智”,联想集团构建了全新要素的新IT架构,让数据与算力结合得更加顺畅。其中“端”负责采集和产生的海量数据,提供大数据基础;“边-云-网”则提供算力,通过大数据工具、人工智能算法,对各行业现行机理、决策机制、业务流程加以学习、总结、提炼,最终实现决策的智能化。

此外,更强劲的智能算力也带来更高的碳排放。例如,经粗略合算,运行60余天来,ChatGPT碳排放超过814.61吨。要想从大气中吸收这些二氧化碳,相当于需要栽种超过6.5万棵树。

碳中和背景下,发展算力同样也要兼顾节能减排。对此,联想集团以技术创新积极建设绿色算力。

相较于传统风冷系统能够节约数据中心40%以上的能耗,联想集团独创并不断升级“温水水冷技术”,可让数据中心整体PUE值降低到1.1以下,进一步降低数据中心能耗,助力绿色数据中心建设,促进“双碳”目标的实现。

联想集团还于近期推出了全新的服务器品牌“联想问天”,并发布首款产品——联想问天GB5520 V3服务器,这意味着联想集团普慧算力布局完成关键“落子”。依托新IT架构,联想集团正迈向“融合化、场景化、订阅化及绿色化”的普惠算力,助力各行业智能化转型。

在政策支持、技术创新、企业加速产业生态布局等因素共同支持下,AI算力将不断升级,为AIGC落地应用提供澎湃动力。

据IDC数据统计,2021年我国AI算力规模达155.2 EFLOPS,2022-2026复合增速为47.5%,预计2026年将达1271.4 EFLOPS。随着算力规模日益庞大,算力也将如同水电一样普及,成为推动千行百业转型升级的“发动机”。


相关阅读

  • 谁最能从生成式人工智能中受益?

  • 在这一领域中,价值将在哪里产生?编者按:生成式人工智能正在科技领域掀起一股浪潮。那么,哪些公司将会从中受益,生成式人工智能将在哪些领域体现出最高的价值呢?本文来自编译,希望对
  • “打不过”ChatGPT,就加入

  • 作者|Yinting Hou编辑|宋函ChatGPT掀起全球热潮,并开始“入侵”人类生活。2月19日,根据《韩国经济新闻》报道,出版商SnowfoxBooks即将发行一本由ChatGPT撰写的书籍《寻找人生目标
  • AI搜索之战已全面打响,中国的ChatGPT在哪?

  • 2023开年以来ChatGPT似乎成为世界的风暴眼,一时间火爆全网的新晋“网红”。ChatGPT上线2个月月度用户数量“狂飙”破亿,亮相即封神,成为史上用户增长最快的应用。能与人类“对
  • 数据运用场景下司法认知模式转型

  •   数字法治的发展促使司法认知模式发生相应转型。这里的司法认知模式是从宽泛意义上指称司法决策的认知模式,不同于诉讼法学中专门概念“司法认知”(Judicial Notice)。它主
  • ChatGPT可以替代法官和律师吗?

  • 四川法治报-法治四川新闻客户端记者 夏菲妮最近,ChatGPT成为了人们讨论最多的话题之一,这款人工智能聊天机器人火爆全球,除了可以用来写论文、改代码、做翻译,还能用来咨询法律
  • 河南原阳 人工智能进校园 “点燃”学生科技梦

  • 2月20日上午,由原阳县第二完全小学联合中国科普产学研协同创新平台共同举办为期5天的“科学您好 中科人工智能科普进校园”活动正式启动,为全校师生送上了一套集科学性、知识

热门文章

  • OPPO k1的低价高配真实么?网友:不看不知道

  • 近日OPPO一款新机OPPO k1,摒弃了高价低配,就连自家老大哥r17都要怼一下。更是放弃了请代言人,以往的OPPO手机还没出来,各路流量小生,花样美男的代言就先来了。还有线下销售人员的
  • 一招教你手机无限制成为一台新设备

  • 大家平时用手机去注册app,肯定会遇到检测设备异常,交易关闭,等问题 这个都是手机已经不止1-2次注册过此app,不断更换手机仅是一个暂时的方法,却不是长久之计,手机总归会用完
  • 从零开始如何开网店

  • 随着互联网的高速发展,人们的生活发生了翻天覆地的变化,生活节奏越来越快,网购已经成为家家户户生活中离不开的一种购物方式了。网购的发展使得越来越多的人想要涉足电商事业,那

最新文章

  • 爆火出圈的ChatGPT,究竟需要怎样的算力?

  • 编者按:近日,OpenAI公司推出的人工智能聊天机器人模型ChatGPT爆火出圈,其使用大量训练数据模拟人类语言行为,通过语义分析生成文本,从而与用户进行逼真自然的交互,甚至可以写诗、
  • 让老旧小区充满新活力

  • 红星新闻网(记者 但唐文 实习生 邓人豪)2月21日报道 “聚焦智慧蓉城牵引带动,加快提高超大城市治理现代化水平。完善智慧治理体系。深化基层治理创新。”今日上午,成都市十八届
  • 就在今晚,最好看的“星月童话”→

  • 海报制作:冯娟天文科普专家介绍,2月22日傍晚,西南方低空将上演“浪漫一幕”——明亮的金星与极细的月牙近距离相伴,赏心悦目,煞是好看。金星伴月是最好看的“星月童话”,这是因为
  • 2743+541,山西“宝贝”真不少!

  • 山西省地处黄河中游,黄土高原东部,地貌类型丰富。现有野生植物2743种,其中,国家一级保护野生植物1种,国家二级保护野生植物31种,省重点保护野生植物49种。 现有野生动物541种,其中,