服务粉丝

我们一直在努力
当前位置:首页 > 财经 >

高能效浮点存内计算研究获进展

日期: 来源:中科院之声收集编辑:
近年来,存内计算架构成为人工智能加速芯片的重要研究方向。存内计算架构能够降低数据访问开销,显著提升神经网络等智能算法的能效。目前,针对存内计算芯片的研究集中在定点存内计算领域,现有浮点存内计算的实现方案采用近存电路、指数-底数分离、浮点-定点转换等方式,面临较低并行度或较多浮点运算周期的挑战,难以实现高能效和高性能。考虑到更大规模网络模型和复杂任务的需求以及浮点运算在神经网络训练过程中的必要性,浮点运算功能对于未来存内计算芯片非常重要。 

针对高能效浮点存内计算的挑战,中国科学院院士、中科院微电子研究所研究员刘明团队与清华大学教授刘勇攀团队合作,提出了“稠密存内+稀疏数字”的新型混合存内计算架构。研究发现,神经网络各层的数据分布具有长尾特性,且其中大部分数据的指数位密集分布在一个较小的区间内。基于此,研究提出了将高能效存内计算核心用于执行密集指数位的数据运算,将高灵活度稀疏数字核心用于执行具有长尾特性的稀疏指数位的数据运算。高效的浮点-定点转换电路、灵活编码的稀疏数字核心以及节省高位计算的数字存内计算加法器树电路进一步提升了该设计方案的能效。该SRAM存内计算芯片在28nm工艺下流片,在4比特定点和16比特浮点情况下,存内计算核心的稠密网络峰值能效分别达到275TOPS/W和17.2TOPS/W,稀疏网络峰值能效分别达到1600TOPS/W和90TOPS/W。该成果有助于推动SRAM存内计算芯片在高准确率浮点神经网络及神经网络训练等方面的应用。 

相关研究成果以A 28nm 16.9-300TOPS/W Computing-in-Memory Processor Supporting Floating-Point NN Inference/Training with Intensive-CIM Sparse-Digital Architecture为题,入选固态电路领域顶级会议ISSCC 2023。 

图1.“稠密定点+稀疏浮点”存算一体混合架构:运算拆分原理 

图2.28nm高能效浮点存内计算芯片

来源:中国科学院微电子研究所



本账号稿件默认开启微信“快捷转载”

转载请注明出处

其他渠道转载请联系 weibo@cashq.ac.cn

相关阅读

  • 如何构建像ChatGPT一样的大模型?

  • “如何有效地训练大型机器学习模型?”作者 | Devansh编译 | YIFEI大模型已经引起了人们的广泛关注,通过向模型添加更多的参数和数据,我们可以向系统添加更多的功能。额外的参数
  • 人工智能环保吗?

  • 在过去十年,人工智能(特别是深度学习)取得了显著成效。当Siri读懂你说的话、脸书认出了你的表亲、谷歌地图为你重新规划路线时,都大概率涉及到了深度学习系统。鲜为人知的是,这些
  • 新突破!首台国产高能效重型燃气轮机顺利下线

  • 日前,首台国产空气冷却最高能效等级的重型燃气轮机在河北秦皇岛顺利下线,这是国内重型燃气轮机生产制造技术水平的新突破。首台国产空气冷却最高能效等级的重型燃机长11米、总
  • python中π怎么表示

  • Python中π用自带模块math中的常量pi来表示,这个常量是一个精确到小数点后15位的一个浮点数(没有π本身精确,但够用了),一般用来表示圆周率。本文探讨π在Python中的一些表示方法

热门文章

  • “复活”半年后 京东拍拍二手杀入公益事业

  • 京东拍拍二手“复活”半年后,杀入公益事业,试图让企业捐的赠品、家庭闲置品变成实实在在的“爱心”。 把“闲置品”变爱心 6月12日,“益心一益·守护梦想每一步”2018年四

最新文章

  • 高能效浮点存内计算研究获进展

  • 近年来,存内计算架构成为人工智能加速芯片的重要研究方向。存内计算架构能够降低数据访问开销,显著提升神经网络等智能算法的能效。目前,针对存内计算芯片的研究集中在定点存内
  • 科研人员实现400°C以下太阳能天然气制氢与脱碳

  • 随着双碳战略的深化,氢能产业迅猛发展。制氢技术是氢能产业的源头,对氢能产业链的整体布局与发展颇为重要。传统制氢技术包括工业天然气重整制氢与煤气化制氢,是目前氢能的主要
  • 【重要】五大片区规划亮相!你家属于哪个区?

  • 点击关注公众号,获取成都工作生活办事指南↑↑ 日前四川省自然资源厅发布关于征求五大片区国土空间规划社会公众意见的公告▲点击查看源文件按照省委、省政府安排部署,自然资
  • 旅游书用靖国神社作封面,销毁!追责!

  • 12日,大连理工大学出版社出版的一本日本旅游攻略书籍疑似使用靖国神社当作封面,引发关注。14日,大连理工大学出版社针对“旅游书籍用靖国神社作封面”事件发布情况通报,相关图书