服务粉丝

我们一直在努力
当前位置:首页 > 科技 >

端侧AI,为什么这么火?

日期: 来源:鲜枣课堂收集编辑:鲜枣课堂

2024年悄然过半,越来越多的企业,开始思考AI的落地场景,探索AI如何才能真正赋能用户。

想要赋能用户,当然就离不开终端抓手。我们明显可以看到,端侧AI的发展正在成为市场关注的焦点。除了集成本地大模型的AI手机大量出现之外,AI PC的概念也不断走红。

那么,应用场景更多、用户规模更大的物联网市场,是否也可以进行AI落地呢?现在越来越火的智能模组、AI模组,有什么特别之处?

就在今天刚刚开幕的MWC世界移动大会(上海站)上,国内模组一线厂商广和通展示了他们的多款智能模组产品及解决方案,让我们对端侧AI落地有了更全面、更深入的了解。

MWC广和通展台

接下来,小枣君就给大家做一个详细解读。


█ 智能模组的诞生背景

智能模组在传统模组的基础上,通过集成NPU(神经网络处理单元)等计算单元的方式,获得了更强大的异构算力,能够执行机器学习等AI算法,从而实现传统物联网场景的智能化变革。

从本质上来看,智能模组是一种AI算力的下沉。

完全基于云端AI的方式,终端的数据需要通过网络上传云端,云端经过计算后,再下发给终端,会产生更大的时延。如果网络不稳定,也会更加影响用户体验。

云端AI,也不满足部分用户对信息安全和物理隔离的需求。

云侧AI+端侧AI

采用端侧AI,数据的处理在本地完成,时延更短,且不容易受到网络质量的影响。在数据隐私保护上,端侧AI也有先天优势。

在成本方面,端侧AI减轻了云端的计算负荷,可以节约云基础设施方面的投资。

云侧AI,适合处理对资源消耗较大的训练任务,以及部分推理任务。而端侧AI,适合处理即时性要求高、交互频繁的推理任务。

“云+端”的混合AI,已经成为当前AI应用落地的主流趋势。


█ 智能模组,有哪些应用场景?

智能模组作为端侧AI的重要算力载体,是目前行业关注的热点。

在广和通的展台,我们看到了他们此前发布的SC126、SC138、SC171L、SC171等多款智能模组产品,分别采用了高通QCM2290、高通QCM6125、高通QCM5430/QCS5430、高通QCM6490/QCS6490平台。

这些智能模组面向入门级、中端、高端,可以满足客户对不同平台、性能、算力、成本的差异化需求。基于这些模组的边缘AI解决方案,已经在机器人、工控机、智慧零售、工业手持、无人驾驶等领域广泛应用,拥有大量的成功商用案例。

● 割草机

广和通不久前发布的免埋线式割草机行业解决方案,就是一个典型案例。

根据广和通MC产品管理部副总裁赵轶的介绍,整个方案是广和通基于低速无人自动驾驶平台打造的。

该方案以广和通智能模组(SC171)作为主控,基于Linux边缘AI解决方案,具备AI边界识别及控制能力,可提供基于RTK+VIO融合定位、规控和感知算法。方案还可以搭载各类传感器,赋能机器人的室内外精准定位和规控能力。

广和通定制了包括双目摄像头、RTK定位天线、设备整板等全套硬件,以包括模组、PCBA、整机等多种灵活的商务模式提供给客户。软件部分,也全部采用的是广和通自主研发的算法(包括定位、行程规划等)。

AI训练方面的工作,也是广和通完成的。他们使用了近百万张草地的图片、视频去训练模型,还根据当地的场景数据进行收集,对算法模型进行更新,训练出最符合客户实地应用的模型,最终交付给客户。

端侧AI的商业落地和传统模式有很大区别。

对大部分用户来说,AI是新生事物。很多用户并不知道AI到底能为自己做什么,也没有明确的应用场景,甚至连需求都是模糊的。而且,部署AI有一定的技术门槛。包括AI算法的研发、AI模型的训练、数据的收集和处理,都需要具备相应的研发力量和资源。

为了更好地服务客户,广和通采取的做法,是进一步延伸服务范围,为用户提供包括软件、硬件、算法以及模型训练等全方位打包服务。

广和通的免埋线式割草机行业解决方案,目前正与国内外主流厂商合作,展示了其技术、数据、方案的领先能力,相信很快就能出现在公众视野。

除了割草机器人之外,广和通的方案还覆盖了服务机器人、清洁机器人、运输机器人、巡检机器人等多个垂直领域。

● 具身智能

众所周知,具身智能(Embodied Intelligence,有物理身体并支持物理交互的智能体)是目前人工智能领域的一个热门研究方向。

今年1月,斯坦福大学、伯克利大学和谷歌DeepMind团队合作推出一款名为“Mobile ALOHA”的家用具身机器人,可以炒菜、煮咖啡甚至逗猫,刷屏全网,也吸引了更多企业投身这一领域。

为了帮助众多机器人厂商客户快速复现及验证Mobile ALOHA的相关算法,更快更好地研发具身机器人产品,广和通推出了具身智能机器人开发平台——Fibot。

Fibot采用全向轮底盘设计、可拆卸式训练臂结构,机械臂拥有更多的自由度及臂展范围。它满足客户验证Mobile ALOHA协同学习与简单的示教操作数据需求,从而习得机械臂的高级移动操作功能算法。

Fibot还能通过底盘选配的激光雷达或双目模组,实现室内外的空间感知及建图、路径规划和动态避障等算法的二次开发。它还集成了多种深度学习和强化学习AI算法,结合高效的感知系统与智能决策框架,极大提升了客户进行二次开发的效率。

平台方面,Fibot以广和通高算力智能模组SC171作为主控,基于高通®QCM6490物联网解决方案设计,采用8核高性能处理器,可对数据进行高效计算与处理,助力终端实现边缘计算和AI特性。

广和通AIC产品管理部总经理张泫舜表示:“广和通具身智能机器人开发平台Fibot具备感知、视觉、定位及导航、动作控制等底层能力,能更好地赋能客户实现AI与机器人相结合。随着AI技术的突破性进展,具身智能的演进将成为科技变革的新高地与经济发展的加速器。”

● 其它应用领域

除了机器人之外,我们再看看机器视觉、智慧零售和智能家居。

基于AI算法所带来的物体检测、跟踪、识别能力,使得智能模组解决方案可以更好地落地机器视觉场景。例如面向工业领域的产品分拣、面向消费领域的车载相机,以及面向交通领域的车流监测等。

智慧零售方面,基于智能模组的端侧AI方面可以应用于智能售货机以及ECR等收银终端。

智能售货机可以与用户进行对话互动,灵活适配多种语言甚至方言,自动处理订单。不仅节约了人力成本,也提升了用户购物体验。零售商也可以通过智能模组获得关键的消费者数据洞察,制定对应的市场战略。

端侧AI在智能家居领域也有很大的市场。

将FWA(固定无线接入)与AI进行融合,可以实现网络精准预测和智能选网策略,重塑网络体验与优化天线性能。在用户端,5G FWA融合AI、Matter技术,可以使家居设备实现高效互联互通。FWA将成为智慧家庭中心管家。


█ 端侧AI的机遇和挑战

AI落地具有很大的想象空间,以上解决方案只是广和通众多应用案例的一小部分。

从整个行业的发展来看,端侧AI融合通信是必然趋势。将AI能力与IoT场景深度融合,将会为用户带来巨大的商业价值,也拥有广阔的市场前景。

然后,推动端侧AI的落地,并不是一件容易的事情。它也面临很多挑战,例如:行业场景和需求碎片化、标准规范缺失、技术门槛高、成本和功耗敏感等。

广和通之所以能够为用户提供完善的端侧AI解决方案,和他们多年的通信行业沉淀以及在AI领域的持续投入密不可分。

首先,作为模组厂商,广和通在通信专业领域拥有雄厚实力,对各项通信技术标准研究透彻,也能够提供全球范围内的运营商认证。

其次,广和通在各个垂直行业有丰富的客户服务经验,对市场和行业研究透彻,充分了解用户的需求。他们能够针对不同行业提供定制化的解决方案,符合行业标准且具备互操作性。

第三,广和通在AI领域有长远布局。他们在AI算法等领域投入了大量的研发资源,进行相关技术储备。当大模型浪潮到来后,他们在第一时间就推出自己的行业模型应用,以及智能模组产品。

基于以上几点,广和通已经在AIoT赛道上抢得先机,并且获得了市场和用户的认可。


█ 最后的话

“提速互联,智向未来”,是本次广和通参加MWC展的主题。

基于强大的通信连接能力,深入融合AI人工智能,是整个物联网行业今后的发展方向。在技术创新的引领下,越来越多的AIoT场景讲出现在我们身边,推动整个社会走向真正的“数智时代”。

相关阅读

  • 如何科学填报志愿?听专家解读三维定位法

  • 6月26日下午,华为浏览器携手极目新闻举办了遇见系列沙龙,活动邀请原湖北教育报刊社副社长张才生、武汉大学人工智能系副主任余伟等嘉宾分享科学填报志愿方法及热门学科专业解
  • 进企业 看发展 | 阿木奇:开辟新赛道迸发新活力

  • 从全球知名通信品牌耳机供应商,到开拓助听器行业市场新赛道,陕西阿木奇智能电声科技有限公司在杨凌良好的营商环境沃土中,不断发展壮大,迸发出新的活力。盛夏时节,走进位于杨陵区
  • 打造以大模型为引擎的新质生产力

  • 大模型正引领新一轮人工智能变革。上周,人工智能赋能新型工业化供需对接深度行首站就来到了苏州工业园区。这是一场干货满满的供需深度融合盛会。近年来,国内大模型产业发展迅
  • 《5G RedCap技术发展及应用白皮书》重磅发布

  • 6月25日,在2024 MWC上海前夕,全球领先的物联网整体解决方案供应商移远通信宣布,正式发布其《5G RedCap技术发展及应用白皮书》。该白皮书对RedCap的技术特点、市场趋势及应用场
  • 毕业典礼上,江大校长分享了三个师生故事……

  • 极目新闻记者 向一帆通讯员 黄鹂 李品林 刘亮实习生 吴蔚“同学们即将扬帆起航,开启新的人生征程。在这依依惜别之际,我想与大家分享三个江大师生故事,一起感受深厚的师生情谊
  • 五部门发文:鼓励限购城市放宽车辆购买限制

  •   国家发展改革委6月24日消息,为培育和壮大消费新增长点,促进消费稳定增长,国家发展改革委、农业农村部、商务部、文化和旅游部和市场监管总局近日联合印发《关于打造消费新
  • 人工智能给孩子们带来的机遇与挑战

  • 编者按:青少年往往是新一代数字技术的测试者。这意味着他们是新技术优点的最先受益者和缺点的受害者。在面对生成式人工智能的冲击时,他们会面临哪些机遇与挑战呢?今年春天,洛杉

热门文章

  • 解码“新IT”的5个特征和3大价值

  • 党的二十大报告提出,要加快发展数字经济,促进数字经济和实体经济深度融合,打造具有国际竞争力的数字产业集群。在数字经济与实体经济深度融合的产业浪潮中,以智能设备、边缘计算
  • OPPO k1的低价高配真实么?网友:不看不知道

  • 近日OPPO一款新机OPPO k1,摒弃了高价低配,就连自家老大哥r17都要怼一下。更是放弃了请代言人,以往的OPPO手机还没出来,各路流量小生,花样美男的代言就先来了。还有线下销售人员的
  • 一招教你手机无限制成为一台新设备

  • 大家平时用手机去注册app,肯定会遇到检测设备异常,交易关闭,等问题 这个都是手机已经不止1-2次注册过此app,不断更换手机仅是一个暂时的方法,却不是长久之计,手机总归会用完
  • 从零开始如何开网店

  • 随着互联网的高速发展,人们的生活发生了翻天覆地的变化,生活节奏越来越快,网购已经成为家家户户生活中离不开的一种购物方式了。网购的发展使得越来越多的人想要涉足电商事业,那

最新文章

  • 端侧AI,为什么这么火?

  • 2024年悄然过半,越来越多的企业,开始思考AI的落地场景,探索AI如何才能真正赋能用户。想要赋能用户,当然就离不开终端抓手。我们明显可以看到,端侧AI的发展正在成为市场关注的焦点
  • 刚刚,北约任命新秘书长

  • 6月26日,据新华社消息,荷兰首相吕特被任命为北约秘书长。现任北约秘书长斯托尔滕贝格于2014年上任,他的任期将于2024年10月1日结束。吕特现为荷兰看守政府首相,将在荷兰新政府正
  • 北京市绿色能源和低碳产投基金成立 出资额100亿元

  • 天眼查App显示,近日,北京市绿色能源和低碳产业投资基金(有限合伙)成立,执行事务合伙人为北京京国管置业管理有限公司、北京汽车集团产业投资有限公司,出资额100亿人民币,经营范围为
  • 广聚能源董事长变更 林伟斌履新

  • 深圳市广聚能源股份有限公司于2024年06月26日发布董事会决议显示,林伟斌聘任为公司董事长,详情如下:林伟斌简历:男,1966年生,中共党员,本科。曾在深圳市南山区工业发展公司、深