在7月24日举行的第十七届英特尔网络与边缘计算行业大会上,机器人、深信服、数码视讯、中科创达等上市公司企业代表现身,分享了其在边缘AI领域布局的最新进展。英特尔方面表示,将与中国企业持续深度布局边缘算力,以加速AI大模型在实际场景中的应用落地。
“随着大模型和算力的底层技术不断完善,生成式AI带动应用端革命,大模型部署在边缘侧成为必然趋势,边缘AI将成为各科技巨头抢占的下一块高地。AI与边缘计算的融合,也为产业链发展带来新机遇。”中国联合国采购促进会副秘书长宋嘉在接受《证券日报》记者采访时表示。
摇晃着身体不断与参观者互动,在大会展区现场,一个名为“小英”的AI“3D”虚拟数智人引起参观者关注。相关工作人员表示,“小英”是一个完全部署于边缘端的数智人,基于英特尔酷睿处理器与独立显卡技术,集成了先进的大语言模型和RAG技术,可以担任营业厅客服代表等多类职务。
随着芯片算力、虚拟现实、大模型的飞速发展,数智人技术已经从科幻走向现实,其不仅外观高度逼真,更以强大的交互能力与智能算法,落地各行业应用。上述工作人员告诉记者:“随着生成式AI对算力需求及应用要求的提升,众多云端生成式AI正向边缘侧和端侧迁移,释放生成式AI的更多潜力。”
在大会的展览区域,具身机器人、机械臂、AI数字人、智能网联汽车路测设备以及低空预警和5G边网融合场景纷纷得到展示。
科东(广州)软件科技有限公司AI研究员研发工程师张雷表示:“融入最新的语言大模型及多模态环境感知技术,基于英特尔最新一代计算平台,科东智能机械臂控制系统可以通过自然语言驱动机械臂执行任务,满足工业场景中轻量化本地部署需求,同时做到数据不出厂,大幅提高效率。”
据了解,随着生成式AI快速发展,云端算力面临成本以及供给压力,逐步无法承载AI需求,ai应用的范围与深度也渐渐被限制。为突破这一瓶颈,众多厂商联合抢先布局边缘AI,从而解决延迟、隐私和成本等关键问题,让AI技术在更多领域得到应用。
“边缘计算很好地解决了数据本地化需求,降低大模型部署成本,有力推动具身智能机器人、数字人等终端及应用的迭代发展。”张雷说。
多家企业积极备战边缘AI,推进大模型在边缘场景的部署。深信服工程师表示,公司实现在垂直领域安全大模型的高效能部署,极大提升了大语言模型的处理速度,进一步降低了运营成本。数码视讯相关负责人称,采用AI分辨率软件,公司转码器实现了图像重建等功能,并可以利用生成式AI算法自动产生超高清视频内容。
英特尔副总裁兼网络与边缘计算事业部中国区总经理陈伟表示,基于对边缘AI趋势的洞察,公司推出了专为边缘和网络AI设计的模块化平台,从而推动企业加速AI在边缘和网络的开发应用等,已经落地制造、交通、医疗等多个领域。
生成式AI技术与边缘计算的融合,也有望释放巨大的产业空间。据调研机构Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。
英特尔中国区总经理王稚聪表示,AI正在成为经济重要的驱动力。英特尔将基于边缘AI研发,进一步推动与中国本地大模型厂商进行适配优化,提升各行业的生产效能和产品创新。
与此同时,芯片端巨头、大模型玩家、制造企业加速边缘AI相关布局,也在带动边缘计算规模提升以及产业链升级。
根据机构STL Partners预测,到2030年,全球边缘计算潜在市场规模将增长到4450亿美元,行业复合年增长率高达48%。民生证券认为,在边缘侧推理的轻量化大语言模型有望带动边缘AI计算成长,加速边缘硬件市场更新迭代。边缘侧终端、算力、芯片等产业链环节均有望迎来规模性发展。