当地时间周四,Meta宣布,它正在研发首款专门用于运行人工智能模型的定制芯片。
Meta并不像谷歌、微软等科技巨头从事销售云计算服务的业务,过去公司从未公开谈论其内部数据中心芯片项目。但Meta高管称,全球科技界都对此表现出兴趣,所以有必要与外界沟通。
这款芯片名为“Meta训练和推理加速器”(Meta TrAIning and Inference Accelerator,简称“MTIA”),功耗仅为25瓦,远低于Nvidia等厂商的芯片功耗。
据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。
“GPU在真实模型应用方面的效率仍然很低,而且部署起来成本高昂。”Meta软件工程师Coburn表示,“这就是我们需要MTIA的原因。”
此外,Meta还介绍了一种称作“可规模化视频处理器”(MSVP)的芯片,可用于处理视频并传输,同时降低能源需求,该公司称,每天需要处理40亿个视频的任务。
相关文章
暂无评论...