3D X-AI芯片集成了8000个神经元电路,这些电路直接在3D DRAM中执行AI处理任务,实现了AI性能加速达到100倍。
与此同时,由于大幅减少了数据传输需求,该芯片的功耗降低了99%,有效降低了数据总线的功耗和发热问题。
该公司此前已宣布全球首款3D DRAM技术,而3D X-AI芯片则是在此基础上的进一步创新,通过类似HBM的堆叠封装,实现了每芯片高达10 TB/s的AI处理吞吐量。
NEO Semiconductor创始人兼首席执行官Andy Hsu指出,当前AI芯片架构中数据存储与处理的分离导致了性能瓶颈和高功耗问题。
3D X-AI芯片通过在每个HBM芯片中执行AI处理,显著减少了HBM和GPU之间传输的数据量,从而提高性能并降低功耗。