向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

存储器密度超8倍,取代HBM的新技术出现了?

存储器厂商NEOSemiconductor发布最新3DX-AI芯片技术,取代目前用于AIGPU加速器的HBM。

据悉,这款3D DRAM内建AI处理功能,使处理和生成不需要数学运算输出,当大量数据在存储器与处理器间传输时,可减少数据汇流排(Data Bus)问题,提升AI效能与效率。7Tsesmc

3D X-AI芯片的底层有个神经元电路层,可处理同一芯片上300个存储器层所储存的数据。NEO Semiconductor表示,由于8,000个中子电路(neutroncircuits)可在存储器中进行AI处理,该3D存储器效能可提升100倍,存储器密度比目前HBM高8倍,透过减少在GPU中处理的数据量,可降低99%耗电量。7Tsesmc

NEO Semiconductor创办人兼CEO许富菖指出,由于架构和技术低效率,目前AI芯片浪费大量效能和电力。目前AI芯片架构是将数据储存在HBM、GPU负责执行所有运算,这种架构将数据储存与处理分离,使数据汇流排成为无法避免的效能瓶颈,当大量传输数据时效能有限,耗电量也非常高。7Tsesmc

3D X-AI可在每个HBM芯片中执行AI处理,大幅减少HBM与GPU之间传输的数据,提升效能并大幅降低功耗。7Tsesmc

X-AI容量为128GB,每个芯片可支援10TB/s的AI处理能力。将12个裸晶(X-AI)堆叠在单一HBM封装中,可实现超过1.5TB储存容量和120TB/s处理吞吐量。7Tsesmc

目前许多公司研究能提高处理速度和通讯吞吐量的技术,当半导体速度越来越快、效率越来越高时,在元件之间传输数据的汇流排将成为瓶颈,因此这样的技术将可让所有元件一起加速。7Tsesmc

台积电、英特尔、铠侠等公司都在研究光学技术,以加快主机板内的通讯速度,透过将部分AI处理从GPU转到HBM,NEO Semiconductor可降低工作量,使效率远高于目前耗电的AI加速器。7Tsesmc

责编:Elaine
文章来源及版权属于全球半导体观察,国际电子商情仅作转载分享,对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。如有疑问,请联系Elaine.lin@aspencore.com
全球半导体观察
专注于半导体晶圆代工、IC设计、IC封测、DRAM、NAND Flash、SSD、移动装置、PC相关零组件等产业,致力于提供半导体产业资讯、行情报价、市场趋势、产业数据、研究报告等。
  • 微信扫一扫,一键转发

  • 关注“国际电子商情” 微信公众号

最新快讯

可能感兴趣的话题