36kr
📅 04/13 11:21
NVDA.O
近年来,生成式人工智能的进步和广泛应用,使人们重新认识到半导体存储器,特别是DRAM 的重要性。此外,旨在通过垂直堆叠DRAM芯片或存储单元来提高容量和速度的3D DRAM技术正在快速发展。 博主Damnang2日前在一个分享中更是透露,最近,他参加了SK海力士美洲法人社长举办的技术研讨会,在那里听到的一句话让他印象深刻的话:“如果但是看3D DRAM,中国已经领先于SK海力士。” 看到这句话,笔...
近年来,生成式人工智能的进步和广泛应用,使人们重新认识到半导体存储器,特别是DRAM 的重要性。此外,旨在通过垂直堆叠DRAM芯片或存储单元来提高容量和速度的3D DRAM技术正在快速发展。 博主Damnang2日前在一个分享中更是透露,最近,他参加了SK海力士美洲法人社长举办的技术研讨会,在那里听到的一句话让他印象深刻的话:“如果但是看3D DRAM,中国已经领先于SK海力士。” 看到这句话,笔者一方面体会到海外巨头的棒杀。另一方面,这或多或少体现了国内企业和研究机构这些年在3D DRAM的研究终于被看到了。 众所周知,传统DRAM主要通过缩小二维(2D)硅晶片上的电路图案尺寸来提高存储容量。然而,随着缩小尺寸的有效性接近物理极限,为了获得更大的容量(更高的密度)和更快的速度,必须在高度方向上堆叠多层结构。3D DRAM应运而生并投入实际应用,以满足这些需求。 为此,在这篇文章中,我们打算给大家深度科普一下3D DRAM。 人工智能时代,存储空前重要 3D DRAM的加速发展是由应用领域对更大容量和更快速度DRAM日益增长的需求所驱动的。 众所周知,为了使生成式人工智能更加智能,并满足日益增长的人工智能用户需求, GPU和各种人工智能加速器等处理器需要不断提升性能。在股市上,全球最大的GPU制造商英伟达( NVIDIA )的股价也随着人工智能应用的扩展而飙升。然而,对于人工智能的演进和普及而言,比处理器更重要的是DRAM容量和速度的提升。这是因为最新的人工智能模型规模要大得多,因此必须能够可靠地提供与GPU和其他处理器在训练和推理过程中处理速度相匹配的数据量。在人工智能系统中,DRAM的规格质量对整个系统的性能和功耗都产生了更大的影响。此外,人工智能系统中高随机内存访问的频率远高于科学技术计算(后者是高负载计算处理的典型例子)。因此,计算性能往往取决于DRAM的带宽。 然而,目前的DRAM仅依赖于基于小型化的二维(平面)密度提升,这使得容量和速度的进一步提升变得困难。 DRAM单元的结构限制是其面临的一大挑战。DRAM单元通常采用1T1C结构,由一个控制数据访问的晶体管和一个以电荷形式存储数据的电容器组成。因此,除非晶体管和电容器都小型化,否则单元的小型化是不可能的。然而,电容器必须能够存储一定量的电荷才能存储数据,这使得小型化变得困难。虽然3D电容器结构(例如沟...