由于东说念主工智能加快器、图形处理器和高性能筹划应用轨范需求量捏续激增,高带宽内存(HBM)的销量正在飙升。
东说念主工智能波浪激发的本钱市集对于大谈话模子生态的插足使 HBM 通常处于断货情景,因为 HBM 是创建大模子所需数据的首选储存器。况兼,为了普及性能而打造的多层高密度构造以及 SRAM(静态就地存取存储器)濒临的收尾皆将市集对 HBM 的需求推到了更高的维度。
Rambus 高档副总裁兼硅 IP 总司理 Matt Jones 暗示:"跟着东说念主工智能熟悉模子的胁制扩大,对于硬件层面的性能条目也在胁制提高,这就条目内存的更动惩办决议,为了确保东说念主工智能的捏续增长和跨越,业界必须持续克服内存带宽和容量方面的扼制。"
这种势头很猛进程上由先进封装股东,在许厚情况下,先进封装不错提供比系统级芯片 SoC 更高效的数据旅途。日蟾光半导体(ASE)投资者关系垄断 Ken Hsiang 在最近的财报电话会议上暗示:"前沿封装正处于爆发的前夕,无论是东说念主工智能、收罗照旧其他正在研发的居品,对先进的互连时刻的需求颠倒热烈。"
HBM 与先进封装高度契合。三星半导体副总裁兼 DRAM 居品狡计垄断 Indong Kim 在最近的一次演讲中暗示:" HBM 定制将迎来一波大波浪,东说念主工智能基础设施的发展需要极高的收尾和扩展才智,咱们与主要客户一致合计,适用于东说念主工智能居品的定制化 HBM 将是关节的一步。功率,性能和面积(power, performance and area,简称 PPA)是东说念主工智能惩办决议的关节,定制将在 PPA 方面提供弥留价值。"
当年,经济效益严重地收尾了 HBM 被等闲收受。 硅中介层(协助上基层节点进行信断交换)价钱不菲,而在前说念工序(FEOL)的存储单元之间处理无数硅通孔 ( TSV,穿透硅晶圆或芯片的垂直互连时刻 ) 相似成本甘愿。日蟾光半导体的工程和时刻营销高档总监曹立宏暗示:"跟着高性能筹划、东说念主工智能和机器学习带来的需求增多,中介层的尺寸也权贵增多,高成本是其濒临的主要污点。"
天然这收尾了它在大众市集的诱导力,但对成本不太明锐的应用(如数据中心)仍推崇出强劲的市集需求。HBM 的带宽是任何其他存储时刻无法相比的,硅中介层的 2.5D 集成还是成为事实上的模范。
但客户是贪念的,他们永久在追求更好的性能,这即是为什么 HBM 制造商在胁制改换凸块材料和成型材料,完毕从 8 层到 12 层及 16 层 DRAM 的飞跃,从而莽撞以闪电般的速率处理数据。HBM4 的数据处理速率将在 HBM3E 的基础上有很大的普及,而完毕这一狡计的主要计谋是将数据线的数目从 HBM3 的 1024 条增多到 2048 条。
在全球市蚁集,有三家主要的公司分娩 HBM 内存模块,即好意思光、三星和 SK 海力士。天然他们皆使用 TSV 和微凸点时刻(在集成电路封装过程顶用于完毕芯片间互连的袖珍连气儿点),将 DRAM 堆栈和配套诞生集成到先进的封装中,但每家公司收受的设施略有不同。三星和好意思光在每个凸块层皆加入了非导电薄膜(NCF,该薄膜是一种团员物材料,用于使芯片互相绝缘并保护连气儿点免受撞击)及热压键合(TCB,焊合工艺,将芯片与基板固定在一说念)时刻。而 SK 海力士则持续收受倒装芯片大范围回流工艺的模塑底部填充(MR-MUF)决议,该工艺不错将堆栈密封在高导电性成型材料中。
HBM 的垂直连气儿是使用铜 TSV 和堆叠 DRAM 芯片之间的缩放微凸块来完毕的,下部缓冲器及逻辑芯片为每个 DRAM 提供数据旅途。居品的可靠性问题很猛进程上取决于回流、粘接和模具反磨过程中的热机械应力,而识别潜在问题需要测试高温责任寿命(HTOL)、温度湿度偏差(THB)和温度轮回,不错通过收受预处理、无偏湿度和压力测试(uHAST)来细则各层之间的粘附水平。此外,还需要进行其他测试,以确保耐久使用中不会出现微凸块短路、金属桥接或芯片和微凸点之间的接口分层等问题。夹杂键合是替代 HBM4 代居品微凸块的一种聘任,但前提是精炼产量狡计。
另一项正在研发的时刻是 3D DRAM,其参考 3D NAND 闪存时刻,将存储单元进行翻转。三星的 Kim 暗示:" 3D DRAM 堆叠将大大裁汰功耗和占用的面积,同期摈弃来自中介层的性能扼制,内存限度器从 SoC 移到基础裸片(晶圆经过切割测试后莫得经过封装的芯片)将为东说念主工智能提供更多的逻辑空间。咱们深信定制 HBM 将完毕性能和收尾双双普及,精细集成的内存和代工才智将为大范围部署提供更快上市及更优质的居品。
这里的总体趋势是将逻辑组件挪动到更围聚内存的场合,以便在内存中或内存近邻推广更多的处理,而不是将数据挪动到一个或多个处理元素。但从系统联想的角度来看,要完毕时刻的落地还濒临好多辛苦。
Lam Research 高档封装时刻总监 cheping Lee 暗示:"这是一个慷慨东说念主心的时间,东说念主工智能如斯火热,HBM 不错储存一切,各家存储器制造商皆在只争朝夕地率先分娩下一代 HBM。"
对于下一代居品 HBM4, JEDEC(固态时刻协会)正忙于制定这些模块的模范。同期,JEDEC 将 HBM3E 模范的最大内存模块厚度从 720mm 扩展到 775mm,这仍然适用于 40 μ m 厚的芯片。HBM 模范细则了每针传输速率、每个堆栈的最大芯片数目、最大封装容量(单元为 GB)和带宽等参数。模范的成立使得联想和过程得以简化,从而匡助 HBM 居品以更快的速率进入市集,现阶段为每两年进行一次居品的迭代。行将推出的 HBM4 模范将界说 24Gb 和 32Gb 层,以及 4 层、8 层、12 层和 16 层高 TSV 堆栈。
HBM 的进化史:对工艺和带宽的极致追求
高带宽内存的发展不错操心到 2008 年,当先的研发愿景是通过这款居品惩办筹划内存濒临的功耗和占用面积增多的问题。
三星电子的 Sungmock Ha 卓越共事暗示:"那时,行动最高频段 DRAM 的 GDDR5,其带宽被收尾在 28GB/s(7Gbps/ 引脚 x 32 个输入 / 输出端口)。"而 HBM Gen2 的出现使时刻完毕要紧的普及,通过将输入 / 输出端口的数目增至 1024 个,在不裁汰频率的情况下,奏效完毕了 307.2GB/s 的带宽紧闭。
从 HBM2E 运行,厂商通过收受 17nm 高 K 金属栅工艺( 诓骗高 K 介质材料代替惯例栅,不错灵验惩办多晶栅极浪费问题),达到每引脚 3.6Gbps,带宽 460.8GB/s。而当今 HBM3 新推出了每引脚 6.4Gbps 的传输速率,完毕 8 到 12 个芯片堆叠,与上一代相比带宽提高了约 2 倍。
这仅仅故事的一部分,HBM 还一直在向处理时刻贴近,以提高性能。
大范围回流焊是最熟悉和最低廉的焊合决议。Amkor 的工程和时刻营销副总裁 Curtis Zwenger 暗示:"大多数情况下,皆会收受大范围回流焊时刻,因为诞生装配的本钱开销很大,但后续的分娩成本相对较低。这项时刻为将芯片与高端模块连气儿到封装基板上提供了一种经济实惠且高效的方式。不外,跟着对性能的需求胁制普及,以及异构集成(指将多个不同工艺节点单独制造的芯片封装到一个封装里面,以增强功能性和提高性能)模块和高档基板惩办决议空间的日益扩大,其导致的后果是异构集成和基板的翘曲进程加重。而热压时刻和 R-LAB(反向激光赞助键合)行动传统大范围回流焊的工艺升级,不错更好地处理翘曲问题。"
微凸块金属化工艺通过优化后,不错提高可靠性。若是微凸块与焊盘之间的连气儿收受传统的回流工艺,况兼其中含有助焊剂和底部填充材料,则填充的赋闲和剩余的助焊剂残留可能导致凸块之间夹带的酿成。为了惩办这些问题,预涂非导电薄膜(NFC)被等闲收受,其不错在一步键合工艺中取代助焊剂、填充材料和键合形态,况兼不会产生夹带。
三星每一代居品皆会增多 NCF 材料的厚度,NCF 实质上是一种环氧树脂,含有固化剂和其他添加剂。这项时刻带来好多平正,特别是在更高的叠层上,因为业界正在极力收缩芯片裸片变薄带来的芯片裸片翘曲问题,而其优化的点在于全皆填充凸点周围的底部填充区(为凸点提供缓冲),使焊料流动,幸免赋闲产生。
SK 海力士从 HBM2E 居品运行,就将大范围回流模塑底部填充时刻改为 NCF-TCB。其导电模具材料是与材料供应商合营设备的,可能使用突出的打针工艺,这一时刻使得 SK 海力士完毕出色的晶体管结温限度。
HBM 中的 DRAM 堆栈被摈弃在缓冲芯片上,由于各家公司皆在极力将更多的逻辑应用到这一基础芯片上以裁汰功耗,同期还将每个 DRAM 内核与处理器连气儿起来,使缓冲芯片的功能在胁制增多。每个芯片皆被挑拣出来并摈弃在载体晶圆上,然后回流焊,终末堆叠成型,经过后面研磨、清洁和切割等工序打造出居品。台积电和 SK 海力士书记,晶圆代工场今后将向内存制造商提供基础芯片。
新想科技研发总监 Sutirtha Kabir 暗示:"逻辑存储器恒久是市集和蔼的焦点,尽管这个鸿沟在此前就还是被联系过。但每一种惩办决议皆将在电力和热能方面濒临挑战,这两者是密切相关的。平直影响是热应力(由于温度变化引起材料里面或外部产生的应力),这不仅局限于拼装层级,对通盘系统皆会产生影响。由于可能会使用夹杂键合或者细间距键合时刻,热问题对机械应力的影响更值得斟酌。"
此外,基础逻辑产生的热量也会在逻辑芯片和 DRAM 芯片之间的接口处产生热机械应力。由于 HBM 模块的位置围聚处理器,来自逻辑芯片的热量不能幸免地传导到存储器内。SK 海力士的高档时刻司理 Younsoo Kim 暗示:"咱们的数据败露,主机芯片温度每升高 2 ℃,HBM 的温度至少会升高 5-10 ℃。"
NCF-TCB 工艺相似濒临挑战。在高温高压下发生的热压键合会导致 2.5D 拼装出现问题,举例了得与底层镍垫之间的金属桥接或界面分层。另外,TCB 自己的产量也相对较低。
对于任何多芯片堆叠而言,翘曲问题与名义材料的推广悉数(TCE)不匹配相关,在加工和使用过程中,这会导致温度轮回产生应力。应力通常蚁合在一些关节部位,比如在基础裸片和第一个内存芯片之间,以及微凸块层级。居品的仿真模子不错匡助惩办这些问题,但也有部分问题独一在施行居品应用中才能充分体现其带来的影响。
东说念主工智能应用的运行依赖于对 DRAM 芯片、TSV、集成基本逻辑功能的芯片和多达 100 个去耦电容器的奏效拼装和封装。与图形处理器、CPU 或其他类型处理器的集合是一个精密联想的拼装工程,需要悉数组件完毕存机契合,以酿成高产且可靠的系统。
跟着行业从 HBM3 过渡到 HBM4,制造高性能 DRAM 堆栈的工艺只会变得愈加复杂。不外,供应商和芯片制造商也在和蔼更低成本的替代品,以进一步提高这些高速和不能或缺的内存芯片堆栈的被市集收受。
本文由雷峰网编译自:https://semiengineering.com/hbm-options-increase-as-ai-demand-soars/🦄九游下载中心_九游游戏中心官网
Powered by 九游下载中心_九游游戏中心官网 @2013-2022 RSS地图 HTML地图