大模型呼唤大算力 先进封装成芯片发展新高地
上海证券报 2023-11-25 13:17

训练ChatGPT5.0需要5万块英伟达H100芯片,高算力需求将助推半导体产业加快发展,而在“后摩尔时代”推动半导体产业发展的众多技术中,先进封装是最重要的一环。

11月23日在上海临港举行的“2023中国临港国际半导体大会”上,来自台积电、长电科技、芯原股份等公司嘉宾及业界学者,围绕人工智能与半导体产业发展进行了热烈讨论。与会嘉宾认为,人工智能不仅将大幅加快半导体产业的成长,还将半导体封装技术的重要性提升至前所未有的高度,使其成为除先进制程技术之外,让摩尔定律又向前迈进的一大新技术。

本土GPU大有可为

“生成式AI的重要意义不亚于PC或者互联网乃至蒸汽机,是一个划时代颠覆式的应用。”对于大模型,台积电(中国)有限公司副总经理陈平在主题演讲中给予高度评价,他认为支持生成式AI发展的三大基础要素是大数据、大模型、大算力。

中国半导体行业协会IC设计分会理事长、清华大学集成电路学院教授魏少军在主题演讲中强调,当前发展人工智能主要靠大算力,更加凸显出高算力、低功耗的AI计算芯片的重要性。

“我们跟本土很多AI芯片公司都有合作,本土也已经出现可用于训练、且可规模供应AI芯片的公司。”商汤科技联合创始人、大装置事业群总裁杨帆透露,由于众所周知的原因,本土AI公司获取英伟达GPU芯片难度加大,但从另一角度,这也给了本土高算力芯片公司及相关产业提供了发展空间。

近期也有A股公司披露跟本土AI芯片公司合作的案例。

超讯通信11月21日晚公告,公司拟与沐曦集成电路(上海)有限公司(简称“沐曦”)签订附生效条件的《全国行业总代理商合作协议》,公司将在2024年和2025年以行业总代理商身份每年完成1万颗曦云C系列GPU产品的进货业绩目标,主要用于中国移动、中国电信、中国联通、中国能建、中国交通以及“东数西算”算力节点客户处。沐曦是国内致力于研发具有自主知识产权的高性能GPU的芯片公司。

不同于英伟达提供通用GPU芯片,国内AI芯片公司更多致力于发展专用ASIC芯片、GPGPU芯片等专用芯片,且有多家获得了业界支持。比如,在专用ASIC芯片上,百度昆仑芯与国芯科技展开合作,弘信电子则选择牵手燧原科技。在GPGPU路径上,除了沐曦,海光信息也发布了DCU深算二号。此外,四川长虹、中贝通信、科大讯飞等披露采用华为AI芯片昇腾910B。

杨帆认为,由于大量的数据需要在本地存储,未来AI应用一定是本地化的,产业侧需要大量本地算力资源,本土AI芯片和服务器需要在各地AI智能计算中心形成完整支撑,也需要人工智能公司配合提供更多的软件(算子)支撑。

先进封装成发展新高地

人工智能对算力的需求有多大?在本次大会上,杨帆在演讲中举例称,Chat GPT5.0的训练量对应到算力,约等效于5万块的英伟达H100芯片。

一直以来,推动高算力芯片发展的主要动力是先进制程技术。但现在,人工智能对算力的需求,将芯片封装技术的重要性提升至前所未有的高度,甚至是与先进制程技术相并列的高度,而2.5D、3D封装技术备受业界重视。

“满足未来AI在大算力芯片方面的需求,半导体还会沿着摩尔定律前进:一是在传统工艺制程微缩上继续前行;二是采用2.5D、3D封装技术。”陈平表示,英伟达GPU芯片采用的CoWoS封装,iPhone手机芯片采用的info封装都是2.5D封装技术,3D堆叠可提供更高的集成度、更大的带宽、更好的芯片性能。

陈平解释称,生成式AI对芯片制造工艺提出两大挑战:一是大算力,需要在单位面积里集成更多的晶体管,提供更高的集成度、更高的芯片性能;二是能效比,如果在器件端能够降低20%至30%功耗,那对数据中心整体成本的影响是巨大的。

“不一定都要靠最先进的3nm工艺。”魏少军认为,如果把逻辑层和存储器层异构集成(封装)在一起(即存算一体化),再加上软件定义芯片技术、近存计算技术等软件(配置计算资源),可以解决当前计算中的很多问题。

“Chiplet封装将会是先进封装技术的重要发展方向,可以把不同类型的芯片和器件集成在一起,以实现更高性能、更低功耗和更好的可靠性。”对于先进封装,长电科技汽车电子事业部副总裁、总经理兼长电汽车电子上海有限公司总经理郑刚介绍,在Chiplet基础上,长电科技推出的XDFOI封装方案,在性能提升和成本优化方面为客户提供全方位解决方案;目前2D MCM(多芯片组件)方案已经非常成熟,硅槽和硅空方案已经开发完成,未来进一步开发CDIC方案可满足客户不同应用的需求。

记者注意到,除长电科技外,国内几大封装公司也在近期披露了其2.5D、3D封装技术的相关进展。

比如,通富微电称,公司大力开发扇出型、圆片级、倒装焊等封装技术并扩充产能,此外积极布局Chiplet、2.5D/3D等顶尖封装技术,形成了差异化竞争优势。甬矽电子表示,公司正积极布局2.5D/3D等先进封装领域,并与一些客户保持密切交流。

英伟达H200芯片采用的HBM3e(高频宽存储器)技术也备受市场关注。HBM是将GPU、CPU用FCBGA基板合封,由于堆叠导致更多发热,所以封装材料和基板比较重要。

联瑞新材近日接受机构调研时表示,公司部分封装材料客户是全球知名企业,公司已配套批量供应了low α的球硅和球铝。兴森科技在互动易披露,公司生产的FCBGA封装基板可用于HBM存储的封装,公司暂时未与英伟达合作。

此外,Chiplet等先进封装也给了半导体IP、EDA公司发展新机会。芯和半导体介绍,其可为Chiplet提供一整套EDA解决方案,而芯原股份将在临港研发中心重点发展Chiplet业务。

编辑/樊宏伟

相关阅读
AI热潮下,中企囤货三星HBM芯片?
观察者网 2024-08-07
AI拉动先进封装市场需求 产业链公司抢抓机遇
上海证券报 2024-06-22
英特尔“单挑”两巨头
上海证券报 2024-04-11
高端芯片制造看向东南亚 这家外企的“重庆经验”如何输出海外?
第一财经 2024-01-29
先进封装需求高涨日月光、台积电等巨头大战升级:A股封测三大龙头“高光渐隐”
财联社 2023-12-31
芯片封测厂商涌向马来西亚 槟城居林成投资新热土
第一财经 2023-12-28
算力投入巨大 高端AI服务器市场需求激增
中国证券报 2023-12-20
与英伟达正面交锋,AMD发布“最先进AI加速器”MI300
观察者网 2023-12-07
最新评论