马斯克(Elon Musk)旗下的人工智慧公司xAI正式发布Grok 4,宣称为「世界上最强AI模型」。背后Dojo系统为最大功臣,就是台积电引领全球System on Wafer(SoW)封装技术,将晶圆视为一个完整的系统,透过极致精密的晶圆级互连与整合,实现特斯拉的宏大蓝图;相关业者分析,SoW算力至少是CoWoS的5倍以上。市场看好台积电在先进封装领域可望维持技术领先优势。
AI大模型参数以「亿」为单位狂飙,算力需求两年暴增千倍,Grok 4的推出,再为大型语言模型之战掀波澜。
由AI晶片支撑庞大算力,xAI现阶段以辉达、AMD之资料中心应付需求,然而,单晶片GPU由于物理尺寸限制,算力提升逼近极限,另外在多晶片互联十,数据在晶片传出会产生延迟及耗损,导致整体性能无法随晶片数量呈线性成长。
晶圆级晶片被认为是未来的突破口,Dojo系统透过Chiplet(小晶片)方式,在晶圆尺寸的基板上整合25颗D1晶粒(Die),在645平方毫米的晶片上放置500亿个晶体管,单晶粒提供362 TFlops之运算能力,合起来单一Dojo拥有9 Petaflops(每秒千兆次)的算力。
由台积电InFO-SoW进行打造,今年底AI超级电脑Dojo 2系统将进入量产。半导体业者透露,SoW为晶圆级封装技术,相较于传统的2D封装,InFO-SoW透过3D堆迭与重布线层(RDL)实现高密度互连。
未来将消耗更多先进封装产能,採用CoWoS技术的晶片堆迭版本SoW-X预计于2027年准备就绪,能够整合SoIC、HBM及其他元件,打造一个强大且运算能力媲美资料中心伺服器机架晶圆级系统。
散热也将会是商机,法人认为,SoW-X可视为大型模组封装,在整块晶圆上封装16颗ASIC及数十颗HBM,使得良率控制成为最大挑战。此外,9倍光罩尺寸也让散热面临全新设计,如必须导入液冷、浸润式冷却,台厂奇鋐、双鸿有望受惠。
简言之,SoW为台积电为满足未来AI和HPC应用对运算能力、记忆体频宽和整合度无止境需求而开发的颠覆性封装技术,将实现「整片晶圆即超级系统」的愿景。
发表意见
中时新闻网对留言系统使用者发布的文字、图片或檔案保有片面修改或移除的权利。当使用者使用本网站留言服务时,表示已详细阅读并完全了解,且同意配合下述规定:
违反上述规定者,中时新闻网有权删除留言,或者直接封锁帐号!请使用者在发言前,务必先阅读留言板规则,谢谢配合。