0
未来AI基础设施中,CoWoS(晶圆级封装)与COUPE(紧凑型通用光子引擎)相辅相成。
随着全球人工智能(AI)技术的爆发式成长与大型语言模型的普及,AI数据中心的建设需求急剧攀升。在这场激烈的算力竞赛中,芯片的“运算性能”与“数据传输速度”,已成为决定AI基础设施成败的两大关键核心。为了解决庞大运算量所带来的功耗、散热与传输延迟挑战,全球晶圆代工龙头台积电指出,在系统级封装蓝图中,CoWoS(晶圆级封装)与COUPE(紧凑型通用光子引擎)分别扮演了处理“运算”与“通信”的关键角色,两者不仅不冲突,反而是未来AI基础设施中相辅相成的关键技术。
台积电资深副总经理兼副首席运营长张晓强在年度技术论坛中表示,未来COUPE将会跟当前的CoWoS一样知名,原因就在于CoWoS专攻“运算整合”,COUPE突破“通信瓶颈”。这两者技术的不同点,首先是CoWoS主要致力于解决“运算”层面的瓶颈。
作为目前全球AI芯片最主流的标准封装技术,CoWoS的核心目标是将庞大的运算核心(GPU)与高带宽内存(HBM)等不同功能的芯片高度整合在一起,以此来满足AI芯片因极端运算需求而急剧扩张的芯片面积与高功耗问题。在封装架构上,CoWoS主要采用2.5D水平排列的设计,各种运算与内存芯片会被平放在一个被称为“中介层(Interposer)”的基板上,芯片之间则依赖中介层内部布建的微小线路来进行高密度的横向沟通。
至于COUPE,则是为了解决“通信”瓶颈而生,是台积电针对硅光子(SiliconPhotonics)与共封装光学(CPO)所推出的专用整合平台。因为随着未来的AI数据中心规模持续扩大,内部需要连接高达百万颗以上的AI加速器,传统依赖铜线传输的方式将面临严重的电力损耗与物理延迟极限。为了解决此问题,COUPE巧妙地利用了“光子擅长通信、电子擅长运算”的物理特性,通过整合光学引擎来实现低功耗、超高速的海量数据传输。
与CoWoS的水平排列不同,COUPE主要依赖3D垂直堆叠的封装技术(如SoIC-X),将负责发光与导光的光引擎(光子集成电路PIC)与负责信号处理的电子芯片(电子集成电路EIC)进行紧密的垂直堆叠与整合,借此大幅缩短光电信号之间的转换时间与通信实体路径。
台积电指出,在现今典型的AI服务器架构中,运算托盘内的GPU与负责数据分配的交换机(Switch)之间,传统上多半依赖铜线进行连接;而交换机与交换机之间的较长距离传输,则已经广泛采用光学传输技术。然而,为了进一步将整体系统的传输效能推向极致,业界正积极推动紧凑型光学封装(COP),其核心理念便是在服务器内部“尽可能以光学传输取代铜线”,甚至在电路板上最后的几公分距离,也要全面采用光学连接来消除铜线带来的信号衰减。
对此,台积电业务开发组织副总经理袁立本进一步解释,这项技术革命的核心关键在于利用SOIC(系统集成芯片)技术,将普通的逻辑芯片(EIC)与光学芯片(PIC)进行前所未有的紧密整合。在运作机制上,当光信号进入系统后,这两种芯片会进行高效率的互相协作,将光信号精准翻译成电信号,再快速输出给核心的GPU进行运算处理。
根据台积电的规划,硅光子封装技术的演进并非一蹴可几,而是可分为三个极具战略意义的重要阶段,逐步将光学元件推向运算核心:
一、插拔式与电路板层级(On-PCB):预计将成为2025年的市场主流与现有过渡方案。在这个阶段中,光电转换后仍需要通过传统铜线,行经较长的电路板与芯片基板才能抵达运算核心,虽然在技术上已有显著进步,但整体的实体传输距离依然相对较长,仍有优化空间。
二、基板层级(On-Substrate):这将是2026年下半年的重大技术进展,其核心改变在于将光学转换元件从原本的电路板,进一步移入芯片封装的基板之上。台积电强调,仅仅是缩短这段看似微小的实体距离,就能带来极为显著的效能跃升;据数据显示,在基板上搭载COUPE技术的CPO,将能提供传统铜线高达4倍的功耗效率,并将传输延迟大幅减少高达90%。
三、中介层层级(On-Interposer):这是先进封装技术发展的下一步,也是实现极致效能的终极关键。此阶段将实现COUPE与CoWoS技术的完美叠加,通过在中介层(即CoWoS的基础结构)上直接使用COUPE技术,将光学元件推得离核心运算单元更近。
对此,市场人士解释,下一阶段的传输速率之所以能大幅提升,并非单纯来自光学速度本身的改变,而是因为电信号转换后的实体传输距离已经极度贴近逻辑运算核心。当COUPE结合这种先进封装时,预计将可实现高达10倍的功耗效率提升,并惊人地减少95%的传输延迟。
在研发进度方面,台积电已展现出强大的技术领先优势。搭载COUPE技术的全球首个200Gbps微环调制器(MRM)预计将于2026年正式进入量产阶段,并立下在2030年实现高达4Tbps/mm惊人带宽密度的终极目标。
事实上,台积电在COUPE技术上的突破性进展,已迅速在产业界引发热烈反响。目前,COUPE已经成为业界中最具量产可行性的整合架构之一,市场人士指出,吸引了多家指标性国际大厂开始陆续导入或进行严格测试。
英伟达(NVIDIA):作为全球AI芯片霸主,英伟达已陆续将COUPE技术导入其高阶的Spectrum-X产品线中,此举不仅是技术力的展现,更代表着英伟达正积极推动硅光子技术从实验室的示范阶段,正式走向系统级的商业导入。
博通(Broadcom):网通芯片巨头博通同样不落人后,已将COUPE架构导入其最新的Tomahawk6-Davisson系列高速交换芯片,以此来满足即将到来的AI世代数据中心对于“极低延迟”与“超高带宽”的庞大严苛需求。
AMD:紧追在后的芯片大厂超威,目前也正通过台积电的COUPE平台,积极进行相关项目的深度测试,为未来的产品线进行技术储备。
Lightmatter:这家专注于前瞻光子运算的新创企业,目前也已有多款晶粒(Die)在台积电顺利完成流片(Tape-out)程序,验证了台积电硅光子平台的可靠性。
综观台积电的技术发展脉络,COUPE并非用来取代CoWoS,而是一项能与CoWoS完美搭配使用的扩展技术。在未来最先进的系统架构中,台积电不仅能将光学引擎直接放入封装内部(CPO架构),更可以直接将COUPE技术搭载于CoWoS的中介层基础结构上。通过这两大核心技术的相辅相成与技术叠加,台积电不仅解决了AI芯片在运算面积与高功耗上的难题,更彻底打通了百万颗AI加速器之间高速数据传输的任督二脉,为全球迎接下一个世代的AI数据中心革命,奠定了最坚实的硬件基础。
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。