ICC訊 (作者:Sally Ward-Foxton)定制ASIC設計公司Alchip與光學I/O技術公司Ayar Labs近日共同發布了一款面向AI加速芯片的參考設計平臺。該平臺基于臺積電的COUPE(緊湊型通用光子引擎)技術,集成了多個光學芯片間互聯引擎,為高帶寬AI系統提供可落地的集成方案。
Ayar Labs首席技術官Vladimir Stojanovic向《EE Times》解釋,推出參考設計平臺的必要性在于現代AI芯片的復雜度極高:單個插槽內可能包含中介層、高帶寬內存(HBM)、3D堆疊計算芯片、SRAM芯粒、無源組件、有機基板及光學引擎等多種部件。"需要有人將這些組件整合起來,"Stojanovic表示,"通過與臺積電和Alchip的合作,我們能將光學引擎直接嵌入AI芯片插槽。這種生態合作極具價值,是構建能滿足大規模部署需求AI芯片的唯一途徑。"
通常情況下,臺積電負責芯粒制造并將其組裝于中介層上,但芯片廠商或ASIC服務商仍需設計包含光學I/O引擎的有機基板,并完成最終封裝。Stojanovic指出,參考設計的意義在于幫助合作伙伴"突破"此類系統的制造方法,展示光學引擎的技術潛力。
臺積電COUPE技術實現光學與電子芯粒的模塊化組裝(來源:Ayar Labs)
該參考設計展示了一個集成方案:兩個接近光罩尺寸的計算芯片與HBM及其他芯粒協同工作,搭配八個基于Ayar Labs TeraPHY芯粒的光學I/O引擎。Stojanovic透露,此設計可使單個系統級封裝實現200-250 Tb/s的雙向帶寬,較當前主流大型GPU封裝提升超過一個數量級。他補充說,這不僅支持橫向擴展,更因帶寬接近HBM水平,能實現有實際意義的內存擴展。
光學引擎的技術架構
Ayar Labs的光學引擎核心是其TeraPHY光子集成電路芯粒,通過臺積電COUPE技術額外集成兩層電子芯粒。頂部的兩層電子芯粒采用SoIC工藝組裝,該工藝能以極低電容實現芯粒間高密度連接,確保能效。Stojanovic表示,該技術未來至少十年內可兼容并擴展至UCIe-A及以上標準。
Ayar Labs與Alchip的參考設計平臺支持定制,主要面向大型AI推理芯片(來源:Ayar Labs)
封裝外部的連接通過可插拔接口實現。"客戶需要認證能夠制造該可插拔接口、并在光學引擎頂部完成組裝的公司,但光學引擎下方也有大量組件,"Stojanovic說,"晶圓出廠后,如何準備、切割、倒裝焊至封裝內……融入針對此形態因子量身定制的大規模制造生態系統至關重要。"
盡管其他形態因子理論上可行,但Stojanovic認為其量產之路"漫長而曲折"。"因此我們聚焦于芯粒技術,使其適配我們大規模制造合作伙伴的組裝與封裝路線圖,同時確保芯粒性能足以推動AI規模化的突破,"他解釋道,"我們相信此帶寬水平將滿足未來AI系統的需求。"
Ayar Labs提供已知合格的光學引擎。參考設計平臺包含測試程序,可用于評估組裝質量及模塊控制固件,簡化封裝集成流程。"客戶需要支持以理解可靠性認證與測試流程,我們與Alchip緊密合作,為客戶提供完整的解決方案包,"Stojanovic強調。
Alchip將根據客戶需求對參考設計進行定制,調整維度包括光學引擎數量、通信協議、ASIC設計與尺寸等。"我們對此形態因子感到興奮,因為目前全球尚無多芯片封裝能具備此類帶寬潛力與輻射狀連接能力,這對AI應用至關重要,"Stojanovic表示,"橫向擴展架構需要單個封裝提供巨大連接性,以扁平化網絡結構并滿足推理所需的低延遲。"
Stojanovic認為,此類參考設計可能是推動光學I/O技術廣泛采用的最后一塊拼圖,能夠激活必要的生態系統。"行業設計周期存在先有雞還是先有蛋的問題,"他分析道,"若我想采用下一代CMOS工藝,會先向晶圓廠索取可用的IP模塊列表,再咨詢ASIC服務商他們熟悉哪些芯片集成與封裝方案,之后才開始系統架構設計。因此,除非生態伙伴已證明這些組件可集成,否則會拖慢整個創新周期。我們正試圖打破這一僵局,讓架構師能在工作負載層面看到光學I/O的價值。"
關于作者
Sally Ward-Foxton為EETimes.com和《EETimes Europe》雜志報道人工智能領域。過去18年,她在倫敦從事電子行業報道,作品曾發表于《Electronic Design》《ECN》《Electronic Specifier: Design》《Components in Electronics》等多家媒體。她擁有劍橋大學電氣與電子工程碩士學位。
原文:Ayar Labs and Alchip Unveil Optical I/O Reference Design - EE Times - https://www.eetimes.com/ayar-labs-and-alchip-unveil-optical-i-o-reference-design/