人工智能驅動的光學I/O發(fā)展趨勢、核心技術和設計工具
發(fā)布時間：2023-11-30 11:24:53 熱度：1891
11/30/2023，光纖在線訊，最近，臺積電、美光、新竹工研院、思科和愛德萬測試等公司的專家聚集一堂，就硅基光電子技術在人工智能發(fā)展中可發(fā)揮的作用進行了討論交流。本次研討會由日月光公司執(zhí)行長吳田玉主持 [1]。
硅基光電子技術的前景
硅基光電子技術經過20多年的發(fā)展，已經能利用成熟的CMOS工藝，在硅基板上集成光波導、調制器、光柵、耦合器、探測器等光學組件。唯一無法集成在硅基板上的就是半導體激光器，它需要不同的材料體系，只能以封裝的形式實現。硅光子基板用于將光信號轉化為電信號，這是接收端；發(fā)射端則通過激光器將電信號轉化為光信號。由于采用成熟的半導體制造工藝，在微小化、集成度、良率、成本等方面都具有優(yōu)勢。再者，與電信號相比，光信號具有更高的帶寬、更低的時延以及更低的功耗。自20世紀80年代光纖通信被引入以來，光學信號傳輸主要應用于長距離的通信，如海底光纜、都市級網絡。隨著人類使用數據量的增加，光通信開始進入區(qū)域性網絡。
近年來，生成式人工智能的興起導致了數據生成和傳輸量的爆炸增長，最大的數據量產生于人工智能服務器之間，因為任一個大型模型都包含了數以十億計的參數，需要消耗極大的算力進行訓練，這需要大量的并行運算和數據交換。得益于半導體制程的進步，單條指令的運算時間已經達到1-2納秒，但是數據傳輸速度的提升始終跟不上運算能力的增長。
即使在光纖內傳輸1米距離也會產生5納秒的時延，這導致運算單元頻繁等待數據而空閑。如果用電信號傳輸，等待時間會更長。解決之道是將光信號的轉換盡可能靠近處理芯片，甚至避免經過電路板。因此，光電共封裝技術應運而生。
光電共封裝技術的發(fā)展
光電共封裝技術是將光子集成電路和電子集成電路堆疊封裝在一起，置于交換機內部，可為光纖提供最短的時延路徑。早在2000年代中期，IBM就在其技術展望報告中預測光互連對未來極為重要，對自己的技術預見能力倍感自豪。當時還不了解人工智能的發(fā)展，也不了解半導體工藝會縮小到3納米以下。但是數據量增長所帶來的挑戰(zhàn)，以及硅光子技術在光互連中的重要作用已經清晰可見。當時還不確定是芯片級連接、板級連接，還是機架級連接。如今，數據中心中的服務器機架和單元已經廣泛使用光互連；芯片級連接也因先進的封裝技術得以電信號交換解決；下一步的重點則是板級光互連。
基于硅基光電子的光電共封裝技術可有效滿足人工智能對帶寬的需求，必將對現有產業(yè)鏈造成顛覆。然而，采用pluggable模塊的傳統光學生態(tài)系統也不會坐以待斃。本年度全球光通信大會（OFC）上，新提出的線性驅動插拔模塊受到廣泛關注，被視為傳統模塊的一次重要反擊。線性驅動模塊簡化了內部電路，將信號處理功能移至ASIC芯片中，以獲得更低的時延和功耗，可再延續(xù)當前產品幾個世代。這與浸沒式光刻技術延續(xù)摩爾定律發(fā)展的方式類似。但是，基于硅基光電子的光電共封裝技術的到來仍是大勢所趨，最多被稍稍推遲。線性驅動的概念也可應用于光電共封裝技術中，取得更好的效果。
輸入輸出帶寬的發(fā)展需求
隨著半導體工藝的進步，芯片的規(guī)模和性能呈指數增長，但是傳統的輸入輸出技術已經越來越難以滿足高性能計算和人工智能的帶寬需求。輸入輸出帶寬的增長速度從2010年代的每秒10GB，到2025年預計達到每秒1TB，15年時間增長了100多倍之多。銅制互連線和金線的電信號傳輸已經很難再以更高的密度和效率進行信號傳輸。
圖一 I/O 帶寬的趨勢
要繼續(xù)提升計算性能，必須開發(fā)新的輸入輸出技術。光互連可以提供比電信號高出20倍的帶寬密度，將光收發(fā)器直接集成在計算芯片上也可以大幅降低時延。DARPA資助的TeraPHY、POSH和CHIPS等項目就是為開發(fā)集成光輸入輸出和芯片互連技術提供研發(fā)支持。
[center]圖二 Ayar Labs的 TeraPHY光學 I/O
人工智能和高性能計算對輸入輸出帶寬的需求正在迅速超過電子互連的供給。要防止輸入輸出環(huán)節(jié)成為系統性能的瓶頸，像集成光學和芯片封裝等新型互連技術勢在必行。
圖三 TSMC COUPLE 2.0
硅基光電子與電子電路的聯合設計與仿真
硅基光電子集成電路的進展讓光子和電子器件得以在同一芯片上實現集成，帶來了從光通信到傳感等廣泛的功能和應用，也使這些異構系統的優(yōu)化設計成為一個挑戰(zhàn)。
為解決設計難題，亟需新型的電子光子自動化設計工具。正如逍遙科技的pSim等光子電路仿真器可以建模并模擬光波導、諧振腔、調制器、探測器等組件。pSim也可以導入外部電路仿真器的網表，集成緊湊的器件模型，實現電路與光路的聯合仿真。
在版圖方面，PhotoCAD可實現光電組件的自動布置布線。PIC Studio平臺通過將原理圖、布圖、驗證工具進行整合，實現了完整的聯合設計流程，包括電路綜合、光器件仿真、原理圖驅動布局、布局驗證和流片輸出。
PIC Studio還支持各種工藝庫和仿真引擎，如FDTD、TCAD，并通過開放接口實現與Spectre等商業(yè)仿真器的聯合仿真。PIC Studio也提供了從理論到實際的完整學習教程和資源。
這種新型的電子光子設計平臺有望彌合電路與光路設計之間的差距，使新型光電子系統得以更快地進行開發(fā)和應用。 電路仿真、布局設計和驗證與聯合仿真的無縫集成是關鍵所在。
圖四 逍遙科技的 PIC Studio設計流程
結論
光電共封裝技術支持下的硅基光電子集成電路，在帶寬、時延和功耗方面都具有巨大的優(yōu)勢，可以滿足人工智能運算不斷增長的數據需求。雖然傳統的光模塊生態(tài)系統會進行自我調整爭取自保，但是向同封裝光子技術的轉變已經勢不可擋。這次由業(yè)內頂級公司專家集結舉行的研討會，正是整個產業(yè)認識到這一重大變革并正在積極準備的一個縮影 [1]。
參考資料
[1] AI風潮引爆硅光子應用https://www.digitimes.com.tw/col/article.asp?id=12780
（來源：逍遙科技）
硅基光電子技術的前景
硅基光電子技術經過20多年的發(fā)展，已經能利用成熟的CMOS工藝，在硅基板上集成光波導、調制器、光柵、耦合器、探測器等光學組件。唯一無法集成在硅基板上的就是半導體激光器，它需要不同的材料體系，只能以封裝的形式實現。硅光子基板用于將光信號轉化為電信號，這是接收端；發(fā)射端則通過激光器將電信號轉化為光信號。由于采用成熟的半導體制造工藝，在微小化、集成度、良率、成本等方面都具有優(yōu)勢。再者，與電信號相比，光信號具有更高的帶寬、更低的時延以及更低的功耗。自20世紀80年代光纖通信被引入以來，光學信號傳輸主要應用于長距離的通信，如海底光纜、都市級網絡。隨著人類使用數據量的增加，光通信開始進入區(qū)域性網絡。
近年來，生成式人工智能的興起導致了數據生成和傳輸量的爆炸增長，最大的數據量產生于人工智能服務器之間，因為任一個大型模型都包含了數以十億計的參數，需要消耗極大的算力進行訓練，這需要大量的并行運算和數據交換。得益于半導體制程的進步，單條指令的運算時間已經達到1-2納秒，但是數據傳輸速度的提升始終跟不上運算能力的增長。
即使在光纖內傳輸1米距離也會產生5納秒的時延，這導致運算單元頻繁等待數據而空閑。如果用電信號傳輸，等待時間會更長。解決之道是將光信號的轉換盡可能靠近處理芯片，甚至避免經過電路板。因此，光電共封裝技術應運而生。
光電共封裝技術的發(fā)展
光電共封裝技術是將光子集成電路和電子集成電路堆疊封裝在一起，置于交換機內部，可為光纖提供最短的時延路徑。早在2000年代中期，IBM就在其技術展望報告中預測光互連對未來極為重要，對自己的技術預見能力倍感自豪。當時還不了解人工智能的發(fā)展，也不了解半導體工藝會縮小到3納米以下。但是數據量增長所帶來的挑戰(zhàn)，以及硅光子技術在光互連中的重要作用已經清晰可見。當時還不確定是芯片級連接、板級連接，還是機架級連接。如今，數據中心中的服務器機架和單元已經廣泛使用光互連；芯片級連接也因先進的封裝技術得以電信號交換解決；下一步的重點則是板級光互連。
基于硅基光電子的光電共封裝技術可有效滿足人工智能對帶寬的需求，必將對現有產業(yè)鏈造成顛覆。然而，采用pluggable模塊的傳統光學生態(tài)系統也不會坐以待斃。本年度全球光通信大會（OFC）上，新提出的線性驅動插拔模塊受到廣泛關注，被視為傳統模塊的一次重要反擊。線性驅動模塊簡化了內部電路，將信號處理功能移至ASIC芯片中，以獲得更低的時延和功耗，可再延續(xù)當前產品幾個世代。這與浸沒式光刻技術延續(xù)摩爾定律發(fā)展的方式類似。但是，基于硅基光電子的光電共封裝技術的到來仍是大勢所趨，最多被稍稍推遲。線性驅動的概念也可應用于光電共封裝技術中，取得更好的效果。
輸入輸出帶寬的發(fā)展需求
隨著半導體工藝的進步，芯片的規(guī)模和性能呈指數增長，但是傳統的輸入輸出技術已經越來越難以滿足高性能計算和人工智能的帶寬需求。輸入輸出帶寬的增長速度從2010年代的每秒10GB，到2025年預計達到每秒1TB，15年時間增長了100多倍之多。銅制互連線和金線的電信號傳輸已經很難再以更高的密度和效率進行信號傳輸。
要繼續(xù)提升計算性能，必須開發(fā)新的輸入輸出技術。光互連可以提供比電信號高出20倍的帶寬密度，將光收發(fā)器直接集成在計算芯片上也可以大幅降低時延。DARPA資助的TeraPHY、POSH和CHIPS等項目就是為開發(fā)集成光輸入輸出和芯片互連技術提供研發(fā)支持。
[center]圖二 Ayar Labs的 TeraPHY光學 I/O
人工智能和高性能計算對輸入輸出帶寬的需求正在迅速超過電子互連的供給。要防止輸入輸出環(huán)節(jié)成為系統性能的瓶頸，像集成光學和芯片封裝等新型互連技術勢在必行。
硅基光電子與電子電路的聯合設計與仿真
硅基光電子集成電路的進展讓光子和電子器件得以在同一芯片上實現集成，帶來了從光通信到傳感等廣泛的功能和應用，也使這些異構系統的優(yōu)化設計成為一個挑戰(zhàn)。
為解決設計難題，亟需新型的電子光子自動化設計工具。正如逍遙科技的pSim等光子電路仿真器可以建模并模擬光波導、諧振腔、調制器、探測器等組件。pSim也可以導入外部電路仿真器的網表，集成緊湊的器件模型，實現電路與光路的聯合仿真。
在版圖方面，PhotoCAD可實現光電組件的自動布置布線。PIC Studio平臺通過將原理圖、布圖、驗證工具進行整合，實現了完整的聯合設計流程，包括電路綜合、光器件仿真、原理圖驅動布局、布局驗證和流片輸出。
PIC Studio還支持各種工藝庫和仿真引擎，如FDTD、TCAD，并通過開放接口實現與Spectre等商業(yè)仿真器的聯合仿真。PIC Studio也提供了從理論到實際的完整學習教程和資源。
這種新型的電子光子設計平臺有望彌合電路與光路設計之間的差距，使新型光電子系統得以更快地進行開發(fā)和應用。 電路仿真、布局設計和驗證與聯合仿真的無縫集成是關鍵所在。
結論
光電共封裝技術支持下的硅基光電子集成電路，在帶寬、時延和功耗方面都具有巨大的優(yōu)勢，可以滿足人工智能運算不斷增長的數據需求。雖然傳統的光模塊生態(tài)系統會進行自我調整爭取自保，但是向同封裝光子技術的轉變已經勢不可擋。這次由業(yè)內頂級公司專家集結舉行的研討會，正是整個產業(yè)認識到這一重大變革并正在積極準備的一個縮影 [1]。
參考資料
[1] AI風潮引爆硅光子應用https://www.digitimes.com.tw/col/article.asp?id=12780
（來源：逍遙科技）
