一直以來,數據傳輸時能耗過高的問題困擾著AI硬件的發展,最近,美國哥倫比亞大學的工程師公布一項研究成果——3D光子電子芯片(3D光電子芯片),國內也有相關創新成果公布,它也許能幫我們解決此問題。
3D光電子芯片有哪些創新呢?它將基于光的數據遷移技術和CMOS電子技術相結合,大幅提升了能效和帶寬。如果該技術真的可以大規模應用,當我們傳輸數據時速度會更快,能耗也會更低;它將給自動駕駛汽車、超大型AI模型及其他技術帶來深遠影響。
業內專家認為,3D光電子芯片具有變革性意義,但其應用落地面臨三大挑戰,最終成效還有待觀察。
新突破有什么意義
目前研究成果已經發表于《自然光子學》雜志(Nature Photonics),它由哥倫比亞大學電子工程系教授克倫·伯格曼(Keren Bergman)和查爾斯·巴徹勒( Charles Batchelor)領銜發表。團隊將光子學技術和先進CMOS電子技術融合,不僅實現了數據的高速高效移動,還解決了低能耗下海量數據的極速遷移問題。
伯格曼教授稱:“如果使用我們開發的技術,可以以空前低的能耗傳輸大量數據。數十年來,計算機和AI系統一直受到能耗的困擾,我們的創新突破可以緩解此問題?!?/p>
哥倫比亞大學工程團隊與康奈爾大學合作,開發出這款3D集成光子芯片。團隊在0.3 mm2的芯片面積上集成了80個光子發射器與接收器,其3D集成通道數量較此前提升了一個數量級。芯片帶寬達到800 Gb/s,帶寬密度達到5.3 Tb/s/mm2,單比特能耗僅120飛焦,能效極為出色。
在設計芯片時,團隊采用了低成本方案,將光子器件和CMOS電子電路深度融合,元器件來自商業化工廠。值得注意的是,架構兼容商用12英寸(300mm)晶圓CMOS工藝,具備大規模生產潛力。研究還重新定義了計算節點間的數據傳輸方式,打破了數據本地化限制。
光作為通信介質,能以極低能耗傳輸海量數據,這是傳統計算模式所不具備的,一旦光子芯片成功商用,將打破計算能力極限,到時計算性能得到空前提升,并成為未來各種應用場景中計算系統的基石,包括大型AI模型、實時數據處理等。除了人工智能外,高性能計算、電信、分離式內存系統也需要類似技術。
最大挑戰在哪里
許多研究機構和企業正在研究光子半導體技術。例如,Celestial AI試圖為AI計算和內存基礎設施提供先進的光互連技術;ANT為本機處理單元 (NPU) 提供 PCI Express 卡,能效比CMOS高出30倍。還有CogniFiber、Neurophos、Salience Labs也在研究相關技術。
在國內,清華大學研制出國際首個全模擬光電智能計算芯片(簡稱ACCEL),經實測,該芯片在智能視覺目標識別任務方面的算力可達目前高性能商用芯片的3000余倍。去年9月,湖北九峰山實驗室成功點亮集成到硅基芯片內部的激光光源,在硅光子集成領域取得里程碑式突破。
雖然國內外科學家在光子芯片方面不斷取得突破,但新技術仍面臨極大挑戰。
克倫·伯格曼(Keren Bergman)認為,第一大挑戰在于設計。光學技術的確可以大幅提高帶寬,但是要將光子芯片與計算機的計算、存儲、及其他組件封裝、集成,難度不小。
伯格曼稱:“光子芯片是由硅制成的,所以它看起來就像一塊電子芯片。我們應該如何對其進行共封裝,使之能與電子部件相連接呢?強化集成可以做到,而且有多種實現方法,比如3D集成、單片集成(整體集成,將光子學元件和電子元件集成在同一芯片內)?!?/p>
第二大挑戰就是共封裝帶來的發熱問題。光子技術對溫度極為敏感,溫度一旦變化,光子芯片的折射率會改變,所以必須要讓光芯片適應溫度變化。
伯格曼稱:“我們用多種方法解決這一問題。一種方法是建立閉環電路,維持光子器件的正常運行,即使溫度變化也不受影響;第二種方法是盡可能優化光子器件,讓它對溫度不那么敏感?!?/p>
當然,無論什么技術產品,最終還是要落實到成本上。目前光子元件的成本仍然高于電子元件,因為半導體產業的成熟度遠高于光子學產業,這一問題需要依靠生態系統的完善來解決。