IBM發布全新光電共封裝工藝：AI模型訓練速度將提升5倍
時間：2024-12-12 16:54 來源：未知 作者：admin 閱讀：次
快科技12月12日消息，據報道，IBM在光學技術方面獲得新進展，有望提升數據中心訓練和運行生成式AI模型的效率。IBM推出了新一代光電共封裝（CPO）工藝。該技術利用光學連接，實現了數據中心內部的光速數據傳輸，完美補充了現有的短距離光纜系統。
研究人員展示了光電共封裝技術將如何重新定義計算行業在芯片、電路板和服務器之間的高帶寬數據傳輸。最大限度地減少GPU停機時間，同時大幅加快AI工作速度。
具體而言，這一新技術帶來了三大方面的顯著優勢：
首先，它極大地降低了規模化應用生成式AI的成本。與中距離電氣互連裝置相比，光電共封裝技術的能耗降低了五倍以上，同時，數據中心互連電纜的長度也從傳統的1米擴展至數百米，進一步提升了數據中心的靈活性和擴展性。
其次，該技術顯著提高了AI模型的訓練速度。與傳統的電線相比，使用光電共封裝技術訓練大型語言模型的速度幾乎提升了五倍。這意味著，原本需要三個月才能訓練完成的標準大語言模型，現在僅需三周即可完成。對于更大的模型和更多的GPU，性能的提升將更為顯著。
最后，光電共封裝技術還顯著提升了數據中心的能效。據估算，每訓練一個AI模型所節省的電量，竟然相當于5000個美國家庭一年的耗電量總和。這一數據無疑彰顯了該技術在節能減排方面的巨大潛力。
IBM發布全新光電共封裝工藝：AI模型訓練速度將提升5倍
【本文結束】出處：快科技
(責任編輯：admin)
Deepseek唱反調？高關稅可
硬剛特朗普關稅，中國這家
人工智能驅動的3D建模平臺
蘋果醫療帝國啟航：據稱AI
DeepSeek V3小版本大升級
中國AI大模型APP月活TOP10最新內容
推薦內容
熱點內容
