智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
新的共封裝光學(xué)(CPO)技術(shù)創(chuàng)新，將有望取代數(shù)據(jù)中心內(nèi)部的電氣互連，為人工智能(AI)及其他計(jì)算密集型應(yīng)用帶來速度和能源效率方面的大幅提升。
近期，IBM宣布在光學(xué)技術(shù)領(lǐng)域取得了一項(xiàng)重大突破，該突破將深刻改變數(shù)據(jù)中心訓(xùn)練和運(yùn)行生成式AI模型的方式。IBM的研究團(tuán)隊(duì)開發(fā)了一種全新的CPO工藝，這是下一代的光學(xué)連接技術(shù)，能夠通過光速在數(shù)據(jù)中心內(nèi)部實(shí)現(xiàn)連接，與現(xiàn)有的短距離電線形成互補(bǔ)。
為了實(shí)現(xiàn)這一技術(shù)，IBM的研究人員成功設(shè)計(jì)和組裝了首個(gè)公開宣布的聚合物光波導(dǎo)(PWG)系統(tǒng)。這一成果展示了CPO如何重新定義計(jì)算行業(yè)在芯片、電路板及服務(wù)器間傳輸高帶寬數(shù)據(jù)的方式。
目前，光纖技術(shù)已在遠(yuǎn)距離數(shù)據(jù)傳輸方面展現(xiàn)出卓越性能，幾乎全球所有的商業(yè)和通信流量都依賴于光而非電進(jìn)行管理。然而，在數(shù)據(jù)中心內(nèi)部，機(jī)架間的通信仍主要依賴基于銅的電線。這些電線連接的GPU加速器在等待來自其他設(shè)備的數(shù)據(jù)時(shí)，可能有一半以上的時(shí)間處于閑置狀態(tài)，這不僅造成了高昂的費(fèi)用，還消耗了大量能源。
IBM的研究團(tuán)隊(duì)提出了一種將光學(xué)的速度和容量引入數(shù)據(jù)中心的新方法。在arXiv上發(fā)表的一篇論文中，IBM介紹了一種新的CPO原型模塊，該模塊能夠?qū)崿F(xiàn)高速光連接。這一技術(shù)將顯著提升數(shù)據(jù)中心通信的帶寬，最大限度減少GPU的閑置時(shí)間，并極大加速AI處理過程。具體而言，這項(xiàng)創(chuàng)新將帶來以下變革：
與傳統(tǒng)電氣互連相比，能耗降低五倍以上，從而降低了擴(kuò)展生成式AI的成本，同時(shí)使數(shù)據(jù)中心互連電纜的長度從1米延伸至數(shù)百米。
AI模型訓(xùn)練速度大幅提升，開發(fā)人員能夠以傳統(tǒng)電線五倍的速度訓(xùn)練大型語言模型(LLM)，訓(xùn)練時(shí)間從三個(gè)月縮短至三周。
數(shù)據(jù)中心能源效率顯著提高，每個(gè)AI模型所節(jié)省的能源相當(dāng)于5000個(gè)美國家庭一年的用電量。
IBM高級(jí)副總裁兼研究總監(jiān)Dario Gil表示：“隨著生成式AI對(duì)能量和處理能力的需求不斷增加，數(shù)據(jù)中心必須持續(xù)進(jìn)化，而CPO技術(shù)正是推動(dòng)數(shù)據(jù)中心迎接未來挑戰(zhàn)的關(guān)鍵。”
“這一突破意味著未來的芯片將像光纖電纜一樣，在數(shù)據(jù)中心內(nèi)外以光速傳輸數(shù)據(jù)，開啟一個(gè)更快、更可持續(xù)的通信新時(shí)代，足以應(yīng)對(duì)未來AI工作負(fù)載。”
此外，CPO技術(shù)提供的帶寬比現(xiàn)有的芯片間通信快80倍。隨著芯片技術(shù)的不斷進(jìn)步，晶體管在芯片上的密度不斷增加，IBM的2納米節(jié)點(diǎn)芯片技術(shù)已能容納超過500億個(gè)晶體管。CPO技術(shù)旨在擴(kuò)大加速器間的互連密度，使芯片制造商能夠在電子模塊上添加光通路，從而突破當(dāng)前電通路的限制。
IBM的論文詳細(xì)描述了這些新的高帶寬密度光學(xué)結(jié)構(gòu)，它們通過每個(gè)光通道傳輸多個(gè)波長，與電氣連接相比，能將芯片間的帶寬提高80倍。與目前最先進(jìn)的CPO技術(shù)相比，IBM的創(chuàng)新使芯片制造商能夠在硅光子學(xué)芯片的邊緣添加六倍的光纖，即“海濱密度”。這些光纖的直徑大約是人類頭發(fā)的三倍，長度從幾厘米到幾百米不等，每秒能傳輸太比特的數(shù)據(jù)。IBM團(tuán)隊(duì)使用標(biāo)準(zhǔn)的組裝封裝工藝，在50微米間距的光學(xué)通道上組裝了一個(gè)高密度PWG，與硅光子波導(dǎo)絕熱耦合。
論文還指出，這些具有50微米間距PWG的CPO模塊已通過了制造所需的所有壓力測試，包括高濕環(huán)境、-40°C至125°C的溫度以及機(jī)械耐久性測試，確保了光互連在彎曲時(shí)不會(huì)損壞或丟失數(shù)據(jù)。此外，研究人員已將PWG技術(shù)演示到18微米的間距，堆疊四個(gè)PWG可實(shí)現(xiàn)多達(dá)128個(gè)通道的連接。
這一突破延續(xù)了IBM在半導(dǎo)體創(chuàng)新領(lǐng)域的領(lǐng)先地位，包括首個(gè)2nm節(jié)點(diǎn)芯片技術(shù)、7nm和5nm工藝技術(shù)的實(shí)現(xiàn)、納米片晶體管、垂直晶體管(VTFET)、單細(xì)胞DRAM和化學(xué)放大光刻劑等。CPO技術(shù)為滿足AI日益增長的性能需求提供了新的解決方案，并有望取代模塊外的電氣通信方式。
IBM的研究人員在紐約奧爾巴尼完成了CPO的設(shè)計(jì)、建模和仿真工作，而原型組裝和模塊測試則在位于加拿大魁北克布羅蒙特的IBM工廠進(jìn)行，該工廠是北美最大的芯片組裝和測試基地之一，幾十年來一直在芯片封裝領(lǐng)域處于世界領(lǐng)先地位。
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
