智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
11月20日消息，2024年世界互聯(lián)網(wǎng)大會今日在浙江烏鎮(zhèn)開幕，騰訊獲得全新設(shè)立的世界互聯(lián)網(wǎng)大會杰出貢獻獎—創(chuàng)新突破類。
據(jù)“騰訊”公眾號介紹，騰訊Angel機器學(xué)習(xí)平臺也獲得了本年度世界互聯(lián)網(wǎng)大會領(lǐng)先科技獎。
騰訊稱，該獎項被視為科技行業(yè)的最高榮譽之一，在270個申報項目中，共有20個項目獲獎。
評選委員會點評騰訊Angel機器學(xué)習(xí)平臺：突破萬億級模型分布式訓(xùn)練和推理以及大規(guī)模應(yīng)用部署等難題。
據(jù)了解，突破主要在通信、效率、規(guī)模三方面實現(xiàn)。
通信：
從網(wǎng)卡到交換機，再到路由協(xié)議，騰訊自研的RDMA網(wǎng)絡(luò)實現(xiàn)了集群高速互聯(lián)，單節(jié)點帶寬達到3.2T，相比于同類領(lǐng)先產(chǎn)品，性能提升30%，成本降低70%。
效率：
自研了訓(xùn)練/推理框架，提出顯存加主存的一體化機制，實現(xiàn)多維并行和算子優(yōu)化，相比開源框架，訓(xùn)練性能提升2.6倍，推理速度提升2.3倍。
規(guī)模：
實現(xiàn)了單任務(wù)萬卡的線性擴展，GPU集群加速比從50%提升到99%。
騰訊Angel機器學(xué)習(xí)平臺是干嘛的，如果你手握一堆數(shù)據(jù)，想從零開始訓(xùn)練一個大模型，整個過程可以分成三層，Angel會在中間層發(fā)揮作用。
其中，底層GPU、云服務(wù)器等計算硬件提供算力支持，中層是機器學(xué)習(xí)平臺，負(fù)責(zé)處理數(shù)據(jù)、開發(fā)算法和執(zhí)行訓(xùn)練任務(wù)，上層是訓(xùn)練好的大模型。
簡單來說，Angel機器學(xué)習(xí)平臺可以把一堆雜亂的數(shù)據(jù)經(jīng)過清洗、訓(xùn)練、加工等工序，變成一個強大的大模型。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
