智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
GEMPLE
就在前幾天小米的年度演講中，雷軍提到小米的AI大模型能力，小愛同學(xué)正式升級為生成式大模型，現(xiàn)已經(jīng)進入測試階段。小米高管公式在8月17號表示，小米將會很快實現(xiàn)端側(cè)AI模型能力。
01.端側(cè)AI的優(yōu)勢
端側(cè)也就是我們常說的邊緣計算，這種模式可以更好的支持AloT場景。也就是：AI+IoT(Internet of Things 物聯(lián)網(wǎng))=AIoT。邊緣計算，是指在靠近物或數(shù)據(jù)源頭的一側(cè)，采用網(wǎng)絡(luò)、計算、存儲、應(yīng)用核心能力為一體的開放平臺，就近提供最近端服務(wù)。邊緣計算也是一種分布式計算。它將數(shù)據(jù)資料的處理、應(yīng)用程序的運行甚至一些功能服務(wù)的實現(xiàn)，由網(wǎng)絡(luò)中心下放到網(wǎng)絡(luò)邊緣的節(jié)點上，以減少業(yè)務(wù)的多級傳遞，降低核心網(wǎng)和傳輸?shù)呢摀?dān)。它的應(yīng)用程序是在邊緣側(cè)發(fā)起，產(chǎn)生更快的網(wǎng)絡(luò)服務(wù)相應(yīng)。對物聯(lián)網(wǎng)而言，邊緣計算技術(shù)取得突破，意味著許多控制將通過本地設(shè)備實現(xiàn)而無需交由云端，處理過程將在本地邊緣計算層完成。
端側(cè)AI具有如下優(yōu)點:
Al 技術(shù)用于端側(cè)可以第一時間對收集的數(shù)據(jù)進行處理，不需要通過網(wǎng)絡(luò)上傳到云側(cè)的處理中心，極大加快了系統(tǒng)響應(yīng)也減少了系統(tǒng)處理延遲;
端側(cè)計算可以更高效的處理有價值的關(guān)鍵數(shù)據(jù)，其余的數(shù)據(jù)只是臨時性的，在端側(cè)結(jié)合 AI 能力，不僅可以更及時處理數(shù)據(jù)，而且減輕網(wǎng)絡(luò)帶寬的限制和緩解對中心側(cè)數(shù)據(jù)存儲的壓力;
在端側(cè)的 Al 技術(shù)可以高效地對用戶的源數(shù)據(jù)進行處理，將一些敏感的數(shù)據(jù)進行清洗和保護，端側(cè)設(shè)備只將 Al 處理后的結(jié)果上報云端。
端側(cè)AI的技術(shù)難點：
硬件資源限制
存儲、內(nèi)存、計算資源
模型的版本管理、生命周期
終端的種類很多，不同硬件架構(gòu)的適配和模型遷移成本過高
第三點同時導(dǎo)致了端側(cè)AI應(yīng)用復(fù)雜度增加
02.5G和端側(cè)計算相輔相成
5G 是一項長期演進的技術(shù)，也許最開始，我們對它的感知只是手機網(wǎng)速更快、時延更低，但 5G 的意義遠不止于此。隨著 5G 標準從 Rel-15、Rel-16 到 Rel-17 等的不斷演進，5G 也將不斷擴展到更多行業(yè)。數(shù)據(jù)顯示，全球有200多家運營商已經(jīng)部署了5G商用網(wǎng)絡(luò)，另有將近300家運營商正在投資部署5G技術(shù)。在我國，目前已累計建成5G行業(yè)虛擬專網(wǎng)16000余個，應(yīng)用案例涵蓋交通、醫(yī)療、教育、智慧城市、農(nóng)業(yè)等多個領(lǐng)域。
在5G網(wǎng)絡(luò)在誕生之初，便定義了它的三大應(yīng)用場景：eMBB(增強移動寬帶)、mMTC (海量機器類通信)和 uRLLC(超可靠低時延通信)，相應(yīng)的為滿足高清視頻、智慧城市、車聯(lián)網(wǎng)等業(yè)務(wù)需求提供技術(shù)支持。
但值得關(guān)注的是，每個業(yè)務(wù)場景在發(fā)展過程中都有其自身所面臨的一些挑戰(zhàn)。例如，eMBB將對網(wǎng)絡(luò)帶寬產(chǎn)生數(shù)百Gbps的超高需求，從而對回傳網(wǎng)絡(luò)造成巨大傳輸壓力，單方面投資擴容匯聚與城域網(wǎng)絡(luò)將大幅提高單位媒體流傳輸成本，無法實現(xiàn)投資收益；uRLLC需要端到端1ms級超低時延支撐，僅僅依賴無線與固網(wǎng)物理層與傳輸層技術(shù)進步，無法滿足苛刻的時延需求；mMTC將產(chǎn)生海量數(shù)據(jù)，導(dǎo)致運營管理的巨大挑戰(zhàn)，僅僅由云端集中統(tǒng)一監(jiān)控?zé)o法支撐如此復(fù)雜的物聯(lián)系統(tǒng)。
邊緣計算恰好可以為這些問題帶來解決方案。首先，邊緣計算設(shè)備將為新的和現(xiàn)有的邊緣設(shè)備提供連接和保護；其次，盡管5G將為基于云的應(yīng)用程序提供更好的連接性和更低的延遲，但仍然存在處理和存儲數(shù)據(jù)的成本，混合邊緣計算/5G解決方案可以降低這些成本；最后，邊緣計算可以讓更多應(yīng)用程序在邊緣運行，例如分析，網(wǎng)絡(luò)安全或合規(guī)性/監(jiān)管應(yīng)用程序，減短了由數(shù)據(jù)傳輸速度和帶寬限制所帶來的延時，并可對本地數(shù)據(jù)做初步分析，為云分擔(dān)了一部分工作。
高通中國區(qū)研發(fā)負責(zé)人徐晧認為，面對當(dāng)前AI技術(shù)取得重大突破，未來AI與5G-Advanced融合發(fā)展，將對智能終端和AI應(yīng)用發(fā)展帶來非常深遠的影響。在5G-Advanced更大帶寬、更低時延的網(wǎng)絡(luò)能力支撐下，未來AI處理將通過“云-邊-網(wǎng)-端”架構(gòu)不斷從云端向邊緣、終端側(cè)擴展，從而在手機、汽車、XR、無人機等多種形式的智能終端上催生出大量新興AI應(yīng)用。而多種形式的智能終端和豐富的AI應(yīng)用又會反過來進一步促進5G-Advanced繁榮發(fā)展。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
