楊暘:從邊緣智慧邁向泛在智慧

內容來源:2022年11月12日,在全球邊緣計算大會·上海站上,我們非常榮幸邀請到了特斯聯集團首席科學家楊暘博士來分享,楊暘博士曾任上海科技大學教授、科道書院院長、上海霧計算實驗室主任;科技部“第五代移動通訊系統(5G)前期研究開發”重大專案總體專家組專家;國家科技重大專項“新一代寬頻無線行動通訊網”總體組專家;研究領域包括5G/6G移動通訊系統、智慧物聯網、多層次算力網路,開放無線測試驗證平臺等。已申請了120多項科技發明專利,發表了300多篇學術論文,出版了六部中英文專著。

分享嘉賓:特斯聯首席科學家 楊暘

整理編輯:北京交通大學 蘭江雨

出品:邊緣計算社群

楊暘:從邊緣智慧邁向泛在智慧

楊暘

:大家好,我今天和大家探討的話題是,邊緣計算的未來是什麼?根據我們目前進行的研究和產業化實踐經驗,計算資源變得越來越重要。今天我們著重討論以下三個話題。

1、為什麼我們需要泛在智慧:萬物互聯的必然趨勢

泛在智慧概念的提出是建立在邊緣智慧技術和應用蓬勃發展的基礎之上。基於萬物互聯的快速發展態勢,今年8月末,中國物聯網的終端使用者數量已經超過行動電話使用者數量,使得我國成為全球主要經濟體中率先實現“物超人”國家。隨著新基建和智慧城市建設的不斷深化,物聯網的器件數量將會大幅度地超越當前情況。

在IMT2030推進組的報告裡也提到[1],未來6G移動通訊系統會有八大不同的應用場景,如圖1所示,其中的普惠智慧和數字孿生場景是我們今天討論的重點。

楊暘:從邊緣智慧邁向泛在智慧

圖1 6G移動通訊系統的八大應用場景[1]

為了實現這樣的應用願景,6G系統需要部署大量的、泛在的計算資源來承載普惠智慧。所以,我們必須要思考在邊緣計算之後,普惠智慧的需求會遇到什麼樣的挑戰和困難?由於人類社會是大自然創造的最優秀最聰明的智慧網路,所以我認為未來的普惠智慧服務將會構建在一種分層次、分散式的算力網路之上。

這樣,大量高冗餘度、低質量、低價值的本地物聯網資料就可以利用邊緣和網路中的分散式計算資源來及時處理,從而顯著提升使用者服務質量、資料安全性和響應時效性,降低了必須要傳輸到雲端的資料量,同事減少了能量消耗。目前,在網路裡有很多計算資源還沒有被完全地利用起來,透過GECC社群所有人的共同努力,我們可以逐步實現雲網邊端所有計算資源的協作與管理,支撐無處不在的普惠智慧應用願景。

在21年10月的開發者創新大會上,英特爾公司在邊緣計算和算網架構方面提出了四大戰略方向[2],

楊暘:從邊緣智慧邁向泛在智慧

圖2 英特爾公司提出的四大戰略方向[2]

分別是Ubiquitous Compute(泛在的計算)、Pervasive Connectivity(遍佈的連結)、Cloud-to-Edge Infrastructure(雲到邊的算力架構)、以及Artificial Intelligence (人工智慧)。它們合在一起,就構成了泛在、普惠的智慧服務架構,能夠把邊緣、網路、以及雲端的海量計算資源都有效管理和排程服務,實現為使用者、為需求所用。這與我們做泛在智慧的想法不謀而合。

2、怎樣支援泛在智慧:Network AI Architecture

當前的雲管邊端架構將算力資源和智慧演算法主要集中在雲端,不太適合及時處理海量的物聯網資料。為了支援泛在智慧服務,我們需要建立一個新型網路架構,能夠靈活利用雲、網、邊、端等多層次、分散式的泛在計算資源。我們在2018年的論文[3,4]中提出了這個類似八爪魚的網路架構,其中白色的圓圈表示網路中的空閒計算資源,它們是與應用軟體解耦合的。八爪魚的觸角越往下顏色越深,這意味著這些共享的泛在計算資源已按需被軟體定義成不同的功能和作用,從而更有效地去服務千差萬別的應用場景,比如:智慧機場、智慧製造、車聯網、智慧交通等等。

當某個應用場景的特定服務結束後,相應的計算硬體和智慧軟體的耦合與協作狀態解除,就可以釋放這部分被佔用的計算資源,讓它們重新恢復白色空閒狀態。這樣就能夠充分發揮本地和區域內多層次、分散式計算資源的共享優勢和協作能力,更加靈活、彈性、智慧地服務未來不確定的應用場景和使用者需求,服務未知的環境狀態和變化的使用者需求體現了網路架構智慧化的水平。

楊暘:從邊緣智慧邁向泛在智慧

圖3 多層次泛在計算的智慧網路架構[3]

在2019年9月,芬蘭科學家提出了6G移動通訊網路的泛在無線智慧架構[5],將邊緣計算節點、霧計算節點和行動通訊網路結合在一起,目標是把物理世界和數字世界完全融合,能夠用無處不在的計算資源來滿足使用者千差萬別的個性化服務需求。

楊暘:從邊緣智慧邁向泛在智慧

圖4 聯通CUBE-Net 3。0架構[6]

在去年3月,中國聯通釋出了CUBE-Net3。0網路架構[6],包含了邊緣DC,區域DC和基地DC,這些計算資源是分層級、分散式部署的,要根據資料量、服務覆蓋範圍和任務複雜性等做出合理分配和排程管理。這樣做的本質上是將計算資源下沉,實現智慧服務的本地化和低時延,提升使用者滿意度。

中國移動在去年11月釋出了算力網路白皮書[7],提出了算力網路架構發展的三個階段,即泛在協同階段、融合統一階段、以及一體內生階段。最終,通訊和計算在未來的智慧網路架構中是不可分割的,這是我們努力的方向和目標。

在學術界和工業界許多資深專家的指導下,我們在今年7月份提出了一個網路智慧架構(Network AI Architecture)[8]。圖5展示了雲智慧、邊緣智慧和網路智慧服務的差別。紅色虛線標出的雲智慧服務高高在上,要等所有的使用者資料和任務透過行動通訊網路傳送到雲端進行分析和處理。綠色虛線標出的邊緣智慧服務利用了外掛式的本地計算資源,通常與通訊網路是割裂的,使用者資料和任務要經過行動通訊網路的傳輸才能到達邊緣計算節點。就算這個邊緣計算節點就在你身邊,對不起,資料還是要透過行動通訊網路兜一圈才能為你提供邊緣智慧服務。

楊暘:從邊緣智慧邁向泛在智慧

圖5 以每個使用者為中心的網路智慧架構[8]

在藍色虛線標出的網路智慧架構中,為了實現真正的AI內生,需要將泛在計算資源與行動通訊網路深度融合在一起。我們提出的方案是採用多功能節點(mNode: multi-function Node)來替代所有網元,每一個mNode都集成了感知、儲存、通訊、計算、控制和AI演算法等多種能力(如圖3中的白色圓圈),透過軟硬體解耦合和網路功能虛擬化技術來實現傳統基站、路由器、交換機和伺服器的不同功能,真正達到了感存通算控智等綜合能力的深度融合和靈活運用。就好像社會中的每個人,既要能夠幹活(計算能力),也要善於溝通(通訊能力),又要了解工作環境(感知能力),還要始終不忘初心(儲存能力)。

為了更好地管理和利用多層分佈的mNode,我們設計了兩個控制單元。其中,NALC(Network AI Logic and Control)單元負責本地和區域資源的排程和管理,保障使用者的實時和準實時服務需求;NAMO(Network AI management and Orchestration)單元負責跨領域和外掛式資源的排程和協作,保障使用者的高強度算力資源需求。這種基於多層次計算資源的網路架構可以有效支援泛在智慧的服務需求,能夠突破當前的煙囪式、碎片化物聯網服務模式,充分複用網路中的軟硬體資源和系統功能,只需要針對不同行業嵌入特別的領域知識,就可以開發出物聯網的新應用和新服務,從而大大縮短了研發週期,並降低了系統複雜性和研發成本。

3、如何評估網路智慧架構的效能:服務使用者業務定製的能力

通訊工程師傳統上非常注重系統側的效能指標,比如:頻譜效率、能耗效率、服務覆蓋率、系統吞吐量、以及使用者容量等。在物理世界裡,我們習慣於先將使用者或場景進行分類(比如:移動使用者或靜止使用者,語音使用者或資料使用者,eMBB/uRLLC/mMTC應用場景),然後為不同型別的使用者提供不同的標準化服務,這樣做的服務效率和價效比最高。這就像一款夾克會分為XL/L/M/S等號碼來適應不同體型的使用者需求。相反,定製化服務在物理世界中會耗費更多人力、物力和時間,往往非常昂貴。

而未來的數字世界裡[9],每個使用者都有自己的數字孿生和資料倉庫,定製化服務將成為新常態和新標準,現在的許多移動網際網路應用已經可以根據每個使用者的瀏覽和購買記錄來推送類似的新聞或者商品。在充分保護使用者資料安全和個人隱私的前提下,每個使用者在數字世界中都會積累越來越多的行為資料和模型,從而將智慧服務的顆粒度從一組同類型使用者縮小為每個使用者,這將是源自使用者側需求的根本性變化。

定製化服務是為了充分滿足每個使用者的個性化需求,具有多樣性和複雜性,往往包含了多個使用者側效能指標的組合。比如打互動性很強的網路遊戲時,使用者會同時要求低時延(響應快捷)、高速率(影象清晰)、高可靠(體驗穩定)、低功耗(服務時間長)、以及少收費(價效比高)等等,她/他不會因為是坐在高鐵裡打遊戲,就降低對服務質量和使用者體驗的要求。所以,使用者側(需求側)關心的效能指標與系統側(供給側)的效能指標是很不一樣的。

每個使用者的個性化服務需求是由一系列使用者側效能指標的上限和下限來描述的,比如,資料速率和可靠性指標肯定是下限,越高越好;服務時延、能耗和費用肯定是上限,越低越好。每個使用者的不同業務都會有一個專屬的服務需求區間(Service Requirement Zone, SRZ),可以用雷達圖來清晰展示這個個性化、多維度的新概念。如圖6所示,除了打遊戲的SRZ,每個月初我都會第一時間把工資轉給我太太,在移動銀行轉賬業務的SRZ中,我對安全性要求特別高,對服務時延要求沒那麼高。轉賬時間稍微長一點沒關係,能看見這個數字在我的賬號裡多停留一秒鐘,也是讓我多開心一會兒。

楊暘:從邊緣智慧邁向泛在智慧

楊暘:從邊緣智慧邁向泛在智慧

圖6 互動網路遊戲與移動銀行轉賬的服務需求區間[8]

我們認為要客觀公正地評估雲智慧、邊緣智慧、或網路智慧架構到底好不好,最簡單、最根本的方法就是測試和驗證它是不是能同時滿足大量使用者的個性化、定製化、多維度的服務需求區間 SRZ要求,也就是能同時支援多個使用者不同的業務效能指標組合,如圖7所示。雖然這些效能指標單獨看起來沒有那麼高,但是要做到讓每個使用者都滿意的定製化服務,就必須要同時滿足為各個使用者量身訂製的多個性能指標,這實際上是一個很高的要求。

因此,我們把使用者滿意率(User Satisfaction Ratio, USR)作為評估網路智慧架構能力的最簡單、最公平的系統側核心效能指標,即在所有已服務過的使用者中,完全滿意使用者的比例。USR客觀反映了使用者的整體服務體驗,既可以用於分析多個使用者的不同任務滿意率,也可以分析同一個使用者的多個任務的滿意率。

楊暘:從邊緣智慧邁向泛在智慧

圖7 智慧系統的使用者滿意率[8]

為了公平比較,在圖8中,我們對雲智慧、邊緣智慧和網路智慧架構進行了統一建模,同時考慮了多層次的計算資源(C1、C2、C3和CC)和通訊速率(R1、R2、R3和RC),所以每個使用者不同業務的執行要同時低於端到端的時延(通訊時延+計算時延)和能耗(通訊能耗+計算能耗)的上限要求。換言之,只有同時滿足了這兩個效能指標,使用者才是滿意的,USR才能得到提升。

楊暘:從邊緣智慧邁向泛在智慧

圖8 通訊計算一體化的網路智慧架構模型[8]

圖9和圖10分別展示了使用者業務密度、計算需求、業務大小和網路通訊速率對於使用者滿意率的影響。

楊暘:從邊緣智慧邁向泛在智慧

圖9 業務密度和計算需求對USR的影響[8]

楊暘:從邊緣智慧邁向泛在智慧

圖10 業務大小和網路通訊速率對USR的影響[8]

在兩種不同的業務排程演算法下(TCTB和FES),與集中式的雲智慧架構相比,邊緣智慧和網路智慧架構分別建立在兩層次和多層次的分散式計算資源之上,可以有效支援每個使用者各種型別的業務達到更高的服務滿意率。

作為總結,今天我們在使用者側和系統側分別提出了“服務需求區間SRZ”和“使用者滿意率”的概念和指標,用於評估支援泛在智慧的網路架構的定製化服務能力。如同GECC這個溫暖的大家庭,我們不會把所有事情都交給會議主席一個人去處理(無法確保響應時間),也不會把所有事情都交給會務公司去處理(無法確保技術報告質量),而是要利用GECC核心骨幹成員每個人的能力和資源,透過協作互助模式更好地為所有與會者服務,在效果、質量、效率和費用之間取得最好的平衡。

以上就是我的彙報,請批評指正,謝謝大家!

參考文獻

[1] IMT-2030 (6G) 推進組,《6G總體願景與潛在關鍵技術白皮書》,2021年6月。

[2]https://www。intel。com/content/www/us/en/newsroom/news/innovation-developers-event。html

[3] N。 Chen, Y。 Yang, T。 Zhang, M。 T。 Zhou, X。 L。 Luo, and J。 Zao, “Fog as a Service Technology,” IEEE Communications Magazine, Vol。 56, No。 11, pp。 95-101, Nov。 2018。

[4] Y。 Yang, “Multi-tier Computing Networks for Intelligent IoT,” Nature Electronics, vol。 2, pp。 4-5, Jan。 2019。

[5] M。 Latva-aho and K。 Leppänen (eds。), “Key Drivers and Research Challenges for 6G Ubiquitous Wireless Intelligence,” 6G Flagship, University of Oulu, Sept。 2019。 Available at http://jultika。oulu。fi/files/isbn9789526223544。pdf

[6] 中國聯通,《CUBE-Net 3。0網路體系白皮書》,2021年3月

[7] 中國移動,《算力網路白皮書》,2021年11月

[8] Yang, et al。, 6G Network AI Architecture for Everyone-Centric Customized Services, IEEE Network, Early Access, July 2022。

[9] Yang, Chen, Tan, and Xiao, “Intelligent IoT for the Digital World,” ISBN: 9781119593546, Wiley, 2021。