信通院閆樹:隱私計算行業發展及合規發展思考

本文PPT,在微信公眾號「DataFunSummit」,回覆「20220521」領取

導讀:

本文將介紹關於隱私計算行業發展及合規發展的一些思考。主要包括以下幾大方面:

隱私計算的社會背景——資料要素

隱私計算體系和缺點

隱私計算的行業應用

應用隱私計算的安全合規性

01

資料作為生產要素

資料作為生產要素是當今的時代背景。

信通院閆樹:隱私計算行業發展及合規發展思考

什麼是資料?

在《中華人民共和國資料安全法》中定義資料為“任何以電子或者其他方式對資訊的記錄”。依據不同的角度和標準對資料的劃分不同,例如從國家的角度可以將資料分為“個人資訊”、“商業資料”、“公共資料”;在網路資料中可以分為“重要資料”、“關鍵業務資料”和“核心資料”。依據法律法規,不同資料的處理方式不同,即並不是所有資料都可以作為生產要素在市場裡進行流通。

信通院閆樹:隱私計算行業發展及合規發展思考

什麼是生產要素?

在政治經濟學中,生產要素是指進行物質生產所必需的一切要素及其環境條件。當今社會經濟增長速度快於要素投入增長,按照經濟學的觀點,需要引入新的生產要素,即“資料要素”來說明其餘要素未能說明的剩餘產出。

信通院閆樹:隱私計算行業發展及合規發展思考

資料能作為生產要素的核心原因是“資料的投入為經濟生產帶來新的增長點”。而

資料作為生產要素創造價值有三種方式:

價值倍增,資料要素能夠提高單一要素的生產效率。

資源最佳化,資料生產要素可以提高勞動、資本、技術、土地這些傳統要素之間的資源配置效率。

投入替代,資料可以啟用其他要素,對傳統的生產要素產生替代效應。

信通院閆樹:隱私計算行業發展及合規發展思考

相較傳統要素,資料要素在虛擬性、均質性、稀缺性、競爭性和產權性上具備更明顯的自身特性。因此需要重新認識資料要素。

信通院閆樹:隱私計算行業發展及合規發展思考

資料只有成為可利用的有效資源並參與到社會生產活動中,才能成為資料要素髮揮價值,產生經濟效益。

而從原始資料到資料要素需要經歷四個環節:

資料資源化

資料資產化

資料流通

:將資料資產開放、共享、交易形成資料產品和資料服務

資料應用

信通院閆樹:隱私計算行業發展及合規發展思考

生產要素的本質是流通。為了實現資料“可用不可見、可用不可存、可控可計量”的安全流通,建立了包括資料生成及採集、資料傳輸、資料儲存、資料使用(共享交易)、資料溯源與審計五個環節的資料安全流通技術體系。其中,隱私計算是指資料使用環節中所使用的隱私保護的資料計算技術。

——

02

隱私計算體系和缺點

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算作為資料要素使用的關鍵技術,受到多重需求的推動而得以加速發展:

資料融合需求

,機構間資料流通成為促使資料要素市場化配置、充分釋放資料要素價值的重要環節。

資料保護需求

,資料保護成為持續穩定的市場需求,而不再是短暫的監管應對行為。

各級政府鼓勵隱私計算研發和應用。

信通院閆樹:隱私計算行業發展及合規發展思考

原有的資料計算模式經歷多環節的轉移,洩露、盜用、冒用風險高,而隱私計算模式使資料可用不可見,以不可破解的加密方式開放共享。

隱私計算技術體系主要分三個方向:

多方安全計算為代表的基於密碼學的隱私計算技術

聯邦學習為代表的人工智慧與隱私保護技術融合衍生的技術

可信執行環境為代表的基於可信硬體的隱私計算技術

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算的技術需求可分為六點:大規模、高效能、強安全、更互通、易用易相容和便運維。

基於技術需求,可以設計出隱私計算的基礎技術和融合技術範圍。首先,隱私計算的基礎技術包括多方安全計算、聯邦學習和可信執行環境三種;在基礎技術上結合並應用各種基礎技術,可執行聯合查詢、聯合統計和聯合建模及預測等任務;隱私計算還可以作為擴充套件融合技術應用於“互聯互通”、“資料脫敏”、“區塊鏈”、“大資料”、“雲計算”等技術框架內;隱私計算作為配套技術可以應用於“系統管理”、“操作運維”、“基礎設施”等方面。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算仍存在一些問題。

隱私計算受限於效能化瓶頸,難以在現實社會中規模化應用。

隱私計算效能瓶頸主要在兩方面:

難以支援海量資料實時計算

,密文計算需要更大的計算和通訊負載,並且對隱私計算參與方的資源要求較高。

提升效能與強化安全難以兼顧

,隨著安全性和隱私性提升,隱私計算的效能通常會出現較大幅度的下降。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算產品的傳統安全能力需要進一步增強。隱私計算安全性的薄弱點主要表現在三個方面:

演算法協議無法實現絕對安全

開發應用始終存在安全挑戰

安全邊界及分級共識有待形成

信通院閆樹:隱私計算行業發展及合規發展思考

透過軟體與硬體層面的最佳化能夠從一定程度上提高隱私計算的效率:

軟體層面

,透過並行化和高效排程提高隱私計算的效率。

硬體層面

,將複雜運算轉移至各硬體裝置執行,能夠大幅度提升並行處理效率,支援高併發、低延遲。

信通院閆樹:隱私計算行業發展及合規發展思考

為提升計算的效能、安全、易用性,

隱私計算一體機是未來的發展趨勢

。具體可分為三方面:

異構硬體加速隱私計算效能

軟硬結合增強隱私計算安全

多硬體結合多角度提升

信通院閆樹:隱私計算行業發展及合規發展思考

此外,互聯互通也是隱私計算技術發展的熱點。隱私計算本是推進跨機構資料流通的助推器,但產品間技術壁壘難打通將促使資料“孤島”變“群島”,異構平臺的互聯互通將是必經之路。例如隱私計算部署廠商針對不同的資料來源可能使用不同的平臺,而這會增加很多廠商的成本。

從技術發展的角度,異構平臺互聯互通的實現難點主要有:

底層技術框架和密碼學協議不同

工程最佳化方案的多樣化

功能實現設計的個性化和差異化

技術廠商的核心智慧財產權

目前,針對異構平臺互聯互通的思路主要有:

分層次、分步驟的異構平臺互聯探索

從節點互認、資源共享到演算法元件跨平臺遷移執行,例如富數、螞蟻等公司已經實現了分層次的異構平臺互聯互通。

基於中介軟體、區塊鏈方案的實現思路

即基於輕量化中介軟體或區塊鏈智慧合約實現報文重構轉換、任務狀態同步與應用執行。

廣泛的技術企業間戰略合作

重點企業間戰略合作,探索建立資料交換協議,賦能實際業務場景。

信通院閆樹:隱私計算行業發展及合規發展思考

最重要的,隱私計算需要滿足安全可證明、技術可驗證、流程可監管、結果可解釋、產品可用、法律合規等要求,才能真正在實際應用中解決資料要素安全流通的問題。

信通院閆樹:隱私計算行業發展及合規發展思考

2021年,在政府多部門發文鼓勵推進隱私計算技術研究與應用的大力支援下,相關技術產品數量快速增長,眾多業務需求者開始從市場觀望者轉入技術研發的隊伍,以期為自身業務賦能。

信通院閆樹:隱私計算行業發展及合規發展思考

產品已部署伺服器數量、已支援資料規模、預計支援應用數量比例分佈呈長尾型,其平均數均超中位數。表明市場中頭部產品已大規模應用併發揮頭部效應,吸引大量新產品入局,健康的隱私計算市場格局初現。

信通院閆樹:隱私計算行業發展及合規發展思考

根據統計,隱私計算相關的論文快速增加,說明隱私計算逐漸受到學界關注。同時,隱私計算的專利也在快速增長。

——

03

隱私計算的行業應用

信通院閆樹:隱私計算行業發展及合規發展思考

從市場結構可以發現,隱私計算的產品由2018年之前的實驗室驗證和產品研發,到2019年的技術普及與市場教育,再到2020年開始進行產品的驗證性測試,最後到2021年隱私計算產品的規模應用,普遍招標也開始進行。從產品實施部署的階段統計也可以看到相同的趨勢。同時隱私計算的應用場景也更為豐富,在金融風控領域廣泛應用,公共服務領域佔比也強勢提升。

信通院閆樹:隱私計算行業發展及合規發展思考

行業應用方面,銀行、保險等大型金融機構加大隱私計算研究和應用,應用實現精益化,應用場景在金融風控、營銷等傳統場景下進一步細分、外延。

信通院閆樹:隱私計算行業發展及合規發展思考

同時,政務大資料共享開放中,隱私計算發揮巨大作用,應用場景種類豐富,省、市級創新場景突出。

信通院閆樹:隱私計算行業發展及合規發展思考

在醫療領域方面,醫療資料政策相繼出臺,隱私計算發揮技術優勢助力互聯互通,實踐案例從概念驗證到落地。

信通院閆樹:隱私計算行業發展及合規發展思考

利用隱私計算技術優勢,物流運輸、公共安全、智慧能源等領域開展隱私計算應用探索。

——

04

隱私計算的安全合規性

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算變革使得資料要素的流通形式由傳統資料集(1。0)向普通API(2。0)到API+隱私計算(3。0),由此引出了隱私計算的資料安全合規性問題:當我們在資料要素流透過程中應用隱私計算時,是否合規。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算技術和合規意義在於:

有助於履行法定的安全保障業務

有助於踐行最小必要原則,防止資料濫用

有助於實現一定條件下的匿名化

有助於減輕授權同意的合規隱患

有助於開發資料的使用價值

信通院閆樹:隱私計算行業發展及合規發展思考

首先,有助於履行法定的安全保障業務

。依據各種法律法規,處理個人資訊需要對資料隱私的保護,隱私計算是一種加強資料安全的技術措施,使用隱私計算在事故發生後可以幫助進行責任減輕。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算有助於踐行最小必要原則,防止資料濫用

。法律要求資料處理者以實現產品和服務目的為限,在功能可實現的前提下保持克制,在最小範圍內收集使用個人資訊。而使用隱私計算可以避免這一點。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算有助於實現一定條件下的匿名化。

在工程應用中,匿名化是在一定條件下(例如在可實現的算力、合理時間範圍內等)的相對匿名化。隱私計算技術方案雖然仍有一定的安全隱患,但一定程度上確實提升了資料的匿名化水平。

信通院閆樹:隱私計算行業發展及合規發展思考

包含隱私計算的技術方案

有助於降低參與方在資料融通中的授權同意壓力

。在隱私計算技術方案下,需要取得授權同意的使用者數相比來說更少。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算

有助於開發資料價值

,解決一些資料主體不願不敢流通資料的問題。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算通常的合規誤區:

使用隱私計算即可實現匿名化

如在某些場景中仍可反映出個人的某些特徵,則無法滿足匿名化“不可識別、不能復原” 的要求,輸出結果依然屬於個人資訊,需要滿足個人資訊保護的合規要求。

使用隱私計算即無需授權同意

授權同意屬於資料處理的合法性基礎之一,而隱私計算屬於對資料進行處理、使用的一種技術手段,在流程和邏輯上需要依賴於合規基礎的存在。

隱私計算處理的資料不屬於個人資訊

即使未獲取到其他參與方的原始個人資料、僅獲取資料切片、模型梯度等資料,也因為存在客觀上可逆的可能性而仍然屬於對個人資料進行處理。

信通院閆樹:隱私計算行業發展及合規發展思考

隱私計算應用的合規性要求相關方不斷探索平衡合規、效率和精度要求的實踐路徑。

信通院閆樹:隱私計算行業發展及合規發展思考

針對隱私計算合規發展的建議:

科技向善,擁抱監管

隱私計算現在的市場環境要求相關方,必須要重視資料合規發展。

評估風險,審慎推進

針對之前發展的業務需要評估風險,平衡效益和風險推進業務。

以點帶面,逐步深入

可以在資料風險很小或者不涉及個人資訊的業務場景下引入隱私計算。

多方參與,各盡所能

例如引入第三方進行監管和產品測試等。

信通院閆樹:隱私計算行業發展及合規發展思考

上述為信通院在計算合規方面的研究成果和工作計劃。針對隱私計算安全合規方面的探討,針對隱私計算行業合規指引都做了一些工作。

今天的分享就到這裡,謝謝大家。

閱讀更多技術乾貨文章、下載講師PPT,請關注

微信公眾號“DataFunSummit”。

分享嘉賓:閆樹博士 信通院 雲大所副主任

編輯整理:畢東海 大連理工大學

出品平臺:DataFunTalk

01/分享嘉賓

信通院閆樹:隱私計算行業發展及合規發展思考

02/報名看直播 免費領PPT

信通院閆樹:隱私計算行業發展及合規發展思考

03/關於我們

DataFun:

專注於大資料、人工智慧技術應用的分享與交流。發起於2017年,在北京、上海、深圳、杭州等城市舉辦超過100+線下和100+線上沙龍、論壇及峰會,已邀請超過2000位專家和學者參與分享。其公眾號 DataFunTalk 累計生產原創文章700+,百萬+閱讀,14萬+精準粉絲。

歡迎轉載分享,轉載請私信留言。