2021世界人工智慧大會進行至第二天，華為、京東、螞蟻等企業，中國信通院、中科院中英人工智慧倫理與治理研究中心等研究結構、清華、復旦、交大、浙大等高校，共同發出了一份倡議——《促進可信人工智慧發展》。
對很多非業內人士來說，看到“可信人工智慧”（簡稱“可信AI”）這組詞語時，一定是滿腦疑惑：人工智慧還有“可信”和“不可信”之分？
“通俗點說，‘可信AI’的一個最顯著特點就是以人為本。”金磚國家未來網路研究院中國分院院長朱禹濤解釋。
“可信AI”源起
若從上世紀50年代算起，人工智慧發展到今天已經歷三次浪潮，目前正處於從第三次浪潮走向第四次浪潮的階段。在前兩次浪潮中，人工智慧技術都處於實驗室階段，與人們的生產生活並不產生直接關係。但自從進入第三次浪潮，人工智慧技術邁入產業化階段，併成為第四次工業革命的核心的技術，開始融入人們生產生活的方方面面，展現出巨大變革賦能的潛力。
根據IDC測算，2020年，全球人工智慧產業規模為1565億美元，同比增長12%；另根據中國資訊通訊院研究測算，目前我國人工智慧產業規模已達到約434億美元（約3031億元人民幣），同比增長15%。
然而隨著人工智慧應用的廣度和深度不斷拓展，其應用領域的風險與隱患也不斷顯露，比如演算法安全導致的信用風險，黑箱模型導致演算法不透明，資料歧視導致智慧決策偏見，系統決策複雜導致責任事故主體難以界定，資料濫用導致隱私洩露風險等。
機遇背後蘊含著挑戰，更引發了人們對人工智慧信任程度的思考。因此，2019年6月，二十國集團（G20）提出“G20人工智慧原則”，並在其五項政府建議中明確提出“促進公共和私人研發的投資力度，以促進可信賴的人工智慧（Trustworthy Artificial Intelligence）的創新；需建立一個策略環境，為部署值得信賴的人工智慧系統開闢道路。”目前，這項倡議已成為國際社會普遍認同的人工智慧發展原則。
學術界其實比政策制定者們更早一步推開了可信人工智慧的大門。2017年11月，來自上海的科學家何積豐在香山科學會議第S36此學術研討會上，首次在國內提出了“可信AI”的概念，即人工智慧技術本身具備可信的品質。當下，可信人工智慧研究範疇包括安全性、可解釋、公平性、隱私保護等多方面內容。
隨著“可信”成為共識，產業界也緊跟學術界步伐，紛紛投入“可信AI”的研究。資料顯示，在各界的共同努力下，2020年可信人工智慧研究論文數量相比於2017年增長近5倍。此外，京東、百度、騰訊、阿里等國內巨頭，微軟、谷歌、IBM等跨國企業都紛紛設立相關部門或專案探索“可信AI”的應用實踐。
“可信AI”的中國實踐
表面上看，當AI被打上“可信”標籤，似乎限制在變多，這是否將不利於未來人工智慧產業的發展？
“其實並不是。”澳大利亞科學院院士、京東探索研究院院長陶大程認為，在“可信”框架下，人工智慧可以被規範化的管理，而當一件事被規範化管理，並不意味著被限制，而是意味著給這件事的發展指明瞭方向。這就像給人工智慧列了一個“負面清單”，在“負面清單”之外，人工智慧的發展潛力可以被釋放。而人工智慧的負面清單就是“非以人為本”。
比如，有了“可信AI”的概念，反而更有利於中國智慧城市的建設和發展。“一直以來，智慧城市建設的瓶頸就是資料不能互通和隱私如何保障的問題，這也是中國智慧城市一直停留在1。0階段的重要原因之一。”朱禹濤表示，但如果透過“可信AI”建立一套脫敏的資料儲存和呼叫機制，就可以解決當下智慧城市建設所遇到的難題。“只有這個問題解決了，智慧城市才有可能邁入2。0階段。”
除了智慧城市建設，“可信AI”還有利於推動中國傳統產業的數字化升級。“可信AI是數字時代‘抵禦風險’的關鍵能力。”螞蟻集團副總裁、首席AI科學家漆遠介紹，在中國，“可信AI”技術目前已在反欺詐、反洗錢、反賭博、企業聯合風控、資料隱私保護在內的多個風控場景下落地，支撐著企業防禦風險的需求。
“‘可信AI’是人工智慧發展的方向，當前中國已有了很多前沿的研究。但未來，中國在進行應用和落地時，依然需要保持開放的態度，加強國際合作，這樣才能讓中國的‘可信AI’實踐走向世界。”朱禹濤呼籲。
欄目主編：徐蒙 文字編輯：張煜 題圖來源：本報記者：海沙爾 攝 圖片編輯：邵競
