編者按：習近平總書記指出，“科學普及是實現創新發展的重要基礎性工作。”為助力高水平科技自立自強，中國科協科普部聯合光明網推出“院士高端科普”欄目，邀請各領域院士就我國當下熱點科技問題給予權威解答，服務引導更多科技工作者提升科研科普能力，促進全民科學素質提升，為科技強國建設貢獻科普力量。#千萬IP創科普

黨的二十大報告對加快建設網絡強國作出了重要戰略部署，網絡強國建設已成為社會主義現代化國家建設的重要內容。隨著網絡空間崛起為繼陸、海、空、天之后的第五大主權領域，我國面臨著日益嚴峻的網絡安全挑戰。

當前，人工智能的發展如火如荼，在推進網絡強國建設的過程中，確保人工智能技術的安全可控，防范其潛在的網絡安全風險，成為亟待解決的關鍵問題。

人工智能在賦能人類社會、加快發展新質生產力、創建虛實融合新型網絡空間的同時，正逐漸衍生出可能危及國家安全和人類安全的重大風險。去年，馬斯克在內的一眾全球范圍內AI領域重要人士聯合公告“應將緩解人工智能導致的滅絕風險，與其他社會規模風險（如大流行病和核戰爭）等同重視，作為全球優先事項”。

大模型參數規模龐大，動輒上千億甚至萬億，研發投入高達數百億人民幣，它們的興起，開創了智能化應用新局面。但大模型自身無安全可信和倫理道德的特性，給人類社會帶來了不利影響。

一方面，大模型繼承了深度學習的“黑盒子”特性，復雜的參數與神經網絡結構使得決策和推理過程難以透明，從而可能引發虛假、偏見、侵權及倫理問題。另一方面，海量數據的處理也伴隨著數據安全風險，隱私泄露、侵權以及惡意利用等問題層出不窮，其中“幻覺”、偏見和違反法律法規、風俗習慣等問題尤為棘手。

面對這些挑戰，我們急需一種能夠保障信息系統可預期性的技術——可信計算。可信計算，顧名思義，就是在計算的同時進行安全防護，確保計算結果與預期一致，全程可測可控，不受外界干擾。這一技術將人類社會中行之有效的管理策略應用于計算機信息系統及網絡環境中，通過建立信任根和信任鏈，層層遞進，將信任關系擴展到系統的每一個角落，從而確保整個系統的可信度。

在保證計算可信的同時，技術自主也是必要條件。中央“市場準入十條”（《關于完善市場準入制度的意見》）中的“自主可信計算”不是泛指可信計算技術，而是指源自中國、完全自主的可信計算技術——可信3.0，故文件中特地強調“自主”二字。

我認為，網絡安全實質是計算科學問題，而自主可信計算是保障信息系統可預期性的關鍵技術。通過構建主動免疫的可信計算體系，可以降低網絡空間的脆弱性，提高應對未知惡意攻擊的能力，從而有效保障國家網絡空間的安全。

中國在可信計算的發展上做出的戰略部署可謂高瞻遠矚。自1992年立項研制免疫的綜合安全防護系統以來，我們經過長期軍民融合攻關應用，形成了自主創新的安全可信體系，開啟了可信計算3.0時代。如今，可信計算已廣泛應用于國家重要信息系統，如增值稅防偽、彩票防偽、二代居民身份證安全系統等，為國家安全和社會穩定提供了有力保障。

以國家電網電力調度系統的安全防護建設為例，發改委14號令要求，采用可信計算架構實現等級保護四級。如今，我們的電力可信計算密碼平臺已在三十四個省級以上調度控制中心得到廣泛應用，覆蓋上千套地級以上電網調度控制系統，涉及十幾萬個節點、約四萬座變電站和一萬座發電廠。這一舉措有效抵御了各種網絡惡意攻擊，確保了電力調度的安全運行。相比之下，美國熱推的“零信任架構”僅相當于可信計算3.0的一個訪問控制功能子集，存在諸多問題和挑戰，如架構漏洞多、缺乏科學原理支撐、網絡無邊界不符合主權原則等。

面向未來，我的建議是，各級政府按照國家網絡安全法律、戰略制度要求，大力發展自主可信計算產業體系，為加快推進建設網絡強國、數字中國做出重大貢獻。

（作者：沈昌祥，中國工程院院士、中央網信辦專家咨詢委員會顧問，光明網記者李欣哲整理）

來源: 科學報國正當時

內容資源由項目單位提供