算法治理第一關：算法備案監管現狀與實務解讀（上）

6月20日，國家互聯網信息辦公室（以下簡稱“網信辦”）發布了關于深度合成服務算法備案信息的公告，并公布了第一批深度合成服務算法的備案清單，其中百度、騰訊、訊飛等一眾大廠均在清單之列。隨著算法備案逐步進入合規視野，算法備案的監管現狀、算法備案規范適用主體以及備案的具體流程等問題亟待梳理。本文擬分上下兩篇，上篇主要解讀算法備案的整體監管狀況、實務流程，下篇則針對“具有輿論屬性或者社會動員能力”的內涵展開分析與探討。

01 算法備案的監管現狀

2020年12月，中共中央印發了《法治社會建設實施綱要（2020-2025年）》，提出依法治理網絡空間，完善法律制度，制定完善對算法推薦、深度偽造等新技術應用的規范管理辦法。2021年9月，網信辦聯合科學技術部等九個部門發布了《關于加強互聯網信息服務算法綜合治理的指導意見》，明確加強互聯網信息服務算法安全治理的總體目標為：利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局。其中監管體系完善意指要創新性地構建形成算法安全風險監測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規行為處置等多維一體的監管體系。算法備案管理作為算法監管體系中的重要一環被首次提出。

此后，網信辦聯合工信部等部門先后就算法推薦類服務和深度合成類服務分別出臺管理規定，即《互聯網信息服務算法推薦管理規定》（以下簡稱《算法推薦規定》）與《互聯網信息服務深度合成管理規定》（以下簡稱《深度合成規定》），要求具有輿論屬性或者社會動員能力的算法推薦服務提供者、深度合成服務提供者和技術支持者履行算法備案義務。2023年7月13日出臺的《生成式人工智能服務管理暫行辦法》將于8月15日正式施行，其中再次強調提供具有輿論屬性或者社會動員能力的生成式人工智能服務的主體應按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。在實踐方面，自去年2月全國統一的“互聯網信息服務算法備案系統”（https://beian.cac.gov.cn/#/index）面世以來，陸續有5批算法提供者、技術支持者完成了算法備案。

根據《算法推薦規定》，若違反規定中相關條款，未履行算法備案等義務的，可能需要承擔的法律責任如下：

警告、通報批評，責令限期改正；

拒不改正或者情節嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款

治安管理處罰

相關刑事責任

02 算法備案的主體及義務

根據《算法推薦規定》《深度合成規定》以及《生成式人工智能服務暫行管理辦法》的相關規定，下述主體需要按照相應規定的要求履行算法備案義務。

由上表可見，相關規定對于備案主體的界定均為“具有輿論屬性或者社會動員能力”，但并未明確其概念內涵。根據2018年11月30日施行的《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》（以下簡稱《安全評估規定》）第二條規定，“具有輿論屬性或社會動員能力”的互聯網信息服務包括以下情形：

（一）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網絡直播、信息分享、小程序等信息服務或者附設相應功能；

（二）開辦提供公眾輿論表達渠道或者具有發動社會公眾從事特定活動能力的其他互聯網信息服務。

盡管《安全評估規定》對“具有輿論屬性或者社會動員能力”的概念予以解釋，但在實踐中，仍然存在著諸多情形無法明確判斷為是否“具有輿論屬性或者社會動員能力”，我們會在下篇結合已經完成備案的算法具體展開分析。

為保障算法的有效治理以保護用戶權益、凈化網絡環境，促進互聯網信息服務健康發展，前述算法備案主體需履行一系列的合規義務，以滿足符合監管規范、防范化解安全風險的需要，部分列舉如下：

建立健全算法機制機理審核制度

定期審核評估算法模型

建立健全信息發布審核制度

進行科技倫理審查

建立數據安全保護制度

03 算法備案的內容

目前備案系統對于算法備案的內容填寫主要包含主體信息、算法信息和產品及功能信息三個板塊。

（一）主體信息填報

企業主要填寫的內容包括主體基本信息、證件信息、法定代表人信息、算法安全責任人信息，并填寫《算法備案承諾書》與《落實算法安全主體責任基本情況》。其中，《落實算法安全主體責任基本情況》要求主體就自身的算法安全專職機構設置和算法安全管理制度兩方面進行具體闡述。算法服務提供者應設置算法安全專職機構并明確其職責分工、責任范圍等事項以確保其切實落地。算法安全管理制度建設則至少應當包括算法安全自評估制度、算法安全監測制度、算法違法違規處置制度、算法安全事件應急處置制度、科技倫理審查制度等。

（二）算法信息填報

算法信息填報包括兩個步驟：一是填寫算法基礎屬性信息；二是填寫算法詳細屬性信息。

算法基礎屬性信息部分，填報人員應根據實際情況填寫算法的類型、名稱等基本信息，若算法為“生成合成（深度合成）”類，則還需選擇“服務提供者”或“服務技術支持者”填報角色。同時，填報人員需按照模板內容填寫并上傳《算法安全自評估報告》《擬公示內容》等附件。

算法詳細屬性信息部分，填報人員則需要根據實際情況填寫算法數據、算法模型、算法策略和算法風險與防范機制等信息。

（三）產品及功能信息（或技術服務信息）填報

在產品及功能信息或填報技術服務方式時，“服務提供者”角色的填報人員需填報產品及功能信息，“服務技術支持者”角色的填報人員需填報技術服務方式。

“服務提供者”需要填寫產品信息、產品的功能訪問路徑以及路徑下的特定功能信息等內容。

“服務技術支持者”角色的填報人員需根據實際情況填寫當前備案算法的技術服務方式信息，包括技術服務名稱、技術訪問方式、技術服務對象、技術服務頻度等。

04 算法備案的具體流程

《算法推薦規定》第二十四、二十五條對于備案流程做出了較為詳細的規定，具體流程如下圖所示。

深度合成類算法的備案流程則以《算法推薦規定》為參考，在具體細節方面并沒有進行過多贅述，僅就步驟層面作出簡要示例，如下圖所示。

在明確算法備案的整體監管狀況和實務流程之后，企業可能對于自身是否屬于“具有輿論屬性或者社會動員能力”的相關算法服務提供者感到疑惑，下篇我們將基于當前已經完成備案的主體情況分析，為企業備案提供參考。

作者：王渝偉、周丹、陸釔潼

來源: 中國科技新聞學會