任何技術規范在制定時,都或多或少地預設了一個技術邏輯的“想象”。今天這篇文章的目的就是整理出《互聯網信息服務算法推薦管理規定(征求意見稿)》背后的技術邏輯的“想象”。
以上是公號君對該規定的學習后整理出來的技術邏輯示意圖。接下來,我們就分別從這算法推薦技術、信息內容(文本、視頻、音頻等)、展示頁面、特定用戶等四個部分,來認識規定中的具體條款。
算法推薦技術
種類
生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等(規定的第二條)
禁止的算法性質
不得設置誘導用戶沉迷或者高額消費等違背公序良俗的算法模型。(規定的第八條)
透明度要求
應當以顯著方式告知用戶其提供算法推薦服務的情況,并以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等。(規定的第十四條)
權益影響
用戶認為算法推薦服務提供者應用算法對其權益造成重大影響的,有權要求算法推薦服務提供者予以說明并采取相應改進或者補救措施。(規定的第十五條)
信息內容
信息內容特征庫
建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規則和程序。(規定的第九條)
合成信息的標識
發現未作顯著標識的算法生成合成信息的,應當作出顯著標識后,方可繼續傳輸。(規定的第九條)
違法信息的阻斷
發現違法信息的,應當立即停止傳輸,采取消除等處置措施,防止信息擴散,保存有關記錄,并向網信部門報告。發現不良信息的,應當按照網絡信息內容生態治理有關規定予以處置。(規定的第九條)
展示頁面
頁面生態管理算法推薦服務提供者應當加強算法推薦服務版面頁面生態管理,建立完善人工干預和用戶自主選擇機制,在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息內容。(規定第十一條)
調整頁面展示
應當向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的,算法推薦服務提供者應當立即停止提供相關服務。(規定的第十五條)
推薦商品或服務
算法推薦服務提供者向消費者銷售商品或者提供服務的,應當保護消費者合法權益,不得根據消費者的偏好、交易習慣等特征,利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。
未成年人保護
算法推薦服務提供者向未成年人提供服務的,應當依法履行未成年人網絡保護義務,并通過開發適合未成年人使用的模式、提供適合未成年人特點的服務等方式,便利未成年人獲取有益身心健康的信息內容。
算法推薦服務提供者不得向未成年人用戶推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息內容,不得利用算法推薦服務誘導未成年人沉迷網絡。(規定的第十六條)
工作調度
算法推薦服務提供者向勞動者提供工作調度服務的,應當建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法,履行勞動者權益保障義務。(規定的第十七條)
特定用戶的自主選擇能力
用戶模型和標簽管理
應當加強用戶模型和用戶標簽管理,完善記入用戶模型的興趣點規則,不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息內容,不得設置歧視性或者偏見性用戶標簽。(規定的第十條)
對用戶的影響
應當綜合運用內容去重、打散干預等策略,并優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性,避免對用戶產生不良影響、引發爭議糾紛。(規定的第十二條)
用戶標簽選擇
算法推薦服務提供者應當向用戶提供選擇、修改或者刪除用于算法推薦服務的用戶標簽的功能。(規定的第十五條)
在按照技術邏輯的四個元素進行分別規定后,《互聯網信息服務算法推薦管理規定(征求意見稿)》集中對“具有輿論屬性或者社會動員能力”的算法推薦服務進行了有針對性的規制。所謂的“具有輿論屬性或者社會動員能力”的算法推薦服務,本質上是以上四個方面綜合判斷后才能確定其是否以及多大程度上“具有輿論屬性或者社會動員能力”。
分類分級管理
國家網信部門建立分類分級管理制度,根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據敏感程度、對用戶行為的干預程度等對算法推薦服務提供者實施分類分級管理。(規定的第十九條)
備案制度
具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,履行備案手續。
算法推薦服務提供者的備案信息發生變更時,應當在變更之日起五個工作日內辦理變更手續。
算法推薦服務提供者終止服務的,應當在終止服務三十個工作日前辦理注銷備案手續,并作出妥善安排。(規定的第二十條)
完成備案的算法推薦服務提供者應當在其對外提供服務的網站、應用程序等顯著位置標明其備案編號并提供公示信息鏈接。(規定的第二十二條)
強制的安全自評估
具有輿論屬性或者社會動員能力的算法推薦服務提供者應當按照國家有關規定開展安全評估。
算法推薦服務提供者應當完善算法推薦服務管理機制,對算法推薦服務日志等信息進行留存,留存期限不少于六個月,并在相關執法部門依法查詢時予以提供。(規定的第二十三條)