近日,國家互聯網信息辦公室就《互聯網信息服務算法推薦管理規定(征求意見稿)》公開征求意見。征求意見稿提出,算法推薦服務提供者應當向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的,算法推薦服務提供者應當立即停止提供相關服務。
被算法蒙在鼓里,離真相的偏差越來越大
算法推薦如硬幣兩面,一面是方便公民于信息過載中找尋所需、所想的信息,一面是阻礙公民于海量信息中尋求新知、跳出包圍圈,一體兩面,相克相生。本以為歲月靜好,互不逾界,然而,隨著資本的幕后操縱和平臺的唯利是圖,算法推薦的“繭房病毒”逐漸蠶食其僅存的一絲利好。“你的手機不再是你做主”“看似是你在上網,其實是算法幫你上網”,算法推薦強占了公民自主選擇權,看似自主可控的行為,其實是被算法蒙在鼓里,無處不在的“隱形之手”控制著我們前行。如果說互聯網是一塊大蛋糕,那么算法推薦就好似一把刀,將其四分五裂,而參與其中的互聯網網民僅僅食得一小塊而已。
據不完全統計,當前基于算法的個性化內容推送已超過整個互聯網信息內容分發的70%。運用算法技術確實提高了信息分發的效率,但弊端也顯而易見——不管是上述的哪種推薦機制,都很少考慮信息的基本價值理性。人在技術面前不斷被客體化,其背后是資本至上的“流量法則”,與之相伴而生的必然是一系列“算法焦慮”。
這種行為就是在充分利用人性的弱點,平臺或許借此獲取了流量,但也在無形中給受眾筑起“選擇性接觸”和“選擇性接受”的信息壁壘。置身其中,個體只能接觸跟自己意見一致的信息,越來越難接觸跟自己意見相左的信息。在這種日漸同化、窄化、極化的信息通道中,人們離真相的偏差越來越大,價值觀異化越來越快,達成社會共識也越來越難。
打破算法推薦“圍城”,確保用戶自由“沖浪”
從算法推薦的載體上來分析,算法推薦服務是基于大數據分析下進行的推送服務,可見,算法推薦服務離不開互聯網技術,亦離不開平臺或者移動終端對于用戶信息的采集、歸納和打包。算法推薦服務能夠“手張得如此大,伸得如此遠”,歸根結底是用戶失去對平臺或者資本如何使用個人信息的知曉權以及否決權。平臺肆意收取用戶個人信息,才能知曉用戶個人特征,才能為用戶畫像,進而實現算法推薦服務,這是資本或者平臺通過算法推薦服務控制用戶上網行為的完整閉環。因此,欲阻斷算法推薦服務,還需從平臺或者資本違法違規收集用戶個人信息入手,切斷算法推薦服務“源頭活水”,才能更好的維護用戶權利,確保用戶自由的“沖浪”。
當然,作為算法治理的重要組成部分,同時也是一項新的制度,算法備案仍有待進一步健全與完善,優化細化相關內容,以提高科學性、合理性及合法性。
日前,多家互聯網大廠的30條算法機制按照《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》),在互聯網信息服務算法備案系統(以下簡稱“系統”)完成備案。國家互聯網信息辦公室(以下簡稱“網信辦”)表示,新的備案信息還將持續更新。
這是《規定》自2022年3月1日正式實施以來,網信辦首次集中公布完成算法備案的互聯網企業產品信息。《規定》第二十四條明確要求,具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,履行備案手續。
本次公開,把算法分為個性化推送類、檢索過濾類、排序精選類、調度決策類、生成合成類五大類。個性化推送類是大頭,有18個備案。
在個性推薦類算法方面,不少平臺會強調,采取措施避免同類型內容過度集中、造成信息繭房。比如,抖音算法備案顯示:一方面,每次推薦都會選擇用戶過去不常觀看的內容類目,進行一定比例的推薦;另一方面,每次獲取推薦內容的過程中,會特別增加一條隨機內容,來保障用戶可見內容的多樣性。
使用某個應用程序后,它就能“猜”到你喜歡什么,并且精準推送相關內容,滋生“信息繭房”、大數據“殺熟”等問題。這樣的情況最近終于開始有了改變。隨著國家網信辦等4部門聯合發布的《互聯網信息服務算法推薦管理規定》近日正式施行,很多APP先后上線算法關閉鍵,允許用戶在后臺一鍵關閉“個性化推薦”。專家表示,要繼續壓實平臺責任,促進算法應用向上向善,讓算法更好地為用戶服務,推動信息服務行業長遠、健康發展。可一鍵關閉“個性化推薦”通過參考互聯網上的“攻略”,北京的王女士最近終于將一款社交應用中的“個性化推薦”服務選項關閉,“再打開這個APP,感覺安心不少”。王女士之所以下決心關掉“個性化推薦”服務,源于此前遇到的一些糟心經歷。她在這款應用里曾發表過皮膚干燥的言論,此后便在各個平臺不斷收到面部“保鮮”秘笈的文章、美容產品的推銷廣告,讓王女士不堪其擾。在移動互聯網時代,每一個人都在生產“數據”。
此前,這些“數據”被平臺以各種方式采集,然后通過算法分析出用戶行為、習慣和喜好,進而精準地提供信息、娛樂、消費等各類服務。這種基于算法的技術創新在為用戶提供精準信息服務的同時,也滋生出不少問題。《互聯網信息服務算法推薦管理規定》(以下簡稱《管理規定》)近日正式施行,將算法推薦服務全面納入監管。《管理規定》提出,算法推薦服務提供者應當向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關閉算法推薦服務的選項。《管理規定》出臺后,多家平臺先后上線算法關閉鍵,允許用戶在后臺一鍵關閉“個性化推薦”。
用戶關閉“個性化推薦”后,平臺會根據內容的熱門程度進行分發,推送內容更加體現應用特色。很多網友表示,以前總是被“安排”看一些內容,關閉“個性化推薦”后,感覺看到了更廣闊的世界。記者在體驗后發現,目前多數APP還是默認打開“個性化推薦”,要找到“個性化推薦”關閉鍵并不太容易。以一款電商應用為例,需先后點擊進入數個頁面,然后在呈現的10多個選項里找到“個性化推薦”的關閉按鈕。有用戶認為,這樣的設置方式難言“便捷”,其目的是讓用戶“知難而退”。
關閉個性化推薦,是否意味著算法推薦技術走到盡頭?中國人民大學信息學院教授程絮森分析,隨著新規實施,如何使個性化推薦更加規范,是很大的挑戰,但也相應促進了各互聯網平臺的技術發展進步,有利于加速推進相關行業的數字化轉型與平臺經濟的健康發展。
在以大數據為基礎、以算法模型創新為內核、以計算能力為支撐的智能浪潮中,規范算法顯得尤為重要。如何防止算法淪為“算計”,成為近年來日益受到關注的話題。特別是,由于信息占有、技術應用等差異,平臺相較消費者往往處于強勢地位。因此,算法規制不能僅靠平臺自覺,需要建立從國家法律到行業規范再到社會參與的全方位監督體系,讓算法應用有章可循,讓消費者權益保護有法可依。
目前,針對算法應用這一全新的治理課題,我國先后出臺并完善了有關制度,加強相關領域的規范。比如,《數據安全管理辦法(征求意見稿)》規定“網絡運營者不得違反收集使用規則使用個人信息。因業務需要,確需擴大個人信息使用范圍的,應當征得個人信息主體同意”。又如,《法治社會建設實施綱要(2020—2025年)》提出“制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法”“加強對大數據、云計算和人工智能等新技術研發應用的規范引導”。這些政策舉措,充分彰顯了我國加強算法規制、保障消費者權益、促進數字經濟健康發展的決心。
規范算法應用,行業組織、企業自身和消費者也不能缺位。前不久,中國消費者協會召開“網絡消費領域算法規制與消費者保護座談會”,推動形成加強算法應用有效規制的共識。共識引導行動,行動夯實共識。為此,行業組織需要加強引領和督導,凈化行業風氣,有效維護消費者合法權益。消費者也應增強個人信息保護和依法維權意識,共同參與治理。作為掌握技術的企業,更應加強自律,切實承擔應盡義務和責任,堅持正確導向,嚴格遵守法律規定,誠信應用算法。相關各方各司其職、各盡其責,才能共同推動算法應用規范有序發展。
可以預見,隨著監管體系的建立和算法規制的完善,算法應用及相關行業將會迎來更加光明的發展前景。讓算法應用規范起來,實現技術運用與商業倫理、社會價值的良性互動,才能提升用戶消費體驗,為推動我國經濟社會高質量發展提供新助力。
更多信息可以來這里獲取==>>電子技術應用-AET<<