算法管理規(guī)定今起施行

肖颯
《算法規(guī)定》中主要規(guī)制的算法推薦技術(shù),是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。據(jù)此,該規(guī)章規(guī)制的主體就是上述技術(shù)向用戶提供信息的自然人、法人及其他社會組織。該規(guī)章著眼于解決互聯(lián)網(wǎng)算法推薦的相關(guān)問題,屬于針對性的算法推薦管理規(guī)定。制定《算法規(guī)定》的目的在于明確算法推薦服務(wù)提供者的主體責任,促進算法推薦服務(wù)規(guī)范發(fā)展。
客觀來看《算法規(guī)定》是我國通過法律來解決算法歧視、算法透明、誘導沉迷等算法領(lǐng)域的關(guān)鍵性問題的積極嘗試??梢哉f,這是一部關(guān)乎各大互聯(lián)網(wǎng)公司核心技術(shù)應(yīng)用與經(jīng)營模式制定的關(guān)鍵性規(guī)章,對于企業(yè)的合規(guī)建設(shè)具有重要意義。
從法律層級上看,《算法規(guī)定》屬于我國數(shù)據(jù)法三駕馬車《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》和國務(wù)院制定的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見》等行政法規(guī)的下位法,其由國家互聯(lián)網(wǎng)信息辦公室等四部委制定并發(fā)布,屬于部門規(guī)范性文件。
01 主管部門
根據(jù)《算法規(guī)定》的要求,國家網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)全國算法推薦服務(wù)治理和相關(guān)監(jiān)督管理工作。國務(wù)院電信、公安、市場監(jiān)管等有關(guān)部門依據(jù)各自職責負責算法推薦服務(wù)監(jiān)督管理工作。地方網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的算法推薦服務(wù)治理和相關(guān)監(jiān)督管理工作。地方電信、公安、市場監(jiān)管等有關(guān)部門依據(jù)各自職責負責本行政區(qū)域內(nèi)的算法推薦服務(wù)監(jiān)督管理工作。
因此,目前算法推薦主管部門應(yīng)當是國家互聯(lián)網(wǎng)信息辦公室及其下設(shè)的部門,同時,工業(yè)和信息化部、公安部和國家市場監(jiān)督管理局及其下屬部門在各自職權(quán)范圍內(nèi)對算法推薦服務(wù)進行管理。
02 算法推薦服務(wù)提供者的主要義務(wù)
《算法規(guī)定》對算法推薦服務(wù)提供者提出的要求主要集中在兩個方面:(1)信息服務(wù)規(guī)范;(2)用戶權(quán)益保障。信息服務(wù)規(guī)范主要是為了解決算法推薦服務(wù)提供者向用戶推薦何種信息,如何推薦信息等問題,而用戶權(quán)益保障則主要是區(qū)分不同類型消費者,對其進行特別保護的規(guī)定?!端惴ㄒ?guī)定》對于算法推薦服務(wù)提供者提供信息推薦的方方面面都提出了更為細致和嚴格的要求。
1. 信息服務(wù)規(guī)范方面
算法推薦服務(wù)提供者承擔算法安全主體責任。根據(jù)《算法規(guī)定》第七條,算法推薦服務(wù)提供者應(yīng)當建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、反電信網(wǎng)絡(luò)詐騙、安全評估監(jiān)測、安全事件應(yīng)急處置等管理制度和技術(shù)措施,制定并公開算法推薦服務(wù)相關(guān)規(guī)則,配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。
算法推薦服務(wù)提供者具有信息安全管理義務(wù)?!端惴ㄒ?guī)定》第九條要求算法推薦服務(wù)提供者加強信息安全管理,建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規(guī)則和程序。
算法推薦服務(wù)提供者對于三種特定信息需分類做出處理:(1)未作顯著標識的算法生成合成信息的,應(yīng)當做出顯著標識后,才可繼續(xù)傳輸;(2)違法信息應(yīng)當立即停止傳輸,采取消除等處置措施,防止信息擴散,保存有關(guān)記錄,并向網(wǎng)信部門和有關(guān)部門報告。(3)發(fā)現(xiàn)不良信息的,應(yīng)當按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置。
算法推薦服務(wù)提供者具有合理利用算法推薦的義務(wù)。對于當前盛行的各種“買熱搜”“買水軍”等問題,《算法規(guī)定》對第十四條規(guī)定:算法推薦服務(wù)提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉(zhuǎn)發(fā),不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預信息呈現(xiàn),實施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。
算法推薦服務(wù)提供者具有定期審核、評估、驗證算法的義務(wù)。《算法規(guī)定》第八條禁止算法推薦服務(wù)提供者設(shè)置誘導用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。另外,在解決算法透明度方面,《算法規(guī)定》要鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容去重、打散干預等策略,并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性,避免對用戶產(chǎn)生不良影響,預防和減少爭議糾紛。
2. 用戶權(quán)益保障方面
用戶享有算法推薦服務(wù)知情權(quán)。《算法規(guī)定》第十六條賦予用戶了解算法推薦服務(wù)情況的權(quán)利。算法推薦服務(wù)提供者應(yīng)當以顯著方式告知用戶其提供算法推薦服務(wù)的情況,并以適當方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等。
用戶享有選擇個性化標簽、刪除標簽和關(guān)閉推薦的權(quán)利。相信各位伙伴都在微博和微信上看到過各種各樣的廣告和推廣信息,大部分大廠都已經(jīng)為用戶提供了選擇用戶標簽和刪除標簽的選擇,但同時也會告知用戶,僅能刪除標簽而不能關(guān)閉推薦,該做法即將成為歷史,各大廠必須在此處進行整改?!端惴ㄒ?guī)定》第十七條要求算法推薦服務(wù)提供者向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標簽的功能,或向用戶提供不針對其個人特征的選項,并向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當立即停止提供相關(guān)服務(wù)。
另外,在解決算法歧視方面,《算法規(guī)定》也給出了一定的解決辦法,通過區(qū)分用戶類型進行特殊化保護。例如在針對未成年人方面嚴控推薦內(nèi)容并進行反誘導沉迷程序,在針對老年人方面則設(shè)計反詐騙等程序,禁止利用算法不當勞務(wù)用工,禁止“大數(shù)據(jù)殺熟”。這幾個方面也需要企業(yè)額外關(guān)注,并盡快進行合規(guī)整改。

李彰柯
作為消費者,大家肯定疑惑過,為什么現(xiàn)如今所有的平臺和消費行業(yè),都希望收集我們的數(shù)據(jù)。這些消費互聯(lián)網(wǎng)類的企業(yè),其應(yīng)用大數(shù)據(jù)最大的目的就是掌握消費者消費習慣,做出精準的消費者畫像,從而獲利,這一行為本身就是大數(shù)據(jù)殺熟。如今隨著大家隱私觀念的發(fā)展,個人信息保護法規(guī)的健全,市場管理部門逐漸對這種隱蔽的侵犯隱私方式開始警覺。不過,大數(shù)據(jù)殺熟非常隱蔽,難以界定,而在以后,企業(yè)也可以利用越來越先進的算法和技術(shù)手段讓其不易察覺。這對于相關(guān)部門可能是個難題。

已注銷用戶
你打開手機,要查個資料,視頻、新聞立馬推薦給你標題誘人內(nèi)容卻枯燥的東西,你點開刷了一會,沒有營養(yǎng),但是你卻忘了當初要查什么資料,別人賺錢賺流量你卻浪費了生命,請問這是互聯(lián)網(wǎng)的良性發(fā)展嗎?