專家解讀｜構(gòu)建算法治理落地支撐體系

　　隨著網(wǎng)絡(luò)信息技術(shù)的高速發(fā)展，大數(shù)據(jù)、云計(jì)算、算法與人工智能等技術(shù)廣泛應(yīng)用于社交、購(gòu)物、旅游、醫(yī)療、求職及視頻等各類平臺(tái)和應(yīng)用場(chǎng)景?；ヂ?lián)網(wǎng)新興業(yè)態(tài)為人們帶來極大便利，塑造了人們新的生活方式。同時(shí)，由于信息技術(shù)更新迭代速度快、發(fā)展形式多樣、新興業(yè)態(tài)越來越復(fù)雜，大數(shù)據(jù)挖掘與算法通過用戶行為分析，以及歷史的數(shù)據(jù)進(jìn)行挖掘，給用戶的個(gè)性化服務(wù)帶來了便利，也為經(jīng)濟(jì)社會(huì)發(fā)展注入新動(dòng)能。然而，算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷、違法和不良信息推薦等算法不合理應(yīng)用也觸及了用戶信息安全與權(quán)益保護(hù)等問題，并深刻地影響了正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序，給我國(guó)現(xiàn)有法律法規(guī)與監(jiān)管治理體系帶來新的挑戰(zhàn)。

　　為了規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），自2022年3月1日起施行。《規(guī)定》的出臺(tái)和施行將有效加強(qiáng)國(guó)家對(duì)互聯(lián)網(wǎng)信息服務(wù)提供者算法推薦的規(guī)范化監(jiān)管，有利于營(yíng)造積極健康、向上向善的互聯(lián)網(wǎng)信息服務(wù)環(huán)境，形成良好的信息傳播秩序，進(jìn)一步提升我國(guó)社會(huì)治理能力。

　　一、以社會(huì)主流價(jià)值為導(dǎo)向，強(qiáng)調(diào)輿情管理與引導(dǎo)

　　《規(guī)定》強(qiáng)調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。《規(guī)定》著眼互聯(lián)網(wǎng)信息服務(wù)中潛在的算法影響網(wǎng)絡(luò)輿論、算法誘導(dǎo)用戶沉迷或過度消費(fèi)、算法共謀和不正當(dāng)競(jìng)爭(zhēng)等算法應(yīng)用風(fēng)險(xiǎn)，由此引出治理對(duì)象，通過算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，維護(hù)國(guó)家安全和社會(huì)公共利益?！兑?guī)定》指出具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。

　　二、重點(diǎn)強(qiáng)調(diào)用戶權(quán)益保護(hù)，維護(hù)未成年人和老年人等群體合法權(quán)益

　　《規(guī)定》強(qiáng)調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。算法推薦服務(wù)提供者向未成年人提供服務(wù)的，應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù)，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式，便利未成年人獲取有益身心健康的信息?！兑?guī)定》指出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)?！兑?guī)定》指出，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)，依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置，便利老年人安全使用算法推薦服務(wù)。

　　三、建立完備可行的監(jiān)管體系，明確服務(wù)提供者的法律責(zé)任

　　《規(guī)定》強(qiáng)調(diào)網(wǎng)信部門會(huì)同電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門建立算法分級(jí)分類安全管理制度，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理?！兑?guī)定》指出算法推薦服務(wù)提供者違反本規(guī)定第七條、第八條、第九條第一款、第十條、第十四條、第十六條、第十七條、第二十二條、第二十四條、第二十六條規(guī)定，法律、行政法規(guī)有規(guī)定的，依照其規(guī)定；法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門依據(jù)職責(zé)給予警告、通報(bào)批評(píng)，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

　　四、構(gòu)建算法治理落地支撐體系，強(qiáng)化企業(yè)的社會(huì)責(zé)任

　　《規(guī)定》的出臺(tái)，具有較強(qiáng)的探索性和前瞻性，也是算法推薦管理的新起點(diǎn)。然而，算法綜合治理目前仍處于起步階段，缺少算法推薦管理的實(shí)踐經(jīng)驗(yàn)和技術(shù)支撐體系，加快推進(jìn)算法治理的盡快落地實(shí)施，結(jié)合當(dāng)前的新技術(shù)體系，修正落地實(shí)施過程中遇到的新問題，是切實(shí)保障算法綜合治理工作有力有序推進(jìn)的關(guān)鍵。另外，在管理落地過程中，相關(guān)企業(yè)的自律及社會(huì)責(zé)任也是影響落地的重要因素。建議加強(qiáng)如下工作：

　　（一）構(gòu)建算法管理與監(jiān)測(cè)的技術(shù)體系，促進(jìn)網(wǎng)絡(luò)治理持續(xù)發(fā)展

　　圍繞構(gòu)建算法治理與監(jiān)測(cè)的技術(shù)體系，鼓勵(lì)高校設(shè)置并加強(qiáng)算法安全相關(guān)專業(yè)學(xué)科建設(shè)，并注重交叉學(xué)科建設(shè)和學(xué)生培養(yǎng)，引導(dǎo)高校院所建立相關(guān)科研機(jī)構(gòu)，強(qiáng)化算法治理研究方向，組建相關(guān)人才隊(duì)伍，建立研究機(jī)構(gòu)與相關(guān)主體企業(yè)的聯(lián)動(dòng)機(jī)制，運(yùn)用研究機(jī)構(gòu)的科研能力，結(jié)合企業(yè)技術(shù)積累和服務(wù)體系，開展治理的示范應(yīng)用，并培養(yǎng)一支高素質(zhì)算法監(jiān)管人才隊(duì)伍。

　　（二）激發(fā)信息服務(wù)企業(yè)的社會(huì)責(zé)任感，形成行業(yè)自律風(fēng)氣

　　除了完善法律法規(guī)，構(gòu)建監(jiān)管機(jī)制，企業(yè)的社會(huì)責(zé)任感至關(guān)重要。首先，通過行業(yè)協(xié)會(huì)組織簽訂互聯(lián)網(wǎng)平臺(tái)算法推薦自律公約，就數(shù)據(jù)搜集與算法使用等做出合理規(guī)定與制約，并按要求公開相關(guān)算法和程序，建立用戶監(jiān)督機(jī)制。國(guó)內(nèi)相關(guān)知名和頭部企業(yè)要發(fā)揮示范引領(lǐng)作用，鼓勵(lì)其他中小企業(yè)，從而在行業(yè)內(nèi)部形成互相監(jiān)督、自覺守約、合規(guī)經(jīng)營(yíng)的治理機(jī)制。其次，互聯(lián)網(wǎng)平臺(tái)企業(yè)要自覺承擔(dān)社會(huì)責(zé)任，學(xué)習(xí)并遵守國(guó)家法律規(guī)范和商業(yè)道德，遵循誠(chéng)信交易原則，提高公信度，靠品質(zhì)與口碑盈利。最終，依靠企業(yè)自身力量，從源頭上阻斷算法推薦亂象的發(fā)生，為維護(hù)用戶合法權(quán)益，共同守護(hù)健康向上的互聯(lián)網(wǎng)秩序凝聚力量。（作者：沈浩　中國(guó)傳媒大學(xué)媒體融合與傳播國(guó)家重點(diǎn)實(shí)驗(yàn)室大數(shù)據(jù)中心，首席科學(xué)家）