網(wǎng)上投稿
在“算法泛在”的大背景下，算法自決策能力已經(jīng)對(duì)我國(guó)的社會(huì)產(chǎn)生了深度影響，內(nèi)容包括但不限于公民的日常工作與娛樂、政府的事務(wù)處理與決策、社會(huì)發(fā)展動(dòng)向。在此背景下為加強(qiáng)互聯(lián)網(wǎng)法治，加強(qiáng)算法治理，算法備案制度在我國(guó)逐步發(fā)展。本文梳理了算法備案制度的產(chǎn)生背景及相關(guān)法規(guī)的發(fā)展，分析了算法備案制度的具體內(nèi)容與企業(yè)合規(guī)要點(diǎn)，并對(duì)算法備案制度未來的發(fā)展趨勢(shì)作出預(yù)測(cè)。
【關(guān)鍵詞】算法備案 算法治理 算法合規(guī)
一、算法備案的起源與法規(guī)發(fā)展
（一）算法備案制度產(chǎn)生背景
1.算法當(dāng)前的無形性滲透與擴(kuò)散化影響
隨著數(shù)字中國(guó)建設(shè)的加速推進(jìn)和數(shù)字技術(shù)的普遍應(yīng)用，算法極大地在社會(huì)生活擴(kuò)張。從各種網(wǎng)上購(gòu)物網(wǎng)站到涉及輿論與信息傳播的各種社交媒體軟件，推薦算法與算法的自動(dòng)決策已經(jīng)越來越廣泛的影響人們的生活，無孔不入的滲透進(jìn)現(xiàn)代社會(huì)的每一個(gè)角落。與算法的擴(kuò)張相對(duì)應(yīng)的是算法越來越廣泛且深入地影響著社會(huì)主體的行為、決策和權(quán)利。算法在現(xiàn)代社會(huì)，一方面推動(dòng)社會(huì)生產(chǎn)和生活方式的創(chuàng)新和變革，加強(qiáng)各種決策和事務(wù)的自動(dòng)化和智能化；另一方面，也可能給社會(huì)帶來各種風(fēng)險(xiǎn)和潛在問題。算法黑箱、算法歧視、輿論操作、不公平競(jìng)爭(zhēng)等諸多問題逐步暴露，引起了社會(huì)各方的廣泛關(guān)注，并已被納入國(guó)家治理范疇。尤其是涉及信息安全及輿論動(dòng)員能力的相關(guān)算法以及不正當(dāng)競(jìng)爭(zhēng)相關(guān)算法深受相關(guān)法規(guī)重視，現(xiàn)已有一系列規(guī)定進(jìn)行算法治理的探索。
2.透過“大數(shù)據(jù)殺熟第一案”評(píng)估算法自決策能力
算法對(duì)社會(huì)的影響之中，最令人注意的即是算法在海量數(shù)據(jù)的訓(xùn)練之下形成的自決策機(jī)制，這種算法自主能夠做出影響公民、社會(huì)、政府的決策，為算法權(quán)力的一種表現(xiàn)。針對(duì)這種“算法權(quán)力”的規(guī)制目前典型的即為針對(duì)“大數(shù)據(jù)殺熟”現(xiàn)象的治理。
今年關(guān)于算法治理的重要案例，如“大數(shù)據(jù)殺熟第一案”，胡女士訴上海X商務(wù)有限公司侵權(quán)糾紛一案，2021年7月7日，浙江省紹興市柯橋區(qū)人民法院審理了該案，原告認(rèn)為攜程存在“大數(shù)據(jù)殺熟”的侵權(quán)行為，法庭一審判決原告勝訴。
該案當(dāng)中，原告于某APP預(yù)訂了某酒店一間房間，次日發(fā)現(xiàn)酒店該房型的實(shí)際掛牌加上稅金、服務(wù)費(fèi)較其預(yù)定費(fèi)用更低。原告認(rèn)為其作為APP的鉆石貴賓客戶，不僅未享受到優(yōu)惠價(jià)格，還支付了高于實(shí)際產(chǎn)品價(jià)格的費(fèi)用，遭到了“大數(shù)據(jù)殺熟”。法院認(rèn)為，某APP作為中介平臺(tái)，對(duì)標(biāo)的實(shí)際價(jià)值有如實(shí)報(bào)告義務(wù)卻并未履行。X公司承諾鉆石貴賓享有優(yōu)惠價(jià)，實(shí)際卻無價(jià)格監(jiān)管措施，向原告收取了溢價(jià)100%的失實(shí)價(jià)格，構(gòu)成對(duì)承諾事項(xiàng)的違反。除此之外，用戶新下載某APP后，必須點(diǎn)擊同意“服務(wù)協(xié)議”“隱私政策”方能使用，如不同意，將直接退出某APP，是以拒絕提供服務(wù)的方式對(duì)用戶形成強(qiáng)制。
雖說如此，本案中法院對(duì)“大數(shù)據(jù)殺熟”的認(rèn)定仍持有保留態(tài)度。僅認(rèn)定該案存在損害事實(shí)，原告可以追責(zé)。攜程平臺(tái)作為獲益方和運(yùn)營(yíng)方，并未妥善履行平臺(tái)監(jiān)管義務(wù)，有違公平效率原則?；诒桓鎸?duì)攜程公司的管控力，被告應(yīng)當(dāng)承擔(dān)賠償責(zé)任。法院一審判決原告勝訴[1]。
本案即展現(xiàn)出算法進(jìn)行自決策導(dǎo)致“大數(shù)據(jù)殺熟”的現(xiàn)象，其已經(jīng)成為影響市場(chǎng)競(jìng)爭(zhēng)及消費(fèi)者權(quán)益的一股不可小覷的力量，此種算法之影響力也是算法權(quán)力的一種體現(xiàn)。算法權(quán)力是人工智能在海量數(shù)據(jù)的基礎(chǔ)上進(jìn)行深度學(xué)習(xí)，利用大數(shù)據(jù)和算法技術(shù)做出影響公民、社會(huì)、政府決策的能力，這種能力正助推一種新興的技術(shù)權(quán)力形成。筆者認(rèn)為，針對(duì)算法這種具有自決策能力，內(nèi)部運(yùn)行機(jī)制并不明確，卻對(duì)用戶權(quán)利，公平競(jìng)爭(zhēng)的商業(yè)環(huán)境等要素具有巨大影響的技術(shù)，應(yīng)盡快對(duì)相關(guān)法規(guī)進(jìn)行細(xì)化，引導(dǎo)算法向善、促使算法公開、規(guī)范算法治理。
3.算法備案在社會(huì)治理中應(yīng)運(yùn)而生
近年來，算法治理愈發(fā)成為國(guó)家治理體系的重要組成部分，成為建立和維護(hù)數(shù)字社會(huì)法治秩序的“牛鼻子”。與此同時(shí)，實(shí)務(wù)界和學(xué)界對(duì)于算法風(fēng)險(xiǎn)分級(jí)、算法影響評(píng)估、算法審計(jì)、算法責(zé)任、算法透明、算法解釋等治理方法和制度工具進(jìn)行了比較集中的討論，專家們提出了分級(jí)分類治理、場(chǎng)景化治理、敏捷治理、多元共治等原則和理論。在互聯(lián)網(wǎng)領(lǐng)域，一些算法服務(wù)時(shí)常為“輿論風(fēng)暴”推波助瀾，甚至成為一些“黑天鵝”“灰犀?！笔录哪缓笸剖?。因此，互聯(lián)網(wǎng)領(lǐng)域的算法治理迫在眉睫，各種治理方案應(yīng)運(yùn)而生。
其中，創(chuàng)設(shè)算法備案制度就是一項(xiàng)關(guān)鍵舉措[2]。算法治理的最大難題即在于其“黑箱”部分，也即其內(nèi)部的系統(tǒng)決策過程、學(xué)習(xí)過程不可觀測(cè)，亦不可在外部干預(yù)。算法備案即是在一定程度上讓算法基本原理或數(shù)據(jù)集、模型等關(guān)鍵信息存留備案，一定程度上進(jìn)行公開。既能彌補(bǔ)用戶與算法使用企業(yè)的信息鴻溝，也使得監(jiān)管部門更好地進(jìn)行管理、防控風(fēng)險(xiǎn)。
（二）算法備案制度溯源
算法備案在宏觀政策上最早見于2020年12月，中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020－2025年）》提出“制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。2021年9月，在中央發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》中，進(jìn)一步要求“有序推進(jìn)算法備案工作”。關(guān)于算法備案的具體要求及法規(guī)要求參考《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，其要求“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)”。其中第24條第1款對(duì)相關(guān)服務(wù)上線后的算法備案進(jìn)行了明確規(guī)定，第2款、第3款則分別對(duì)備案變更、注銷進(jìn)行了規(guī)定。
此后，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以及新近出臺(tái)的《生成式人工智能服務(wù)管理暫行辦法》也再次提及了算法備案，要求“具有輿論屬性或者社會(huì)動(dòng)員能力的”提供者，應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。但從其內(nèi)容可見其淵源均為《算法推薦規(guī)定》，可見《算法推薦規(guī)定》是目前最為重要的算法備案法規(guī)[3]。
（三）比較法視角下的算法備案制度
國(guó)際上也在探索一些具有登記環(huán)節(jié)的算法或人工智能治理工作。例如，荷蘭阿姆斯特丹市、芬蘭赫爾辛基市都在開發(fā)政府部門和公共事務(wù)領(lǐng)域的算法登記系統(tǒng)，并推動(dòng)其使用，以期公民能夠更好地了解城市中使用的算法系統(tǒng)，并使公民在政府算法應(yīng)用開發(fā)的早期就保持參與。歐盟人工智能法案（The Artificial Intelligence Act，以下簡(jiǎn)稱AIA）第51條也規(guī)定高風(fēng)險(xiǎn)人工智能系統(tǒng)在進(jìn)入市場(chǎng)或投入服務(wù)之前，需要在歐盟數(shù)據(jù)庫(kù)中進(jìn)行登記[4]。
根據(jù)歐盟的《人工智能法案》第51條規(guī)定，高風(fēng)險(xiǎn)人工智能應(yīng)用在進(jìn)入市場(chǎng)或使用前，其供應(yīng)商或授權(quán)代表應(yīng)在歐盟數(shù)據(jù)庫(kù)中進(jìn)行備案（Register），并向公眾公開登記信息。
與歐洲聯(lián)盟的《人工智能法案》要求人工智能應(yīng)用的供應(yīng)商執(zhí)行備案相似，我國(guó)的《算法推薦規(guī)定》也將責(zé)任主體限定為算法服務(wù)供應(yīng)商，排除了算法研發(fā)者、設(shè)計(jì)者和算法最終用戶（用戶）。這種做法的背后原因主要是，純粹的技術(shù)本身并不會(huì)產(chǎn)生損害，只有當(dāng)算法服務(wù)供應(yīng)商使用算法進(jìn)行服務(wù)活動(dòng)時(shí)，才可能對(duì)消費(fèi)者和社會(huì)產(chǎn)生負(fù)面影響。因此，算法的責(zé)任并不來源于算法技術(shù)本身，算法研發(fā)者因此不應(yīng)成為承擔(dān)算法責(zé)任和備案義務(wù)的主體。
相比之下，我國(guó)的《算法推薦規(guī)定》在備案責(zé)任主體、備案范圍和備案內(nèi)容方面有所差異：
首先，我國(guó)在算法分類的基礎(chǔ)上，對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者苛以備案義務(wù)。由于這類主體擁有巨大的用戶主體、能夠推動(dòng)相關(guān)輿論信息迅速傳播，要求其履行備案義務(wù)，一方面可以發(fā)揮社會(huì)價(jià)值的引導(dǎo)作用，另一方面也可以將危險(xiǎn)或有害信息傳播扼殺在搖籃，避免造成公共危機(jī)甚至國(guó)家安全危機(jī)。歐盟僅是在人工智能領(lǐng)域設(shè)定算法備案義務(wù)，我國(guó)要求備案的“算法”并不限于深度學(xué)習(xí)算法，而是拓展到“生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類”等五類算法。
其次，歐洲《人工智能法案》并未就備案何種信息作出規(guī)定，《算法推薦規(guī)定》明確將算法服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息作為備案內(nèi)容。不僅如此，《算法推薦規(guī)定》沒有采取《人工智能法案》將備案內(nèi)容全部向社會(huì)公開的進(jìn)路，而是區(qū)分了對(duì)監(jiān)管機(jī)構(gòu)的公開和對(duì)公眾的公開。較諸向監(jiān)管機(jī)構(gòu)公開的備案信息，向社會(huì)公開的信息更為有限。同時(shí)，獲取核心秘密的監(jiān)管機(jī)構(gòu)又負(fù)有法定保密職責(zé)，從而有效避免了企業(yè)因算法備案引發(fā)同行惡意競(jìng)爭(zhēng)、不當(dāng)泄露商業(yè)秘密的潛在風(fēng)險(xiǎn)。
最后，歐盟《人工智能法案》并未規(guī)定人工智能應(yīng)用提供者違反備案義務(wù)應(yīng)承擔(dān)的法律責(zé)任，我國(guó)《算法推薦規(guī)定》第31條、第33條分別規(guī)定了未按規(guī)定備案產(chǎn)生的法律責(zé)任和按照規(guī)定備案后算法活動(dòng)仍造成損害時(shí)應(yīng)承擔(dān)的法律責(zé)任。
整體上，我國(guó)《算法推薦規(guī)定》在歐盟《人工智能法案》的基礎(chǔ)上，改進(jìn)并細(xì)化了算法備案的具體規(guī)則、法律后果，并使之與算法安全評(píng)估、算法檢查相互銜接，形成了多維一體的算法監(jiān)管框架。不過，《算法推薦規(guī)定》的出臺(tái)只是我國(guó)算法治理的開始。未來，如何在算法分類分級(jí)的前提下，進(jìn)一步提煉備案算法的范圍；在平衡算法安全和促進(jìn)算法發(fā)展的考量下，細(xì)化算法初始備案和動(dòng)態(tài)備案；在算法全流程監(jiān)管的原則中，賦予算法備案對(duì)企業(yè)責(zé)任的正面效果，從而實(shí)現(xiàn)算法激勵(lì)相容，依然有待進(jìn)一步的理論探索與制度完善[5]。
二、算法備案制度的內(nèi)容與合規(guī)指引
（一）算法備案之規(guī)制主體
首先，依據(jù)《算法推薦規(guī)定》第二十四條第一款的規(guī)定，算法備案的主體為“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”。其次，依據(jù)《深度合成規(guī)定》需要進(jìn)行算法備案的主體為“具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者”或“深度合成服務(wù)技術(shù)支持者”兩種主體。另外，根據(jù)《生成式人工智能服務(wù)管理暫行辦法》第十七條，“提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的”，應(yīng)當(dāng)根據(jù)《算法推薦規(guī)定》進(jìn)行算法備案。
由此可見，上述規(guī)定共同的指向是確保提供給公眾的內(nèi)容合法、合規(guī)、可控，核心為提供“具有輿論屬性或者社會(huì)動(dòng)員能力”的服務(wù)需要進(jìn)行算法備案。關(guān)于“具有輿論屬性或者社會(huì)動(dòng)員能力”的互聯(lián)網(wǎng)信息服務(wù)提供者包括兩種情形：(1)開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號(hào)、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能；(2)開辦提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。
依據(jù)上述規(guī)定，凡面向公眾提供信息內(nèi)容或信息服務(wù)平臺(tái)的企業(yè)均需履行算法備案的義務(wù)。一方面，如目前相關(guān)企業(yè)涉及具體的內(nèi)容安全，明確采用了生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類算法，并向公眾提供了評(píng)論、留言或某類資訊分享的功能即需要進(jìn)行算法備案。另一方面，如提供服務(wù)涉及深度合成服務(wù)技術(shù)支持者，即“為深度合成服務(wù)提供技術(shù)支持的組織、個(gè)人”，也需進(jìn)行算法備案。此外，專門針對(duì)提供AIGC相關(guān)服務(wù)的企業(yè)亦需要進(jìn)行算法備案[6]。
（二）算法備案之企業(yè)實(shí)務(wù)指引
在算法備案平臺(tái)“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”（https://beian.cac.gov.cn）已先后公開了更為詳細(xì)的算法備案流程操作指引《互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)使用手冊(cè)》《<互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定>備案填報(bào)指南》。企業(yè)可以便捷地在該網(wǎng)站進(jìn)行算法備案。
首先，進(jìn)行算法備案需要注意幾個(gè)時(shí)間節(jié)點(diǎn)。首次算法備案、算法備案信息變更及終止服務(wù)的注銷備案手續(xù)，均需在備案系統(tǒng)上操作。這三個(gè)動(dòng)作，均有明確的時(shí)間要求：首次算法備案，應(yīng)在提供服務(wù)之日起10個(gè)工作日內(nèi)辦理；算法備案信息變更，應(yīng)在變更之日起10個(gè)工作日內(nèi)辦理；注銷算法備案則應(yīng)當(dāng)在終止服務(wù)之日起20個(gè)工作日內(nèi)。其中，就首次備案的審查時(shí)間，為30個(gè)工作日。不論是否成功備案，依據(jù)《算法推薦規(guī)定》都會(huì)在該期限內(nèi)獲悉結(jié)果。但是，實(shí)踐中，經(jīng)常僅在未通過審查后才會(huì)收到明確的通知，而通過審查的則等待發(fā)放備案編號(hào)即可。
其次，算法備案的具體流程。如系首次進(jìn)行算法備案需要在10個(gè)工作日內(nèi)，在“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”填報(bào)，在30個(gè)工作日內(nèi)備案部門會(huì)對(duì)材料齊全性審查。如果提交備案材料經(jīng)審核齊全，就予以備案，發(fā)放備案編號(hào)、公示；如材料不齊全，則不予備案?jìng)浒覆块T會(huì)進(jìn)行通知并說明理由。
最后，算法備案需要提交的相關(guān)材料?！端惴ㄍ扑]規(guī)定》明確要求填報(bào)：服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息?？煞譃椋褐黧w信息、產(chǎn)品及功能信息、算法信息三部分。
其一，企業(yè)證件和材料，如營(yíng)業(yè)執(zhí)照、法人身份證、算法安全責(zé)任人身份證明以及備案承諾材料（包括《備案承諾書》《工作證明》），按照模板填寫蓋章即可。其中應(yīng)注意的是，在進(jìn)行算法備案前，便需確定“算法安全責(zé)任人”，還要描述落實(shí)算法安全主體責(zé)任的基本情況，主要包括機(jī)構(gòu)與制度兩大重點(diǎn)：算法安全專職機(jī)構(gòu)，需明確相關(guān)的組織架構(gòu)與人員，此處可展開介紹算法安全責(zé)任人的職責(zé)，及其與各級(jí)人員之間就算法安全的工作配合。
其二，算法安全管理制度。一般應(yīng)至少包括算法安全自評(píng)估制度、算法安全監(jiān)測(cè)制度、算法安全事件應(yīng)急處理制度，建議還可以將已搭建的與網(wǎng)絡(luò)安全、數(shù)據(jù)安全、用戶權(quán)益相關(guān)的制度進(jìn)行補(bǔ)充說明，以強(qiáng)調(diào)全方位對(duì)算法安全主體責(zé)任的落實(shí)。另外，包括產(chǎn)品相關(guān)信息，包括產(chǎn)品名稱、下載地址、用戶量信息（月活、日活、總量等）、前置許可（ICP號(hào)之類的）等。這里要注意的是，如果有app、又有小程序或者網(wǎng)頁(yè)，要分別填寫，算多個(gè)產(chǎn)品。
其三，算法相關(guān)信息。這部分主要是填空和選擇，包括了算法基本情況的描述，使用了什么數(shù)據(jù)和模型，算法工程師都可以搞定，但是有些公司使用了第三方算法，比如買了阿里云、騰訊云的就需要聯(lián)系提供商提供一些信息。《算法安全自評(píng)估報(bào)告》根據(jù)備案系統(tǒng)提供的模板文件填寫提交，不同算法有不同模板，一般包括算法情況、服務(wù)情況、風(fēng)險(xiǎn)情況、風(fēng)險(xiǎn)防控情況?！稊M公示內(nèi)容》也是備案系統(tǒng)提供了模板的文件，一般包括算法名稱、基本原理、運(yùn)行機(jī)制、應(yīng)用場(chǎng)景、目的意圖，與《算法推薦規(guī)定》第十六條中要求公示的內(nèi)容一致，且該文件在備案后可供公眾查詢、下載[7]。
（三）算法備案之不履行責(zé)任
就未依法進(jìn)行算法備案的法律后果，主要規(guī)定于《算法推薦規(guī)定》第三十一、三十三條：(1)應(yīng)備案未備案的：給予警告、通報(bào)批評(píng)，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處1-10萬(wàn)元的罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任；(2)通過隱瞞有關(guān)情況、提供虛假材料等不正當(dāng)手段取得備案的：撤銷備案，給予警告、通報(bào)批評(píng)；情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處1-10萬(wàn)元的罰款；(3)終止服務(wù)但未辦理注銷備案手續(xù)的：注銷備案；(4)發(fā)生嚴(yán)重違法情形受到責(zé)令關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營(yíng)業(yè)執(zhí)照等行政處罰的：注銷備案。
此處需要注意的是，不進(jìn)行算法備案會(huì)受到行政處罰，但完成算法備案并不代表在算法損害用戶權(quán)益或社會(huì)公共利益時(shí)可以此免責(zé)。備案時(shí)，相關(guān)網(wǎng)信部門以形式、要素齊全作為審查標(biāo)準(zhǔn)，并不涉及對(duì)算法服務(wù)提供者算法安全情況的實(shí)質(zhì)性審查，即平臺(tái)仍需對(duì)算法內(nèi)容負(fù)責(zé)。
（四）算法備案之企業(yè)合規(guī)要點(diǎn)
1.擬公示內(nèi)容注意避免泄露商業(yè)秘密
擬公示內(nèi)容的填報(bào)需要根據(jù)企業(yè)自身情況以及行業(yè)實(shí)踐，在不泄露企業(yè)技術(shù)秘密的情況下充分履行算法備案義務(wù)。在算法信息填報(bào)中，企業(yè)需要提交算法擬公示內(nèi)容，主要包括算法基本原理、算法運(yùn)行機(jī)制、算法應(yīng)用場(chǎng)景、算法目的意圖以供監(jiān)管機(jī)構(gòu)審核。鑒于目前監(jiān)管機(jī)構(gòu)并未公布關(guān)于算法基本原理、算法運(yùn)行機(jī)制等內(nèi)容的公示維度，建議企業(yè)可參考行業(yè)目前的實(shí)踐做法，把握公示內(nèi)容的力度，以確保在不泄露算法技術(shù)商業(yè)秘密的前提下履行算法公示的法律義務(wù)。此步是整個(gè)算法備案中的關(guān)鍵，其內(nèi)容不僅涉及算法基本原理、算法屬性等算法技術(shù)本身，還涉及算法安全管理制度、組織架構(gòu)、風(fēng)險(xiǎn)防控措施等算法合規(guī)體系構(gòu)建情況。因此，建議需完成算法備案的企業(yè)可提前準(zhǔn)備相關(guān)內(nèi)容，必要時(shí)，可引入富有經(jīng)驗(yàn)的外部律師協(xié)助企業(yè)搭建算法合規(guī)體系，盡可能確保算法備案材料的齊備性[8]。
2.備案后仍存在算法合規(guī)性審查義務(wù)
算法備案僅為前提基礎(chǔ)，備案過程中的審核僅為形式審查，并未進(jìn)行合法或合規(guī)性的審核，企業(yè)仍需對(duì)備案算法繼續(xù)履行合規(guī)義務(wù)?；ヂ?lián)網(wǎng)信息服務(wù)算法備案僅對(duì)備案主體所提供的算法推薦服務(wù)及服務(wù)中使用的算法推薦技術(shù)進(jìn)行備案，信息由備案主體自行填報(bào)，該備案不代表對(duì)有關(guān)主體、算法、產(chǎn)品、服務(wù)等的認(rèn)可。因此，備案主體仍需對(duì)照《算法推薦規(guī)定》《深度合成規(guī)定》等相關(guān)規(guī)定落實(shí)算法安全主體責(zé)任、算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)等合規(guī)義務(wù)。
3.算法內(nèi)容的“向善”合規(guī)引導(dǎo)
企業(yè)需要注重算法對(duì)信息推薦及內(nèi)容生成的傾向性作用。前述幾項(xiàng)涉及算法備案的法規(guī)，無不是針對(duì)內(nèi)容生成與推薦可能產(chǎn)生的輿論與信息傳播風(fēng)險(xiǎn)的防范為規(guī)范目的，因此算法備案合規(guī)之底層邏輯亦在于算法針對(duì)內(nèi)容合規(guī)的傾向性把控，也即算法備案之目的即在于便于審查具有內(nèi)容生成或推薦功能的算法是否“向善”。
三、算法權(quán)力規(guī)范之未來趨勢(shì)
（一）算法實(shí)踐新動(dòng)向——商品銷售領(lǐng)域的規(guī)范萌芽
除了《算法推薦規(guī)定》中要求的“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”需要對(duì)算法進(jìn)行備案之外，事實(shí)上實(shí)踐中也出現(xiàn)了商業(yè)領(lǐng)域相關(guān)的地方性指引或規(guī)定，對(duì)網(wǎng)絡(luò)銷售領(lǐng)域推薦算法的規(guī)制進(jìn)行探索。由此可以預(yù)見將來算法備案規(guī)定的主體范圍可能不僅僅局限于“輿論”或“社會(huì)動(dòng)員能力”的算法推薦，一般的商業(yè)、銷售領(lǐng)域也可能被包括在內(nèi)。
上海市市場(chǎng)監(jiān)管局制定發(fā)布《上海市網(wǎng)絡(luò)交易平臺(tái)網(wǎng)絡(luò)營(yíng)銷活動(dòng)算法應(yīng)用指引（試行）》其中不但有“不得利用算法實(shí)施不正當(dāng)價(jià)格行為”“不得利用算法對(duì)消費(fèi)者實(shí)施不合理的差別待遇”等算法歧視行為的規(guī)制，也有鼓勵(lì)算法公開透明的相關(guān)規(guī)定。《指引》規(guī)定：鼓勵(lì)平臺(tái)經(jīng)營(yíng)者通過公開算法原理、目的意圖、決策規(guī)則、可能產(chǎn)生的影響等信息，提供算法應(yīng)用結(jié)果解釋等方式提升公眾對(duì)算法應(yīng)用的理解。這種對(duì)于算法公開透明的鼓勵(lì)性規(guī)定其目的正與算法備案之立法目的相同。同時(shí)也只有讓算法與消費(fèi)者權(quán)益、市場(chǎng)競(jìng)爭(zhēng)密切相關(guān)的信息一定程度公開、透明才能真正做到對(duì)算法權(quán)力異化的合理規(guī)制，防范大數(shù)據(jù)殺熟等風(fēng)險(xiǎn)，促進(jìn)消費(fèi)者權(quán)利保護(hù)與市場(chǎng)的公平競(jìng)爭(zhēng)環(huán)境。因此可以預(yù)見即便是不具有輿論或動(dòng)員能力的商品消費(fèi)領(lǐng)域，在將來亦有可能成為受到算法備案制度規(guī)制的主體。
（二）算法備案核心問題——算法公開路徑與商業(yè)秘密保護(hù)
如前所述算法備案的核心問題是算法備案背后的規(guī)范目的與算法使用或提供者的商業(yè)秘密的平衡問題。此問題可以分成兩個(gè)視角進(jìn)行探討，其一是關(guān)于算法信息的描述，到何種程度會(huì)構(gòu)成商業(yè)秘密，現(xiàn)行的算法備案制度及實(shí)踐狀況，是否能夠消除企業(yè)關(guān)于商業(yè)秘密泄露的顧慮。其二為，現(xiàn)行的算法備案制度，包括具體的備案主體、備案內(nèi)容的詳細(xì)規(guī)定與實(shí)踐做法是否能夠?qū)崿F(xiàn)算法備案的規(guī)范目的。
1.公開之道——以主體為中心的解釋趨勢(shì)
首先，關(guān)于算法信息的描述，到何種程度會(huì)構(gòu)成商業(yè)秘密。為了兼顧個(gè)人知情權(quán)、隱私權(quán)以及公平的市場(chǎng)環(huán)境等諸多方面，算法哪些維度的信息是可以被公開的，換句話說算法使用者或提供者應(yīng)當(dāng)如何向公眾解釋算法。
關(guān)于算法公開與算法解釋的方式主要存在兩種觀點(diǎn)：其一為以主體為中心的解釋。此種解釋路徑無需算法的使用者或者提供者提供模型及數(shù)據(jù)源的整體信息，只需要公開其算法對(duì)于主體可能產(chǎn)生的影響即可。比如主體的數(shù)據(jù)變化會(huì)對(duì)算法的決策產(chǎn)生什么影響，系統(tǒng)如對(duì)主體進(jìn)行分類，分類的特征是什么。以上信息沒有披露算法的模型及數(shù)據(jù)源的相關(guān)信息，因此如果采用此種解釋或公開方式，一般不會(huì)涉及到企業(yè)算法相關(guān)的技術(shù)秘密。
另一種為以模型為中心的解釋，即圍繞算法模型及數(shù)據(jù)源整體進(jìn)行公開，即“對(duì)算法的整體進(jìn)行理解,包括理解算法所設(shè)定的信息、用來訓(xùn)練算法的數(shù)據(jù)組、算法模型的性能指標(biāo)、算法架構(gòu)設(shè)置的全局邏輯、被處理信息等?！焙笠环N算法的解釋或公開方式，一方面，算法全部公開也并無意義。大規(guī)模的算法項(xiàng)目公開如果不提供有效的算法說明，就并非是一種能夠理解的解釋方式，因此不能起到算法公開或公示應(yīng)當(dāng)起到的效果。另一方面企業(yè)算法的模型和數(shù)據(jù)源是企業(yè)商業(yè)秘密的核心部分，這種公開方式可能會(huì)危及企業(yè)的商業(yè)秘密。
以上兩種不同的算法解釋立場(chǎng)可能帶來不同的公開內(nèi)容，如采用以主體為中心的解釋方式，則算法公開的內(nèi)容則為算法說明而非算法代碼。
根據(jù)《算法推薦規(guī)定》，本次算法備案中算法公示的部分就完全采用以主體為中心的解釋與公開方式。為了平衡服務(wù)使用者與提供者的信息鴻溝而進(jìn)行的算法公示部分，則僅僅公開了算法的基本原理、運(yùn)行機(jī)制、應(yīng)用場(chǎng)景等與用戶密切相關(guān)的算法說明。這部分的說明由進(jìn)行備案的企業(yè)自主填寫，自主把握描述程度，且所提供的信息均為簡(jiǎn)單的說明信息，并不涉及任何的商業(yè)信息。因此在現(xiàn)行的算法備案實(shí)踐當(dāng)中，企業(yè)無需擔(dān)心算法相關(guān)的商業(yè)秘密會(huì)被不當(dāng)泄露。
2.平衡之道——詳細(xì)信息僅備案不公示
我國(guó)的算法備案制度不僅注重保護(hù)用戶權(quán)利，還對(duì) “具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”所生成或提供的信息內(nèi)容的安全性與可控制性進(jìn)行嚴(yán)格控制，從而避免互聯(lián)網(wǎng)上可能出現(xiàn)的輿論危機(jī)、公共安全危機(jī)等?；谶@項(xiàng)規(guī)范目的，需要算法的使用企業(yè)披露更為詳細(xì)的算法信息，以備網(wǎng)信辦及時(shí)審查、發(fā)現(xiàn)風(fēng)險(xiǎn)，追究責(zé)任。同時(shí)由于這部分信息僅由網(wǎng)信辦存留，不會(huì)向公眾公開，企業(yè)也無需擔(dān)心商業(yè)秘密不當(dāng)泄露的問題。本次算法備案的實(shí)踐當(dāng)中，算法的使用企業(yè)需要將算法的數(shù)據(jù)模態(tài)、訓(xùn)練數(shù)據(jù)集模型等模型與數(shù)據(jù)相關(guān)的信息向網(wǎng)信辦報(bào)備，但是這部分信息不會(huì)向公眾公示。同時(shí)算法數(shù)據(jù)模態(tài)部分只需要企業(yè)進(jìn)行選擇，不需要過于詳細(xì)的信息與說明，算法模型中的數(shù)據(jù)集部分也只需要企業(yè)填寫數(shù)據(jù)集名稱與說明，并不需要企業(yè)提交更多的信息或者數(shù)據(jù)集本身。
綜上，在目前我國(guó)采取的算法解釋與公開的路徑下，企業(yè)無需過多擔(dān)心算法備案導(dǎo)致商業(yè)秘密泄露問題。目前算法備案中向公眾公開的信息極為有限，不但不會(huì)影響商業(yè)秘密保護(hù)，甚至很難達(dá)到保護(hù)用戶權(quán)利的規(guī)范目的。因此隨著算法備案制度的繼續(xù)探索，監(jiān)管部門可能在保持整體算法備案路徑不變的框架下，要求企業(yè)提供相關(guān)算法更加結(jié)構(gòu)化的說明。對(duì)于可能對(duì)公眾公開的部分始終會(huì)堅(jiān)持以主體為中心的說明方式，不會(huì)涉及到算法的數(shù)據(jù)集與模型本身，更不會(huì)危及企業(yè)商業(yè)秘密。
（三）算法備案擔(dān)責(zé)——內(nèi)容主體精細(xì)化規(guī)定
畢竟算法備案制度尚在探索之中，企業(yè)對(duì)于算法備案制度下的商業(yè)秘密保護(hù)及算法備案的主體認(rèn)定仍有疑問。這就使得應(yīng)當(dāng)備案的主體未進(jìn)行備案，或進(jìn)行備案的企業(yè)算法備案不實(shí)應(yīng)承擔(dān)怎樣的法律責(zé)任成為一個(gè)重要問題。
1.算法備案主體或可由行政機(jī)關(guān)確定
目前的算法備案制度程序需要企業(yè)主動(dòng)發(fā)起，但是“社會(huì)動(dòng)員能力”的認(rèn)定卻是非常模糊的。企業(yè)如何知曉其是否具有“社會(huì)動(dòng)員能力”？這種“社會(huì)動(dòng)員能力”由誰(shuí)來承擔(dān)證明責(zé)任？目前的算法備案制度對(duì)這些問題并不明確。這就使得企業(yè)是否承擔(dān)《算法推薦規(guī)定》第三十三條關(guān)于不履行算法備案制度的法律責(zé)任條款存在很大的不確定性。
為了賦予企業(yè)更大的確定性，營(yíng)造更穩(wěn)定的營(yíng)商環(huán)境，“社會(huì)動(dòng)員能力”的判斷應(yīng)當(dāng)由行政機(jī)關(guān)確定。由于“社會(huì)動(dòng)員能力”尚為一種較為概括性的表述，交由企業(yè)自行判斷，事實(shí)上會(huì)帶來不可避免的誤判風(fēng)險(xiǎn)。如由行政機(jī)關(guān)加以判斷，采用“行政機(jī)關(guān)通知——企業(yè)備案”的模式，能夠避免企業(yè)發(fā)生誤判產(chǎn)生行政處罰風(fēng)險(xiǎn)，為企業(yè)提供更具確定性的合規(guī)環(huán)境。
2.算法備案內(nèi)容的結(jié)構(gòu)化
目前的算法備案流程中關(guān)于算法基本原理等部分的描述自由度很大，缺乏結(jié)構(gòu)化，這就使得企業(yè)可能會(huì)由于商業(yè)秘密保護(hù)的考量，對(duì)一些信息進(jìn)行較為模糊的描述。這同樣會(huì)使得算法備案制度的規(guī)范目的無法實(shí)現(xiàn)，并且《算法推薦規(guī)定》第三十三條關(guān)于不履行算法備案制度的法律責(zé)任條款適用起來非常困難，導(dǎo)致算法備案制度喪失其應(yīng)有的功能。
本文撰寫冶健陶亦有貢獻(xiàn)。
注釋
[1]JCR媒匠.媒介倫理案例庫(kù)|攜程大數(shù)據(jù)殺熟事件：算法權(quán)力下被控制的人. https://mp.weixin.qq.com/s/YPy27u1J2FftPB8OSe4khg
[2]張吉豫.論算法備案制度.上海市法學(xué)會(huì)東方法學(xué)https://mp.weixin.qq.com/s/QEK6OPY703jJISA6NFhAFg
[3]范鈺.算法備案問題簡(jiǎn)明指南.清律. https://mp.weixin.qq.com/s/RLQyenVkL9pYgIIo40A_bA
[4]張吉豫.論算法備案制度.上海市法學(xué)會(huì)東方法學(xué)https://mp.weixin.qq.com/s/QEK6OPY703jJISA6NFhAFg
[5]許可劉暢.理解算法備案.數(shù)字經(jīng)濟(jì)與社會(huì)https://mp.weixin.qq.com/s/xZH0OEkPwhUplrcKXMUArw
[6]谷珊琳子.算法監(jiān)管：誰(shuí)需要算法備案？.星川ASTROLEGAL. https://mp.weixin.qq.com/s/k_MgpaMt8srWWWPpPDjaXw
[7] 陸卡互聯(lián)網(wǎng)資質(zhì)辦理.算法備案|什么是算法備案？備案的流程. https://mp.weixin.qq.com/s/zFaBjNI6xijkLjrwC786Iw
[8]蔡鵬.跨越AIGC合規(guī)上市之路-算法備案篇.數(shù)據(jù)與電商研究室. https://mp.weixin.qq.com/s/8i8NFj_ixr1fiZj4UVf_FQ
滬公網(wǎng)安備 31010402007129號(hào)
