算法推薦技術(shù)正頻頻遭遇算計(jì)用戶的詬病，人們對(duì)收集數(shù)據(jù)、用戶畫像、區(qū)別對(duì)待的大數(shù)據(jù)殺熟三部曲質(zhì)疑頻頻

算法新規(guī)將維權(quán)邏輯由結(jié)果導(dǎo)向變?yōu)檫^程導(dǎo)向，將監(jiān)管邏輯由事后監(jiān)管調(diào)整為事前、事中監(jiān)管，更注重全流程合規(guī)

算法推薦服務(wù)不僅要合規(guī)，更要體現(xiàn)善意

文 |《瞭望》新聞周刊記者 于雪 賈雯靜

“猜你喜歡”曾是互聯(lián)網(wǎng)企業(yè)引以為豪的賣點(diǎn)，如今卻因算法算計(jì)用戶引發(fā)越來越多的爭議。

3·15前后，大數(shù)據(jù)殺熟再成維權(quán)關(guān)鍵詞。北京市消費(fèi)者協(xié)會(huì)公布的調(diào)查數(shù)據(jù)顯示，86.91%的受訪者表示有過被大數(shù)據(jù)殺熟的經(jīng)歷。受訪者認(rèn)為，監(jiān)管手段跟不上（88.01%）、隱蔽性太強(qiáng)（85.95%）、相關(guān)法規(guī)不健全（82.32%）、不容易取證（79.53%）等是大數(shù)據(jù)殺熟屢禁不止的原因。

為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，自3月1日起，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下稱《規(guī)定》）正式施行。

這是我國首個(gè)互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域具有針對(duì)性的算法推薦規(guī)章制度。算法新規(guī)落地，算法推薦技術(shù)能否告別野蠻生長？互聯(lián)網(wǎng)企業(yè)如何打破算法依賴癥？平臺(tái)和品牌的布局模式、邏輯未來可能發(fā)生怎樣的改變？

算法治理跨越從0到1

業(yè)內(nèi)人士分析認(rèn)為，《規(guī)定》的出臺(tái)填補(bǔ)了互聯(lián)網(wǎng)治理領(lǐng)域的重要空白，實(shí)現(xiàn)了從0到1的跨越。雖處于起步階段，但問題指向性明確，回應(yīng)社會(huì)關(guān)切，是具有中國特色的問題解決方案。

據(jù)了解，世界多數(shù)國家和地區(qū)目前尚未形成算法推薦的立法共識(shí)，一些國家雖有相關(guān)法律法規(guī)，但大多呈碎片化狀態(tài)。中國政法大學(xué)傳播法研究中心副主任朱巍介紹說，美國涉及算法推薦的立法工作起步較早，據(jù)不完全統(tǒng)計(jì)，相關(guān)法案有30多部，內(nèi)容涉及算法歧視、算法公開、算法公平、算法中立、算法公示等維度，但尚未統(tǒng)一立法。

在《規(guī)定》出臺(tái)前，我國針對(duì)算法推薦的有關(guān)規(guī)定也相對(duì)分散，在《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》《中華人民共和國電子商務(wù)法》等多部法律法規(guī)，以及《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序信息服務(wù)管理規(guī)定》等部門規(guī)章中均有涉及。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示，從全球范圍看，算法權(quán)利體系是中國第一次提出來的?！氨热绫Ｕ嫌脩舻乃惴ㄖ闄?quán)、算法選擇權(quán)，甚至用戶可以自己決定自己的用戶標(biāo)簽等，這些在其他國家的立法中尚未出現(xiàn)。”

需要厘清的是，算法新規(guī)劍指算法推薦亂象，而非算法本身。

《規(guī)定》明確，其適用對(duì)象是在中華人民共和國境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)，而應(yīng)用算法推薦技術(shù)，則是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。

在北京執(zhí)象科技副總經(jīng)理、資深架構(gòu)師李新看來，這意味著“《規(guī)定》重點(diǎn)指向的是應(yīng)用層而非技術(shù)底層，意在解決算法技術(shù)與用戶的良性交互問題。廣義的算法作為信息技術(shù)系統(tǒng)性核心能力，本質(zhì)屬性是數(shù)學(xué)和邏輯”。

備案能否讓算法透明

算法新規(guī)實(shí)施同日，互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)正式上線。

備案義務(wù)是新規(guī)對(duì)算法推薦服務(wù)提供者做出的要求?！兑?guī)定》明確，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)履行備案手續(xù)。

在李新看來，備案系統(tǒng)在一定程度上為《規(guī)定》賦予了可操作、可事后回溯、可線上監(jiān)控的三重屬性，提供追責(zé)依據(jù)，為執(zhí)法監(jiān)管部門提供了有力抓手。

據(jù)了解，在算法推薦服務(wù)領(lǐng)域，無論是普通用戶還是監(jiān)管部門都缺乏相應(yīng)的技術(shù)鑒別能力和執(zhí)法糾錯(cuò)能力，用戶對(duì)是否受到實(shí)際損害也很難舉證、維權(quán)。

上海段和段律師事務(wù)所合伙人、律師劉春泉表示，算法備案通過設(shè)定企業(yè)義務(wù)的方式，嘗試解決用戶和執(zhí)法監(jiān)管部門難以取證的核心問題。

在劉曉春看來，備案意味著新規(guī)將維權(quán)邏輯由結(jié)果導(dǎo)向變?yōu)檫^程導(dǎo)向，將監(jiān)管邏輯由事后監(jiān)管調(diào)整為事前、事中監(jiān)管，更注重全流程合規(guī)。同時(shí)，新規(guī)更注重針對(duì)企業(yè)技術(shù)應(yīng)用過程中的操作細(xì)節(jié)設(shè)置可量化的規(guī)范，企業(yè)在履行合規(guī)義務(wù)的前提下，就可以免除或者減輕相應(yīng)責(zé)任。

也有受訪專家認(rèn)為，對(duì)算法推薦服務(wù)的監(jiān)管涉及的專業(yè)性較高、技術(shù)性較強(qiáng)，即便有了備案要求，并設(shè)定量化指標(biāo)，但在執(zhí)法、司法的過程中仍然可能存在看不懂、搞不清、摸不透的困擾。特別是對(duì)絕大部分基層執(zhí)法機(jī)構(gòu)來說，措施有效與否尚待觀察。

對(duì)此，劉春泉建議，一方面可設(shè)定相應(yīng)規(guī)則，鼓勵(lì)企業(yè)算法工程師或相關(guān)人員舉報(bào)、提供證據(jù)；另一方面，執(zhí)法部門還可將直接調(diào)查取證與間接獲得旁證結(jié)合，推動(dòng)佐證來源多元化。此外，還可考慮借助第三方電子取證機(jī)構(gòu)的專業(yè)服務(wù)，依靠專業(yè)力量固定證據(jù)、加強(qiáng)監(jiān)管。

中國互聯(lián)網(wǎng)協(xié)會(huì)法工委副秘書長胡鋼表示，下一步應(yīng)建立全國統(tǒng)一的廣泛參與且網(wǎng)絡(luò)化運(yùn)作的算法倫理委員會(huì)，發(fā)布行政執(zhí)法、企業(yè)合規(guī)與消費(fèi)者維權(quán)三規(guī)合一的算法合法合規(guī)指南與典型案例匯編，構(gòu)建“長牙齒、重咬合、強(qiáng)保護(hù)”的長效治理體制。

“新規(guī)不是要把企業(yè)管死，而是讓企業(yè)免于過于泛化的責(zé)難，有利于企業(yè)自證清白，明確預(yù)期，主動(dòng)合規(guī)?！眲源赫f，平臺(tái)企業(yè)應(yīng)充分發(fā)揮能動(dòng)性構(gòu)建更加有序的發(fā)展生態(tài)，監(jiān)管部門則要監(jiān)管平臺(tái)的運(yùn)行生態(tài)，通過動(dòng)態(tài)治理的方式推進(jìn)平臺(tái)經(jīng)濟(jì)有序健康發(fā)展。

向上向善的清晰信號(hào)

新規(guī)還對(duì)算法推薦服務(wù)企業(yè)、平臺(tái)等發(fā)出了向上向善的清晰信號(hào)。

在數(shù)字經(jīng)濟(jì)時(shí)代，包括用戶畫像、給用戶“貼標(biāo)簽”等在內(nèi)的算法技術(shù)，被視為許多互聯(lián)網(wǎng)商業(yè)行為的基礎(chǔ)原料，企業(yè)對(duì)此孜孜以求。

據(jù)了解，互聯(lián)網(wǎng)企業(yè)獲取用戶數(shù)據(jù)是算法推薦服務(wù)的第一步，之后，他們往往會(huì)利用算法技術(shù)進(jìn)行大數(shù)據(jù)分析，進(jìn)而形成用戶畫像。獲取的數(shù)據(jù)越多，用戶畫像越精細(xì)、越準(zhǔn)確、可預(yù)測性越強(qiáng)。在這種模式中，算法的推薦和抓取，不僅可以用來確定投放方向和人群，甚至能夠根據(jù)用戶偏好定制營銷內(nèi)容、營銷方式。近年，一些品牌主推的前置倉服務(wù)，其采購預(yù)測、銷售預(yù)測等都依靠算法反推。

可以說，以高交互為特性的信息技術(shù)，為算法推薦服務(wù)提供了快速發(fā)展的基礎(chǔ)，有力推動(dòng)了中國互聯(lián)網(wǎng)行業(yè)的高速崛起。

與此同時(shí)，算法推薦技術(shù)也頻頻遭遇算計(jì)用戶的詬病。人們對(duì)收集數(shù)據(jù)、用戶畫像、區(qū)別對(duì)待的大數(shù)據(jù)殺熟三部曲質(zhì)疑頻頻。

李新說，算法技術(shù)本身的確可以大大提升服務(wù)效率，但一旦技術(shù)被資本異化，這種效率就容易被簡化為“以商業(yè)利益為中心”，導(dǎo)致用戶被信息繭房束縛、陷于沉默的螺旋、受到價(jià)格歧視、產(chǎn)生過度消費(fèi)等問題?！案鼮殛P(guān)鍵的是，算法推薦技術(shù)便捷、客觀、多元的優(yōu)勢被有意或無意忽略，取而代之的是套牢用戶的活躍度和忠誠度，以換取公司利益，過度商業(yè)化使算法的負(fù)面因素逐漸顯現(xiàn)?！?/p>

針對(duì)此，《規(guī)定》豐富了算法的內(nèi)涵，強(qiáng)調(diào)算法的技術(shù)屬性應(yīng)讓位于價(jià)值屬性。換言之，算法推薦服務(wù)不僅要合規(guī)，更要體現(xiàn)善意。

在李新看來，這既是對(duì)算法技術(shù)未來發(fā)展提出的更高要求，同時(shí)也構(gòu)建起對(duì)用戶和企業(yè)的雙重保護(hù)機(jī)制。

可以預(yù)見，算法新規(guī)將會(huì)對(duì)短視頻平臺(tái)、電商平臺(tái)、社交平臺(tái)、餐飲外賣平臺(tái)等較為依賴算法推薦的互聯(lián)網(wǎng)企業(yè)帶來有力影響，并將對(duì)依附于這些平臺(tái)的新零售、新金融、網(wǎng)絡(luò)游戲、服務(wù)業(yè)等帶來重大變革。

劉曉春認(rèn)為：“如果大家都覺得沒有安全感，把個(gè)性化選擇標(biāo)簽關(guān)掉，互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展將受到明顯影響。依托算法推薦技術(shù)描繪用戶畫像、實(shí)現(xiàn)精準(zhǔn)營銷是數(shù)字經(jīng)濟(jì)發(fā)展的重要模式。算法依賴、技術(shù)依賴一定程度上體現(xiàn)了技術(shù)和商業(yè)模式的變遷和進(jìn)步，但帶來不良影響和風(fēng)險(xiǎn)的‘算法依賴癥’則存在矯正的必要?！?/p>

多位受訪專家表示，一些互聯(lián)網(wǎng)平臺(tái)呈巨量化發(fā)展趨勢，動(dòng)輒關(guān)乎數(shù)億用戶，牽動(dòng)衣食住行。同時(shí)，移動(dòng)互聯(lián)網(wǎng)已滲透下至未成年人、上至老年人的各年齡層，要求企業(yè)承擔(dān)更多社會(huì)責(zé)任勢在必行?；ヂ?lián)網(wǎng)平臺(tái)的發(fā)展邏輯需要更加注重在提升效率的同時(shí)規(guī)避風(fēng)險(xiǎn)，從更加注重商業(yè)利益轉(zhuǎn)向更加注重社會(huì)責(zé)任。

從這個(gè)意義上說，此次《規(guī)定》的出臺(tái)，是改變此類不良商業(yè)模式的轉(zhuǎn)折點(diǎn)，助推商業(yè)向善、資本向善。

讓用戶更有安全感

促進(jìn)算法行業(yè)健康有序發(fā)展，讓用戶更有安全感，關(guān)鍵在于企業(yè)需告知、用戶有選擇、第三方可驗(yàn)證。

劉曉春建議，首先，保障用戶知情權(quán)。告知用戶算法推薦服務(wù)的具體情況，并用通俗易懂的語言表述、公示服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制。

其次，應(yīng)根據(jù)現(xiàn)有規(guī)定為用戶提供選擇權(quán)。當(dāng)感覺被“侵犯”時(shí)，用戶可以一鍵關(guān)閉個(gè)性化推薦服務(wù)。新規(guī)出臺(tái)后，已有不少企業(yè)在隱私設(shè)置中提供了“關(guān)閉個(gè)性化推薦”按鈕，但仍需對(duì)實(shí)際效果進(jìn)行驗(yàn)證。

劉曉春說，建立互信的前提是用戶不僅可以拒絕，而且能夠通過直觀感受或者在第三方軟件或權(quán)威機(jī)構(gòu)的輔助下，得到客觀的測評(píng)結(jié)果，以口碑夯實(shí)信任關(guān)系。

此外，專家還建議利用零知識(shí)證明等技術(shù)手段消除互信的技術(shù)障礙。

零知識(shí)證明是指證明者能夠在不向驗(yàn)證者提供任何有用信息的情況下，使驗(yàn)證者相信某個(gè)論斷是正確的。比如，可要求企業(yè)向有技術(shù)能力的第三方機(jī)構(gòu)提供加密后的算法技術(shù)，第三方機(jī)構(gòu)在不損害企業(yè)商業(yè)機(jī)密的前提下驗(yàn)證其是否合規(guī)。在此過程中，既能使用戶放心，又能保護(hù)企業(yè)的商業(yè)利益，同時(shí)有助于解決算法公示、備案內(nèi)容門檻高，執(zhí)法人員和用戶看不懂等問題。

李新認(rèn)為，獲取用戶信任是互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展的必經(jīng)階段，幾乎所有新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)都會(huì)經(jīng)歷從不信任到信任的過程。在這個(gè)過程中，一旦觸碰底線，信任就易崩塌。“用戶忌憚的是被監(jiān)控、被窺探，但是如果使用的方法恰當(dāng)、給予的服務(wù)貼心，帶來的將會(huì)是親切感，而不是被冒犯的感覺”。

朱巍相信，建立基本信任后，大部分用戶不會(huì)選擇關(guān)閉“個(gè)性化推薦”按鈕，最終將有利于雙贏格局的實(shí)現(xiàn)。

專家表示，一旦建立互信關(guān)系，將有利于筑牢底層倫理制度體系，推動(dòng)完善算法治理的長效機(jī)制。由此，算法技術(shù)的應(yīng)用視野將得以放大。比如從消費(fèi)互聯(lián)網(wǎng)轉(zhuǎn)向產(chǎn)業(yè)互聯(lián)網(wǎng)，充分利用基礎(chǔ)信息的研判促進(jìn)諸如基礎(chǔ)設(shè)施、能源等傳統(tǒng)產(chǎn)業(yè)進(jìn)行數(shù)字經(jīng)濟(jì)轉(zhuǎn)型，識(shí)別產(chǎn)業(yè)風(fēng)險(xiǎn)，進(jìn)一步激發(fā)傳統(tǒng)行業(yè)的新經(jīng)濟(jì)活力?！?/p>