編輯導(dǎo)語：前段時間，網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，當(dāng)中涉及到了許多的互聯(lián)網(wǎng)服務(wù)，對很多細(xì)節(jié)都進行了相關(guān)規(guī)定。本文針對該規(guī)定進行了詳細(xì)的解讀，了解算法推薦管理條例中的一些變化以及是如何進行管理的。

前一陣網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡稱《算法推薦管理規(guī)定》或《規(guī)定》）公開征求意見的通知。

通知里的內(nèi)容實際上涉及了之前熱議的許多話題，例如大數(shù)據(jù)殺熟、隱私問題、外賣配送調(diào)度問題等等，同時也對互聯(lián)網(wǎng)服務(wù)中算法里的很多細(xì)節(jié)進行了規(guī)定。不得不說，立法團隊里還是有高人在的。不過法律條文大都比較枯燥，所以今天這里聊一聊我對《算法推薦管理規(guī)定》的解讀。

首先要聲明一下：本文僅為從業(yè)人員發(fā)表的個人觀點，不作為法律意見，僅供參考。

一、定義

前六條基本上是各種管理規(guī)定里的例行條例。

這里比較重要的是第二條，對算法推薦服務(wù)的定義：

第二條：前款所稱應(yīng)用算法推薦技術(shù)，是指應(yīng)用生成合成類（圖片視頻AI生成）、個性化推送類（推薦、Push）、排序精選類（熱榜）、檢索過濾類（搜索）、調(diào)度決策類（外賣、網(wǎng)約車等）等算法技術(shù)向用戶提供信息內(nèi)容。

括號內(nèi)容是我理解的場景，不是原文?？梢钥吹竭@里基本上囊括了互聯(lián)網(wǎng)產(chǎn)品中涉及到的大部分算法技術(shù)服務(wù)，不過有一塊例外——廣告業(yè)務(wù)，當(dāng)然廣告可以視為每個場景下的商業(yè)化方案，廣告內(nèi)容也可以作為內(nèi)容的一種納入監(jiān)管，但也有一些場景不在上面的范圍內(nèi)，比如聯(lián)盟廣告。

而廣告又是比較容易引起用戶關(guān)注隱私問題的場景（常見案例：輸入法DMP帶來的廣告精準(zhǔn)投放），所以這塊還是要看后續(xù)怎么界定。

二、內(nèi)容風(fēng)控

接下來第七條到第九條是對互聯(lián)網(wǎng)平臺內(nèi)容風(fēng)控提出的要求，可以預(yù)見大廠未來對這塊的投入應(yīng)該還要持續(xù)增加，中小廠可能會找一些第三方的解決方案（比如數(shù)美之類），對內(nèi)容安全行業(yè)和從業(yè)人員持續(xù)利好。

這一部分條例值得討論的有兩點。第一點是關(guān)于第八條提到的不得設(shè)置誘導(dǎo)用戶沉迷的算法模型這塊，基本上就是點名各短視頻平臺了：

第八條：算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費等違背公序良俗的算法模型。

但短視頻平臺推薦模型的優(yōu)化目標(biāo)，核心就是瀏覽時長，這是業(yè)界多年累積下來的、能夠和商業(yè)化目標(biāo)更一致的經(jīng)驗，那這算不算是「誘導(dǎo)用戶沉迷」呢？如果算的話，也不可能退回到優(yōu)化點擊率的模型去，只能是往多目標(biāo)優(yōu)化發(fā)展，那這樣是不是能夠稍微圓回來一些呢？

所以這個地方，我覺得平臺可能更多能做的，是反過來思考：你的防沉迷系統(tǒng)，有沒有做得足夠好（尤其是未成年人防沉迷）？然后祈禱不會出現(xiàn)各種抨擊短視頻導(dǎo)致用戶沉迷、抨擊「信息繭房」的新聞報道。第二點是第九條，關(guān)于生成合成信息（圖片視頻AI生成）這塊：

第九條：算法推薦服務(wù)提供者應(yīng)當(dāng)加強信息內(nèi)容管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識后，方可繼續(xù)傳輸。發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關(guān)記錄，并向網(wǎng)信部門報告。發(fā)現(xiàn)不良信息的，應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置。

目前AI生成圖片和視頻這塊的技術(shù)，說實話已經(jīng)要比想象中成熟很多了，比如隔一段時間就火一陣的換臉App。好在目前還都是娛樂用途為主，比如B站上面各種大司馬的換臉視頻，但保不齊也會被人用來惡意制作篡改、傳播謠言，所以這個條例還是有必要的。

但怎么說呢，AI生成是基于生成對抗網(wǎng)絡(luò)（GAN）的技術(shù)，本身就是用一個生成器和一個判別器來對抗，直到判別器也真假難辨的時候生成器生成的圖片或視頻方能出山。所以這塊對AI生成內(nèi)容的鑒定，無論是人還是機器來做，我覺得未來都是一個大的挑戰(zhàn)。

三、核心條例

接下來的第十條到第十八條，是圍繞各互聯(lián)網(wǎng)算法推薦場景做出的規(guī)定，我們一個一個來聊。

第十條：算法推薦服務(wù)提供者應(yīng)當(dāng)加強用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點或者作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標(biāo)簽。

用戶畫像：像什么「好色」、「好賭」這種用戶標(biāo)簽，以后就都不允許存在了。當(dāng)然這里面可能不僅僅是標(biāo)簽名字的問題，用戶畫像使用的數(shù)據(jù)源也要符合條例當(dāng)中的規(guī)定，否則這兩個標(biāo)簽改成「喜歡異性」、「喜歡刺激」不就好了？

第十一條：算法推薦服務(wù)提供者應(yīng)當(dāng)加強算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息內(nèi)容。

第十二條：算法推薦服務(wù)提供者應(yīng)當(dāng)綜合運用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對用戶產(chǎn)生不良影響、引發(fā)爭議糾紛。

第十三條：算法推薦服務(wù)提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點贊、評論、轉(zhuǎn)發(fā)、網(wǎng)頁導(dǎo)航等，實施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實施自我優(yōu)待、不正當(dāng)競爭、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

第十一到第十三條主要是對算法推薦服務(wù)提供者干預(yù)算法模型做出的相關(guān)規(guī)定，里面甚至提到了「去重」、「打散」等術(shù)語，可以說是相當(dāng)專業(yè)了。

這個部分也有兩塊值得一提，一個是第十三條第一款提到的：算法推薦服務(wù)提供者不得利用算法……實施流量造假、流量劫持。事實上，條例中提到的虛假注冊賬號等這些行為，壓根用不上算法，這樣的措辭反而會讓人覺得，我不用算法做這些事情，是不是就可以了？

所以，「利用算法」這四個字，我覺得可以去掉。其次，在實際情況中，雖然不排除有平臺方做虛假注冊賬號（僵尸號）等流量造假行為，但第三方進行賬號虛假注冊交易、刷贊刷評刷榜是更常見的行為，對這個情況的監(jiān)管也應(yīng)該納入到條例中來。

第二個是對熱榜、熱搜的干預(yù)行為，這部分要把第十一條和第十三條結(jié)合起來看。平臺方對熱榜、熱搜的干預(yù)后門肯定會有，否則萬一遇到什么突發(fā)情況（比如被境外勢力惡意刷上熱榜），平臺方怎么撤熱榜熱搜呢？

但另一方面，平臺方對熱榜、熱搜黑盒式、不透明的干預(yù)行為，也讓平臺方有非常強力的影響輿論的能力（參考蔣凡事件），需要被監(jiān)管。所以這三條圍繞這一點進行了一些規(guī)定。第十一條提到，要完善人工干預(yù)機制，第十三條又提到，不得利用算法干預(yù)信息呈現(xiàn)。

這塊怎么理解呢？我的理解是，這實際上意思是說，從此以后，平臺方就不能再說，是因為「算法」干預(yù)的熱榜熱搜結(jié)果，這個托詞，對不起以后沒有了。

未來所有對熱榜熱搜的干預(yù)，都是你平臺人工進行的，所以這里面平臺方需要有一個完善的干預(yù)流程和干預(yù)機制，并且所有操作記錄要在平臺數(shù)據(jù)庫中留底備查，這是監(jiān)管希望達(dá)到的效果。

第十四條：算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運行機制等。

這一條，雖然是對第二條定義提到的所有算法推薦服務(wù)提出的要求，但主要針對的還是熱榜熱搜場景，這個場景對輿論影響大，算法原理又簡單，公示之后大部分人都能看得懂。

第十五條：算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。

用戶認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對其權(quán)益造成重大影響的，有權(quán)要求算法推薦服務(wù)提供者予以說明并采取相應(yīng)改進或者補救措施。

好的，重點來了，第十五條，要求算法推薦服務(wù)提供者提供關(guān)閉個性化或算法推薦服務(wù)的選項給用戶，直指過去個性化推薦被詬病許久的隱私問題。這一條也是單獨被拎出來，作為新聞報道宣發(fā)的一條：

首先，算法推薦依據(jù)的個人特征其實是有分類的，既有用戶的個人屬性（如年齡、性別）、設(shè)備屬性（如機型）、環(huán)境上下文屬性（如地理位置）等等，也有用戶在平臺的各種過往行為。

關(guān)閉個性化推薦，要不要區(qū)分具體的特征呢？比如只關(guān)閉個人屬性，過去的行為特征還是讓平臺保留？你說我都看了那么多小姐姐，把號養(yǎng)好了，你這說關(guān)就全都關(guān)了？

但如果不做約定，我覺得平臺大概率不會分得這么細(xì)，只有一個「是否關(guān)閉個性化推薦」的選項，你說你關(guān)不關(guān)吧？那你要是能只關(guān)屬性，保留行為特征，那我肯定關(guān)啊。

所以這個地方，最好還是有細(xì)則或解釋能夠進行一下指導(dǎo)或要求。

其次，假設(shè)真的提供這種便捷的關(guān)閉選項，包括更細(xì)化的關(guān)閉選項，最后會有多少用戶愿意真正地關(guān)閉「個性化推薦」而不是直接卸載應(yīng)用？我還是很好奇這個關(guān)閉率的。

關(guān)閉之后，如果后悔，是不是還應(yīng)該提供便捷的打開措施給用戶？所以，我覺得這一條可以稍微調(diào)整一下措辭，把「提供便捷的關(guān)閉算法推薦服務(wù)的選項」改為「提供便捷的開關(guān)算法推薦服務(wù)的選項」即可。

第十六條：算法推薦服務(wù)提供者向未成年人提供服務(wù)的，應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護義務(wù)，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務(wù)等方式，便利未成年人獲取有益身心健康的信息內(nèi)容。算法推薦服務(wù)提供者不得向未成年人用戶推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息內(nèi)容，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。

第十七條：算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法，履行勞動者權(quán)益保障義務(wù)。

第十八條：算法推薦服務(wù)提供者向消費者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護消費者合法權(quán)益，不得根據(jù)消費者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。

這三條相對就比較容易理解了，第十六條是對未成年人保護提出的要求，第十七條基本就是點名對外賣平臺、網(wǎng)約車平臺提出的要求，第十八條是對「大數(shù)據(jù)殺熟」行為進行了定義和約束。

同時，這三條的主管部門也不是網(wǎng)信辦，具體到監(jiān)管執(zhí)行的時候還是要聯(lián)合其他部門（比如教育、人社、消保等）來處理的。

四、監(jiān)管措施與罰則

《規(guī)定》的第十九條到第二十六條是約定的具體監(jiān)管措施，比如分級監(jiān)管、備案等，其余第二十七條開始是約定的罰則，都是法律條文中比較常規(guī)的內(nèi)容，就不一一細(xì)聊了。

簡單說下第二十條，關(guān)于備案的內(nèi)容：

第二十條：具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。

首先，備案主體是具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者，所以社區(qū)類、社交類、短視頻類、新聞類等偏社交、內(nèi)容的應(yīng)用都應(yīng)該備案，而像外賣、網(wǎng)約車、電商等應(yīng)該就不屬于需要備案的主體了。

其次，備案哪些內(nèi)容？比較被關(guān)注的是算法自評估報告和公示內(nèi)容，光看名字也看不出啥來，具體還是要看執(zhí)行要求。

不過既然有公示，那就到時候可以看看公示到什么程度了，我覺得至少各家熱榜算法公式應(yīng)該是要公布出來了，而不是像之前這樣藏著掖著。

以上就是一些關(guān)于《算法推薦管理規(guī)定》的個人解讀，總體來說是一份相當(dāng)完備的監(jiān)管條例了，既包括了網(wǎng)信辦重點關(guān)注的內(nèi)容輿情方面的監(jiān)管規(guī)定，也對算法涉及的其他方面的社會影響有所提及。

對于各互聯(lián)網(wǎng)服務(wù)平臺來說，《規(guī)定》不僅僅是讓算法更加透明、更加白盒化，同時也對平臺的內(nèi)容風(fēng)控能力提出了更高的要求。

最后再次聲明一下：本文僅為從業(yè)人員發(fā)表的個人觀點，不作為法律意見，僅供參考。

作者：青十五；公眾號：青十五，新書《策略產(chǎn)品經(jīng)理：模型與方法論》作者

本文由 @青十五 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來自Unsplash，基于CC0協(xié)議。