于是，小李開始著手準備面試要的關鍵點，經過2周的準備，他開始面試幾家公司，果不其然，其中有3家給他發(fā)了offer，可以說是成功上岸。

小李感覺到了久違的快樂，“眼紅的同學”紛紛向他請教，面試這個崗位都學習了什么？

他大概講了2個小時，大概總結下，有這么幾個點：

一、理解氛圍治理的作用

氛圍治理對平臺“保命”和“留存”起到至關重要作用。

氛圍是由內容組成的。好氛圍，對監(jiān)管來說，不能有有害國家內容；對于生產者來說，有自由的言論空間；瀏覽者來說，有足夠優(yōu)質內容。

如果平臺氛圍不好，有害國家內容滿天飛，用戶看到的都是廣告等有害信息，我敢說平臺活不到第二集。要不被監(jiān)管關停了，要不用戶離你而去了。

所以，好的氛圍是至關重要的，氛圍治理本質是平衡監(jiān)管、發(fā)布者和瀏覽者三者體驗體驗，既要符合監(jiān)管要求，又要讓用戶說得爽，還不能讓用戶覺得平臺都是“垃圾內容”。

聽起來是不是還挺難的。

二、標準是平臺最頭疼的問題

氛圍治理是要有標準的，標準一般來自兩個方面，一個是監(jiān)管下發(fā)的，是堅決不能出現內容，包括：涉xi、政治、黑產、色情等，稱之為“紅線”。

另個是平臺為友好氛圍擬定的，也是不能出現的。

通常包括：辱罵、軟色情等，稱之為“黃線”。紅線和黃線各面臨著不同的問題。

1. 紅線內容

面臨的問題是，監(jiān)管難度大。

即使知道有害內容，但平臺每天有千萬或者上億內容，把所有有害內容都能一個不落的攔截，還是非常難的。難也要堅持到底。因為一旦發(fā)現有攔截，對平臺影響非常大的，輕則罰款，重則關停。

比如去年豆瓣，一年整改20多次，收到900萬元的罰單，還有部分功能關停調整。

面臨被罰的肉痛，所以平臺要用盡渾身解數，阻擋一些有害內容出現！再來看黃線。

2. 黃線內容

雖然不會處罰，但也面臨著標準問題，比如：

要不要處理？如果不處理，被用戶瀏覽到，會覺得平臺氛圍很差；如果處理，會導致生產者不滿意，因為他可能覺得是正常的發(fā)言，內心os：為啥要刪我內容，更有甚者甚至會因此導致流失。

平臺如果把控不好標準，會導致”左右都不是人”。所以標準如何擬定，才能平衡好瀏覽者和生產者的體驗，是平臺一直探究的方向。

三、找到治理方案

1. 紅線內容

態(tài)度上要徹底解決，行動上不斷細化標準和提升識別能力，從建立機制到策略迭代兩方面入手：

（1）建立機制

一般通過前置教育用戶，告訴用戶不生產哪些內容。比如用戶公約、用戶黑榜單、用戶答題等都是解決這個問題的。

同時，一旦出現有害內容處理，對用戶和內容及時處理。另外，也要深度挖掘潛在風險用戶，做好用戶監(jiān)控，從而防患于未然。

（2）策略迭代

有些同學可能認為，有了上面機制就可以處理掉有害內容，其實是遠遠不夠的。

上面只是搭建好了框架，實際上還需要更細化的標準和識別能力。這個需要大量的實例，一個依賴用戶舉報通過，即發(fā)現badcase-〉舉報-〉處置-〉細化標準和識別能力。

另一個建立平臺攻防策略，各個環(huán)節(jié)收集 badcase-〉通過模型生產更多case-〉發(fā)到產品各個接口-〉查看攔截情況-〉若沒有攔截，定位問題-〉細化標準和識別能力。這種方式以點帶面，從一個小缺口帶來整個平臺能力提升，

以上通過機制和策略迭代，有效解決平臺針對有害內容攔截的問題。

2. 黃線內容

態(tài)度上需要平衡用戶體驗，行動上需要借力。

在產品中由于場景不同，同樣一句話在不同場景下，語意是不同，很難都由機器去判定，畢竟機器是沒有感情的。

一般的做法是借力用戶，針對拿不準case分發(fā)給用戶打分，將多數投票作為結果。得到驗證后繼續(xù)反補標準和識別能力。

如果這個處理結果有爭議，平臺也可以快樂“甩鍋”！

綜上，紅線內容要不斷通過badcase細化標準，徹底完成有害內容根治；黃線內容要借力用戶評判，達到用戶體驗的平衡。

四、處置手段要性感

針對有害內容處理手段也是多種多樣的。

針對局部出現有害詞語的，本著將傷害降低情況下，一般不會整條內容都處理，通常會打碼、加*等操作。

同時處置手段，也從過去處置用戶，向玩法演變，比如之前百度貼吧用“傻寶”表情包，替代表“傻X”兩個字，引發(fā)大量用戶玩梗。

針對局部解決不了的，一般會對內容進行限流或者刪除，嚴重者進行封號處理。更有甚者，可以起訴走法律程度。

多樣的處置手段，保證對癥下藥。

五、總結

以上，是小李對氛圍治理崗位，進行的“刻意學習”，在聊天過程中有幾句話，讓我記憶比較深刻，分享給大家。

1. 企業(yè)需要的人才，既要抬頭看方向能力，也要有一捅桿子到底做事兒的實力。如果你在這個領域，還達不到這個標準，請“刻意學習”。
2. 既然選擇方向就去努力，即使失敗也沒有關系，37是個魔法數字，第37次你肯定會成功，所以不要懷疑，努力向前！

最后，希望每位同學都能找到屬于自己“藍?！?，并堅持37次。

堅信日拱一卒的力量，祝早日上岸！

本文由@楊學姐聊運營 原創(chuàng)發(fā)布于人人都是產品經理，未經許可，禁止轉載。

題圖來自Unsplash, 基于CC0協議。