B站是中國年輕世代高度聚集的文化社區(qū)和視頻平臺，近年來更是財報喜人。不過它最近卻受到UP主對審核速度以及審核機制的吐槽。這背后有什么深層原因呢？本文從產(chǎn)品和商業(yè)角度對此追根溯源，同時也試著分析一下內(nèi)容社區(qū)產(chǎn)品在內(nèi)容風(fēng)控策略上的一些要點。

3月18日，B站公布了截至2019年12月31日的第四季度和全年未經(jīng)審計的財務(wù)報告。2019財年總營收達(dá)67.8億元人民幣，同比增長64%，其中第四季度營收同比增長74%，達(dá)20.1億元人民幣，連續(xù)七個季度超市場預(yù)期。

UP主們一方面欣喜于“小破站”規(guī)模越來越大，另一方面也越來越對B站孱弱的變現(xiàn)能力、混亂的MCN生態(tài)和越來越長的稿件審核時間、越來越嚴(yán)苛的內(nèi)容審核標(biāo)準(zhǔn)表示不滿，尤其進入3月以來，B站UP主投遞一篇稿件，審核時間少則五六小時，多則竟然超過24小時，很多稿件錯過了最佳的發(fā)布時間。

我前不久投遞的一個稿件，審核了超過20小時，作為一名產(chǎn)品經(jīng)理，我認(rèn)為有必要從產(chǎn)品和商業(yè)角度，找一找B站審核變慢的原因，同時也可以試著分析一下內(nèi)容社區(qū)產(chǎn)品在內(nèi)容風(fēng)控策略上的一些要點。

一、B站審核為什么這么慢？

一個內(nèi)容社區(qū)的用戶角色，大致可分為內(nèi)容生產(chǎn)者（創(chuàng)作型用戶）和內(nèi)容消費者（瀏覽型用戶），既有內(nèi)容的生產(chǎn)創(chuàng)作，又有觀眾能夠消化掉創(chuàng)作產(chǎn)能，形成良好的社區(qū)內(nèi)容生態(tài)。

對于B站來說，UP主們?yōu)閻郯l(fā)電是B站快速增長的重要基礎(chǔ)，也是B站拿下國內(nèi)最大視頻UGC社區(qū)地位的重要基石。如何服務(wù)好這一波內(nèi)容生產(chǎn)者，是B站一個很關(guān)鍵的命題。

B站的社區(qū)氛圍和觀眾品味，都導(dǎo)致了社區(qū)用戶對于作品的要求極為苛刻，UP主們費盡心機，要討好“觀眾老爺”，那UP主受的委屈，當(dāng)然要在小破站上找回來，平臺要是伺候不好UP主，那UP主就要炸毛了。

因此，3月以來，審核時間大幅變長，引發(fā)了UP主大面積的抱怨，很多追熱點的稿件，等審核發(fā)布出來，熱點都過去了。近日B站審核為什么這么慢？其實正如近幾日美股屢次熔斷一樣，B站審核變慢也是多重原因共同作用的結(jié)果。

1. 稿件量激增，創(chuàng)作者作品成倍增長

從2019年開始，B站“破圈”的跡象就越來越明顯，如今，B站已經(jīng)從一個小眾的亞文化社區(qū)，變成多元的大眾化平臺，隨便一個用戶，都能明顯地感受到，來B站做UP主的人變多了。

數(shù)據(jù)也支撐了這一點。根據(jù)B站2019年第四季度財報，B 站月均活躍UP主數(shù)量突破100萬，同比增長80%；其月均投稿量同比增長66％達(dá)280萬。與數(shù)量增長相輔相成的，還有稿件類型的多樣化，例如在這段時間入駐并快速大火的“巫師財經(jīng)”“半佛仙人”、入駐但沒火的“宇宙維修隊亨哼”等UP主，都在印證著B站內(nèi)容創(chuàng)作在各個領(lǐng)域的破圈。

在進入2020年以來，受疫情隔離影響，B站用戶數(shù)再次大規(guī)模激增，同時受到實體經(jīng)濟不景氣影響，開始兼職UP主的專業(yè)人士也相應(yīng)增多。我根據(jù)av號（B站視頻唯一編碼）做了一個保守的大致估算，2018年12月，B站日審核視頻量大約為6萬個，而今年3月，達(dá)到了13萬個。

如此快的稿件增長，B站的審核系統(tǒng)很難快速響應(yīng)擴容，原有的審核資源再繼續(xù)啃翻倍的工作量，自然壓力很大。

同時還有一點，大量作品新增，原有的服務(wù)器資源也壓力倍增，視頻轉(zhuǎn)碼和壓制時間也相應(yīng)變長，這可以從視頻投稿后的轉(zhuǎn)碼時間看出。

2. 受疫情影響，B站審核力量難以全量支持

疫情隔離對于用戶來說，是空閑在家有時間創(chuàng)作更多的視頻，但對于平臺來說，意味著大量員工難以正常返崗。

2018年7月，B站在國家多部門約談并要求后整改后，投入運營了位于武漢的新審核中心，擴增一倍以上審核人力。

之后，B站大量的稿件審核都由武漢審核中心完成審核，此次受疫情影響，其他城市陸續(xù)返工，但武漢恢復(fù)正常工作秩序尚需時日。

上?？偛康膶徍肆α勘旧聿蛔?，而且內(nèi)容審核這個工作的離職率相當(dāng)高，年前離職的空缺，年后因為疫情，一時也不能快速補充新的人進來。

一面是入水口變粗，一面是出水口變窄，自然泡在審核池子里的稿件就越積越多。

3. 新規(guī)定帶來新的審核標(biāo)準(zhǔn)

去年12月，國家網(wǎng)信辦針對互聯(lián)網(wǎng)內(nèi)容亂象，出臺了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，明確了網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺的責(zé)任，從2020年3月起正式開始實行。

在剛剛開始正式施行的這一關(guān)頭，誰都不敢松懈，B站也相應(yīng)地調(diào)整了審核尺度的把關(guān)，同時，由于新規(guī)定需要更多的培訓(xùn)向基層審核人員普及，也需要時間適應(yīng)。

4.B站的內(nèi)容風(fēng)控審核機制

相較于其他平臺，B站的審核屬于比較慢的那一種。這當(dāng)然是由于國情使然，不過也反映出了平臺審核機制的效率問題。如何利用機器審核和人工相配合，如何權(quán)衡效率和成本，是B站亟需想明白的問題。

插一句，不存在思考“效率和標(biāo)準(zhǔn)松緊”的問題，內(nèi)容風(fēng)控不容半點馬虎，必須以最嚴(yán)苛標(biāo)準(zhǔn)為準(zhǔn)繩，一條違規(guī)信息，都可能導(dǎo)致整個平臺萬劫不復(fù)。

二、內(nèi)容風(fēng)控策略的核心要點是什么？

對于一款產(chǎn)品來說，其基本業(yè)務(wù)框架的抽象模型可以總結(jié)為“業(yè)務(wù)”、輔助業(yè)務(wù)的“增長”、保障業(yè)務(wù)的“風(fēng)控”和支撐以上三點的“數(shù)據(jù)”。

“業(yè)務(wù)”自然是產(chǎn)品最關(guān)鍵的地方，“增長”“風(fēng)控”和“數(shù)據(jù)”都是輔助業(yè)務(wù)良態(tài)運行。對B站的內(nèi)容業(yè)務(wù)來說，協(xié)調(diào)內(nèi)容生產(chǎn)者和內(nèi)容消費者，形成良好的內(nèi)容生態(tài)是關(guān)鍵的核心，輔以用戶增長（包括用戶增長和創(chuàng)作者增長兩個方面），并且對社區(qū)進行風(fēng)控。

通過業(yè)務(wù)的發(fā)展和增長、風(fēng)控的積累，形成用戶基礎(chǔ)數(shù)據(jù)、注冊信息、瀏覽行為、視覺偏好、用戶標(biāo)簽等數(shù)據(jù)，然后通過這些數(shù)據(jù)，再反向支撐業(yè)務(wù)發(fā)展，形成產(chǎn)品內(nèi)的數(shù)據(jù)打通。

本文所要著重分析的，就是風(fēng)控這一環(huán)節(jié)。 金融產(chǎn)品、信貸產(chǎn)品有風(fēng)控非常好理解，但其實，所有類型的產(chǎn)品都需要有風(fēng)控。電商產(chǎn)品要防薅羊毛，社交產(chǎn)品要防欺詐，而內(nèi)容產(chǎn)品，則是要對平臺內(nèi)容的質(zhì)量和合規(guī)性進行風(fēng)險控制。

對于內(nèi)容社區(qū)等UGC產(chǎn)品來說，風(fēng)控線就是生死線。內(nèi)容和社區(qū)產(chǎn)品的風(fēng)控壓力來源于監(jiān)管側(cè)，風(fēng)控對象是用戶在平臺發(fā)布的內(nèi)容。

1. 內(nèi)容風(fēng)控要“控”什么？

來自內(nèi)容側(cè)的風(fēng)險主要有三類。

政策層面的內(nèi)容合規(guī)，要符合監(jiān)管的要求。

監(jiān)管要求的內(nèi)容可參考最新實行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，對于各項違規(guī)內(nèi)容都做了詳細(xì)規(guī)定，大致概括可分為涉政、違禁、暴恐、色情等四類，這部分是政策紅線，一旦觸及，輕則約談，重則下架、封禁。

社區(qū)氛圍的良性導(dǎo)向，如謾罵、隱私等。

這一類型的內(nèi)容雖然不會觸及監(jiān)管紅線，但倘若內(nèi)容社區(qū)充斥各種負(fù)能量，對于社區(qū)氛圍是非常嚴(yán)重的損害，傷及用戶體驗，導(dǎo)致用戶流失，影響產(chǎn)品商業(yè)利益。

這一類型內(nèi)容風(fēng)控還包括對于產(chǎn)品運營主體的保護，例如對吐槽公司工作人員的內(nèi)容進行限流處理、對平臺和產(chǎn)品的詛咒進行刪除等，屬于商譽和公關(guān)層面的維護，同時也是對產(chǎn)品官方公信力的維護。

社區(qū)用戶安全的保證。

對于內(nèi)容和社區(qū)產(chǎn)品而言，平臺內(nèi)一定會存在導(dǎo)流、灰產(chǎn)、詐騙等不法手段，如何保護平臺內(nèi)用戶的財產(chǎn)安全和產(chǎn)品體驗，是非常關(guān)鍵的，互聯(lián)網(wǎng)發(fā)展至今，導(dǎo)流、詐騙等行為往往是成熟的灰黑產(chǎn)產(chǎn)業(yè)鏈所為，他們擁有豐富的反監(jiān)查和防過濾經(jīng)驗，揪出他們并進行處理，需要平臺與其斗智斗勇。

2. 內(nèi)容風(fēng)控的方法和手段

在最早期的階段，對內(nèi)容進行風(fēng)險控制，只能通過編輯人工進行審核。這種方式需要大量的人力物力，而且稿件審核需要時間長，時效性也被大大削弱。一般的公司，很難負(fù)擔(dān)起龐大的內(nèi)容審核團隊。

之后，誕生了關(guān)鍵詞過濾等手段，成為成本較低，并且使用最為廣泛的內(nèi)容風(fēng)控措施。對于命中預(yù)設(shè)的違禁關(guān)鍵詞的內(nèi)容，直接阻止發(fā)出或者轉(zhuǎn)交人工審核。這種方式性價比極高，耗費成本小，但基本可以過濾掉大多數(shù)的違規(guī)內(nèi)容。

關(guān)鍵詞過濾存在的問題也很明顯，準(zhǔn)確率較低，經(jīng)常出現(xiàn)誤傷和漏網(wǎng)的情況，對于內(nèi)容和社區(qū)平臺來說，這是不能容忍的，前文已經(jīng)講過，哪怕一篇違規(guī)內(nèi)容被放出來，產(chǎn)品都有可能被封禁。

再加上網(wǎng)絡(luò)的普及，越來越多的人學(xué)會了通過拼音、亂碼、諧音等方式繞開關(guān)鍵詞，關(guān)鍵詞過濾逐漸不再能勝任內(nèi)容風(fēng)控的工作任務(wù)。

以上基本還屬于規(guī)則的范疇，之后內(nèi)容風(fēng)控的發(fā)展，就進入了AI+策略的時代。

AI方面，其實叫機器學(xué)習(xí)更加準(zhǔn)確，這是一套組合拳。舉個例子，對于一個視頻稿件的審核，就需要對整個視頻進行逐一拆幀，然后通過OCR文字識別檢查字幕，此時對于字幕的檢查和文字內(nèi)容的檢查基本一致，文字識別涉及到NLP分詞、語義理解等AI技術(shù)；

對于畫面，則是圖片識別，識別圖片中可能出現(xiàn)的違禁內(nèi)容，這里涉及到一個準(zhǔn)確率的問題，暴恐視頻不能夠通過，但游戲視頻也存在戰(zhàn)斗畫面，如何保證不誤傷；對于音頻，則需要兩個方面的審查，一方面是視頻當(dāng)中的語句，將語音轉(zhuǎn)文本，再通過文字的審核策略來審核，另一方面是音調(diào)識別，例如識別音頻當(dāng)中的嬌喘等無語句的聲音。

機器學(xué)習(xí)還是就稿件論稿件，而一個優(yōu)秀的內(nèi)容風(fēng)控平臺，是需要配合策略的。策略產(chǎn)品經(jīng)理是近幾年一個特別火的崗位，提供更精細(xì)化的、動態(tài)的、效率的產(chǎn)品解決方案。對于策略來說，內(nèi)容的風(fēng)控不能只在單個內(nèi)容上，還需要結(jié)合更高的維度，給與更加精細(xì)化的識別判斷。

策略要從單個內(nèi)容出發(fā)，延伸到發(fā)布該內(nèi)容的用戶基礎(chǔ)信息、關(guān)系鏈、過往內(nèi)容、實名可信度等等諸多維度進行調(diào)參和計算，以判斷這名用戶的這條內(nèi)容是否需要更細(xì)致的識別。

這里要特別強調(diào)一點，即使平臺的機器算法再先進，所有的內(nèi)容還都需要過人審核。所有內(nèi)容過人，所有內(nèi)容過人，所有內(nèi)容過人，重要的事情說三遍，至于原因，還是上面那一條，內(nèi)容和社區(qū)平臺不容有半點閃失。

不過機器平臺越先進，能夠為人工審核提供的輔助也就越全面準(zhǔn)確，人工審核的效率自然也就變高，審核人員的壓力也相應(yīng)減弱。

另外，對于內(nèi)容風(fēng)控，又會有前置風(fēng)控（先審后發(fā)）和后置風(fēng)控（先發(fā)后審）等不同的方式，關(guān)于這一點，以后有機會再詳細(xì)分析優(yōu)劣和適用場景。

對于B站來說，隨著內(nèi)容量越來越大，單純的對審核人工進行擴容，恐難以解決問題。相比抖音、今日頭條、西瓜視頻等頭條系產(chǎn)品、背靠百度AI的愛奇藝、騰訊視頻、阿里大文娛旗下的優(yōu)酷視頻，B站崛起晚、資源少、技術(shù)儲備弱，在機器輔助審核上還比較弱勢，今后加強內(nèi)容風(fēng)控技術(shù)，優(yōu)化內(nèi)容審核策略，改善審核后臺的體驗，不失為一個好方法，畢竟工欲善其事，必先利其器。

作者：亨哼，一個正經(jīng)的互聯(lián)網(wǎng)產(chǎn)品人，微信公眾號：亨哼陣地（ID：hengpaper）

本文由 @亨哼 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可，禁止轉(zhuǎn)載

題圖來自pexels，基于CC0協(xié)議