對(duì)于一個(gè)成熟產(chǎn)品，我們?cè)诰W(wǎng)上創(chuàng)建的任何UGC信息都會(huì)被審核，只是審核的方式各不相同，對(duì)審核速度的感知也不一樣。本文對(duì)“降低審核延時(shí)”方面的內(nèi)容進(jìn)行了分析，一起來看一下吧。

18 年畢業(yè)，從畢業(yè)至今一直從事產(chǎn)品工作，工作的一部分一直和風(fēng)控相關(guān)，只是不全是風(fēng)控，以及不同時(shí)間段工作重點(diǎn)不同，做過包括直播風(fēng)控、登錄注冊(cè)風(fēng)控、審核體系搭建、生態(tài)治理、內(nèi)容治理、內(nèi)容安全、反作弊、風(fēng)控中臺(tái)等工作。

想結(jié)合著自己做過的、用過的、見過的、搜集資料研究過的總結(jié)成經(jīng)驗(yàn)，在不泄露公司機(jī)密的前提下，盡量詳細(xì)的寫成系列文章。不只是復(fù)盤概念和框架，可能會(huì)是些具體的策略和直接可用的經(jīng)驗(yàn)。

一方面作為自己總結(jié)經(jīng)驗(yàn)，以后更熟悉的運(yùn)用。另一方面可以為行業(yè)做一些貢獻(xiàn)，畢竟，風(fēng)控行業(yè)容易涉及公司機(jī)密、邏輯太隱藏，比較難能從公開資料學(xué)習(xí)到直接可用的經(jīng)驗(yàn)。

打算先圍繞曾經(jīng)的 OKR 展開，即我做過的事項(xiàng)展開來寫，先以各個(gè)小點(diǎn)切入，然后再放入整個(gè)風(fēng)控框架中去，最終會(huì)形成下圖的框架（未完全按風(fēng)控架構(gòu)的邏輯梳理）。

今天先聊一個(gè)問題，降低審核延時(shí)。

一、審核

非相關(guān)專業(yè)的人不一定很清楚，對(duì)于一個(gè)成熟產(chǎn)品，我們?cè)诰W(wǎng)上創(chuàng)建的任何 UGC 信息都會(huì)被審核，包括頭像昵稱、簽名，微信發(fā)布音頻/視頻/文件/圖片/文本，微博、小紅書發(fā)布動(dòng)態(tài)，B 站發(fā)布視頻等都無一例外。

只是由于機(jī)審/人審、先發(fā)后審/先審后發(fā)、隱性處罰/降低分發(fā)等導(dǎo)致我們不知道自己被審核了。

二、目標(biāo)：審核速度滿意度

我們團(tuán)隊(duì)有一個(gè)體驗(yàn)型的指標(biāo)，審核速度滿意度，即用戶對(duì)所發(fā)布內(nèi)容被審核時(shí)間長(zhǎng)短的滿意度，這個(gè)指標(biāo)會(huì)影響生產(chǎn)者生產(chǎn)體驗(yàn)，進(jìn)而影響他們留存。

一些人拿到這個(gè)指標(biāo)可能就開始著手思考怎么降低審核延時(shí)了，但這是一個(gè)主觀性的指標(biāo)，最主要的是讓用戶感覺很快，而不只是在絕對(duì)值上做到真的很快。

三、用戶不感覺到慢（感官）

我們產(chǎn)品原來在用戶發(fā)布的內(nèi)容上有一個(gè)狀態(tài)，用戶能看到自己的內(nèi)容處于「審核中」，所以會(huì)覺得慢。權(quán)衡利弊后，將審核狀態(tài)去掉，讓用戶對(duì)審核無感知。

注：不一定所有都適合去掉，得根據(jù)自己業(yè)務(wù)決定，例如我前司，是設(shè)計(jì)師上傳自己的作品，然后被審核，這個(gè)就不適合去掉審核狀態(tài)。

四、縮短審核延時(shí)（絕對(duì)值）

在去掉審核狀態(tài)后，開始縮短審核延時(shí)絕對(duì)值，但也并不一定是需要針對(duì)所有用戶統(tǒng)一縮短。

1. 降低部分用戶延時(shí)

可以優(yōu)先降低有被快速被審核需求的人的延時(shí)。

我們產(chǎn)品雖然不直接展示審核狀態(tài)，但未經(jīng)審核的內(nèi)容依然不支持分享，用戶在分享時(shí)依然會(huì)提示，當(dāng)前作品正在審核中。所以可知，無分享需求的人對(duì)審核是無感知的，需要分享的人才知道審核的存在。

注：此為考慮安全原因，若未經(jīng)審核的內(nèi)容被分享出去，依然可能出現(xiàn)安全問題。

例如某紅書就存在這個(gè)風(fēng)險(xiǎn)點(diǎn)，不管發(fā)布的任何東西，發(fā)布成功即可立即分享（未過機(jī)審，且和賬號(hào)無關(guān)，我用新注冊(cè)的賬號(hào)發(fā)布確定違規(guī)的文本+違規(guī)圖片測(cè)試過），可查看小圖、部分文本，此時(shí)存在風(fēng)險(xiǎn)的內(nèi)容已經(jīng)被傳播出去（讀者朋友可以自行測(cè)試，但溫馨提示，紅線類內(nèi)容不可隨意亂試）。

但不知道他們是否是為了便于用戶分享，是在考慮了風(fēng)險(xiǎn)和收益后，接受這種低概率風(fēng)險(xiǎn)存在的。下圖內(nèi)容還處于審核中，但可分享至微信，依然可看到部分文字和圖片。

所以，我們可以針對(duì)不同渠道來源、不同等級(jí)、不同信用分、不同標(biāo)簽等調(diào)整審核優(yōu)先級(jí)。

例如，有分享需求的用戶，高優(yōu)先級(jí)審核（具體判斷有分享需求的用戶，可根據(jù)自己產(chǎn)品來判斷，這涉及具體邏輯，不適合展開寫了）。

例如，無延時(shí)需求的內(nèi)容，低優(yōu)先級(jí)審核，如運(yùn)營賬號(hào)發(fā)布的內(nèi)容（即使是公司內(nèi)部員工，不同人對(duì)風(fēng)險(xiǎn)的把控、專業(yè)度也是不一樣的，即使是運(yùn)營人員發(fā)布，也有可能會(huì)觸及風(fēng)險(xiǎn)點(diǎn)，也需要被審核）。

2. 降低全體用戶延時(shí)

對(duì)于我們，延時(shí)長(zhǎng)和短，只是相差了大約 10min。對(duì)平臺(tái)分發(fā)幾乎無影響，對(duì)用戶消費(fèi)幾乎無影響，對(duì)審核無感知的用戶也無影響。所以解決其他全體用戶的延時(shí)已經(jīng)相對(duì)沒那么重要了，這里可簡(jiǎn)單提下我們用過的一些策略，對(duì)于其他產(chǎn)品可能有幫助。

1）基于數(shù)據(jù)分析發(fā)現(xiàn)當(dāng)前延時(shí)的主要原因

——例如出現(xiàn)生產(chǎn)波峰，導(dǎo)致審核出現(xiàn)積壓，則可調(diào)整人力安排。

——例如審核人員在審核列表上看了上百條后，才操作一次通過，導(dǎo)致大量?jī)?nèi)容已經(jīng)被審核人員判斷為通過，只是還未在界面上操作，導(dǎo)致內(nèi)容一直處于審核中，則結(jié)合審核效率和審核延時(shí)綜合考慮，將頁面展示內(nèi)容縮小到一定值。

——例如細(xì)化機(jī)審策略、優(yōu)化機(jī)審的算法模型，提升召回率、準(zhǔn)確率，進(jìn)而提升機(jī)審直接處理率，減少推到人審量級(jí)。

——例如待審列表中還包含用戶已刪除內(nèi)容，則將已刪除內(nèi)容從待審列表中踢出（用戶發(fā)布成功立馬刪除，所以也不必要再審核）。

2）設(shè)置兜底策略

當(dāng)延時(shí)≥一定值之后，則由先審后發(fā)流程，變?yōu)闄C(jī)審風(fēng)險(xiǎn)較小但又推到人審的改為先發(fā)后審流程。避免一些系統(tǒng)或人為原因，影響線上用戶。

注：這需先評(píng)估對(duì)于你們平臺(tái)先發(fā)后審的風(fēng)險(xiǎn)是否可接受。

3）設(shè)置對(duì)相關(guān)指標(biāo)的監(jiān)控

當(dāng)延時(shí)≥一定值的待審量也≥一定值之后，可預(yù)警，郵件/短信或其他方式通知到審核管理，排查是否哪里出了問題。

五、對(duì)滿意度提升效果

上面的這些策略大致從前到后，帶來的滿意度提升效果也是從強(qiáng)到弱。

還有很多細(xì)節(jié)、策略，以及如何思考的想詳細(xì)寫，但容易違反公司機(jī)密，還是不展開寫了。

最后，大家有啥關(guān)心的話題可在評(píng)論中提出，對(duì)于我知道的，且不泄露公司機(jī)密的前提下，盡量托盤而出。