不同行業(yè)的風(fēng)控系統(tǒng)可能會需要結(jié)合各自的業(yè)務(wù)特征進(jìn)行調(diào)整，這篇文章里，作者就針對游戲行業(yè)的風(fēng)控系統(tǒng)建設(shè)進(jìn)行了闡述，并對游戲行業(yè)的風(fēng)險(xiǎn)及風(fēng)險(xiǎn)特征等內(nèi)容做了總結(jié)，一起來看看吧。

之前，我曾經(jīng)撰寫了一篇名為《淺談風(fēng)控系統(tǒng)的建設(shè)》的文章，其中介紹了風(fēng)控系統(tǒng)的核心模塊。然而，不同行業(yè)的風(fēng)控系統(tǒng)在具體內(nèi)容上會結(jié)合各自行業(yè)的特征進(jìn)行調(diào)整。作為游戲行業(yè)的中臺產(chǎn)品，我將結(jié)合游戲行業(yè)的特點(diǎn)，詳細(xì)探討在游戲行業(yè)中的風(fēng)險(xiǎn)以及相關(guān)的系統(tǒng)建設(shè)。

一、游戲行業(yè)的風(fēng)險(xiǎn)

在游戲行業(yè)中，業(yè)務(wù)領(lǐng)域不僅僅局限于游戲本身，還包括一系列衍生的外部功能，例如官網(wǎng)、官方活動(dòng)、客服系統(tǒng)、用戶中心、官方商城和官方社區(qū)等。游戲本身以及外部功能這些地方所帶來的風(fēng)險(xiǎn)可以分為：內(nèi)容風(fēng)險(xiǎn)、行為風(fēng)險(xiǎn)、賬號風(fēng)險(xiǎn)等。

1. 內(nèi)容風(fēng)險(xiǎn)

游戲行業(yè)中的內(nèi)容風(fēng)險(xiǎn)指的是來自各方（如用戶、黑產(chǎn)、競品、內(nèi)部）發(fā)表的對游戲具有危害性的內(nèi)容，其中包括違反法律規(guī)定的內(nèi)容、涉及黑灰產(chǎn)業(yè)的內(nèi)容、不良競爭廣告以及影響用戶體驗(yàn)的內(nèi)容，這些內(nèi)容對業(yè)務(wù)效果產(chǎn)生負(fù)面影響。

如果按內(nèi)容類型分類，可分為文本、語音、圖片、視頻等內(nèi)容類型。

1）文本

文本風(fēng)險(xiǎn)內(nèi)容通常出現(xiàn)在游戲內(nèi)，如聊天頻道內(nèi)容、玩家名稱、玩家簽名、公會等。

如圖所示，游戲內(nèi)的聊天頻道的辱罵內(nèi)容屬于“用戶體驗(yàn)影響”類風(fēng)險(xiǎn)內(nèi)容。

圖片來源于百度搜索

如圖所示，游戲內(nèi)的聊天頻道的廣告內(nèi)容屬于黑灰產(chǎn)業(yè)”類的廣告內(nèi)容。

圖片來源于百度搜索

同時(shí)，風(fēng)險(xiǎn)也會出現(xiàn)在游戲外的社區(qū)帖子、官網(wǎng)的文章投稿、官方商城的商品信息等位置。

2）語音

語音風(fēng)險(xiǎn)內(nèi)容主要存在于游戲內(nèi)的頻道語音消息和語音實(shí)時(shí)通話中。特別是在競技類游戲中，玩家需要進(jìn)行實(shí)時(shí)溝通和交流。例如像《王者榮耀》這樣的MOBA游戲和《Apex Legends》這樣的射擊游戲，有效的溝通往往可以提高游戲的勝率。

圖片來源于百度搜索

然而，在語音頻道中也可能出現(xiàn)一些違法違規(guī)的內(nèi)容，例如討論違法行為的“法律禁止類”內(nèi)容，以及玩家之間互相辱罵的“用戶體驗(yàn)影響”類風(fēng)險(xiǎn)內(nèi)容。

3）圖片

在游戲行業(yè)中，圖片風(fēng)險(xiǎn)內(nèi)容通常出現(xiàn)在玩家頭像、公會頭像、聊天頻道等游戲內(nèi)場景，或者在玩家社區(qū)、官方投稿活動(dòng)等游戲外場景中。如下圖所示，游戲中很容易出現(xiàn)低俗的頭像圖片，這些圖片屬于違反法律規(guī)定的禁止類違規(guī)內(nèi)容。

圖片來源于百度搜索

4）視頻

視頻風(fēng)險(xiǎn)內(nèi)容一般出現(xiàn)在社區(qū)的官方投稿活動(dòng)中。這類內(nèi)容比較少見，因?yàn)橐曨l內(nèi)容有較大的審核成本。

此外，游戲行業(yè)內(nèi)的內(nèi)容風(fēng)險(xiǎn)可以按照內(nèi)容時(shí)效要求進(jìn)行分類，主要分為以下兩類：

① 實(shí)時(shí)內(nèi)容：某些內(nèi)容如果不能在玩家發(fā)表后實(shí)時(shí)公布，將對玩家的游戲體驗(yàn)產(chǎn)生較大的負(fù)面影響。例如，在游戲內(nèi)的聊天頻道和語音通話中，玩家發(fā)表的內(nèi)容通常需要與其他玩家進(jìn)行互動(dòng)。如果這類內(nèi)容不能實(shí)時(shí)傳達(dá)，將對玩家的互動(dòng)體驗(yàn)造成災(zāi)難性的影響。

此外，對于存在合作策略玩法（如副本和團(tuán)戰(zhàn)）的游戲而言，如果玩家無法實(shí)時(shí)溝通，游戲的核心內(nèi)容體驗(yàn)將無從談起，甚至可能導(dǎo)致玩家直接流失。

圖片來源于百度搜索，F(xiàn)F14的團(tuán)本玩法

② 延遲內(nèi)容：延遲內(nèi)容則對實(shí)時(shí)性要求較低，主要用于展示性質(zhì)的內(nèi)容。例如，在游戲內(nèi)的社區(qū)帖子、玩家自定義的角色名稱/頭像、公會定義的名稱/頭像等方面，這些內(nèi)容的延遲發(fā)布并不會對玩家的核心體驗(yàn)產(chǎn)生影響。

2. 行為風(fēng)險(xiǎn)

游戲行業(yè)中的行為風(fēng)險(xiǎn)指的是來自各方（如用戶、黑產(chǎn)、競品、內(nèi)部）對產(chǎn)品采取的具有潛在風(fēng)險(xiǎn)的行為，其中包括黑灰產(chǎn)業(yè)、腳本外掛、競爭對手的競爭行為、內(nèi)部風(fēng)險(xiǎn)以及對業(yè)務(wù)產(chǎn)生影響等方面。

如果按來源分類，可分為：

1）玩家行為風(fēng)險(xiǎn)

玩家行為風(fēng)險(xiǎn)指玩家產(chǎn)生的對游戲本身產(chǎn)生影響風(fēng)險(xiǎn)，包括但不限于：

① 腳本

玩家利用腳本進(jìn)行機(jī)器操作，代替人工進(jìn)行游戲，這種行為通常在“數(shù)值養(yǎng)成游戲”和“競技類游戲”中出現(xiàn)。

數(shù)值養(yǎng)成游戲的腳本：

在“數(shù)值養(yǎng)成游戲”中，玩家通過參與游戲內(nèi)的活動(dòng)/任務(wù)/玩法來獲取資源。游戲廠商通過這個(gè)過程來引導(dǎo)用戶留存和付費(fèi)。然而，由于游戲內(nèi)容設(shè)計(jì)成本的考慮，玩家往往需要重復(fù)參與相同的活動(dòng)/任務(wù)/玩法，以最大化游戲內(nèi)容的收益。

然而，這種重復(fù)性的活動(dòng)/任務(wù)/玩法使得玩家可以利用腳本自動(dòng)參與，從而導(dǎo)致游戲內(nèi)出現(xiàn)了不公平的競爭環(huán)境。不使用腳本的玩家處于劣勢，嚴(yán)重影響了他們的游戲體驗(yàn)。

特別是在資源有限的游戲中，比如某件稀有裝備只有一件，限時(shí)以極低概率投放，那些使用腳本進(jìn)行24小時(shí)打怪的玩家獲取該裝備的概率非常高，而正常玩家根本無法與之競爭，這嚴(yán)重影響了正常玩家的游戲體驗(yàn)。

圖片來源于百度，某MMO的自動(dòng)打怪腳本

此外，腳本的濫用也會加速游戲內(nèi)容的消耗，縮短游戲的生命周期，導(dǎo)致用戶流失。例如，游戲在某個(gè)版本中提供了一個(gè)供玩家游玩一個(gè)月的內(nèi)容，然后在一個(gè)月內(nèi)推出下一個(gè)版本以繼續(xù)吸引玩家。然而，由于腳本的泛濫，原本一個(gè)月的內(nèi)容被腳本玩家在一周內(nèi)消耗完，剩下的三周變成了“長草期”，導(dǎo)致玩家自然流失嚴(yán)重。

競技類游戲的腳本：

競技類游戲旨在讓玩家在人類反應(yīng)速度的極限范圍內(nèi)展開技術(shù)比拼，而人類的反應(yīng)速度極限約為100毫秒。為了磨練自身技術(shù)，玩家需要進(jìn)行大量的練習(xí)。然而，如果使用腳本，玩家可以毫不費(fèi)力地達(dá)到反應(yīng)速度的極限，而無需任何實(shí)際練習(xí)。

在過去的射擊游戲中，玩家需要通過練習(xí)來掌握索敵、定位和射擊等技巧。然而，如今一旦使用腳本，機(jī)器可以實(shí)時(shí)進(jìn)行圖像識別，立即鎖定目標(biāo)，腳本還能控制鼠標(biāo)瞄準(zhǔn)并開火，玩家無需親自操作即可完成精準(zhǔn)擊殺。

圖片選自CSDN作者前端仙人一文《AI算法實(shí)現(xiàn)CSGO自動(dòng)鎖頭輔助腳本》

對于那些經(jīng)過長時(shí)間練習(xí)的玩家來說，面對使用腳本的對手，他們會感到極度挫敗，進(jìn)而選擇流失。

② 外掛

玩家利用外掛進(jìn)行非法操作，以作弊手段獲取游戲內(nèi)的優(yōu)勢。相比于腳本，外掛是通過使用封包和抓包工具來提交偽造參數(shù)，從而改變游戲中玩家的能力。腳本玩家可能僅僅在人類反應(yīng)速度極限的范圍內(nèi)進(jìn)行游戲，而外掛玩家則直接獲得了巨大的優(yōu)勢。在腳本玩家還在鎖定目標(biāo)之前，外掛玩家已經(jīng)修改了自己的血量為無敵，并使用了游戲中不存在的武器。

圖片來源于百度搜索，CF的外掛玩家直接飛上了天

外掛對游戲廠商的代碼具有攻擊性，其帶來的公平性損害更加嚴(yán)重，是一種需要大力打擊的違規(guī)行為。

③ 卡BUG

卡BUG，即利用游戲漏洞進(jìn)行獲益，最常見的有卡BUG類型有“利用BUG刷資源”和“利用BUG不公平競爭”。

利用BUG刷資源：

由于游戲廠商在設(shè)計(jì)過程中存在一些失誤，可能會導(dǎo)致一些BUG的存在，從而使玩家非法獲取游戲道具或貨幣。一些玩家會故意利用這些BUG來大量獲取高價(jià)值的道具，這會導(dǎo)致游戲的生態(tài)系統(tǒng)崩潰，并給游戲廠商帶來嚴(yán)重的損失。然而，解決這些問題需要考慮到一些對用戶體驗(yàn)影響巨大的方案，如回檔或扣除道具，這可能會導(dǎo)致大量用戶流失。

圖片來源于百度搜索

利用BUG不公平競爭：

在游戲中存在一些BUG，這些BUG可能讓玩家在競爭中獲得不公平的優(yōu)勢。例如，在射擊游戲中，玩家可以利用地圖模型的漏洞，使自己的角色進(jìn)入地圖之外的區(qū)域（里世界），從而對其他玩家造成不利影響。

圖片來源于百度搜索

④ 超承載量行為

這類風(fēng)險(xiǎn)涉及游戲本身的服務(wù)承載能力的問題，是廠商自身導(dǎo)致的，不屬于玩家故意為之的風(fēng)險(xiǎn)。

當(dāng)玩家訪問量超過原本的承載能力時(shí)，游戲功能可能受到影響，出現(xiàn)卡頓、掉線、登錄失敗等問題，對玩家的游戲體驗(yàn)造成嚴(yán)重影響。

圖片來源于百度搜索，為山海鏡花的開服炸服公告

2）黑產(chǎn)行為風(fēng)險(xiǎn)

黑產(chǎn)行為風(fēng)險(xiǎn)，即黑產(chǎn)通過腳本、外掛等手段批量從游戲中謀取利益的行為，這些行為包括但不限于：

① 腳本刷注冊

黑產(chǎn)利用腳本和外掛工具大規(guī)模獲取游戲賬號，這些賬號可以被用于進(jìn)行其他非法活動(dòng)（發(fā)廣告或下文提到的行為風(fēng)險(xiǎn)），或者被出售給下游的黑產(chǎn)工作室。

這種行為不僅會干擾游戲的正常開服進(jìn)程，還會對數(shù)據(jù)分析工作造成影響。一個(gè)游戲服務(wù)器的真實(shí)玩家數(shù)量通常由游戲內(nèi)資源的投放和競爭強(qiáng)度所決定，而不同類型的游戲?qū)τ谧罴逊?wù)器玩家數(shù)量的要求也不盡相同。如果黑產(chǎn)的刷量行為影響了服務(wù)器內(nèi)真實(shí)玩家的數(shù)量，這將直接影響游戲廠商的收益。

② 刷初始號

黑產(chǎn)利用腳本編寫，使得機(jī)器能夠自動(dòng)完成游戲中的新手教程和簡單的玩法/任務(wù)。

有些游戲會在前期能獲得價(jià)值較高的角色/裝備，比如有抽卡功能的游戲。黑產(chǎn)通過利用腳本和外掛工具，注冊大量游戲角色，并使這些角色完成游戲內(nèi)的任務(wù)，提升至一定等級，從而能夠進(jìn)行多次抽獎(jiǎng)。通過反復(fù)刷取大量賬號，黑產(chǎn)有可能獲得具有較高價(jià)值的初始賬號。這些賬號可以在賬號交易平臺上以高價(jià)出售，而黑產(chǎn)的成本僅包括設(shè)備、電費(fèi)、人工和個(gè)人信息等，帶來的利潤可謂是“暴利”。

圖片來源于百度搜索

③ 刷活動(dòng)獎(jiǎng)勵(lì)

在某些情況下，游戲內(nèi)的活動(dòng)會設(shè)置豐厚的獎(jiǎng)勵(lì)，可能是稀有的道具，也可能是實(shí)體獎(jiǎng)勵(lì)。黑產(chǎn)通過使用腳本行為來與正常玩家競爭這些獎(jiǎng)勵(lì)，隨后將這些獎(jiǎng)勵(lì)變現(xiàn)。此外，如果游戲內(nèi)存在漏洞或BUG，黑產(chǎn)也會利用這些漏洞進(jìn)行大規(guī)模地牟利。

④ 代練代肝

前文提到，有些玩家會用腳本代替自己在游戲內(nèi)“打工”或“搬磚”。而一些黑產(chǎn)從業(yè)者也會提供代練和代肝等服務(wù)，進(jìn)一步加速了游戲生命周期的過早透支。

圖片來源于百度搜索

⑤ 代充值

一些黑產(chǎn)組織提供代充值服務(wù)，以幫助玩家以低價(jià)充值獲取高價(jià)值的游戲禮包，例如以100塊錢充值獲得價(jià)值648元的禮包。這些黑產(chǎn)組織通過利用平臺的退款機(jī)制、禮品卡、匯率差異和代金券等方式來實(shí)現(xiàn)盈利。

利用退款機(jī)制的代充值行為會導(dǎo)致廠商未真正收到資金，但卻提供了等額的游戲服務(wù)，從而導(dǎo)致游戲廠商遭受損失。而利用禮品卡和代金券的代充可能涉及黑產(chǎn)通過腳本刷量或非法渠道獲取的非法卡密，進(jìn)而導(dǎo)致玩家的賬號受到平臺懲罰的風(fēng)險(xiǎn)。

總體而言，代充值方案降低了游戲廠商的收益，同時(shí)由于存在各種黑色風(fēng)險(xiǎn)，對玩家自身也造成了損失和影響。

圖片來源于百度搜索

⑥ 惡意攻擊

黑產(chǎn)有時(shí)會直接對游戲本身進(jìn)行攻擊，從而對游戲的運(yùn)營造成嚴(yán)重影響，并以此威脅企業(yè)支付贖金才停止攻擊。舉個(gè)例子，曾經(jīng)有一款名為《濡沫江湖》的游戲，在上線初期遭受黑客的DDoS攻擊，導(dǎo)致公司的服務(wù)器癱瘓。黑客通過郵件直接向游戲廠商勒索，迫使廠商不得不購買第三方防護(hù)技術(shù)，花費(fèi)了整整一年90萬的費(fèi)用才成功抵御住這次攻擊。

圖片來源于百度搜索

⑦ 針對性拉人

一些黑產(chǎn)組織會定位并接觸核心玩家，向他們發(fā)送針對性的內(nèi)容，以吸引這些玩家流失到他們的游戲中。盡管這種行為屬于內(nèi)容風(fēng)險(xiǎn)的范疇，但有些內(nèi)容很難被準(zhǔn)確識別。例如，為了贏得核心玩家的好感，黑產(chǎn)會采取長期策略，開始時(shí)聊一些無關(guān)緊要的話題，逐漸建立關(guān)系，然后再提及其他游戲，例如：“這個(gè)游戲不好玩，來玩XXX吧”。在這種情況下，依靠內(nèi)容風(fēng)險(xiǎn)的攔截可能已經(jīng)為時(shí)已晚。

因此，針對這類風(fēng)險(xiǎn)，更應(yīng)從行為風(fēng)險(xiǎn)的角度進(jìn)行防控，識別那些頻繁與核心玩家聯(lián)系的黑產(chǎn)賬號。

3）競品行為風(fēng)險(xiǎn)

競品行為風(fēng)險(xiǎn)是指游戲行業(yè)中友商進(jìn)行的非正當(dāng)競爭行為。其中最常見的一種是爬蟲抓取數(shù)據(jù)等行為。友商利用腳本技術(shù)獲取廠商的游戲區(qū)服、用戶信息和社區(qū)內(nèi)容，這些行為構(gòu)成了不正當(dāng)競爭，給廠商帶來了損失。

4）內(nèi)部行為風(fēng)險(xiǎn)

內(nèi)部行為風(fēng)險(xiǎn)是指游戲行業(yè)中內(nèi)部成員所產(chǎn)生的風(fēng)險(xiǎn)，例如借用內(nèi)部賬號、販賣內(nèi)部賬號以及向正常玩家出售游戲資源等行為，這些行為給廠商帶來了損失。

3. 賬號風(fēng)險(xiǎn)

賬號風(fēng)險(xiǎn)涉及游戲行業(yè)中用戶賬號安全的相關(guān)問題，主要源自黑產(chǎn)對用戶賬號以及用戶之間的攻擊。當(dāng)用戶的賬號信息、密碼等被泄露或竊取時(shí)，可能導(dǎo)致賬號被他人盜取，進(jìn)而對原賬號主的利益造成損害。舉例來說，盜號者可能利用原賬號主的賬號發(fā)布違規(guī)內(nèi)容，進(jìn)行違法犯罪行為，或者直接出售盜取的賬號。

二、游戲行業(yè)風(fēng)險(xiǎn)特征

根據(jù)之前文章《淺談風(fēng)控系統(tǒng)的建設(shè)》的總結(jié)，業(yè)務(wù)風(fēng)險(xiǎn)都統(tǒng)一有以下特征：

1. 無窮無盡：風(fēng)險(xiǎn)無法根除，利益驅(qū)動(dòng)下黑產(chǎn)層出不窮。
2. 高強(qiáng)對抗：風(fēng)險(xiǎn)防控是一場持續(xù)不斷的技術(shù)對抗，雙方技術(shù)能力螺旋上升。
3. 高本低效：風(fēng)控的成本高，但性價(jià)比低，并不能直接帶來收益。
4. 人力兜底：在當(dāng)前階段，基于AI防控規(guī)則的召回率與準(zhǔn)確率很難達(dá)到平衡，因此仍然需要一定程度的人力兜底。

而游戲行業(yè)的風(fēng)險(xiǎn)在這些特點(diǎn)的基礎(chǔ)上，還具有以下特征：

1）實(shí)時(shí)性要求高

游戲行業(yè)相關(guān)的風(fēng)險(xiǎn)防控都大多對實(shí)時(shí)性要求較高。

游戲內(nèi)的實(shí)時(shí)內(nèi)容，如文字和語音聊天，占據(jù)了很大比例。為了確保良好的玩家體驗(yàn)，這些內(nèi)容需要能夠及時(shí)發(fā)表，以避免對玩家造成不良影響。此外，行為風(fēng)險(xiǎn)的防控也是游戲行業(yè)中一項(xiàng)對實(shí)時(shí)性要求較高的任務(wù)。如果無法及時(shí)阻止玩家或黑產(chǎn)的違規(guī)行為，將會對游戲產(chǎn)生較大的負(fù)面影響。

2）風(fēng)險(xiǎn)對抗強(qiáng)度極高

在游戲行業(yè)中，存在著多種獲利途徑，如刷賬號、刷廣告、代充和賣外掛等。這些獲利機(jī)會吸引了黑產(chǎn)，使其在游戲行業(yè)中獲得了較大的空間。黑產(chǎn)不斷升級其技術(shù)，挑戰(zhàn)游戲廠商的反黑產(chǎn)能力。由于黑產(chǎn)具有專業(yè)化、職業(yè)化和利益鏈復(fù)雜的特點(diǎn)，游戲廠商往往難以全面防控這些黑產(chǎn)風(fēng)險(xiǎn)。

例如，外掛作為游戲中一種無法徹底禁止的現(xiàn)象，幾乎伴隨著每款游戲的出現(xiàn)。為了應(yīng)對外掛問題，有的游戲廠商不僅需要提升自身的風(fēng)控技術(shù)，還需要借助法律手段。以《永劫無間》二周年發(fā)布會為例，該游戲曾公開展示了與外掛制作團(tuán)隊(duì)斗智斗勇的成果，成功端掉了上百個(gè)外掛制作窩點(diǎn)，并抓獲了超過40名犯罪嫌疑人。

圖片來源于百度搜索

3）標(biāo)準(zhǔn)化難度高

在游戲行業(yè)中，建立一套標(biāo)準(zhǔn)化的風(fēng)險(xiǎn)防控體系并不容易，與其他行業(yè)相比，游戲行業(yè)面臨著以下挑戰(zhàn)：

① 游戲類型的多樣性：游戲可以被劃分為多個(gè)類型，如RPG、ACT、AVG、AAG、SLG、SRPG、RTS、FTG等，而且這些類型可以相互組合形成新的類別。隨著游戲行業(yè)的發(fā)展，還會不斷涌現(xiàn)新的類型。不同類型的游戲強(qiáng)調(diào)的方面也不同，例如一些強(qiáng)調(diào)團(tuán)隊(duì)協(xié)作的游戲（如MOBA和FPS）需要提供實(shí)時(shí)的語音和文字聊天功能，這要求風(fēng)險(xiǎn)防控系統(tǒng)能夠?qū)崟r(shí)應(yīng)對風(fēng)險(xiǎn)。

而一些強(qiáng)調(diào)社交的游戲（如RPG）則需要對自定義裝扮進(jìn)行審查，以避免出現(xiàn)風(fēng)險(xiǎn)內(nèi)容。例如，《動(dòng)物森友會》這款游戲具有高度的自定義能力，但這也使得一些團(tuán)體可以自由發(fā)布涉及政治和黃色內(nèi)容等違規(guī)內(nèi)容。在國內(nèi)運(yùn)營的情況下，這將對游戲的運(yùn)營產(chǎn)生影響。

② 游戲功能的差異性：即使是同一類型的游戲，具體的功能也會有所不同。例如，一些RPG可能強(qiáng)調(diào)開放世界探索玩法，而另一些RPG則可能強(qiáng)調(diào)關(guān)卡副本式戰(zhàn)斗。對于不同玩法的游戲，黑產(chǎn)的行為規(guī)則也會有所差異，因此我們的黑產(chǎn)識別特征規(guī)則需要進(jìn)行定制化設(shè)計(jì)。

③ 游戲內(nèi)容的差異性：不同游戲之間存在著內(nèi)容上的差異。有些游戲是軍事戰(zhàn)爭題材，而有些游戲則是劍與魔法題材。在內(nèi)容防控方面，一般會屏蔽與黨政軍相關(guān)的內(nèi)容，以避免玩家發(fā)布相關(guān)違規(guī)內(nèi)容。

然而，如果在軍事戰(zhàn)爭題材的游戲中也限制與軍隊(duì)相關(guān)的內(nèi)容，那么玩家發(fā)布一些正常的戰(zhàn)斗交流內(nèi)容，如“打仗”、“軍隊(duì)”等，也可能被內(nèi)容防控規(guī)則誤判，從而極大地影響玩家的游戲體驗(yàn)。因此，內(nèi)容防控規(guī)則需要根據(jù)游戲類型進(jìn)行定制化。

④ 游戲運(yùn)營策略的差異性：每個(gè)游戲?qū)τ陲L(fēng)控策略的要求都不同，這受到游戲特性、防控成本、地區(qū)政策等多方面因素的影響。有些游戲過于強(qiáng)調(diào)單機(jī)體驗(yàn)，因此外掛和腳本對游戲的影響并不大，對于這些內(nèi)容的防控可以不需要投入太多精力。

有些廠商在考慮到風(fēng)險(xiǎn)內(nèi)容“高本低效”且人力有限的情況下，可能會允許一定量級的中低風(fēng)險(xiǎn)內(nèi)容存在，以避免過度消耗人力。如果游戲發(fā)行的地區(qū)是海外，那么相關(guān)的內(nèi)容防控要求可能相對較低，可以相應(yīng)調(diào)整防控的嚴(yán)格程度。因此，廠商需要針對不同的游戲采用不同的策略，以實(shí)現(xiàn)“以最小的成本達(dá)到預(yù)期的風(fēng)險(xiǎn)防控建設(shè)”。

以上提到的差異增加了風(fēng)險(xiǎn)防控的標(biāo)準(zhǔn)化難度，因此在不同游戲之間需要考慮定制化的方案：

1. 針對不同游戲的類型、功能和內(nèi)容，需要結(jié)合考慮可能存在的風(fēng)險(xiǎn)類型，并引入相應(yīng)的防控技術(shù)方案。
2. 根據(jù)不同的運(yùn)營策略要求，需要定制不同的防控策略。

三、游戲行業(yè)風(fēng)控功能建設(shè)

之前文章《淺談風(fēng)控系統(tǒng)的建設(shè)》總結(jié)過，風(fēng)險(xiǎn)防控系統(tǒng)的業(yè)務(wù)模塊可以分為“風(fēng)險(xiǎn)預(yù)防”、“信息采集”、“風(fēng)險(xiǎn)識別”、“風(fēng)險(xiǎn)應(yīng)對”四個(gè)環(huán)節(jié)，而這四個(gè)環(huán)節(jié)也同樣可以套用在游戲行業(yè)的風(fēng)控功能模塊建設(shè)上。

1. 風(fēng)險(xiǎn)預(yù)防

游戲行業(yè)中針對內(nèi)容風(fēng)險(xiǎn)、行為風(fēng)險(xiǎn)和賬號風(fēng)險(xiǎn)的預(yù)防措施基本一致，主要包括用戶教育、規(guī)則限制、人機(jī)校驗(yàn)和身份驗(yàn)證等方面。

1）用戶教育：針對游戲內(nèi)的風(fēng)險(xiǎn)，風(fēng)控團(tuán)隊(duì)可以與運(yùn)營部門合作，制定適用于游戲的風(fēng)險(xiǎn)防控規(guī)則。同時(shí)，運(yùn)營團(tuán)隊(duì)可以在玩家可見的位置進(jìn)行公示，以進(jìn)行用戶教育，并明確違規(guī)行為可能面臨的處罰。

2）規(guī)則限制：為了應(yīng)對游戲內(nèi)產(chǎn)生的內(nèi)容風(fēng)險(xiǎn)、行為風(fēng)險(xiǎn)和賬號風(fēng)險(xiǎn)，游戲廠商可以制定一些限制規(guī)則，并在可能產(chǎn)生風(fēng)險(xiǎn)的環(huán)節(jié)進(jìn)行限制。對于內(nèi)容風(fēng)險(xiǎn)，可以進(jìn)行發(fā)表頻率限制，例如，在實(shí)時(shí)聊天頻道中可以設(shè)置文本發(fā)表頻率限制，如每1~2秒一次，以允許玩家進(jìn)行連續(xù)聊天，但限制機(jī)器高頻刷屏行為。在社區(qū)發(fā)帖中可以設(shè)置幾分鐘的限制，以避免無意義的灌水對社區(qū)生態(tài)的影響。

對于行為風(fēng)險(xiǎn)，可針對高風(fēng)險(xiǎn)行為的入口限制操作頻率，例如，廠商可以限制一個(gè)設(shè)備在一天內(nèi)只能注冊2個(gè)賬號，以提高黑產(chǎn)刷量的成本（黑產(chǎn)需要購買設(shè)備儲備以繞過這個(gè)限制）。

對于賬號風(fēng)險(xiǎn)，可以進(jìn)行異地登錄限制，例如，攔截賬號在短時(shí)間內(nèi)在不同城市之間的登錄，以防止?jié)撛诘馁~號被盜行為。

3）人機(jī)校驗(yàn)/身份驗(yàn)證：針對被標(biāo)記為高風(fēng)險(xiǎn)用戶的情況，可以要求用戶進(jìn)行人機(jī)校驗(yàn)或身份驗(yàn)證。這樣一方面可以限制機(jī)器行為，另一方面也可以增加黑產(chǎn)實(shí)施違規(guī)行為的成本。

2. 信息采集

游戲行業(yè)的信息采集可以分為基礎(chǔ)數(shù)據(jù)采集、風(fēng)險(xiǎn)情報(bào)采集。

1）基礎(chǔ)數(shù)據(jù)采集

風(fēng)控系統(tǒng)需要提供一套完整的基礎(chǔ)信息采集方案，用于給到各內(nèi)容產(chǎn)生系統(tǒng)、各行為產(chǎn)生系統(tǒng)、各賬號相關(guān)系統(tǒng)進(jìn)行相關(guān)數(shù)據(jù)的上報(bào)，以用作風(fēng)險(xiǎn)識別和應(yīng)對的依據(jù)。但是信息采集也存在一定的挑戰(zhàn)：

① 數(shù)據(jù)采集的不全面問題

為確保風(fēng)險(xiǎn)識別和應(yīng)對的效果，信息采集需要全面覆蓋。然而，在實(shí)際與各系統(tǒng)的研發(fā)對接過程中，由于兩方部門的意識不對齊，且游戲內(nèi)外與內(nèi)容、行為、賬號風(fēng)險(xiǎn)相關(guān)的位置眾多，可能導(dǎo)致信息漏報(bào)的情況。因此，負(fù)責(zé)風(fēng)控系統(tǒng)的中臺部門還需設(shè)計(jì)一個(gè)驗(yàn)收環(huán)節(jié)，讓熟悉這些系統(tǒng)的專業(yè)人員檢查信息采集系統(tǒng)是否覆蓋全面。

② 黑產(chǎn)的采集欺騙

技術(shù)嫻熟的黑產(chǎn)可能采用各種手段繞過信息采集，或偽造虛假信息進(jìn)行上報(bào)，使我們難以準(zhǔn)確識別和應(yīng)對風(fēng)險(xiǎn)。因此，風(fēng)險(xiǎn)控制系統(tǒng)的信息采集模塊需要考慮如何應(yīng)對這些風(fēng)險(xiǎn)。我們需要在客戶端層面攔截繞過上報(bào)或數(shù)據(jù)篡改的數(shù)據(jù)，并在服務(wù)端層面識別和過濾繞過和篡改的數(shù)據(jù)。例如，設(shè)備指紋識別技術(shù)可幫助我們識別黑產(chǎn)的數(shù)據(jù)篡改行為。

2）風(fēng)險(xiǎn)情報(bào)采集

除了基礎(chǔ)信息采集，還需要采集來自各個(gè)業(yè)務(wù)線的內(nèi)部風(fēng)險(xiǎn)情報(bào)，如用戶舉報(bào)和其他業(yè)務(wù)線的反饋。這些風(fēng)險(xiǎn)情報(bào)途徑能夠挖掘出一些意料之外的風(fēng)險(xiǎn)內(nèi)容，以便及時(shí)應(yīng)對視野盲區(qū)中的意外風(fēng)險(xiǎn)。例如，玩家之間的作弊行為往往很難通過規(guī)則識別發(fā)現(xiàn)新型外掛。我們需要依賴受到外掛影響的玩家反饋，以及時(shí)應(yīng)對外掛，并增強(qiáng)對這類外掛的識別能力。

同時(shí)，我們可以采集外部的風(fēng)險(xiǎn)情報(bào)，如實(shí)時(shí)敏感熱點(diǎn)、競品動(dòng)向、新型破解技術(shù)等，以及時(shí)補(bǔ)充我們的風(fēng)險(xiǎn)識別能力。

3. 風(fēng)險(xiǎn)識別

1）內(nèi)容風(fēng)險(xiǎn)識別

內(nèi)容風(fēng)險(xiǎn)識別通常采用敏感內(nèi)容庫、風(fēng)險(xiǎn)識別AI和人工審核這三種手段。根據(jù)不同的運(yùn)營策略，我們將內(nèi)容劃分為“高風(fēng)險(xiǎn)”、“中風(fēng)險(xiǎn)”、“低風(fēng)險(xiǎn)”或“無風(fēng)險(xiǎn)”，以幫助我們決定如何處理這些內(nèi)容。

對于實(shí)時(shí)性要求較高的內(nèi)容（如玩家的實(shí)時(shí)聊天），我們可以采用敏感內(nèi)容庫和風(fēng)險(xiǎn)識別AI進(jìn)行事前識別，以提前應(yīng)對。為降低誤判率，我們應(yīng)重點(diǎn)關(guān)注高風(fēng)險(xiǎn)或高準(zhǔn)確率的識別內(nèi)容。

此外，可以通過人工審核的方式進(jìn)行補(bǔ)充審核，以防遺漏。對于實(shí)時(shí)性要求較低的內(nèi)容，我們可讓內(nèi)容經(jīng)過敏感內(nèi)容庫、風(fēng)險(xiǎn)識別AI和人工審核三個(gè)環(huán)節(jié)的完整識別，然后再發(fā)布，以確保內(nèi)容的安全性。

2）行為/賬號風(fēng)險(xiǎn)識別

行為/賬號風(fēng)險(xiǎn)識別通常采用風(fēng)險(xiǎn)規(guī)則庫、人工審核和黑名單等手段。我們針對風(fēng)險(xiǎn)行為/賬號進(jìn)行特征提取，從而總結(jié)出風(fēng)險(xiǎn)識別規(guī)則、人工審核判斷依據(jù)和黑名單列表等內(nèi)容，并將行為/賬號風(fēng)險(xiǎn)劃分為“高風(fēng)險(xiǎn)”、“中風(fēng)險(xiǎn)”、“低風(fēng)險(xiǎn)”或“無風(fēng)險(xiǎn)”的等級，用于輔助判斷如何應(yīng)對風(fēng)險(xiǎn)。

例如，對于黑產(chǎn)的腳本行為，我們可以通過抓取腳本號的行為來識別其共性。假設(shè)腳本角色通常按順序依次使用ABCD功能，并在固定的時(shí)間節(jié)點(diǎn)升級到1234等級，那么我們可以建立一個(gè)規(guī)則描述這些共性行為，并識別出高風(fēng)險(xiǎn)的腳本角色，用于后續(xù)的處罰。

無論是內(nèi)容風(fēng)險(xiǎn)、行為風(fēng)險(xiǎn)還是賬號風(fēng)險(xiǎn)的識別，我們的識別手段都可能存在漏判和誤判問題。因此，在正式上線識別策略配置之前，需要安排灰度環(huán)節(jié)，以觀察效果并判斷是否上線。我們可以使用召回率和準(zhǔn)確率作為指標(biāo)來衡量，并輔助判斷是否上線。在上線后，我們還需要根據(jù)實(shí)際的防控效果來調(diào)整識別功能，以確保召回率和準(zhǔn)確率都在業(yè)務(wù)可接受的范圍內(nèi)。

例如，我們使用敏感內(nèi)容庫來識別游戲中新出現(xiàn)的廣告文本，風(fēng)控人員采用了正則規(guī)則的配置方式。假設(shè)這個(gè)正則表達(dá)式寫得不好，可能會誤殺正常玩家的聊天發(fā)言。因此，在正式攔截玩家發(fā)言之前，我們需要先觀察該正則規(guī)則的準(zhǔn)確率和召回率情況。如果誤殺和漏判在可接受范圍內(nèi)，就可以安排上線規(guī)則。

4. 風(fēng)險(xiǎn)應(yīng)對

1）內(nèi)容風(fēng)險(xiǎn)應(yīng)對

游戲行業(yè)中對風(fēng)險(xiǎn)內(nèi)容的應(yīng)對方案主要包括禁止發(fā)表、屏蔽或替換、僅發(fā)布者可見和強(qiáng)制下架等措施。

2）行為風(fēng)險(xiǎn)應(yīng)對

游戲行業(yè)中對風(fēng)險(xiǎn)行為的應(yīng)對方案主要包括行為封禁、坐連封禁、警告提示、人機(jī)/身份校驗(yàn)。

此外，對于超承載量行為這類非玩家主觀產(chǎn)生的風(fēng)險(xiǎn)，則可采用擴(kuò)容方案、高防方案、限流方案、服務(wù)中止方案的應(yīng)對手段。

3）賬號風(fēng)險(xiǎn)應(yīng)對

游戲行業(yè)中對風(fēng)險(xiǎn)行為的應(yīng)對方案主要包括賬號凍結(jié)、安全校驗(yàn)。

上述是一些常見的風(fēng)險(xiǎn)應(yīng)對手段。然而，在確定何時(shí)采用何種應(yīng)對方案時(shí)，需要根據(jù)風(fēng)險(xiǎn)控制策略進(jìn)行決策。我們可以根據(jù)不同的風(fēng)險(xiǎn)類型、風(fēng)險(xiǎn)等級、識別精度和運(yùn)營要求來定制相應(yīng)的風(fēng)險(xiǎn)控制策略，以實(shí)現(xiàn)“以最小的成本達(dá)到預(yù)期的風(fēng)險(xiǎn)防控建設(shè)”。

為了管理和控制特定游戲采用的風(fēng)險(xiǎn)應(yīng)對策略，并實(shí)時(shí)跟蹤這些策略的效果和表現(xiàn)，系統(tǒng)可以建立一個(gè)“配置中心”。配置中心可以提供高度可配置性，用于決定采用何種風(fēng)險(xiǎn)應(yīng)對策略，并及時(shí)進(jìn)行針對性調(diào)整。

在制定策略配置時(shí)，可以遵循以下原則：

1. 針對識別到的風(fēng)險(xiǎn)內(nèi)容，首先考慮采用高效且對用戶影響較小的應(yīng)對方案，其次再考慮其他方案。
2. 如果風(fēng)險(xiǎn)識別的準(zhǔn)確率不夠高，優(yōu)先考慮攔截高風(fēng)險(xiǎn)內(nèi)容/行為/賬號，并采用對用戶影響較小的應(yīng)對方案，其次再考慮其他方案。

舉例來說，對于實(shí)時(shí)性要求較高的內(nèi)容（如文字聊天頻道），當(dāng)敏感內(nèi)容庫和風(fēng)險(xiǎn)識別AI識別到風(fēng)險(xiǎn)內(nèi)容時(shí)，可以采用禁止發(fā)表、屏蔽或替換等措施，以實(shí)現(xiàn)既能有效攔截又對用戶體驗(yàn)影響較小的方案。

然而，如果識別規(guī)則過于嚴(yán)格，可能會引起玩家的不滿。例如，玩家可能多次編輯一段文字卻無法發(fā)表，或者遇到異常情況。在這種情況下，我們需要有針對性地調(diào)整應(yīng)對策略，僅針對高準(zhǔn)確率或高風(fēng)險(xiǎn)的內(nèi)容進(jìn)行處理，而將其他內(nèi)容先放行以保證用戶體驗(yàn)，并最終通過人工篩查來處理。

四、總結(jié)

上述內(nèi)容是對游戲行業(yè)風(fēng)險(xiǎn)以及風(fēng)控系統(tǒng)建設(shè)的梳理和理解，歡迎進(jìn)一步補(bǔ)充。

總的來說，游戲行業(yè)的風(fēng)險(xiǎn)具有實(shí)時(shí)性高、高度對抗性和標(biāo)準(zhǔn)化難度高的特點(diǎn)。在構(gòu)建相關(guān)的風(fēng)控功能時(shí)，需要遵循“風(fēng)險(xiǎn)預(yù)防”、“信息采集”、“風(fēng)險(xiǎn)識別”和“風(fēng)險(xiǎn)應(yīng)對”的框架，并針對每款游戲的風(fēng)險(xiǎn)類型、風(fēng)險(xiǎn)等級、識別精度和運(yùn)營要求進(jìn)行定制化的策略配置，以實(shí)現(xiàn)在每個(gè)游戲中以最小成本達(dá)到預(yù)期的風(fēng)險(xiǎn)防控建設(shè)。