隨著AI人工智能技術(shù)的快速發(fā)展，AI內(nèi)容風(fēng)險也日益引人關(guān)注，逐漸衍生的AI內(nèi)容風(fēng)險問題，不僅會影響用戶體驗，而且還可能對社會造成負面影響。因此，如何解決AI內(nèi)容風(fēng)險成為了AI技術(shù)領(lǐng)域的一個重要議題。本文作者就當(dāng)前存在的AI內(nèi)容風(fēng)險，及平臺們的監(jiān)管策略做出了解讀分析，一起來看。

挑戰(zhàn)可能真的來了。平臺開始按不住AIGC了。

最近兩天，先是真的孫燕姿發(fā)文“原諒”了AI孫燕姿，然后AI又在美國鬧出一個大新聞。美國當(dāng)?shù)貢r間5月22日，有一幅“五角大樓附近發(fā)生爆炸”的圖在社交網(wǎng)站上傳播。一時間全網(wǎng)震動，甚至美股還為此小跌了一下。

圖：依照（目前還不成型的）AI傳播道德，這里只放一張被打過叉的原圖。

事件經(jīng)過一天時間的發(fā)酵，現(xiàn)在我們知道：圖片是AI合成的。假消息的源頭之一是推特上一個叫作“Bloomberg Feed”的賬號，原推的附文煞有介事地說：“華盛頓特區(qū)五角大樓建筑附近發(fā)生巨大爆炸。——初步報道”。

這次的假新聞風(fēng)波，意味著推特的內(nèi)容監(jiān)管沒能兜住AI內(nèi)容風(fēng)險。而且這不是個案，隨著AI內(nèi)容生態(tài)的萌發(fā)，平臺的監(jiān)管問題正逐一顯露出來。

一、推特的難題

“五角大樓附近發(fā)生爆炸”事件在爆發(fā)的幾小時內(nèi)，就經(jīng)歷了幾輪發(fā)酵。

根據(jù)各方考證，假消息的源頭不止一個，最早的發(fā)布時間可以追溯到當(dāng)?shù)貢r間早8點42分。最原始的圖在上午10點多被一些藍標(biāo)賬號撿起來，配上“五角大樓附近發(fā)生爆炸”之類的文案再度發(fā)布。其中，前面那張圖中的發(fā)布者@Bloomberg Feed看起來最為可信，因為名字中含有Bloomberg（彭博社），并且獲得了推特的藍標(biāo)認證。但其實該賬號和彭博社毫無關(guān)系。

消息發(fā)出來之后，好幾條原推都被數(shù)百萬人看到，被其他的藍標(biāo)認證用戶轉(zhuǎn)發(fā)，甚至被印度和俄羅斯帶著推特“金標(biāo)”的正規(guī)媒體賬號。

早上十點多，美國股市也發(fā)生了小幅下跌。很多分析人士認為，這是該圖片引發(fā)的市場恐慌。

圖：當(dāng)?shù)貢r間5月22日的美國道瓊斯工業(yè)平均指數(shù)行情。在10點之后發(fā)生了小幅下跌。

不過很快，網(wǎng)民掀起了對該消息真實性的討論。首先，雖然很多最早發(fā)出來的推都說這是在五角大樓附近，但是照片上的樓并不是五角大樓。另外，照片里面路燈是歪的，并且柵欄與周圍景物的遮擋關(guān)系也不很寫實。

圖：AI偽造圖的細部。雖然像素不高，但還是看得出物體之間的穿插、遮擋關(guān)系非常不自然。

到了10點40多，圖片引起了官方的注意。當(dāng)?shù)氐南罊C構(gòu)首先辟謠說，當(dāng)?shù)貨]有爆炸發(fā)生。之后陸續(xù)又有別的組織出面辟謠，公眾才確認這則消息為假消息，并且照片是AI生成的。

塵埃落定之后，一些網(wǎng)絡(luò)輿論的矛頭開始指向推特的藍標(biāo)政策。在馬斯克收購?fù)铺刂螅淖兞怂{標(biāo)用戶的認證方式。在此之前，藍標(biāo)是免費授予經(jīng)過身份認證的機構(gòu)和名人的。去年11月，馬斯克把藍標(biāo)政策改成了“付費+認證”的形式。但是，新的認證方式十分的不透明，被解讀為“拿錢買認證”。本次“五角大樓爆炸”假新聞事件也進一步印證了，馬斯克掌管下的推特，認證制度存在重大缺陷。

不過，這真的只是認證的問題嗎？

二、國內(nèi)“AI內(nèi)容監(jiān)管第一槍”？

輿論對本次“五角大樓爆炸”假新聞事件的問題意識，盯住的是推特的“藍標(biāo)認證”制度，因為“藍標(biāo)”意味著賬號是由真實、負責(zé)任的人或組織運營的。這實際上的訴求在于“AI的使用者不能脫責(zé)”，這是目前針對AIGC（人工智能生成內(nèi)容）監(jiān)管的一種典型策略。

同樣，像微信朋友圈、微博這種即時分享類型的平臺讓每個人都成了新聞資訊的發(fā)布者。那么，每個發(fā)布者為自己發(fā)布的信息負責(zé)，這一治理原則在這些平臺強化AI內(nèi)容治理時也被延續(xù)了下來。

在“可追責(zé)”的考慮之上，一些平臺開始考慮給AI內(nèi)容加標(biāo)識，以防止觀者混淆AI生成的內(nèi)容與真實內(nèi)容。5月9日，抖音祭出了被稱為國內(nèi)“AI內(nèi)容監(jiān)管第一槍”的舉措，要求創(chuàng)作者給AI視頻內(nèi)容打上“AI生成”的水印。

圖：抖音規(guī)定的“AI生成”水印樣式。圖片截取自《抖音關(guān)于人工智能生成內(nèi)容標(biāo)識的水印與元數(shù)據(jù)規(guī)范》

但眼下，隨著AI內(nèi)容生態(tài)的演化，我們可以得出一些新的判斷：說抖音的舉動是“AI內(nèi)容監(jiān)管第一槍”，可能夸大了其行業(yè)意義。

AI水印政策與抖音自身的屬性有關(guān)。抖音的內(nèi)容本質(zhì)上是一個博眼球、爭流量的注意力生意，所以抖音理應(yīng)更關(guān)注為了爭取流量而不顧道德原則的AI內(nèi)容。把AI內(nèi)容在明顯的位置標(biāo)出，或許能減少類似推特這次事件，有人把AI虛構(gòu)的圖當(dāng)作真實圖像來傳播，造成意料之外的麻煩。

類似地，抖音平臺要阻止用戶利用AI生成的劣質(zhì)內(nèi)容來沖流量。所以抖音禁止了單純讀文案帶貨的虛擬人直播。這些虛擬人主播可以永不停歇地一直播，并且可以被低成本復(fù)制，同時用多個賬號播出，但是它在視覺、文案、表達上都十分粗制濫造。這種內(nèi)容對于抖音的問題在于，用大規(guī)模低質(zhì)量內(nèi)容沖流量，沖淡平臺上的優(yōu)質(zhì)內(nèi)容。

抖音的一些AIGC治理舉措，其出發(fā)點還是抖音平臺自身的一些特征。抖音對AIGC的問題意識不一定是普適的。

三、監(jiān)管重點的分化

在邏輯不同的內(nèi)容平臺，例如B站這種看重用戶創(chuàng)意的平臺，AI內(nèi)容治理又是另一個樣貌。

3月30日，B站董事長陳睿在中國網(wǎng)絡(luò)視聽大會上放出豪言，說B站是目前AIGC內(nèi)容質(zhì)量最高、最豐富的平臺。果然不久之后，“AI孫燕姿”就在B站火了。

純從內(nèi)容上說，“AI孫燕姿”是比較原始形態(tài)的AIUGC，即“AI輔助用戶生成內(nèi)容”。它是AI內(nèi)容的另一種樣態(tài)，甚至可能是未來AI內(nèi)容的主流樣態(tài)。和抖音對“用AI虛構(gòu)內(nèi)容博眼球”的擔(dān)憂不同，AIUGC內(nèi)容拼的依然是創(chuàng)意，這是UGC/PUGC生態(tài)的延續(xù)。只不過，正如“AI孫燕姿”所暴露出的問題，AIUGC目前暴露出了知識產(chǎn)權(quán)保護方面的重大缺陷。

在“AI孫燕姿”這件事上，B站不曾站出來表達自己的監(jiān)管立場。倒是孫燕姿本人被炸出來，對“AI孫燕姿”表達了一種“無奈地寬恕”態(tài)度。孫燕姿的原話是：“我的粉絲們已正式改換門庭，接受我就是一名冷門歌手的事實，而我的AI角色成為了目前的頂流。我想說的是，你跟一個每幾分鐘就推出一張新專輯的人（虎嗅注：指AI孫燕姿）還有什么好爭的?！?/p>

雖然孫燕姿個人很慷慨大度，但是AIGC的知識產(chǎn)權(quán)爭議仍在?！癆I孫燕姿”爆火之后，有人又提起了“數(shù)字水印”技術(shù)。簡單講，這種技術(shù)是在圖像、聲音、數(shù)據(jù)等載體上加標(biāo)記，這些標(biāo)記是人看不到、聽不出的，但可以用技術(shù)手段識別，并且在原始版權(quán)素材被改動之后，依然可以識別出其中的版權(quán)標(biāo)記。這種技術(shù)頗受看好，但其規(guī)模性的落地尚需時日。

但總之，B站這類重創(chuàng)意的內(nèi)容平臺，或許能在AIGC的某些元問題上壓過那些重流量的內(nèi)容平臺。正如Pinterest——知名的創(chuàng)意分享平臺、“設(shè)計師之友”——的首席執(zhí)行官Bill Ready近期在評論AIGC時多次強調(diào)：AI內(nèi)容應(yīng)該是人們生活的“調(diào)味品”（additive）而非“癮品”（addictive）。如果內(nèi)容平臺的核心算法原本就是讓用戶上癮，那么AIGC會在這種算法中把人性的缺陷進一步放大。

Pinterest自身在推薦算法上，堅持探索如何推送具有創(chuàng)意、靈感、個性化價值的內(nèi)容。這使得Pinterest對低質(zhì)量的AIGC有一定的抵抗力；同時富有新意的AIUGC藝術(shù)作品開始在Pinterest上涌現(xiàn)。

圖：Pinterest上一位AI輔助創(chuàng)作者的作品目錄。他把自己利用Midjourney生成出來的近百個主題（如“科幻場景”“通靈旅程”“政治畫”“圣經(jīng)風(fēng)格”等）分門別類，整理成庫。

圖片來源：Pinterest @Vellectrum

所以在討論AIGC平臺監(jiān)管的時候，也不能忽視AIGC反過來對平臺的改造，以及潛在的相互成就的機會。

在較短的時間尺度上，AI內(nèi)容給平臺帶來一些監(jiān)管上的挑戰(zhàn)，并且不同運營邏輯的內(nèi)容平臺，其AI治理重點還有分化之勢。而在遠期，AI內(nèi)容或許反過來決定平臺的發(fā)展前景。這個遠期趨勢，或許才是內(nèi)容平臺面臨的終極挑戰(zhàn)。