編者按：反思是必要行為，越及時越好，越清醒越好。本文作者James Bridle在“Something is wrong on the internet”一文中從YouTube上供孩子們觀看的視頻入手，剖析了互聯(lián)網(wǎng)通過自動化、規(guī)模化框架所產(chǎn)生的一個黑暗世界。而重要的是，我們該如何行動。

我隨著互聯(lián)網(wǎng)成長，確信它是對于今天我之所以為我的最重要影響之一。13歲那年，我開始接觸互聯(lián)網(wǎng)，當(dāng)時電腦就放在我的臥室里。互聯(lián)網(wǎng)讓我有機(jī)會接觸到了許多完全不適合青少年接觸的東西，但是這都還好。它一直以我認(rèn)為的于己有益的方式對我的身份產(chǎn)生至關(guān)重要的影響，塑造了我的人際關(guān)系、文化與政治認(rèn)知。我一直是互聯(lián)網(wǎng)及其所帶來的一切影響的重要支持者，并認(rèn)為它是有益的且具有解放意義。在一開始說明這一點是因為，下文中我將講述互聯(lián)網(wǎng)所產(chǎn)生的影響以一種意味深長的方式駁斥了我的上述假設(shè)與偏見。

我經(jīng)常問自己的一個假設(shè)性問題是，對自己的孩子擁有相同的上網(wǎng)方式有什么看法。我發(fā)現(xiàn)這個問題越來越難回答。這可能是隨著年齡增長而自然發(fā)生的變化，而且在某種程度上這個問題的假設(shè)性因素越來越少。我不想做一個偽君子。我希望我的孩子擁有與我一樣去探索、成長和表達(dá)自己的機(jī)會。我希望他們擁有這個選擇。這種信念使人們放松了對互聯(lián)網(wǎng)在公共生活中扮演角色所持有的態(tài)度。

我也意識到，年輕孩子與YouTube之間的共生關(guān)系與日俱增。我看到孩子們無論是在嬰兒車?yán)?，還是在餐館里，都整天關(guān)注著屏幕，同時伴隨著一種類似于勒德分子（Luddite，十九世紀(jì)初英國手工業(yè)工人中參加搗毀機(jī)器的人，現(xiàn)泛指強(qiáng)烈反對機(jī)械化或自動化的人）的陣痛。但我不會為他人或者是他人父母做出判斷。我也看到家人和朋友的孩子投入地看《小豬佩奇》和童謠視頻，這給他們帶來愉快和放松，所以這也還好。

我至今沒有孩子，而現(xiàn)在只想一把火把所有東西燒掉。

一些人、一些事抑或是一些人與事的結(jié)合體正在以自動且大規(guī)模的方式通過YouTube系統(tǒng)性的恐嚇、傷害和虐待兒童，這迫使我從任何方面質(zhì)疑自己對于互聯(lián)網(wǎng)的看法。在下文中，雖然我要說的大部分內(nèi)容已經(jīng)在其他地方報道過了，但是就我所看的主流報道沒有一個能真正理解那些似乎正在發(fā)生的事情的含義。

我將由此開始：專為孩子開辟的YouTube內(nèi)容清楚且引人注目地呈現(xiàn)怪異姿態(tài)。我意識到它的古怪已經(jīng)有一段時間了。去年，有許多文章都提到了驚喜蛋（Surprise Egg）熱潮。驚喜蛋視頻通常以一種極其痛苦的長度展示了打開金德和其他玩具蛋的過程。就是這么回事，但是孩子們對此著迷。即使沒有數(shù)百萬，也有成千上萬的孩子們在觀看成千上萬這類視頻。

自2010年以來，驚喜蛋的制作者已經(jīng)累積了370萬訂閱用戶，這個孩子友好頻道僅僅致力于打開驚喜蛋和拆箱玩具就達(dá)到略低于60億的瀏覽量。視頻標(biāo)題模糊了品牌線并搭賣廣告：“Blu Toys Surprise Brinquedos & Juegos”“Cars Screamin’ Banshee Eats Lightning McQueen Disney Pixar”“Disney Baby Pop Up Pals Easter Eggs SURPRISE”。

在我寫這篇文章的時候，制作者一共制作了4426個視頻。與賈斯汀·比伯官方頻道超100億的瀏覽量相比，全職YouTube名人PewDiePie擁有近120億的瀏覽量，就好像這個男人用一雙溫柔地打開驚喜蛋的雙手為生。（驚喜蛋視頻都配有前貼片廣告、中斷廣告和其他廣告形式。）

這讓你了解到孩子們的在線視頻世界是多么怪異，而這些視頻標(biāo)題則暗示了這種怪異所涉及的不同尋常的范圍和復(fù)雜程度。我們馬上就會講到后者。但是，就目前而言它已經(jīng)顯得非常奇怪。

另一種尤其對于小齡孩子來說很受歡迎的巨量內(nèi)容，是童謠視頻。

制作這種視頻的Little Baby Bum在YouTube最受歡迎頻道上排名第7。他們共產(chǎn)出515個視頻，擁有1150萬訂閱用戶和130億瀏覽量。同樣，我在下文很快會說到這些數(shù)據(jù)的準(zhǔn)確性也存在問題，在此處我想說明這是一個龐大的網(wǎng)絡(luò)產(chǎn)業(yè)世界。

點播視頻對于父母和孩子來說都是“貓薄荷”，對于內(nèi)容創(chuàng)作者和廣告商來說也是如此。小一些的孩子無論是出于熟悉的人物還是歌曲，或者是簡單的色彩和舒緩的聲音而被這些視頻迷住。這些視頻的長度（一個常見的處理方法是將許多童謠或卡通片段匯編在一起+編輯）和將視頻長度作為營銷手段一部分，旨意了那些孩子們觀看這些視頻所度過的時間。

因此，YouTube廣播公司想出大量策略來吸引家長和孩子們的注意力，并獲得伴隨這些行為而生的廣告收入。第一個策略是復(fù)制和剽竊其他內(nèi)容。以我的嘗試為例，在YouTube上搜索“小豬佩奇”會收到“大約10400000個搜索結(jié)果”，而首頁內(nèi)容幾乎全部來自經(jīng)過認(rèn)證的“小豬佩奇官方頻道”，同時有一個視頻來自于未經(jīng)認(rèn)證的頻道，叫做Play Go Toys，除非你刻意尋找否則很難注意到它。

據(jù)我猜測，Play Go Toys頻道里的《小豬佩奇》和其他卡通片、玩具拆箱內(nèi)容是盜版的，此外還有一些我認(rèn)為應(yīng)該是頻道主自己孩子的視頻。我并不是要說Play Go Toys有什么不好；我只想簡單說明YouTube的框架以怎樣的方式導(dǎo)致內(nèi)容與創(chuàng)作者的分離，而這將如何影響我們對于信源的認(rèn)識和信任行為。

正如另一位博客作者所指出的，品牌內(nèi)容所扮演的傳統(tǒng)功能之一是保證信源可信性。無論是兒童電視上播放的《小豬佩奇》還是迪士尼電影，不管人們對于這種娛樂生產(chǎn)的工業(yè)模式有什么感受，這些視頻通過精心制作和受到控制而讓孩子們能以基本安全的方式觀看它們，并且被賦予信任。這不再適應(yīng)于品牌和內(nèi)容被平臺分離的情況，已知的可信內(nèi)容為那些未經(jīng)認(rèn)證和潛在有害內(nèi)容提供了無縫銜接的網(wǎng)關(guān)。

（同樣，這與Facebook和谷歌上對可信新聞媒體的分離過程完全相同，而這些結(jié)果正在對我們的認(rèn)知和政治體系產(chǎn)生嚴(yán)重破壞。我不打算在這里進(jìn)一步探討這種關(guān)系，但是它顯然也非常重要。）

增加視頻點擊率的第二種方法是關(guān)聯(lián)關(guān)鍵字或是主題標(biāo)簽，這是一種全然黑暗的藝術(shù)。當(dāng)某種內(nèi)容，比如驚喜蛋視頻，成為趨勢而能夠抵達(dá)絕對多的大眾時，內(nèi)容生產(chǎn)者就會蜂擁而至，制作出成千上萬類似的視頻。這就是上面所提到的那些奇怪名字產(chǎn)生的緣由：官方內(nèi)容、童謠標(biāo)題和“驚喜蛋”都被塞進(jìn)了同一個標(biāo)題中以出現(xiàn)在搜索結(jié)果、側(cè)邊欄、以及“下一個”自動排名的位置中。

一個奇怪例子是Finger Family視頻，我不知道他們從哪里冒出來，也不知道這些童謠旋律的起源。但是目前YouTube上至少有1700萬個版本，它們也涵蓋了包括上百億拼接場景在內(nèi)的所有可能內(nèi)容類型。

再說一次，必須認(rèn)真對待視頻的瀏覽量情況。其中大多數(shù)視頻本質(zhì)上是由機(jī)器人所制作，被機(jī)器人所觀看，甚至被機(jī)器人所評論。這是一個完全陌生的世界。而不應(yīng)該掩蓋的事實是，實際上還有許多孩子通過iPhone或者是平板電腦一遍又一遍地觀看著，這在某種程度上解釋了這些視頻的瀏覽量數(shù)值。孩子們學(xué)著在瀏覽框中輸入基本搜索詞，或者是在側(cè)邊欄中簡單添加另一個視頻。

令我覺得有些不安的是，即使是相對正常的兒童視頻在網(wǎng)絡(luò)上的擴(kuò)散也無法解釋其自動化的程度，如何剖析人與機(jī)器之間的差距呢？有近200萬訂閱者的Bounce Patrol Kids頻道顯示了這種影響。其內(nèi)容有專門的真人演員表演，以每周一個的制作速度發(fā)布專業(yè)制作視頻。

很奇怪，有一群人在無休止地演繹著由算法生成的關(guān)鍵字組合的意義所指涉的內(nèi)容：“Halloween Finger Family & more Halloween Songs for Children | Kids Halloween Songs Collection”, “Australian Animals Finger Family Song | Finger Family Nursery Rhymes”, “Farm Animals Finger Family and more Animals Songs | Finger Family Collection – Learn Animals Sounds”,還有很多很多。這是算法搜索時代的內(nèi)容制作模式，即使你是人類，也必須去迎合機(jī)器。

其他視頻也會與人類演員一起，不斷制作出無限可重構(gòu)的相同視頻版本。當(dāng)然，自動化在其中扮演重要角色。各類庫存、音頻軌道和這些關(guān)鍵字列表以數(shù)千種方式拼接在一起源源不斷制作出視頻。上圖中所展示的頻道，Videogyan 3D Rhymes?—?Nursery Rhymes & Baby Songs通過組合這些日益復(fù)雜的關(guān)鍵詞，以每周幾次的頻率發(fā)布視頻內(nèi)容。他們有近500萬訂閱者，是Bounce Patrol訂閱者數(shù)量的二倍不止，然而我們依然不知道是誰或者是什么累積起了這些數(shù)以百萬計的瀏覽量。

我試圖不讓這篇文章被沒完沒了的例子所充斥，但是我們需要了解這個體系有多闊大、以及是什么決定了此種行動、過程和觀眾，這很重要。這也涉及國際事宜：有許多Finger Family和Learn Colours視頻的不同語言版本，如Tamil epics和Malaysian cartoons，它們不太可能出現(xiàn)在任何英語使用者的搜索結(jié)果中。這種極其不確定性和搜索行為是上述現(xiàn)象存在及產(chǎn)生影響的關(guān)鍵。這種廣延性讓這種行為捉摸不定，甚至難以產(chǎn)生對其的真正思考。

我們已經(jīng)看到了那些確之鑿鑿的例子，用以說明完全自動化帶來的不安結(jié)果，謝天謝地的是其中一些已經(jīng)經(jīng)由黑色幽默所發(fā)酵，而另有一些還沒有。從T恤到咖啡杯，從嬰兒睡衣到手機(jī)殼，許多都是由圖片庫和按需制作的算法構(gòu)建而成。上圖中最近在Amazon上售賣的物品就是一個例子，它如何產(chǎn)生的故事既迷人又怪異，但從本質(zhì)而言可以理解。沒有人打算用藥物和醫(yī)療設(shè)備制作手機(jī)殼，這可能只是一個非常怪異的數(shù)字或概率結(jié)果。但是，這個需要一段時間才能被人們注意到的事實敲響了警鐘。

同樣，“冷靜地對她持刀”和“冷靜地打她”的結(jié)果令人沮喪且痛苦，但是卻也可以理解。沒有人打算制造這樣的T恤，它們只是由一個未經(jīng)核查的動詞和代詞列表與一個在線生成器所配對。這些T恤相當(dāng)有可能從沒有出現(xiàn)過、曾經(jīng)被買過或是穿過，這樣就不會造成任何傷害。但是又一次，制作這個內(nèi)容的人沒有注意到，分銷商們也沒有注意到。他們根本不知道自己在做什么。

基于這些案例以及那些我將要進(jìn)一步說明的案例，我想說的是，這個系統(tǒng)的規(guī)模和邏輯是產(chǎn)生如此結(jié)果的同謀，我們需要好好思考它們的含義。

（再次說明，我不打算深入探討這些內(nèi)容除這篇文章之外的更廣泛的社會影響，但是很明顯，人們可以從這些例子中找到一條解決大數(shù)據(jù)和機(jī)器智能驅(qū)動系統(tǒng)中存在的種族和性別偏見等當(dāng)代問題的明顯界限，這些問題需要迫切的關(guān)注但是我們卻沒有任何簡單的或者是更好的解決方法。）

我們可以在這些成堆視頻中選擇看一段，然后試著分析它來自哪里。需要重點強(qiáng)調(diào)，我并沒有打算去找某個特定視頻：在一個匿名瀏覽器窗口（例如，不應(yīng)該受之前搜索行為的影響）中搜索“finger family”，這一視頻的排名很高。這種自動化把我們帶到了某種奇觀中，“兔子洞”如此之深以至于我們不知道這樣的東西如何得以形成。

這個視頻標(biāo)題為“Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes”。標(biāo)題本身就證實了它來自于自動化合成。我不知道為什么有“Wrong Heads”這樣的表達(dá)，但是可以猜想，就像“Finger Family Song”一樣，它通過與Learn Colors、Finger Family和Nursery Rhymes這些詞匯拼接漸漸提高自己的算法排名，最終形成了我們所看到的這個標(biāo)題。

這段視頻由一個普通的Finger Family歌曲組成，畫面中呈現(xiàn)出一個由迪士尼《阿拉丁》動畫中的角色頭部和身體拼接而成人物。這的確很怪異，但是坦白講，并不比驚喜蛋視頻或其他童謠視頻奇怪到哪去。但是我發(fā)現(xiàn)這種想法太天真了。一個非《阿拉丁》動畫的角色艾格尼斯出現(xiàn)了，她是《卑鄙的我》中的人物。

這段視頻的制作者BABYFUN TV已經(jīng)制作了許多類似的視頻?！额^腦特工隊》的角色Hope與藍(lán)精靈和食人妖交換頭部。BABYFUN TV只有170位訂閱者和非常低的瀏覽量，但是平臺上有成千上萬個這樣的頻道。長尾數(shù)字在抽象情況下并不能顯示出重要性，重要的是它們所實際產(chǎn)生的累積效果。

所以問題變成：這些是怎么來的？在BABYFUN TV的頻道中也出現(xiàn)“Bad Baby”的修辭。雖然我覺得令人不安，但是我能理解它是如何通過提供一些旋律、節(jié)奏或與他們自己經(jīng)歷相關(guān)的東西而使得真正的小嬰兒被這些內(nèi)容所吸引，它經(jīng)由算法的反復(fù)與重組而以一種沒有人會想要其發(fā)生的情況所扭曲和拉扯。

Toy Freaks頻道截圖

Toy Freaks是一個非常受歡迎的頻道（平臺排名第68位），主角是一位父親和兩個女兒。除了學(xué)習(xí)兒歌和辨認(rèn)顏色之外，Toy Freaks擅長制作一些令人惡心的內(nèi)容，以及令許多觀眾都覺得自己受到虐待和剝削的行為，其中還不算特別嚴(yán)重的情節(jié)包括兒童嘔吐和疼痛的視頻。Toy Freaks是一個經(jīng)YouTube認(rèn)證的頻道，無論這意味著什么。

就像Bounce Patrol Kids一樣，無論你對這些視頻內(nèi)容有什么感覺，我們不可能知道自動化涉入的起點與抽身的終點，不可能知道誰來提出這些想法以及誰在扮演這些角色。相反，在如Toy Freaks這類受歡迎的、由人類主導(dǎo)的頻道中，其所產(chǎn)生的影響使得它們通過越來越古怪且扭曲的重新組合方式在網(wǎng)絡(luò)中不斷出現(xiàn)。

而有些視頻比Toy Freaks和類似內(nèi)容更令人不安。下面是一個相對溫和，但依舊令人不安的例子：

比之前所提到的盜版《小豬佩奇》更甚，還存在一種山寨品。這些內(nèi)容也充斥著暴力。在官方版本中，佩奇得到了和藹牙醫(yī)的適當(dāng)安慰。而從上圖的對比版本中看出，她受到了折磨。搜索“peppa pig dentist”會在首頁上發(fā)現(xiàn)這些視頻，而這讓事情變得更糟。（此處引用視頻已經(jīng)被YouTube刪除，但是平臺上仍有許多類似視頻。）

《小豬佩奇》這些令人不安的視頻內(nèi)容，包括佩奇吃自己的父親和喝漂白粉在內(nèi)，隱含著極端暴力和恐懼因素卻被廣為傳播。它們是整個YouTube亞文化的一部分。

這段視頻以對于佩奇的拙劣模仿開始，后來進(jìn)入到我們已經(jīng)見過的那種情節(jié)的不斷重復(fù)中。也許這就是釣魚行為（Troll，最初作為網(wǎng)絡(luò)用語用來描述在公共論壇等討論區(qū)故意用激烈言辭引起別人進(jìn)行沒有意義的爭論的行為，后來釋義延伸為幾乎所有做出令人厭惡舉止的行為，不論主動還是被動的）。我希望它是。但是我不這樣認(rèn)為?！搬烎~”并不能解釋這些人類參與者的交集之處和更多自動化的例子。它在其中顯現(xiàn)，卻不是故事的全部。

我想，不去深思熟慮這個問題是幼稚之舉，但是有如此多像牙醫(yī)情節(jié)一樣未認(rèn)證的內(nèi)容發(fā)布，許多孩子們正在觀看它。我知道大多數(shù)內(nèi)容目的并不是把孩子弄得一團(tuán)糟，但是它確實會帶來如此效果。

我嘗試去理解原因是什么，這并不單單是對于“不會有人想到孩子”的束手無策。顯而易見，這些內(nèi)容不合適。顯而易見，有一些不好的演員。顯而易見，有些視頻應(yīng)該被刪除。顯而易見，這引出了關(guān)于合理使用、挪用、言論自由等問題。但是那些僅僅通過鏡頭內(nèi)容了解問題的報告并沒有完全理解正在發(fā)生的機(jī)制，因此也就無法從整體上考慮其影響，并作出相應(yīng)回應(yīng)。

《紐約時報》所寫的關(guān)于這些問題的文章“On YouTube Kids, Startling Videos Slip Past Filters”強(qiáng)調(diào)了那些令人不安的視頻中的假冒人物和童謠現(xiàn)象，并將其放置在適度性和立法的問題上面。官方應(yīng)用YouTube Kids聲稱其內(nèi)容對于兒童來說是安全的，但顯然不是如此，這即是問題所在，因為它誤用了用戶的信任。英國小報《太陽報》的一篇文章“Kids left traumatised after sick YouTube clips showing Peppa Pig characters with knives and guns appear on app for children”也采用同樣思路，又增加了右翼技術(shù)恐懼和自以為是的分析。但是這兩篇文章都是從表面上評價了YouTube聲稱這些結(jié)果非常罕見且很快被刪除的行為。

Good Baby Toys頻道

這是亞洲地區(qū)制作Toy Freaks的基本情況。還有俄羅斯的。我不想再用“人主導(dǎo)”這個詞來形容這些視頻，盡管這些內(nèi)容包含了相同的修辭和實際的人類角色。我想不明白到底發(fā)生了什么，我認(rèn)為這就是問題的關(guān)鍵。這就是我為什么開始深思熟慮所發(fā)生的一切的部分緣由。我們需要作出許多努力。誰在寫這些腳本，誰在編輯這些視頻？再一次，我想強(qiáng)調(diào)：與許多東西相比這些仍然是相對溫和，甚至是有趣的東西。

有些事情令我不安：

• 第一件事情是恐怖和暴力被展示的程度。互聯(lián)網(wǎng)提供一種放大且促進(jìn)我們潛在欲望的方式；事實上，這是它看起來最擅長的。我花了很長時間來論證這種傾向，關(guān)于人類的性自由、個人身份和其他問題。而在這里，絕大多數(shù)人有時會覺得，這種傾向本身就有一種暴力和破壞性傾向。
• 第二件事情是被剝削的程度。不是因為他們是孩子而成為孩子，而是因為他們的無權(quán)利性而成為孩子。像YouTube算法這樣的自動獎勵系統(tǒng)必定以資本主義的剝削方式進(jìn)行剝削。如果你對于對等式的后半部分感到惱火，也許這就是讓你信服真相的原因。剝削被編碼到我們正在建構(gòu)的系統(tǒng)中，使其更難被發(fā)現(xiàn)、更難于對其進(jìn)行思考和解釋、更難于對抗和防御。這不是工廠由機(jī)器人構(gòu)成以及人工智能統(tǒng)治一切的未來，而是此刻、現(xiàn)在，在你的屏幕上，在你的起居室里，在你的口袋里。

其中部分例子都試圖證明沒有人真的在看這些視頻，都是機(jī)器人在背后操作。即使人類只出現(xiàn)在這個系統(tǒng)的生產(chǎn)方面，我也對他們表示擔(dān)心。

這段視頻“BURIED ALIVE Outdoor Playground Finger Family Song Nursery Rhymes Animation Education Learning Video”里包含了我們上面所提到的所有元素，并產(chǎn)生比之前更嚴(yán)重的影響。熟悉的人物角色、童謠、關(guān)鍵詞、完全自動化、暴力、以及孩子們最糟糕的夢想。當(dāng)然，這種視頻大量存在著。一個頻道接著一個頻道，以每周數(shù)百個新視頻的更新速度進(jìn)行播放。以工業(yè)化的水平生產(chǎn)噩夢。

最后：也有比這些更暴力和含有更多性內(nèi)容的東西。我并不打算給出鏈接。我不相信它會給別人帶來精神上的創(chuàng)傷，但是有必須要繼續(xù)強(qiáng)調(diào)，不要忽視這些黑暗的、怪異的對成人沒有多少干擾的東西對于孩子的影響。

一位從事于數(shù)字視頻的朋友向我描述了制作這些內(nèi)容需要些什么：一個小型工作室（可能由6人，或者多些人組成）通過大量制造低質(zhì)量內(nèi)容而滿足這個系統(tǒng)的某些要求（長度似乎是其中一個因素）來獲得廣告收入。根據(jù)這位朋友的說法，供兒童觀看的內(nèi)容是3D動畫為數(shù)不多的賺錢方法之一，因其審美標(biāo)準(zhǔn)較低并可以通過大規(guī)模的獨立生產(chǎn)而獲利。它使用現(xiàn)有的且易于獲得的內(nèi)容（如人物模型和動作捕捉庫），通過不斷重復(fù)和修改而完成制作。它可以不具有任何意義，因為算法不會對此歧視，孩子們也不會。

這些視頻，無論是在哪里制作，無論是如何制作，無論是否有明確目（例如，積累廣告收入）都在以有意識向孩子們展示視頻的方式獲取利潤。而不自覺的涌現(xiàn)出來的后果遍布各處。

讓孩子暴露在這種內(nèi)容之中是虐待。我們討論的不是電影或是視頻游戲暴力對青少年存在爭議卻毋庸置疑的影響，也不是色情或極端形象對于青少年的影響，這屬于那種我在開篇所描述的青少年時期使用互聯(lián)網(wǎng)的影響。這是重要且值得辯論的內(nèi)容，但是卻不是我在此想要討論的東西。我們所談?wù)摰氖欠浅Ｄ暧椎暮⒆?，從出生開始，成為會對他們造成傷害和干擾的目標(biāo)之物，而互聯(lián)網(wǎng)則提供了這種極其容易進(jìn)行虐待的方式。這不僅關(guān)于“釣魚”問題，而是內(nèi)在暴力與數(shù)字系統(tǒng)和資本主義激勵的結(jié)合。

我的觀點是：這個系統(tǒng)是虐待行為的同謀。

此時、此地，YouTube和谷歌在這個系統(tǒng)中沆瀣一氣。他們?yōu)榱藦脑诰€視頻中獲取最大利益而建立起的框架正在被虐待兒童的不確定分子所入侵，也許這不是故意行為，但是卻以大規(guī)模的方式存在著。我認(rèn)為他們需要擔(dān)負(fù)起解決這個問題的絕對責(zé)任，正如他們有責(zé)任去處理那些意圖政治說服的極端視頻對年輕人的激進(jìn)化所產(chǎn)生的影響。到目前為止，他們完全沒有表現(xiàn)出這種傾向，而這本身就是卑鄙。然而，我對于這個議題想做出的最大回應(yīng)是，我不知道他們?nèi)绾卧诓魂P(guān)閉服務(wù)本身以及其他類似系統(tǒng)的情況下做出解釋。我們建立了一個規(guī)?；\作的世界，在那里，人類的監(jiān)督無法觸及到每個角落，也沒有任何非人形式的監(jiān)督能夠發(fā)現(xiàn)我在本文中所提到的大部分例子。

這是一個非常黑暗的時代，我們?yōu)榉?wù)于自我而建立起的框架正在以系統(tǒng)且自動化的方式轉(zhuǎn)而對付我們，我們所有人。當(dāng)網(wǎng)絡(luò)制造出恐怖的時候，我們很難對網(wǎng)絡(luò)保有信心。盡管人們很容易將這些更為瘋狂的例子視為“釣魚”行為，肯定有相當(dāng)數(shù)量的人是這樣認(rèn)為，但是這并不能解釋那些特別怪誕的內(nèi)容的絕對數(shù)量。就像越來越多人關(guān)注俄羅斯對社交媒體的干涉一樣，它所帶來的紛繁復(fù)雜的危險被用作加強(qiáng)控制、增加審核等行為的理由。這并不是我們想要的結(jié)果。

而我想說的是：

盡管對于孩子所遭受的暴力問題讓我十分擔(dān)憂，但是我所擔(dān)憂的不僅僅是這些。我所擔(dān)憂的是對于這種在任何時間對于我們所有人產(chǎn)生影響的基礎(chǔ)設(shè)施暴力，我們依然在努力尋找談?wù)撍?、描述它的機(jī)制、它的行為和它的影響的方式。正如我在開篇所說：這是由人、由事、由人與事的結(jié)合所導(dǎo)致。對于這種結(jié)果所需要承擔(dān)的責(zé)任無法合理分配，但是傷害是如此、如此的真實。

原文地址：https://medium.com/@jamesbridle/something-is-wrong-on-the-internet-c39c471271d2

譯者：木木子，由36氪編譯組出品。編輯：郝鵬程

譯文地址：http://36kr.com/p/5130795.html

本文由 @郝鵬程 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來自 Unsplash，基于 CC0 協(xié)議