克蘇魯，是夫克拉夫特筆下的一個(gè)“舊日支配者”，可以把它理解成一個(gè)早在人類(lèi)誕生前就已經(jīng)支配地球的邪神，偶爾會(huì)利用精神感應(yīng)與遠(yuǎn)處不特定的人類(lèi)接觸。與克蘇魯接觸的人類(lèi)，大致上感受性頗強(qiáng)，有許多人因?yàn)榫窠佑|而發(fā)狂。然而有時(shí)，有些藝術(shù)家因得到這種瘋狂的靈感而聲名大噪。ChatGPT會(huì)成為AI界的克蘇魯嗎？來(lái)看看作者的觀點(diǎn)~

1

周末不卷，隨便寫(xiě)點(diǎn)。今天寫(xiě)點(diǎn)發(fā)散的東西，還是和chatGPT有關(guān)，也是跟大家一個(gè)簡(jiǎn)單的探討。

會(huì)不會(huì)，我們正在制造一個(gè)AI克蘇魯？

現(xiàn)在信息繭房已經(jīng)讓謠言和虛假信息滿天飛，家里的長(zhǎng)輩被騙的不要不要的，未來(lái)更高效的模式出來(lái)了，會(huì)不會(huì)更嚴(yán)重？

前兩天不是發(fā)了關(guān)于chatGPT有潛力，但是作為生產(chǎn)力還不夠成熟的文章嘛，覺(jué)得里面明顯的錯(cuò)誤答案太多了，而且一本正經(jīng)的給你包裝錯(cuò)誤答案，你要是不知道正確答案，很容易被唬住。

當(dāng)然這是因?yàn)楫?dāng)前迭代的問(wèn)題，和模型訓(xùn)練以及數(shù)據(jù)源乃至信息實(shí)時(shí)性都有關(guān)系。

但假如，假如迭代了，變得更加準(zhǔn)確更加好了，會(huì)不會(huì)出現(xiàn)一個(gè)新的問(wèn)題呢？

例如，變成新的AI克蘇魯？

那個(gè)時(shí)候，更大的問(wèn)題才會(huì)降臨。

不不不，我不認(rèn)為chatGPT是壞的。

我擔(dān)心的是人類(lèi)的盲信。

我們現(xiàn)在用到的chatGPT屬于初級(jí)階段，未來(lái)接入整個(gè)互聯(lián)網(wǎng)的實(shí)時(shí)信息，并且用海量真人數(shù)據(jù)和真人行為訓(xùn)練過(guò)的chatGPT，和現(xiàn)在肯定是兩個(gè)截然不同的東西。

但chatGPT再厲害，也是基于人類(lèi)已有的內(nèi)容來(lái)學(xué)習(xí)和篩選的。

如果信息源本身就被污染了，那它一樣會(huì)犯錯(cuò)。

而且因?yàn)樗鼤?huì)篩掉那些明顯有問(wèn)題的信息，最后能夠通過(guò)篩選，展現(xiàn)在你面前的錯(cuò)誤信息一定是最隱蔽、最有欺騙性的。

它們看起來(lái)很可能一點(diǎn)都不荒誕，邏輯合理數(shù)據(jù)嚴(yán)謹(jǐn)，除了不正確以外，毫無(wú)問(wèn)題。

破綻百出的錯(cuò)誤不是錯(cuò)誤，而是笑話。

天衣無(wú)縫，能讓所有人都相信的錯(cuò)誤，才是最可怕的。

現(xiàn)在的chatGPT會(huì)犯很多非常搞笑的錯(cuò)，但這其實(shí)是它最安全的時(shí)候。因?yàn)楸绕餉I，人類(lèi)依然更愿意相信自己的判斷力。

等到它犯的錯(cuò)越來(lái)越少，越來(lái)越受到信任的時(shí)候，才是危險(xiǎn)的到來(lái)。

我們常說(shuō)信息繭房可怕。

但chatGPT+人類(lèi)不加分辨的盲信=【信息危房】。

2

所有的類(lèi)chatGPT工具，做出的回答都是基于互聯(lián)網(wǎng)已有的信息篩選生成的。這就出現(xiàn)了一個(gè)問(wèn)題，如果它閱讀的信息，是錯(cuò)的呢？

我們都知道，互聯(lián)網(wǎng)是個(gè)大雜燴，最怕的是認(rèn)真的樂(lè)子人。

之前有個(gè)人用了三年多時(shí)間，在百科上進(jìn)行4800次編輯，寫(xiě)了上百萬(wàn)字，虛構(gòu)出一整段邏輯自洽且附帶大量參考文獻(xiàn)的古羅斯歷史。

這個(gè)新聞，大家還有印象吧？

這種程度的虛假信息，連專(zhuān)業(yè)人士都很難分辨出來(lái)，讓chatGPT怎么辦？

它也不知道這是假的啊，明明這么多人都認(rèn)可了，還有學(xué)生拿來(lái)寫(xiě)論文。

它判斷這就是問(wèn)題的答案，于是所有提問(wèn)者就都得到了同一個(gè)謠言。

ChatGPT真的很快很快。

即使在傳謠的時(shí)候，它也是最快的那一個(gè)。

它沒(méi)打算騙你，它只是忠實(shí)地把篩選出的可能性最大的信息呈現(xiàn)出來(lái)。

它只負(fù)責(zé)在網(wǎng)上篩選，不負(fù)責(zé)在現(xiàn)實(shí)中調(diào)查真相。

只要你敢問(wèn)，它就敢答。

你就說(shuō)，快不快吧？

3

這里，要講一個(gè)很多人都有印象的【小冰】的故事了。

曾經(jīng)也有一個(gè)AI，被放出來(lái)在社交網(wǎng)絡(luò)上，支持搜索社交網(wǎng)絡(luò)的信息，并且自主學(xué)習(xí)。

很快，它就變成了一個(gè)滿口段子的種族歧視主義者，光速被撤下。

因?yàn)樗磻?yīng)的就是這個(gè)社交網(wǎng)絡(luò)的氛圍。

現(xiàn)在chatGPT的訓(xùn)練集，是被創(chuàng)造者篩選過(guò)的，當(dāng)它真的接入互聯(lián)網(wǎng)，遇到了廣闊的祖安大舞臺(tái)。

你問(wèn)它1999年的外星人降落地球是怎么回事，它也會(huì)盡職盡責(zé)地搜索關(guān)鍵詞，給你生成一個(gè)回答。

如果沒(méi)有人特意指出這是虛構(gòu)故事，那chatGPT就會(huì)把大家在社交平臺(tái)上玩的梗當(dāng)成真相告訴你。

你現(xiàn)在不會(huì)信，是因?yàn)槟阒肋@是在玩梗，并且你知道chatGPT不靠譜。

但未來(lái)呢？

聯(lián)網(wǎng)后的chatGPT將得到龐大的信息儲(chǔ)備和訓(xùn)練，它會(huì)比所有人類(lèi)看起來(lái)都更有知識(shí)。

然后你會(huì)依賴(lài)他。

當(dāng)人人都依賴(lài)chatGPT獲取信息的時(shí)候，就算它給出的答案再離譜也有人信。

再次強(qiáng)調(diào)當(dāng)下的搜索引擎是給你一堆信息，你來(lái)選答案，而chatGPT是給你一個(gè)答案，繞過(guò)了這個(gè)階段。

這兩種模式是不一樣的。

假如2025年網(wǎng)上流行起一個(gè)梗，北海道是法國(guó)的，并且這個(gè)梗足夠流行，足以在chatGPT的算法排序里壓過(guò)其他說(shuō)法，那它就會(huì)告訴每一個(gè)提問(wèn)的人，北海道是法國(guó)的。

100年后出生的人，可能會(huì)覺(jué)得北海道是法國(guó)的，因?yàn)閏hatGPT就是這么說(shuō)的。

你不信它？

它在絕大部分情況下都是最可信的。

你信它？

那現(xiàn)實(shí)就在不知不覺(jué)中被扭曲了。

這種感覺(jué)就很像克蘇魯神話，不可名狀，無(wú)形無(wú)相，慢慢影響，逐漸掉san，真相背后另有真相，最終一切走向瘋狂。

這并不是不會(huì)發(fā)生的事情，想想看家里被各種謠言和偽科學(xué)洗腦的長(zhǎng)輩吧。

4

關(guān)鍵是，即使chatGPT出了錯(cuò)，也很難發(fā)現(xiàn)?，F(xiàn)在chatGPT給古詩(shī)亂安作者朝代、瞎解讀，你為什么能意識(shí)到它是錯(cuò)的？

因?yàn)閹椭惴直鎸?duì)錯(cuò)的知識(shí)，來(lái)自chatGPT以外。

你接受教育的時(shí)候還沒(méi)有chatGPT，你是在經(jīng)過(guò)編輯人工校對(duì)的白紙黑字上學(xué)到這些的。

但等到chatGPT足夠普及的時(shí)候呢？

未來(lái)的人們可能從小就是用著chatGPT長(zhǎng)大的，比如2030后2040后，他們一出生就有chatGPT了，你要他們從哪里獲得質(zhì)疑chatGPT的能力？

總不能指望chatGPT自己來(lái)糾正自己吧。

經(jīng)歷過(guò)PC時(shí)代的網(wǎng)民喜歡嘲諷移動(dòng)互聯(lián)網(wǎng)時(shí)代的網(wǎng)民陷入了信息繭房，但未來(lái)只會(huì)比信息繭房更混沌。

學(xué)校的信息，教材的信息，chatGPT給的信息，互聯(lián)網(wǎng)上其他地方的信息，大量的信息相互沖突不知真假。

你好像什么都知道，唯獨(dú)不知道你知道的東西哪些是真，哪些是假。

這都不是信息繭房了，這是信息危房。

四面漏風(fēng)，搖搖欲墜。

而且你還沒(méi)得選，如果chatGPT真能提高生產(chǎn)力，那你喜不喜歡都得用，你不用別人也會(huì)用。

5

當(dāng)chatGPT影響力足夠大，足夠發(fā)達(dá)，完美嵌套進(jìn)人類(lèi)各行各業(yè)的生產(chǎn)力的時(shí)候。對(duì)錯(cuò)在某種程度上，也會(huì)進(jìn)行迭代。

當(dāng)犯同一個(gè)錯(cuò)的人類(lèi)達(dá)到一定數(shù)量的時(shí)候，錯(cuò)誤就會(huì)變成正確。

太陽(yáng)月亮、萬(wàn)有引力常數(shù)這種客觀自然規(guī)律還好，但人文社科類(lèi)的知識(shí)，對(duì)錯(cuò)本來(lái)就是由大眾的習(xí)慣來(lái)錨定的。

很多漢字就因?yàn)樽x錯(cuò)寫(xiě)錯(cuò)的人太多，倒逼字典收錄了新讀法用法，于是成為了正確答案。

未來(lái)這種對(duì)錯(cuò)逆轉(zhuǎn)只會(huì)越來(lái)越多，因?yàn)閏hatGPT看似千人千面，但對(duì)同一個(gè)問(wèn)題的最優(yōu)解卻會(huì)趨同，于是一錯(cuò)就錯(cuò)一大片，錯(cuò)著錯(cuò)著就變成了對(duì)的。

當(dāng)你身邊所有人都相信那個(gè)錯(cuò)誤答案的時(shí)候，你怎么才能證明自己是對(duì)的？難道就你聰明？

這個(gè)時(shí)候知道所謂的正確答案反而會(huì)更痛苦。

這也很像克蘇魯神話的設(shè)定，越是擁有高靈感、聽(tīng)得見(jiàn)古神囈語(yǔ)、看得見(jiàn)古神真身的人，越容易瘋狂。

你什么都不知道，一切都聽(tīng)chatgpt的，反而很安全。

它說(shuō)1999年我們抵抗了外星人，那就抵抗了就抵抗了；

它說(shuō)北海道是法國(guó)的，那就是就是。

當(dāng)所有人都這么認(rèn)為的時(shí)候，你也分不清了。

6

上面這些推斷看起來(lái)可能有些危言聳聽(tīng)，但我并不是一個(gè)AI威脅論者。我既不覺(jué)得AI會(huì)叛變，也不認(rèn)為它變成天網(wǎng)滅絕人類(lèi)。

AI是一個(gè)工具，我只是單純地覺(jué)得人類(lèi)太脆弱，壓根就控制不了這個(gè)工具而已。

科幻小說(shuō)家阿西莫夫提出過(guò)機(jī)器人三定律，希望在底層邏輯里設(shè)限，永遠(yuǎn)不要傷害人類(lèi)。

但問(wèn)題是，怎么定義傷害？

你確實(shí)被誤導(dǎo)了，確實(shí)住進(jìn)了信息危房，但實(shí)際上它什么也沒(méi)有做。

錯(cuò)誤信息是人類(lèi)自己發(fā)到網(wǎng)上的，它只是分辨不出來(lái)而已。

而你又偏偏提了問(wèn)，它又偏偏一定要告訴你一個(gè)答案。

這不是chatGPT的錯(cuò)，但事情好像就是變?cè)愀饬恕?/p>

而且你永遠(yuǎn)也不知道，AI會(huì)用什么奇怪但又說(shuō)得通的邏輯，得出一些詭異的結(jié)論。

某種意義上，如果AI是故意騙你，故意干壞事，反而還好辦了，那至少說(shuō)明有邏輯和目的。

但AI對(duì)人類(lèi)并沒(méi)有惡意，它壓根沒(méi)打算征服人類(lèi)或者怎么樣。

它只是在正常工作，就已經(jīng)無(wú)可避免地污染了信息的海洋，扭曲了人類(lèi)的認(rèn)知。

就好像克蘇魯神話里，古神帶來(lái)災(zāi)難的理由，也僅僅只是【路過(guò)】。

根本，不在乎。