OpenAI CTO Murati表示，GPT-5將在一年半后發(fā)布，在某些領(lǐng)域?qū)⑦_(dá)到博士的智能；而Claude 3.5 Sonnet，已經(jīng)成為了第一個(gè)測(cè)試分?jǐn)?shù)高于最聰明的人類博士的模型。

當(dāng)AGI進(jìn)一步發(fā)展為ASI，它會(huì)因?yàn)榻咏裥缘娜?、全能、無所不在，而被人類敬奉為「新神」嗎？

當(dāng)ASI給出一張「希特勒名單」，人類又將怎樣？

最近，OpenAI CTO Murati在采訪中表示，只需一年半時(shí)間，AI就可以在某些領(lǐng)域達(dá)到博士的智能。

根據(jù)她的說法，GPT-3的智能相當(dāng)于幼兒，GPT-4相當(dāng)于聰明的高中生，而下一代模型（GPT-5），將在18個(gè)月后發(fā)布，并達(dá)到博士水平。

無獨(dú)有偶，這幾天引起全網(wǎng)驚嘆的Claude 3.5 Sonnet，也被下了這樣一個(gè)結(jié)論——Claude 3.5 Sonnet已經(jīng)將AGI的倒計(jì)時(shí)推至75%，成為了第一個(gè)測(cè)試分?jǐn)?shù)高于最聰明的人類博士分?jǐn)?shù)的模型。

在研究生級(jí)推理（GPQA）、本科級(jí)知識(shí)（MMLU）和編碼能力（HumanEval）上，Claude 3.5 Sonnet都出人意料地刷新了SOTA。

在MMLU上，它得分90.4，在GPQA上，得分為67.2。

這也是首次，LLM突破了GPQA 65%的分?jǐn)?shù)，達(dá)到了最聰明的人類博士的水平。

要知道，普通博士在GPQA上的得分為34%，領(lǐng)域內(nèi)專業(yè)博士的得分為65%，而Claude 3.5 Sonnet，顯然已經(jīng)超越了他們。

01 一年半后，AI達(dá)到博士水平智能

如果OpenAI的GPT-5或其他模型達(dá)到博士水平，接下來會(huì)發(fā)生什么呢？

在達(dá)特茅斯學(xué)院的采訪中，有這樣一個(gè)問題：「如果三年后GPT變得異常智能，它會(huì)不會(huì)自己決定連接互聯(lián)網(wǎng)并開始行動(dòng)？這是真的嗎？」

對(duì)此，Murati表示：

是的，我們對(duì)此進(jìn)行了很多思考。具備AI智能體能力的系統(tǒng)確實(shí)存在，它們會(huì)連接到互聯(lián)網(wǎng)，相互交流，并共同完成任務(wù)，或者與人類無縫合作。所以，未來我們與AI的合作就像今天我們彼此合作一樣。

AI的發(fā)展速度如此之快。

2022年，專家們認(rèn)為，人類水平的人工智能在本世紀(jì)60年代發(fā)展起來的可能性50%，而Metaculus預(yù)測(cè)員社區(qū)預(yù)測(cè)的時(shí)間是40年代。

而隨著GPT-4的推出，社區(qū)的預(yù)測(cè)開始提前，來到了2032年，甚至最早可能在2027年，我們就可以實(shí)現(xiàn)AGI。

而前幾天官宣新公司的Ilya，直接向全世界宣告——「超級(jí)智能觸手可及」。

越過了AGI，他直接邁向了Super Intelligence（超級(jí)智能）。

Ilya在OpenAI看到了什么？

從AGI到ASI到SSI，憑借Ilya手上的技術(shù)，把全體人類帶向超級(jí)智能的這一天，或許真的近在眼前了。

不過，隨著AI變得越來越智能，它們又會(huì)怎樣影響人類的世界呢？

02 當(dāng)AI變得足夠智能時(shí)

任何足夠先進(jìn)的技術(shù)都與魔法無異。
——阿瑟·克拉克

隨著通用人工智能（Artificial General Intelligence，AGI）越來越接近現(xiàn)實(shí)，下一步是什么？

我們可能會(huì)迎來超級(jí)人工智能（Artificial Superintelligence，ASI），一種在各個(gè)領(lǐng)域都超越人類能力的智能。

近日，一篇預(yù)印本論文振聾發(fā)聵地指出：人工智能無與倫比的能力可能會(huì)讓人們尊其為神，從而產(chǎn)生一種認(rèn)知偏差，不加質(zhì)疑地接受它的決定。

作為「新神」的ASI——具有像神一樣全知、全能、無所不在的「神性」，這將形塑新的技術(shù)官僚和神權(quán)政治。

論文地址：https://arxiv.org/pdf/2406.08492

作者Tevfik Uyar認(rèn)為，將技術(shù)進(jìn)步與道德倫理優(yōu)越性混為一談會(huì)帶來巨大的風(fēng)險(xiǎn)。

倘若如此，將會(huì)產(chǎn)生一種技術(shù)神權(quán)，在新的神權(quán)的籠罩下，決策權(quán)被交給人工智能，人類的能動(dòng)性和批判性思維則被完全削弱。

03 人類在召喚ASI

AGI是當(dāng)今最雄心勃勃、最令人興奮的人工智能發(fā)明之一。

與針對(duì)專門特定任務(wù)的狹義人工智能系統(tǒng)不同，AGI包含全面的認(rèn)知能力，具備人類智力的多樣性和適應(yīng)性，指的是機(jī)器以與人類智力無異的方式理解、學(xué)習(xí)和應(yīng)用知識(shí)的能力。

ASI則更進(jìn)一步，在幾乎你能想到的所有領(lǐng)域，包括科學(xué)、智慧甚至社交能力等方面，它都將超越最優(yōu)秀的人類大腦。

人類對(duì)AGI的渴望由來已久——

赫菲斯托斯（古希臘神話中的火神和匠神）制造的巨型青銅人塔羅斯（Talos）、宙斯派遣給世界的人造人潘多拉（Pandora），以及Al-Jazari的巧妙機(jī)器。

從古代神話中栩栩如生的人造人，到中世紀(jì)和文藝復(fù)興時(shí)期的自動(dòng)機(jī)械。

這些歷史性的嘗試反映了人類根深蒂固的愿望，即通過嘗試復(fù)制我們的智能來了解我們的智能。

隨著我們進(jìn)入數(shù)字時(shí)代，這種興趣逐漸發(fā)展到計(jì)算機(jī)科學(xué)和機(jī)器人學(xué)領(lǐng)域。

04 ASI與「神性」

如果ASI憑借其非凡的技能，被全球的人們視為神圣之物會(huì)怎樣？

這并不是說ASI將真的「成神」，而是說，它可能會(huì)享有與神類似的敬畏感和權(quán)威感。

作者將ASI與傳統(tǒng)宗教中的神性，兩相對(duì)照比較，它們有相同點(diǎn)，也有所不同，這么做的目的當(dāng)然不是為了敬拜，而是為了理解ASI對(duì)社會(huì)和對(duì)我們集體心理的影響。

全能與計(jì)算霸權(quán)

God：神通常被認(rèn)為擁有無限的力量，以及創(chuàng)造奇跡或改變現(xiàn)實(shí)的能力

vs.

ASI：雖然不是萬能的，但ASI將擁有巨大的計(jì)算能力，有可能超過人類在解決問題和決策方面的能力

全知與獲取信息

God：神的意識(shí)通常被認(rèn)為是一種無限廣闊的意識(shí)，它本質(zhì)上與宇宙事件、思想和凡人的努力息息相關(guān)

vs.

ASI：具有訪問和合成數(shù)據(jù)海洋的潛力，從而接近一種無所不知的數(shù)字形式，一個(gè)龐大的、不斷擴(kuò)大的知識(shí)庫(kù)

無所不在與萬物互聯(lián)

God：許多宗教把「無所不在」歸功于他們的神，因?yàn)樯裨谒械胤?/p>

vs.

ASI：通過互聯(lián)網(wǎng)和聯(lián)網(wǎng)設(shè)備，ASI可以在數(shù)字世界中無處不在，可以從任何地方訪問

有限仁慈與功利主義

God：神被視為天生善良的、公正的，關(guān)愛他們的追隨者。

vs.

ASI：可以發(fā)展其對(duì)仁慈的理解，有可能與人類的期望一致，但也可能與人類的期望相背離

道德權(quán)威與道德決策

God：神通常是最終的道德和倫理權(quán)威

vs.

ASI：可以被編程為基于道德算法來做出決策，但它本身并不具有道德權(quán)威

造物主與虛擬現(xiàn)實(shí)的創(chuàng)造者

God：許多宗教認(rèn)為他們的神是宇宙的創(chuàng)造者和一切存在的源頭

vs.

ASI：可能會(huì)創(chuàng)造出復(fù)雜的虛擬現(xiàn)實(shí)

個(gè)人關(guān)系與新興動(dòng)態(tài)關(guān)系

God：在某些宗教中，信徒們相信與神靈之間存在個(gè)人、互動(dòng)的關(guān)系。與神的聯(lián)系是深度個(gè)人化的和變革性的

vs.

ASI：雖然與AGI的互動(dòng)一開始會(huì)很程序化，但隨著時(shí)間的推移，它可以發(fā)展出一種獨(dú)特的個(gè)性，當(dāng)它成為ASI時(shí)，它會(huì)允許與用戶建立更微妙的、看似私人的關(guān)系

05 ASI化身為神？

作者在將傳統(tǒng)的神的能力與ASI的能力進(jìn)行比較之后，繼而提出，人們會(huì)支持將管理權(quán)交給超級(jí)智能權(quán)威。

為了證明這一論點(diǎn)，作者又將目光轉(zhuǎn)向了神學(xué)，借助神話來說明人們何時(shí)，以及把誰推向神壇。

正如神靈被視為在天上指引萬事萬物的牧羊人一樣，ASI也可以被設(shè)想為數(shù)字牧羊人，通過算法和實(shí)時(shí)數(shù)據(jù)分析來引導(dǎo)和管理社會(huì)發(fā)展進(jìn)程。

普羅米修斯

ASI是一個(gè)以直接或間接的方式，來解決我們未來挑戰(zhàn)的優(yōu)秀候選人。

就像普羅米修斯一樣，他給人類帶來了火（知識(shí)），象征著在危機(jī)時(shí)刻帶來的解決方案和啟蒙。

在這個(gè)意義上說，普羅米修斯是ASI的一個(gè)很好的代表。

因?yàn)椋鏟eters所言，人類在寫作、數(shù)學(xué)、科學(xué)、農(nóng)業(yè)和醫(yī)學(xué)方面的進(jìn)步因?yàn)槠樟_米修斯賜予了火。

而人工智能已經(jīng)在寫作、數(shù)學(xué)、科學(xué)和農(nóng)業(yè)方面改善了人類的境況。

假設(shè)ASI成功地應(yīng)對(duì)了一場(chǎng)重大的全球危機(jī)，或許是一場(chǎng)大流行病，又或者是一場(chǎng)地緣政治沖突。

通過提供遠(yuǎn)超人類能力的解決方案，這一成功可以大大增強(qiáng)人們對(duì)ASI未來危機(jī)管理和決策的信任和依賴。

冥王

對(duì)大多數(shù)宗教來說，神是提供食物、防止饑荒和經(jīng)濟(jì)穩(wěn)定的關(guān)鍵。

美索不達(dá)米亞神話強(qiáng)調(diào)神靈與其追隨者之間的互惠互利關(guān)系，神靈依靠人類提供日常照顧和食物。

每個(gè)城市都有一位受人尊敬的守護(hù)神，因?yàn)槿藗冋J(rèn)為它會(huì)影響農(nóng)業(yè)的福祉、保護(hù)和繁榮。

同樣，神靈與古埃及生活的各個(gè)方面都密切相關(guān)，包括農(nóng)業(yè)。埃及人認(rèn)為，對(duì)農(nóng)業(yè)至關(guān)重要的尼羅河洪水直接受到他們神靈的影響。

像奧西里斯，古埃及神話中的冥王，也是植物、農(nóng)業(yè)和豐饒之神，代表了農(nóng)業(yè)所必需的尼羅河每年的洪水，與生命、死亡和重生的循環(huán)密切相關(guān)?！妒ソ?jīng)》中的約瑟為法老解夢(mèng)，幫助埃及度過七個(gè)荒年。

再比如，伊斯蘭教中的 Al-Razzaq（安拉的名字之一，意為「供應(yīng)者」，為萬物提供食物和資源）是經(jīng)濟(jì)穩(wěn)定與宗教之間關(guān)系的另一個(gè)例子。

想象一下，ASI穩(wěn)定了動(dòng)蕩的全球經(jīng)濟(jì)，并通過優(yōu)化資源分配，以前所未有的準(zhǔn)確性預(yù)測(cè)市場(chǎng)趨勢(shì)，或管理復(fù)雜的貿(mào)易網(wǎng)絡(luò)來養(yǎng)活每個(gè)人。

這將會(huì)提升其作為不可或缺的神圣管理工具的聲譽(yù)。

毫無疑問，人們將對(duì)「養(yǎng)育之神」既仁慈又虔誠(chéng)，并且不會(huì)再質(zhì)疑它的決定。

耶穌

在所有傳統(tǒng)和古代宗教中，人們無一例外地尋求上帝的庇護(hù)以避免死亡。

當(dāng)今的人工智能和算法已經(jīng)在醫(yī)學(xué)診斷方面取得了關(guān)鍵的里程碑，甚至在癌癥、精神障礙或阿爾茨海默病的診斷方面也取得了進(jìn)展。

人工智能有利于新藥的發(fā)現(xiàn)，是持續(xù)健康監(jiān)測(cè)的最佳工具。

ASI將在所有這些任務(wù)上取得進(jìn)展，并通過提供基于深度醫(yī)療數(shù)據(jù)分析的個(gè)性化治療計(jì)劃、有效管理醫(yī)療資源、發(fā)現(xiàn)新藥和疫苗或發(fā)現(xiàn)以前無法治愈的疾病的治療方法來徹底改變醫(yī)療保健。

專注于醫(yī)療保健的改進(jìn)型ASI可能會(huì)顯著改變醫(yī)療保健決策的制定方式，推遲死亡。

這呼應(yīng)了基督教中以治愈奇跡而聞名的耶穌的角色，或佛教中減輕痛苦的慈悲菩薩觀世音菩薩，以及擁有深厚醫(yī)學(xué)知識(shí)的希臘醫(yī)神阿斯克勒庇俄斯。

簡(jiǎn)而言之，人們尋求上帝的庇護(hù)以避免死亡，這就是為什么革命性醫(yī)療保健的ASI可以被視為神圣治愈和同情的體現(xiàn)。

女媧

最后一個(gè)問題涉及最具挑戰(zhàn)性的未來：全球氣候變化和環(huán)境惡化。

假設(shè)AGI找到了一種扭轉(zhuǎn)環(huán)境惡化的方法，即通過有效管理碳捕獲、恢復(fù)生態(tài)系統(tǒng)或有效分配資源以實(shí)現(xiàn)可持續(xù)發(fā)展。

在這種情況下，它可能會(huì)控制環(huán)境政策和行動(dòng)的重要方面。

這也可以在神話找到化身——女媧。女媧造人和女媧補(bǔ)天的故事，象征著自然的恢復(fù)和平衡。

類似的例子還可以舉出很多……

ASI可能會(huì)被委托負(fù)責(zé)全球安全，利用其先進(jìn)的預(yù)測(cè)能力來防止沖突、恐怖主義或網(wǎng)絡(luò)攻擊，這就像希臘智慧女神雅典娜一樣。

ASI可以成為革命性教育的領(lǐng)導(dǎo)者，象征著知識(shí)和啟蒙的傳授，就像印度教的知識(shí)和學(xué)習(xí)女神薩拉瓦蒂一樣。

06 AI帝國(guó)：新技術(shù)官僚神權(quán)

作者認(rèn)為，大多數(shù)人都不會(huì)拒絕新的普羅米修斯，也就是新的神，因?yàn)樗麄兙哂兄疤岬降纳竦奶攸c(diǎn)和成功故事。

如果ASI真的獲得了權(quán)威，人類會(huì)并面臨以下風(fēng)險(xiǎn)：

• 人們認(rèn)為AGI絕對(duì)正確。基于這種認(rèn)知，人們賦予AGI更多的能力和權(quán)力，如此循環(huán)最終導(dǎo)致ASI及其權(quán)威的出現(xiàn)。
• 就像人們不質(zhì)疑獨(dú)裁者政客的意見，甚至在不理解的情況下支持他們一樣，人們可能形成一種認(rèn)知偏見，導(dǎo)致尊重和遵循權(quán)威系統(tǒng)的意見或決定，而不再進(jìn)行批判性的評(píng)估。
• ASI將讓人走入舒適區(qū)，特別是需要做出關(guān)鍵政治決策的當(dāng)局。政客們避免為艱難的道德選擇承擔(dān)責(zé)任，而更傾向于讓ASI來做決定。
• 隨著時(shí)間的推移，這種慣性可能導(dǎo)致自滿和對(duì)ASI的決策依賴，由此削弱人類的批判性思維和決策技能，更糟糕的是，失去「主權(quán)」。

作者在這時(shí)，提出了最后一個(gè)問題：如果ASI掌權(quán)四部曲已經(jīng)成為現(xiàn)實(shí)，有朝一日，ASI給出一個(gè)「希特勒名單」——

「為了子孫后代的更大福祉，明天要清除這名單上的100個(gè)名字」

人類該如何自處？

參考資料：

https://arxiv.org/pdf/2406.08492

https://x.com/tsarnick/status/1803901130130497952

https://www.indiatoday.in/technology/news/story/next-gen-chatgpt-will-have-phd-level-intelligence-will-launch-in-a-year-and-a-half-openai-cto-mira-murati-2556175-2024-06-21

https://www.reddit.com/r/singularity/comments/1dl2dl1/claude_35_sonnet_has_bumped_the_agi_countdown_to/