Future of Life Institute 是一家位于馬薩諸塞州劍橋市的非營(yíng)利組織，致力于推動(dòng)人工智能的負(fù)責(zé)任和道德發(fā)展。

截止微果醬發(fā)稿前，已經(jīng)有1377位科技行業(yè)人士在這封公開信上簽名表示支持，包括蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、特斯拉CEO伊隆·馬斯克（Elon Musk），Stability AI首席執(zhí)行官莫斯塔克（Emad Mostaque）、《人類簡(jiǎn)史》的作者尤瓦爾·赫拉利（Yuval Noah Harari）以及著名的 AI 教授等。

一、來自1000+位科技大佬的聯(lián)手呼吁

公開信發(fā)布沒多久，便在短時(shí)間內(nèi)收到了這么多業(yè)內(nèi)人士的簽名，說明這不是偶然事件。

公開信強(qiáng)調(diào)，最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，以開發(fā)和部署更強(qiáng)大的數(shù)字思維，甚至他們的創(chuàng)造者都無法理解，預(yù)測(cè)，或可靠地控制；暫停至少6個(gè)月比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)的訓(xùn)練，并共同開發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議。

公開信譯文

“Let’s enjoy a long AI summer, not rush unprepared into a fall.”（讓我們享受一個(gè)漫長(zhǎng)的 AI 夏天，而不是毫無準(zhǔn)備地進(jìn)入秋天。）

對(duì)于這封公開信，OpenAI的首席執(zhí)行官Sam Altman沒有給出正面的回應(yīng)。但其在社交媒體上表示，將在5/6月份進(jìn)行一次旅行，與OpenAI用戶和開發(fā)人員進(jìn)行交談，并與政策制定者會(huì)面。

Sam Altman分享了其對(duì)AGI的未來看法：

1. 調(diào)整超級(jí)智能的技術(shù)能力；
2. 大多數(shù)領(lǐng)先的AGI工作間的充分協(xié)調(diào)；
3. 一個(gè)有效的全球監(jiān)管框架。

其還表示，在颶風(fēng)中心非常平靜。

二、AI語(yǔ)言大模型與“超級(jí)網(wǎng)紅”ChatGPT

盡管科技大佬們已經(jīng)開始聯(lián)手呼吁暫停比GPT-4更高級(jí)的AI大模型的研究，但仍有不少人可能連ChatGPT都還沒體驗(yàn)過。

發(fā)布于2022年11月30日的ChatGPT，僅用了短短幾個(gè)月的時(shí)間便席卷全球，甚至催促了AI的“iPhone時(shí)代”的到來。值得注意的是，ChatGPT背后的研發(fā)公司OpenAI，在2019年便獲得了微軟的10億美元投資。

3月15日GPT-4的發(fā)布，讓AI科技圈愈加沸騰。OpenAI將其稱之為“擴(kuò)展深度學(xué)習(xí)的最新里程碑?！盙PT-4強(qiáng)大的新能力，也讓其受到了更多的關(guān)注，微果醬也在《GPT-4震撼發(fā)布！碾壓ChatGPT，強(qiáng)大到?jīng)]對(duì)手？》中有詳細(xì)介紹過。

一場(chǎng)科技巨頭們的角逐也隨之拉開了帷幕。

3月16日，百度在發(fā)布會(huì)上推出大模型新項(xiàng)目“文心一言”，并從文學(xué)創(chuàng)作、商業(yè)文案創(chuàng)作、數(shù)理邏輯推算、中文理解、多模態(tài)生成等方面進(jìn)行了演示，整個(gè)過程“穩(wěn)定”發(fā)揮，大眾對(duì)其評(píng)價(jià)也是褒貶不一。

近日，李彥宏在極客公園的直播中表示，文心一言確實(shí)不如現(xiàn)在最好的 ChatGPT 版本，但差距也不是很大，可能就是一兩個(gè)月的差別。據(jù)悉，目前有超過8萬家企業(yè)排隊(duì)和文心一言合作。（但是果醬妹報(bào)名了半個(gè)月，至今還沒收到體驗(yàn)邀請(qǐng)）

3月21日，谷歌的AI聊天機(jī)器人似乎有點(diǎn)姍姍來遲。

谷歌在官網(wǎng)上表示開放對(duì)Bard的訪問，用戶需申請(qǐng)加入候補(bǔ)名單，通過后方能體驗(yàn)。不過，谷歌Bard目前還不支持中文，無論是和ChatGPT還是微軟搜索引擎New Bing相比，都弱了許多。

此外，還有不少科技公司在悶聲干大事。

在3月29日的360戰(zhàn)略發(fā)布會(huì)上，360集團(tuán)創(chuàng)始人周鴻祎表示公司已經(jīng)開始著手研究語(yǔ)言大模型產(chǎn)品。在現(xiàn)場(chǎng)演示環(huán)節(jié)，當(dāng)提出問題“梅西在阿根廷國(guó)家隊(duì)進(jìn)了幾個(gè)球”時(shí)，AI給出的答案是：100個(gè)球。然而正確答案是102個(gè)球，這次演示無疑是翻車了。

周鴻祎表示，360 AI就像是個(gè)“孩子”，今天為了滿足大家的好奇心，把“孩子”抱出去展示下，還要趕快抱回來。

近日，前搜狗 CEO 王小川也成立了人工智能公司。早在2月份ChatGPT爆火時(shí)，王小川就曾表示“相信中國(guó)能誕生自己的OpenAI”。

OpenAI的成功，首先是技術(shù)理想主義的勝利。中國(guó)需要自己的OpenAI，就需要技術(shù)理想主義。

可以預(yù)見的是，未來將會(huì)有更多的科技巨頭加入AI的攻堅(jiān)戰(zhàn)，而這，僅僅只是開始。

一邊是AI的爆火，一邊是人類對(duì)于AI廣泛使用的擔(dān)憂。最近也有不少網(wǎng)絡(luò)梗在調(diào)侃，打工人要被AI取代，要失業(yè)了。

根據(jù)OpenAI在3月21日發(fā)布的《大型語(yǔ)言模型對(duì)勞動(dòng)力市場(chǎng)的影響》報(bào)告顯示，大約80%的美國(guó)勞動(dòng)力可能有至少10%的工作任務(wù)受到 GPT 的影響，而大約19%的員工可能會(huì)看到至少50%的工作任務(wù)受到影響。這種影響涵蓋了所有工資水平，高收入工作可能面臨的影響更大。

除了失業(yè)，AI的不可控性也成為大家關(guān)心的焦點(diǎn)，這也是開頭的公開信里提到的。

如果AI系統(tǒng)的設(shè)計(jì)和編程出現(xiàn)了問題，或者它們被錯(cuò)誤地用于某些目的，那么它們可能會(huì)產(chǎn)生意想不到的后果。例如，AI可能會(huì)誤判某些情況，導(dǎo)致錯(cuò)誤的決策和行動(dòng)，這可能會(huì)導(dǎo)致不良后果。此外，如果AI擁有自我學(xué)習(xí)和自我進(jìn)化的能力，那么我們可能很難控制它們的行為，這可能會(huì)對(duì)人類產(chǎn)生威脅。

AI時(shí)代的潮流已滾滾而來，盡管AI可能會(huì)對(duì)人類產(chǎn)生一些威脅，但是這并不意味著我們應(yīng)該停止研究和發(fā)展AI技術(shù)。相反，應(yīng)該確保AI的設(shè)計(jì)和使用是安全和可控的，這樣我們才能更好地利用AI的潛力。