距離GPT-4問世，已經(jīng)過去了一年左右的時(shí)間，而現(xiàn)在可以看到，與GPT-4類似級(jí)別的大模型已經(jīng)遍處都是。當(dāng)外面到處都是GPT-4，行業(yè)和AI公司們，可能會(huì)需要應(yīng)對(duì)什么樣的問題？

一、滿世界都是GPT-4們

GPT-4問世一年后，全世界已經(jīng)到處都是GPT-4級(jí)別的大模型了。

尤其是最近幾個(gè)月，這些模型以越發(fā)密集的頻率現(xiàn)身。

最近的一個(gè)就在剛剛。在Google Cloud Next 24大會(huì)上，Google把今年二月發(fā)布的對(duì)標(biāo)GPT-4的Gemini 1.5系列，進(jìn)一步開放給用戶。Google 宣布，在經(jīng)過兩個(gè)月的小范圍公測(cè)后，Gemini 1.5 pro通過API方式已經(jīng)對(duì)180多個(gè)國(guó)家和地區(qū)開放，并且在其對(duì)標(biāo)GPT-4的性能表現(xiàn)之外，此次Gemini 1.5 Pro還增加了強(qiáng)大的音頻理解能力，可以根據(jù)用戶輸入的文本提示，理解、總結(jié)上傳的視頻、音頻內(nèi)容——過往你需要把音頻等轉(zhuǎn)成文字，而現(xiàn)在這一步可以省去了。

此外Gemini 1.5 pro還增加了系統(tǒng)指令、JSON模式以及函數(shù)調(diào)用優(yōu)化等。

在此次Google云的場(chǎng)子上，Gemini 1.5 pro的能力提升還伴隨著一系列從芯片到系統(tǒng)的全面解決方案，Google正加緊跟GPT-4搶生意的步伐。

而不只是Google，同一天，Grok 2.0的消息也傳出。據(jù)報(bào)道，馬斯克在一次采訪中透露，自己的人工智能初創(chuàng)公司xAI正在2萬張H100上訓(xùn)練Grok 2.0，并將于5月份推出。而且，他相信新版本不僅比GPT-4更強(qiáng)大，還將超越市面上所有大模型標(biāo)準(zhǔn)。甚至揚(yáng)言訓(xùn)練Grok 3會(huì)用到10萬張H100 GPU，到時(shí)就算GPT-5也會(huì)被秒成渣渣。

這還沒完。

似乎是還嫌這世界上的“GPT-4們”不夠多，據(jù)The Information前一天的消息，Meta也計(jì)劃于下周推出Llama 3的兩個(gè)小版本，作為夏天發(fā)布最大版本的前奏。

而與大模型相比，小型模型通常更便宜、運(yùn)行速度更快，對(duì)于構(gòu)建移動(dòng)設(shè)備AI軟件很有實(shí)用價(jià)值。去年7月發(fā)布的Llama 2-7b、Llama 2-13b和Llama 2-70b因其免費(fèi)開源而廣受社區(qū)歡迎，而今兩個(gè)小版本Llama 3的消息也將振奮開發(fā)者情緒。扎克伯格年初宣布35萬張H100即將入荷，正在積極訓(xùn)練Llama 3，看來很快就要兌現(xiàn)。據(jù)Meta 稱，Llama 3 完全版將是多模態(tài)的，可能會(huì)超過1400億個(gè)訓(xùn)練參數(shù)，并希望它真正成為“開源版GPT-4”。

再加上今年2月對(duì)標(biāo)GPT-4的Mistral Large，推理速度、MMLU等關(guān)鍵性能上媲美GPT-4；上月底“開源新王”Databricks發(fā)布的號(hào)稱比Llama 2、Mistral和Grok 1更強(qiáng)的DBRX；以及更令人印象深刻的Anthropic的Claude 3……

全世界到處都是GPT-4了。

二、GPT-4的瓶頸意味著什么

2022年11月30日，OpenAI 首次發(fā)布了由 GPT-3.5 模型驅(qū)動(dòng)的ChatGPT，之后一切都徹底改變。

在ChatGPT首次發(fā)布四個(gè)月后，2023年3月14日，OpenAI正式推出了GPT-4，后續(xù)不斷改進(jìn)，引入多模態(tài)能力、增加實(shí)時(shí)搜索、拉長(zhǎng)上下文、重新定義開發(fā)者….OpenAI幾乎引領(lǐng)了生成式AI所有的技術(shù)革新，GPT-4也成為最領(lǐng)先的模型。

所以，如果從OpenAI和ChatGPT的公開發(fā)布節(jié)奏來算，GPT-3.5的領(lǐng)先只持續(xù)了不到6個(gè)月，就被GPT-4取代，然而GPT-4作為最強(qiáng)模型卻已經(jīng)持續(xù)了一年多。同時(shí)，同樣水平的模型開始顯得“到處都是”。

對(duì)于其他行業(yè)來說，這已經(jīng)是個(gè)日新月異的瘋狂節(jié)奏，但拿大模型的進(jìn)步速度來看，這卻給人一種感覺，就是大模型似乎進(jìn)入了一個(gè)瓶頸期。

OpenAI也一定會(huì)焦慮，但它拿出的似乎只是更多的GPT-5的傳言和一個(gè)GPT-4 Turbo的正式版。

在Google 用Gemini 1.5 pro的升級(jí)和放量針對(duì)OpenAI的同時(shí)，OpenAI也做了應(yīng)對(duì)，宣布GPT-4 Turbo不再只是以預(yù)覽版提供給開發(fā)者，而是發(fā)布了正式版。它自帶讀圖能力不再需要調(diào)用GPT-4V接口，訓(xùn)練數(shù)據(jù)更新到了2023年底。與GPT-4普通版支持8K上下文相比，它能支持128k上下文。

盡管OpenAI官方對(duì)此形容為模型能力“大范圍提升”，但外界期待的顯然不是這個(gè)。

那么這種看起來越來越可能的瓶頸期對(duì)行業(yè)意味著什么？

對(duì)于對(duì)AGI快速到來滿懷期待的人們來說，這顯得很糟糕。但其實(shí)對(duì)期待生態(tài)和商業(yè)機(jī)會(huì)爆發(fā)的人們來說，瓶頸可能不是個(gè)“壞事”。這意味著底層模型能力和技術(shù)路線的顛覆頻率變的沒那么瘋狂，建立在上面的應(yīng)用和中間層都可以有更高的確定性。

同時(shí)，對(duì)于那些真正的大客戶來說，他們也可以不再“等等看”——當(dāng)?shù)讓幽芰γ繋字芫屯黄埔淮蔚臅r(shí)候，賬期動(dòng)輒好幾個(gè)月的產(chǎn)業(yè)側(cè)客戶們自然會(huì)選擇持續(xù)觀望而不是馬上撥動(dòng)預(yù)算。而當(dāng)他們看到技術(shù)似乎穩(wěn)定下來，情況就會(huì)變化。

而對(duì)于Sam Altman來說，他正在面對(duì)又一個(gè)全新的局面。

GPT-4作為最強(qiáng)模型的時(shí)間越久，就越可能有更多的對(duì)手追上來，但追上來的對(duì)手似乎又都沒有達(dá)到像GPT-4對(duì)GPT-3.5那樣的超越。那么，他過往一段時(shí)間領(lǐng)導(dǎo)OpenAI在執(zhí)行的策略——依靠技術(shù)路線的領(lǐng)先來更早的拿到最多的商業(yè)化訂單和融到更多的錢，然后反哺研發(fā)，延續(xù)Scaling law，繼續(xù)保持代際領(lǐng)先的路線，就可能不再成立。

當(dāng)對(duì)手一次次的跟上，用戶們一次次的喊著GPT-5就要來了但又一次次沒來的時(shí)候，OpenAI正變得不再獨(dú)特，這家公司需要Sam Altman去做的，就越來越像一個(gè)科技公司大廠CEO要做的事情，去一個(gè)差異化不大的市場(chǎng)里比拼最基本的商業(yè)競(jìng)爭(zhēng)能力——當(dāng)外面到處都是GPT-4，Sam Altman的那些高調(diào)打法，可能就要“收手”了。