人對(duì)AI的幻覺(jué)遠(yuǎn)大于AI給人的
隨著人工智能技術(shù)的飛速發(fā)展,人們對(duì)AI的期待和幻想似乎已經(jīng)超越了其實(shí)際能力。本文深入探討了人類對(duì)AI的過(guò)度幻想及其潛在危害,供大家參考。

AI給人的幻覺(jué)是個(gè)技術(shù)問(wèn)題,隨著技術(shù)進(jìn)步會(huì)在確定的節(jié)奏里收斂;人對(duì)AI的幻覺(jué)卻是個(gè)認(rèn)知問(wèn)題,存續(xù)時(shí)間可能遠(yuǎn)比我們想的長(zhǎng)。
如果要比較那個(gè)害處更大,我想人對(duì)AI的幻覺(jué)所帶來(lái)的壞處要遠(yuǎn)大于AI給人產(chǎn)生的。
我們很多對(duì)AI的基礎(chǔ)認(rèn)識(shí)是錯(cuò)的!
錯(cuò)誤的認(rèn)識(shí)帶來(lái)錯(cuò)誤的預(yù)期,錯(cuò)誤的預(yù)期就帶來(lái)錯(cuò)誤的行為,典型的錯(cuò)誤認(rèn)識(shí)包括:
- 我們真的可以認(rèn)為學(xué)會(huì)和AI說(shuō)話就會(huì)變的更安全么?
- 我們真的可以以為學(xué)會(huì)提示詞技巧能寫和大模型交互的程序就是可以延長(zhǎng)編程生涯么?
- 我們真的可以認(rèn)為部署幾臺(tái)服務(wù)器,公司里面每個(gè)人都用上DeepSeek就算擁抱AI了么?
這些基本都是幻覺(jué)。
從這個(gè)角度看,下面的《無(wú)人公司》其實(shí)是本去幻覺(jué)的書(shū),基于案例和底層邏輯展露一個(gè)可能的、但殘酷的AI世界。
智能優(yōu)先的世界
我們拿賣T恤的過(guò)程來(lái)舉例,忽略某些細(xì)節(jié)后這個(gè)活有這么幾個(gè)關(guān)鍵步驟:
- 得有人盯市場(chǎng),為了判斷到底什么樣的設(shè)計(jì)更可能賣出去某些團(tuán)隊(duì)要做很多分析,這個(gè)分析就是收集數(shù)據(jù)、建立模型的過(guò)程。
- 分析的結(jié)果最終就是新的設(shè)計(jì),比如哪吒火了,那趕緊做哪吒相關(guān)的。
- 這個(gè)設(shè)計(jì)要扔給工廠,這時(shí)候一組工人按照既有生產(chǎn)流程把T恤做出來(lái)。
- 做出來(lái)后,要放在N種分發(fā)渠道上開(kāi)賣。這時(shí)候又是另一組人,這組要關(guān)注流量等等。
- 所有事情都完成后需要整個(gè)復(fù)盤看哪里做的好,哪里做的不好。
在沒(méi)有AI的年月里,上面所有的工作包括:收集數(shù)據(jù)、新設(shè)計(jì)、生產(chǎn)制造、銷售完全由人驅(qū)動(dòng),為了避免混亂,就需要定義流程以及中間結(jié)果的交付標(biāo)準(zhǔn),明確誰(shuí)要交付什么,好在出錯(cuò)的時(shí)候看是誰(shuí)的問(wèn)題。
運(yùn)轉(zhuǎn)過(guò)程中也必然會(huì)滋生人與人之間的摩擦,工序上下游互相大罵的情形正常是很難避免的。為了萬(wàn)眾一心就還要設(shè)計(jì)匯報(bào)機(jī)制、激勵(lì)機(jī)制(人事、財(cái)務(wù)等)。
但智能優(yōu)先的世界完全不是這樣。
AI可以自己收集和T恤相關(guān)的數(shù)據(jù)并進(jìn)行設(shè)計(jì),然后轉(zhuǎn)給AI完成生產(chǎn),再轉(zhuǎn)給AI完成宣傳的圖片等上線和銷售。OpenAI O1,DeepSeek R1這樣的模型日漸也可以承擔(dān)反省總結(jié)的工作。
這時(shí)候公司就會(huì)變成一個(gè)AI智能體對(duì)AI智能體的系統(tǒng),最多在關(guān)鍵環(huán)節(jié)比如設(shè)計(jì)圖案是不是反動(dòng)這種點(diǎn)上做些檢查。
請(qǐng)注意現(xiàn)在我們有了完全不一樣的兩種選擇:
選擇1:保持原來(lái)的工作過(guò)程,每個(gè)人都開(kāi)始使用AI來(lái)提升效率。
這是漸進(jìn)式的。
選擇2:全部導(dǎo)入AI,讓人只在必須環(huán)節(jié)輔助下。
這是顛覆式的。
前者靠人類智能進(jìn)行驅(qū)動(dòng),靠工具進(jìn)行輔助;后者靠AI的智能進(jìn)行驅(qū)動(dòng),靠人類進(jìn)行輔助。
這是完全不一樣的兩套體系。
即使不做詳細(xì)對(duì)比,只要足夠理智的人也會(huì)發(fā)現(xiàn),AI越發(fā)展后面這樣的體系優(yōu)勢(shì)越大。
現(xiàn)在前者談的比較多,后者則太少?!稛o(wú)人公司》關(guān)注選擇2。下場(chǎng)直播會(huì)展開(kāi)說(shuō)說(shuō)。
人類對(duì)AI的幻覺(jué)
假如選擇2這種主要靠AI驅(qū)動(dòng)的商業(yè)智能體覆蓋N個(gè)領(lǐng)域,那顯然現(xiàn)在許多努力其實(shí)都錯(cuò)誤認(rèn)識(shí)下的幻覺(jué)。
顯然的在選擇2下,業(yè)務(wù)單元是一塊塊崩的稀碎然后基于AI重建,和在原來(lái)的基礎(chǔ)上精雕細(xì)琢的選擇1完全是不一樣的路子。
在這個(gè)背景下覺(jué)得學(xué)會(huì)和AI對(duì)話等就是跟上AI潮流是幻覺(jué)。在一個(gè)AI對(duì)AI為主的系統(tǒng)里根本就不需要人和AI做很多對(duì)話。
覺(jué)得把提示詞寫好是AI核心技能是幻覺(jué)。在那個(gè)體系里,AI會(huì)和AI自己改善提示詞,讓工作越做越好。
更進(jìn)一步,覺(jué)得公司部署幾臺(tái)服務(wù)器,能和DeepSeek對(duì)話就能產(chǎn)生更高的生產(chǎn)力這也是幻覺(jué)。就這很像買了炮彈但沒(méi)有炮,卻認(rèn)為自己具有了極大的火力。
這些幻覺(jué)都源自我們思維慣性,我們潛意識(shí)的認(rèn)為現(xiàn)在的模式會(huì)延續(xù),所以想各種辦法改善當(dāng)前模式的各種環(huán)節(jié)。于是花很多時(shí)間琢磨怎么把工具嵌入進(jìn)來(lái)提高效率。但顯然蒸汽機(jī)不是用來(lái)提供更好鐮刀的。
電池也可以用來(lái)改進(jìn)油車的里程,但很難改善出純粹的電動(dòng)車。這需要全新的設(shè)計(jì)和原則。
去除人類對(duì)AI的幻覺(jué)后才可能有真有意義的人類新定位。
前奏的鼓已經(jīng)震天的在響
有的同學(xué)可能覺(jué)得這是夸大其詞,不過(guò)又是一次狼來(lái)了而已。
但這次看起來(lái)真的不是,各種領(lǐng)域關(guān)于此的實(shí)踐風(fēng)起云涌,從未斷絕,只不過(guò)被關(guān)注的遠(yuǎn)遠(yuǎn)不夠。下面列舉一些:
前面武漢蘿卜快跑其實(shí)就是這個(gè)模式,現(xiàn)在因?yàn)榇蠹业姆磳?duì)聲量小了很多,但這意味著它不會(huì)發(fā)生了么?
在米國(guó)Waymo投入車量的數(shù)目與日俱增,當(dāng)前大概是接近1000臺(tái),隨后特斯拉馬上要進(jìn)入這個(gè)名為Robotaxi的市場(chǎng)。
Robotaxi就是一套系統(tǒng)代表公司管理N臺(tái)配備了自動(dòng)駕駛能力的汽車對(duì)外提供出行服務(wù)。只在必要環(huán)節(jié)嵌入人的角色。實(shí)際上在關(guān)鍵環(huán)節(jié)也沒(méi)法嵌入,一旦嵌入流轉(zhuǎn)效率就差,這套系統(tǒng)可能就會(huì)虧損。
大概是受Robotaxi啟發(fā),有人也在把這套思路移植到采礦車上,所以就還有一幫人在嘗試怎么構(gòu)建一套無(wú)人機(jī)、采礦車的全自動(dòng)系統(tǒng),而不是單純的賣車。
純粹數(shù)字世界中的例子就更多。
老說(shuō)的量化高頻交易(Deepseek母公司幻方量化就是干這個(gè)的)是這樣的。這種系統(tǒng)就和AlphaGo一樣,你沒(méi)辦法塞入人的環(huán)節(jié)百分百算法驅(qū)動(dòng)。
這里面最經(jīng)典的系統(tǒng)正是大家每天都用的抖音,抖音顯然是個(gè)全算法驅(qū)動(dòng)的系統(tǒng),假如抖音不再升級(jí),那員工全部放假半個(gè)月估計(jì)問(wèn)題不大。不這么做也不行,沒(méi)有任何其它方法同時(shí)管理幾千萬(wàn)主播和幾億的用戶。在這個(gè)系統(tǒng)里面主播、算法、用戶的匹配完全由算法進(jìn)行驅(qū)動(dòng),而抖音的員工起的是輔助這套算法的作用。
這類系統(tǒng)中設(shè)想上最夸張的是馬斯克和他最近爆出來(lái)的unboxed工廠(還未實(shí)現(xiàn))。如果真實(shí)現(xiàn)了,那等于把工廠改造成原料進(jìn),汽車出的模式。這東西要做出來(lái)會(huì)石破天驚的,將對(duì)制造業(yè)產(chǎn)生根本性影響。
相比于互聯(lián)網(wǎng)那個(gè)時(shí)代,現(xiàn)在這個(gè)時(shí)間點(diǎn)最大的變化是這種模式能覆蓋的領(lǐng)域更多,成本更低了。過(guò)去江湖流傳做這么套系統(tǒng)2億美金起,現(xiàn)在如果領(lǐng)域選的小,幾十萬(wàn)也是可以的。
所以是這模式大普及的前夜。
過(guò)去要做個(gè)聚合老師教英語(yǔ)的平臺(tái)(VIPKID)要多少錢,往后呢?
看到現(xiàn)實(shí)后才有真定位
這類模式有極其殘酷的一面,比如:蘿卜快跑的模式如果起來(lái),不管車開(kāi)的多好,人也沒(méi)用,盡管你可能學(xué)開(kāi)車的同時(shí)掌握了N種AI工具。
類似的unboxed那種工廠,不管善用多少AI工具,在主流程上也不需要你。目標(biāo)是5s一輛車的系統(tǒng),人加進(jìn)去就只能拖慢效能。
假設(shè)上面說(shuō)的會(huì)發(fā)生顯然比假設(shè)它不會(huì)發(fā)生要靠譜些。
那這時(shí)候人的位置到底在哪里呢?
很少一部分會(huì)保持原來(lái)的分工協(xié)作模式,他們分工合作負(fù)責(zé)推動(dòng)現(xiàn)實(shí)中的科技發(fā)展,比如會(huì)有人繼續(xù)研發(fā)AI,會(huì)有人研究芯片怎么從7nm到2nm,會(huì)有人研究量子計(jì)算機(jī)等等。
但我們要注意到,真正從事AI研究的人已經(jīng)逐漸集中到極少的幾所學(xué)校(5所),甚至都不是全部985院校。
更多的人必須自己是一個(gè)業(yè)務(wù)單元。每個(gè)業(yè)務(wù)單元需要一個(gè)AI驅(qū)動(dòng)的無(wú)人公司。
具體來(lái)說(shuō)就是:人(股東和戰(zhàn)略設(shè)定)+一套《無(wú)人公司》系統(tǒng)能夠完成賺錢的目標(biāo)。
當(dāng)前更貼近這個(gè)形態(tài)的其實(shí)是主播,主播只對(duì)平臺(tái)有依賴,但基本是個(gè)獨(dú)立經(jīng)營(yíng)的個(gè)體。
在基于AI的《無(wú)人公司》里說(shuō)探討的系統(tǒng)的加持下,能夠獨(dú)立出來(lái)的也必然不止是主播。這時(shí)候你要關(guān)注的并不是怎么寫提示詞,那個(gè)網(wǎng)紅是因?yàn)锳I技術(shù)好變成網(wǎng)紅的呢!
小結(jié)
在AI大模型出來(lái)之前,我就一直關(guān)注這種算法驅(qū)動(dòng)型的組織模式,也正因此更直接的體會(huì)到它在AI大模型后的加速趨勢(shì)。(參見(jiàn)過(guò)去琢磨事的各種文章,包括智能原生等)
同時(shí)我也認(rèn)識(shí)到這種體感和大量現(xiàn)行關(guān)于AI的觀點(diǎn)是擰的,因此就把自己收集的案例、實(shí)踐、技術(shù)脈絡(luò)梳理出來(lái),最終也就變成了《無(wú)人公司》。
本文由人人都是產(chǎn)品經(jīng)理作者【琢磨事】,微信公眾號(hào):【琢磨事】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來(lái)自Unsplash,基于 CC0 協(xié)議。
許多人將 AI 視作一種無(wú)所不能的存在,認(rèn)為它能夠像人類一樣處理各種復(fù)雜的情感、道德判斷以及高度創(chuàng)造性的任務(wù)。例如,在一些討論中,人們期待 AI 能夠完全替代人類進(jìn)行藝術(shù)創(chuàng)作,創(chuàng)作出具有深刻情感內(nèi)涵和獨(dú)特風(fēng)格的作品。