自從ChatGPT之類的大模型發(fā)展起來之后，AI幻覺的爭議就沒停止過。這篇文章，作者和我們分享了AI環(huán)境產(chǎn)生的原因，供各位參考。

要回答為什么會產(chǎn)生AI“幻覺”現(xiàn)象，首先我們需要知道AI大模型究竟是怎么運作的。

AI實際上的運作原理，簡單來講就是——不斷預(yù)測在給定的語境中下一個詞是什么的概率規(guī)律。

想象一下你在學(xué)習(xí)新的事物時，你會對它的名稱、原理、用途等進(jìn)行觀察和研究，從而去理解和學(xué)習(xí)其背后的原理。而AI大模型并不具備這樣的“理解”能力，AI的訓(xùn)練過程更多的是一種模仿。它是基于海量的訓(xùn)練數(shù)據(jù)，對其進(jìn)行分解并建立各個信息之間的關(guān)聯(lián)關(guān)系，從中它會學(xué)習(xí)各個詞組通常怎樣搭配使用，但并不理解其中的實際含義。你可以理解為，AI在努力“假裝”一個聰明人（即所謂“依樣畫葫蘆”）。

簡單了解了AI大模型“預(yù)測而非理解”的工作原理，我們可以開始探討導(dǎo)致其出現(xiàn)”幻覺”的原因：

• 數(shù)據(jù)驅(qū)動：大模型的預(yù)測基于其之前接觸過的大量訓(xùn)練數(shù)據(jù)。這些數(shù)據(jù)的質(zhì)量和多樣性可以極大地影響結(jié)果。如果數(shù)據(jù)中缺少某個關(guān)鍵信息，模型可能無法生成正確的結(jié)果。我們可以把這個因素看作是”AI幻覺”的源頭之一。
• 模式識別：AI模型特別善于識別語言模式，并據(jù)此進(jìn)行預(yù)測。然而，模型并不能理解這些模式的含義。相比于我們在看到一段話時，可以理解其立意，語氣，含義甚至暗藏的諷刺，模型只是單純地復(fù)制它的表面結(jié)構(gòu)，而忽視了其內(nèi)在含義。這就是第二個導(dǎo)致AI幻覺的主要因素。
• 缺乏實時知識：AI大模型采用的是“預(yù)訓(xùn)練”的方式，即一旦模型被訓(xùn)練完成并開始運行，它就無法繼續(xù)訪問或了解訓(xùn)練數(shù)據(jù)結(jié)束后產(chǎn)生的信息或知識（這也是為什么AI無法提供實時的信息，比如最新的新聞或最新的天氣報告，要實現(xiàn)這一能力，只能是給AI配置“搜索”能力）。對于需要實時數(shù)據(jù)的問題，模型的回答可能與現(xiàn)實相脫節(jié)，產(chǎn)生“幻覺”（當(dāng)然，現(xiàn)今主流的大模型在針對這類實時性的問題，基本都能識別出去并給予提醒）。
• 缺乏情境理解：最后，即使模型可以準(zhǔn)確模擬出復(fù)雜的語言模式，也往往無法根據(jù)具體情境調(diào)整答案。例如，當(dāng)被問到“今天天氣怎么樣”這樣的問題時，模型可能會提供一個完美的，但基于過去數(shù)據(jù)的天氣預(yù)報，或者一個關(guān)于天氣變化的一般性敘述，而不是根據(jù)當(dāng)前實際狀況給出正確的回答。這是因為模型無法理解現(xiàn)實情境和語境，從而導(dǎo)致回答出現(xiàn)”偏離”。
• 對提問者的迎合：AI從設(shè)定上是為提問者服務(wù)的，因此它會迎合提問者，試圖預(yù)測最可能的回答。故而，AI的回答可能會被問題本身的假設(shè)所引導(dǎo)，即受到提問者問題引導(dǎo)。同一個問題，正著提還是反著提，對于AI來說其生成回答可能會有所不同。例如，如果你問AI：“你認(rèn)為人們喜歡吃巧克力嗎？”AI會偏向喜歡并闡述為什么巧克力受到人們歡迎。然而，如果你反過來問AI：“你認(rèn)為人們不喜歡吃巧克力嗎？”AI轉(zhuǎn)而去偏向不喜歡并關(guān)注一些巧克力不受人喜歡的原因。

以上就是AI之所以會產(chǎn)生“幻覺”的原因了。那么，面對這些AI“幻覺”，我們該如何應(yīng)對呢？在下一部分，我們將討論，如何應(yīng)對AI“幻覺”。

討論話題：你曾經(jīng)碰到過哪些讓你印象深刻的AI“幻覺”？評論區(qū)里也分享一下吧。

注：由于本文預(yù)設(shè)讀者是AI零基礎(chǔ)人群，期望達(dá)到啟發(fā)作用。因此筆者會嘗試用盡量淺顯的語言來介紹，而在簡化某個概念、原理的過程中，可能會丟失其完整性。這一點還請讀者注意。