本文深入探討了這些限制及其可能的解決方案，提供了對AI產(chǎn)品化進程中遇到的實際問題的深刻洞察。通過合作與創(chuàng)新，我們有望打破這些壁壘，推動人工智能技術(shù)的進一步發(fā)展和應(yīng)用。

在大模型產(chǎn)品化的過程中，AI產(chǎn)品經(jīng)理需要探索大模型的邊界。其中包含大模型本身無法被解決的能力邊界、工程化過程中的限制、以及將來隨著模型迭代逐漸可能被解決的問題。

這次探討第二部分，關(guān)于大模型工程化過程中的限制。

人工智能模型轉(zhuǎn)化為實際可用產(chǎn)品的過程中，涉及到多個方面的挑戰(zhàn)和限制。這些限制是否能夠解決，需要產(chǎn)品經(jīng)理、工程師、設(shè)計師、各個廠商間的合作，共同克服這些限制。

一、封閉的生態(tài)系統(tǒng)

1. 決定大模型的回答質(zhì)量的因素

數(shù)據(jù)質(zhì)量、多樣性和覆蓋范圍；模型的算法設(shè)計和優(yōu)化程度；模型否能及時獲取和學習新的信息；對用戶問題的理解和上下文處理能力。

其中數(shù)據(jù)是至關(guān)重要的，也是具有模型回答質(zhì)量的決定性的因素，不同的信息來源和引用標準造成的。

2. 什么是花園圍墻

“花園圍墻”是指一些大型科技公司通過構(gòu)建封閉的生態(tài)系統(tǒng)來控制用戶的數(shù)據(jù)和體驗，這種做法在一定程度上限制了數(shù)據(jù)的開放性和可訪問性。蘋果公司是這種模式的典型代表之一，它通過iOS操作系統(tǒng)、App Store等構(gòu)建了一個相對封閉的生態(tài)系統(tǒng)。

3. 花園圍墻帶來什么

盡管在移動互聯(lián)網(wǎng)時代，這種封閉的生態(tài)系統(tǒng)確實為用戶帶來了一定程度的便利和安全性，例如保證了用戶體驗的一致性和更高級別的安全與隱私保護，但限制了外部開發(fā)者的接入，同時用戶可能會變得依賴于特定的平臺和設(shè)備，這可能會限制他們的選擇和靈活性。難以遷移到其他服務(wù)。大型科技公司通過花園圍墻可以控制市場，這可能會對小型開發(fā)者和競爭對手構(gòu)成挑戰(zhàn)。同時也引發(fā)了一些爭議，比如數(shù)據(jù)隱私、市場競爭等問題。對于AI和搜索引擎來說，封閉的生態(tài)系統(tǒng)意味著它們獲取數(shù)據(jù)的難度增加，這些服務(wù)和內(nèi)容通常受到限制，并且與外部互聯(lián)網(wǎng)的其他部分隔離。

這也就是為什么針對同一問題，不同的ChatBot產(chǎn)品給出的答案會不同。

4. 如何解決花園圍墻的影響

為了解決互聯(lián)網(wǎng)不在互聯(lián)的問題，Apple 希望從操作系統(tǒng)層面把 UI 打造的面向大模型更友好，隨著人工智能和機器學習技術(shù)的進步，用戶界面（UI）設(shè)計也在逐漸適應(yīng)這些技術(shù)，以提供更自然、更直觀的用戶體驗。Apple發(fā)布了一篇名為《Ferret-UI：基于多模態(tài)大語言模型的移動 UI 理解》的文章，論文的重點在于開發(fā)一個能夠更有效地理解和與移動 UI 屏幕交互的模型，通過特定的技術(shù)改進和數(shù)據(jù)集訓練，使得 Ferret-UI 在 UI 理解任務(wù)上取得了顯著的性能提升。這種研究可以幫助開發(fā)出能夠更好地理解和預測用戶行為的系統(tǒng)。

但“更加開放的 API 和內(nèi)容”確實才是實現(xiàn)更廣泛互聯(lián)互通的關(guān)鍵。開放的 API 允許不同平臺和服務(wù)之間的數(shù)據(jù)和功能共享，這有助于打破信息孤島，促進創(chuàng)新和協(xié)作。蘋果公司雖然在 iOS 生態(tài)系統(tǒng)中提供了一定程度的互聯(lián)互通，但開放性仍然是整個互聯(lián)網(wǎng)生態(tài)系統(tǒng)中的一個重要議題。

二、內(nèi)置的安全機制

1. 大模型的安全機制

大模型的安全機制是人工智能領(lǐng)域中一個非常重要的話題。許多大型AI模型都內(nèi)置了一定程度的安全和道德約束，以確保它們在與用戶交互時不會生成或促進有害、不道德或違法的內(nèi)容。這些安全機制通常是為了保護用戶和遵守法律法規(guī)而設(shè)計的。

這些內(nèi)置的安全機制是為了防止AI被用于不當目的，如制造仇恨言論、暴力內(nèi)容、色情內(nèi)容等。它們有助于維護社會秩序和道德標準。

安全機制的調(diào)整：雖然安全機制通常是固定的，但有些系統(tǒng)可能允許用戶在一定范圍內(nèi)調(diào)整安全級別，以適應(yīng)不同的使用場景和需求。

當然市面上會有很多突破安全機制的方法，這些都算是漏洞，被廠商發(fā)現(xiàn)之后會立即被封堵。所以很多本地部署模型可能沒有這些安全機制，這也成為了它的賣點，這確實可能吸引一些尋求不受限制內(nèi)容的用戶。

2. 不同背景下的安全機制

同樣的內(nèi)容，在不同的語言下面安全的閾值是不一樣的。

語言和文化差異：不同語言和文化對內(nèi)容的接受度不同，這可能導致同一內(nèi)容在不同語言下的安全性評估結(jié)果不同。這需要AI模型在處理多語言內(nèi)容時更加細致和敏感。

三、產(chǎn)品經(jīng)理可以做什么

針對本期提到的大模型局限，AI產(chǎn)品經(jīng)理能做什么？以下是一些值得思考和實踐的方面：

1. 更好的數(shù)據(jù)

• 數(shù)據(jù)來源：尋找高質(zhì)量的數(shù)據(jù)源，包括公開數(shù)據(jù)集、合作伙伴提供的數(shù)據(jù)、用戶生成的內(nèi)容等。
• 數(shù)據(jù)質(zhì)量：確保數(shù)據(jù)的準確性、多樣性和代表性，以訓練更有效的模型。
• 數(shù)據(jù)合規(guī)性：遵守數(shù)據(jù)隱私和保護法規(guī)，確保數(shù)據(jù)的合法獲取和使用。

2. 調(diào)用第三方 API

• API 集成：研究和選擇可以集成到產(chǎn)品中的第三方 API，如天氣、地圖、支付服務(wù)等。
• 數(shù)據(jù)融合：設(shè)計系統(tǒng)架構(gòu)，使 AI 能夠有效地調(diào)用這些 API 并將結(jié)果整合到產(chǎn)品中。
• 用戶體驗：確保 API 調(diào)用的結(jié)果能夠無縫地融入用戶體驗，提供增值服務(wù)。

3. 理解并應(yīng)用 Ferret-UI 研究：

• 技術(shù)研究：深入研究 Ferret-UI 的技術(shù)細節(jié)，包括它的架構(gòu)、功能和應(yīng)用場景。
• 產(chǎn)品集成：探索如何將 Ferret-UI 集成到現(xiàn)有產(chǎn)品中，以增強 UI 理解和交互能力。
• 用戶需求：基于用戶需求和反饋，定制 Ferret-UI 的應(yīng)用，以解決實際問題。

4. 創(chuàng)新和差異化

• 市場調(diào)研：了解競爭對手的產(chǎn)品和市場趨勢，尋找差異化的機會。
• 創(chuàng)新策略：基于 Ferret-UI 等技術(shù)，開發(fā)獨特的功能和服務(wù)，以區(qū)別于競爭對手。

5. 持續(xù)學習和適應(yīng)

技術(shù)跟蹤：持續(xù)關(guān)注 AI 和 MLLM 領(lǐng)域的最新研究和進展。

另外，還可以關(guān)注安全機制與安全閾值調(diào)整的存在的機會。