這篇文章把我最近這一年多以來(lái)業(yè)余時(shí)間做 AI 應(yīng)用的過(guò)程做一次復(fù)盤(pán)，一方面聊聊如何構(gòu)建一個(gè)多智能體驅(qū)動(dòng)的 AI 應(yīng)用，另一方面在這個(gè)全新的時(shí)代，大家基本站在一個(gè)起跑線上，我以淺薄的 AI 應(yīng)用落地經(jīng)歷，分享些做產(chǎn)品思維上的一些變化。

技術(shù)演進(jìn)總是以指數(shù)級(jí)加速。大型語(yǔ)言模型問(wèn)世以來(lái)，AI 應(yīng)用已從簡(jiǎn)單的聊天機(jī)器人和信息檢索系統(tǒng)，迅速發(fā)展為能夠執(zhí)行復(fù)雜推理與多步驟任務(wù)解決的智能系統(tǒng)。在這場(chǎng)技術(shù)變革中，傳統(tǒng)的系統(tǒng)架構(gòu)與產(chǎn)品管理方法不僅面臨挑戰(zhàn)，更走向了徹底重構(gòu)。

這段時(shí)間最大的感受：當(dāng)傳統(tǒng)方法失效時(shí)，創(chuàng)新不是選擇而是必然

文中會(huì)涉及到一些不同應(yīng)用的案例，因?yàn)槲易隽撕脦讉€(gè)，文章內(nèi)容從 2023 年初橫跨到現(xiàn)在，可能一些概念已經(jīng)有點(diǎn)“過(guò)時(shí)”，你也可能在上一段看到某個(gè)場(chǎng)景，下一段換到了另一個(gè)場(chǎng)景案例。

希望這篇文章能給正在設(shè)計(jì) AI Agent 應(yīng)用的 產(chǎn)品經(jīng)理 builder 創(chuàng)業(yè)者 … 一些啟發(fā)，本文沒(méi)有技術(shù)講解，也沒(méi)有宏觀戰(zhàn)略的大概念，非常具體的聊聊問(wèn)題和如何改建的產(chǎn)品設(shè)計(jì)思路。

從我做的第一個(gè)工具說(shuō)起。

固定 LLM 工作流 + RAG 的根本局限

檢索增強(qiáng)生成（RAG）技術(shù)是讓 LLM 能夠獲取特定知識(shí)控制模型發(fā)散按照既有知識(shí)返回結(jié)果的關(guān)鍵技術(shù)，在 2023 年的 AI 應(yīng)用基本上都是基于這個(gè)模式，常見(jiàn)的企業(yè)內(nèi)知識(shí)點(diǎn)問(wèn)答機(jī)器人都是這種模式。

最開(kāi)始在我開(kāi)發(fā)這個(gè) AI 應(yīng)用的時(shí)候也是基于 LLM 設(shè)定固定的 workflow，RAG 在其中是一個(gè)標(biāo)準(zhǔn)流程。

做交互设计10年，我为何转岗到产品经理？

真正转岗之后，我发现很多工作还是超出了自己的想象。产品经理的工作确实比较杂。理论上，产品经理的工作包括了产品的方方面面，从市场研究、用户调研、数据分析...

查看详情 >

這是個(gè) AI 驅(qū)動(dòng)的任務(wù)拆解器，只要你輸入一個(gè)想法，AI 就可以基于特定的工作流，拆解任務(wù)，然后搜索信息 RAG 內(nèi)容返回，最終告訴你你的這個(gè)想法如何能轉(zhuǎn)化為一個(gè)可落地的 MVP 策略。

你只需要描述想法，通過(guò) LLM 的 workflow 拆解后，會(huì)調(diào)動(dòng)谷歌 API 搜索不同緯度的內(nèi)容完成 RAG ，然后在根據(jù)既定的 workflow 整合內(nèi)容生成結(jié)果

這在特定單一場(chǎng)景領(lǐng)域是奏效的，但從架構(gòu)設(shè)計(jì)上是絕對(duì)不夠抽象的（后面會(huì)聊這個(gè)場(chǎng)景和抽象的關(guān)系）當(dāng)場(chǎng)景一旦擴(kuò)展，馬上就會(huì)發(fā)現(xiàn)這個(gè)架構(gòu)的局限性。

比如，我要繼續(xù)通過(guò)多輪對(duì)話來(lái)優(yōu)化結(jié)果，此時(shí)固定的單輪 RAG 就會(huì)出現(xiàn)問(wèn)題。

單次單向傳遞的 LLM workflow 瓶頸

傳統(tǒng) LLM 工作流系統(tǒng)遵循一種線性工作流：接收查詢、檢索相關(guān)文檔、基于檢索內(nèi)容生成回答，或動(dòng)作執(zhí)行后返回結(jié)果 。這種”一次性”流程在簡(jiǎn)單信息查詢場(chǎng)景下運(yùn)作良好，但在面對(duì)復(fù)雜、多層次問(wèn)題時(shí)迅速崩潰。

比如在客服場(chǎng)景中：

客戶：”我想退回上個(gè)月購(gòu)買的無(wú)線耳機(jī)，但我丟失了收據(jù)。我還保留著原包裝，訂單號(hào)是 A12345。”

傳統(tǒng) RAG 處理這一查詢時(shí)，會(huì)檢索退貨政策和訂單詳情，然后生成回復(fù)。但這種方法很難理解復(fù)雜因素間關(guān)系：

• 根據(jù)訂單號(hào)識(shí)別特定產(chǎn)品信息與購(gòu)買時(shí)間
• 確定適用的退貨時(shí)間及當(dāng)期退貨政策
• 檢查該產(chǎn)品類別可能存在的特殊退貨要求
• 考量客戶歷史記錄對(duì)處理流程的影響

這些相互關(guān)聯(lián)的考量需要多輪信息檢索，每輪檢索可能依賴先前步驟中發(fā)現(xiàn)的信息。傳統(tǒng) RAG 的線性單向處理模式無(wú)法實(shí)現(xiàn)這種自適應(yīng)信息收集過(guò)程。

語(yǔ)言模型受限于固定的上下文窗口，一次能處理的最大文本量。傳統(tǒng) RAG 試圖通過(guò)在這有限空間中塞入盡可能多的可能相關(guān)信息來(lái)應(yīng)對(duì)挑戰(zhàn)，期望模型能從中識(shí)別重要內(nèi)容。

這種”盡可能多塞入”策略因兩個(gè)根本原因而失效：

1. 相關(guān)性稀釋：當(dāng)語(yǔ)言模型的有限上下文窗口被邊際相關(guān)的信息淹沒(méi)時(shí)，就會(huì)發(fā)生相關(guān)性稀釋，導(dǎo)致真正關(guān)鍵的信息在處理過(guò)程中丟失或得到不足的注意力 以上面的退貨為例，當(dāng)客戶詢問(wèn)“我兩周前購(gòu)買的無(wú)線耳機(jī)沒(méi)有收據(jù)可以退貨嗎？”時(shí)，最相關(guān)的信息（特定產(chǎn)品類別和時(shí)間段的例外政策）可能被埋藏在一般的退貨政策中，使得回復(fù)不夠精確，甚至可能具有誤導(dǎo)性。
2. 不可能的檢索策略：系統(tǒng)無(wú)法先檢索基礎(chǔ)信息，進(jìn)行思考，再基于推理結(jié)果執(zhí)行針對(duì)性的后續(xù)檢索。 對(duì)于查詢“我想退回我上個(gè)月購(gòu)買的無(wú)線耳機(jī)，但我丟失了收據(jù)。我還有原始包裝，訂單號(hào) A12345” 傳統(tǒng)的固定工作流 RAG 無(wú)法執(zhí)行這種多步驟查詢，因?yàn)樗狈?duì)初始檢索進(jìn)行推理并基于該推理制定新查詢?nèi)蝿?wù)的能力。

那么要解決這些問(wèn)題就需要通過(guò)在業(yè)務(wù)流程中構(gòu)建智能體，將原本的固定工作流拆解抽象成不同的單元，為每個(gè)單元構(gòu)建出具有特定目標(biāo)和工具集的智能體，從而將固定的工作流基于用戶場(chǎng)景動(dòng)態(tài)生成

智能體架構(gòu)的范式轉(zhuǎn)變

首先我們還是要確定我們的產(chǎn)品要解決問(wèn)題的邊界，這是我開(kāi)發(fā)的另一個(gè)應(yīng)用，通過(guò) 多 Agent 互相協(xié)作實(shí)現(xiàn)了更豐富的場(chǎng)景拓展和動(dòng)態(tài)的 Task 規(guī)劃，從而驅(qū)動(dòng)其他應(yīng)用的 API 完成自動(dòng)化任務(wù)。

舉個(gè)例子：

user：為我創(chuàng)建一個(gè)任務(wù)，下周回北京 約一下 DK 和 XY 的時(shí)間， 避免我遺忘在飛書(shū)里給我創(chuàng)個(gè)提醒

此時(shí) Agent 將拿到這個(gè)用戶的提問(wèn)后進(jìn)行反思，這個(gè)問(wèn)題顯然不夠具體，此時(shí) AI 會(huì)進(jìn)行反問(wèn)

AI：我將幫助你安排下周在北京的會(huì)議。我需要一些更多細(xì)節(jié)來(lái)正確地設(shè)置你的任務(wù)和飛書(shū)提醒，請(qǐng)問(wèn)具體是哪天的會(huì)議，具體什么時(shí)間在哪里見(jiàn)面？可以告訴我更詳細(xì)的信息嗎

可以發(fā)現(xiàn)此時(shí)具備了多輪對(duì)話能力

User：我們周三下午見(jiàn)，大概 3 點(diǎn)左右。我們可以在三里屯的星巴克見(jiàn)面

到這里 AI 已經(jīng)具有了完備的豐富信息，那么接下來(lái) Agent 就要去完成任務(wù)分解，假設(shè)規(guī)劃如下

• 首先在應(yīng)用內(nèi)生成了一個(gè) todo
• 根據(jù) Agent 具備的 Tools 找到了飛書(shū)的 API ，進(jìn)行 function Call ，這個(gè)過(guò)程中會(huì)將用戶的消息變成參數(shù)
• 最終在飛書(shū)里也同步了這個(gè)任務(wù)，并攜帶了任務(wù)內(nèi)容和提醒時(shí)間的參數(shù)。

這本質(zhì)上是一個(gè)基于 ReAct（”Reasoning” and “Acting” ）完成的單 Agent 應(yīng)用

那么如果問(wèn)題再?gòu)?fù)雜一個(gè)層級(jí)呢，除了多輪對(duì)話和初步理解問(wèn)題完成行動(dòng)之外，讓復(fù)雜度提高到 可以接近一個(gè)真實(shí)的員工，或者是類似 manus 這種級(jí)別的復(fù)雜度。

此時(shí)就需要多 Agent 互相協(xié)作來(lái)完成復(fù)雜度更高的任務(wù)

通過(guò)多 Agent 架構(gòu)構(gòu)建 Agentic 產(chǎn)品

Agentic 特性的產(chǎn)品是通過(guò)嵌入具有自主決策能力的專業(yè)化智能體，從根本上解決了傳統(tǒng)方法的局限。這些智能體能夠動(dòng)態(tài)管理檢索策略、迭代優(yōu)化上下文理解、適應(yīng)復(fù)雜工作流程，將系統(tǒng)從被動(dòng)信息處理轉(zhuǎn)變?yōu)橹鲃?dòng)理解問(wèn)題并規(guī)劃解決。

傳統(tǒng)固定工作流系統(tǒng)與 Agentic 系統(tǒng)的對(duì)比

構(gòu)建多 Agent 系統(tǒng)

在上述架構(gòu)中，我們采用了一個(gè)「協(xié)調(diào)智能體」在最前面理解用戶的需求，通過(guò)下發(fā)任務(wù)給各種專家智能體來(lái)完成信息的獲取，然后評(píng)估智能體來(lái)評(píng)估信息的完備性，是否能成功解決用戶問(wèn)題，如果不能則一直循環(huán)，直到通過(guò)評(píng)估，生成響應(yīng)結(jié)果，將結(jié)果回傳給協(xié)調(diào)智能體，交給最終負(fù)責(zé)輸出的 LLM 基于提示詞潤(rùn)色內(nèi)容完成輸出或完成動(dòng)作

這種架構(gòu)整合了五個(gè)關(guān)鍵元素：

1. 專業(yè)化智能體網(wǎng)絡(luò)：每個(gè)智能體都有明確定義的專長(zhǎng)和責(zé)任領(lǐng)域
2. 動(dòng)態(tài)任務(wù)分解：將復(fù)雜查詢分解為可管理的子問(wèn)題
3. 自適應(yīng)檢索策略：根據(jù)上下文選擇最優(yōu)信息獲取方法
4. 迭代推理過(guò)程：通過(guò)多步驟推理逐步構(gòu)建理解
5. 持續(xù)上下文優(yōu)化：在對(duì)話過(guò)程中維護(hù)并增強(qiáng)交互語(yǔ)境

這種集成使系統(tǒng)能處理遠(yuǎn)超傳統(tǒng)方法能力的復(fù)雜場(chǎng)景。

接下來(lái)我們一個(gè)一個(gè)來(lái)拆解每個(gè)智能體

ps：產(chǎn)品經(jīng)理在這個(gè)過(guò)程中有大量的提示詞要去評(píng)測(cè)，要基于 case 寫(xiě)評(píng)估集 … Etc ，這些過(guò)于專業(yè)的細(xì)節(jié)本篇就不展開(kāi)了，未來(lái)慢慢寫(xiě)

協(xié)調(diào)智能體

協(xié)調(diào)代理是系統(tǒng)中的中央控制單元，負(fù)責(zé)接收用戶查詢、分析查詢意圖，并將任務(wù)分配給合適的代理。它充當(dāng)系統(tǒng)的“大腦”，確保各個(gè)代理之間的協(xié)作和任務(wù)的有序執(zhí)行。

具有以下能力：

1. 理解用戶需求：深入理解用戶問(wèn)題的本質(zhì)，而非僅關(guān)注表面描述，以及意圖目標(biāo)是可被執(zhí)行的，如果信息不夠完整，則需要反問(wèn)用戶（想把反問(wèn)做好還需要點(diǎn)技巧，以后分享）
2. 任務(wù)分解：基于用戶的意圖，來(lái)進(jìn)行任務(wù)拆分，并確定哪個(gè)專業(yè)代理應(yīng)該處理對(duì)應(yīng)的任務(wù)
3. 規(guī)劃：在需要多個(gè)專業(yè)領(lǐng)域時(shí)，指導(dǎo)信息在專家智能體之間“流動(dòng)”按順序執(zhí)行
4. 維護(hù)上下文：以及與記憶系統(tǒng)交互，確保智能體和用戶交互的上下文連貫性
5. 評(píng)估結(jié)果：確保當(dāng)前的結(jié)果是可以解決用戶提問(wèn)的
6. 合成最終回復(fù)：整合各專業(yè)智能體的輸出，生成一致且全面的回應(yīng)

若要設(shè)計(jì)這個(gè)智能體，需要考慮較多方面到業(yè)務(wù)場(chǎng)景，比如是否需要識(shí)別特定實(shí)體，需要構(gòu)建意圖識(shí)別，協(xié)調(diào)智能體的有效性很大程度上取決于它對(duì)問(wèn)題進(jìn)行分解和理解的能力，以及它協(xié)調(diào)其他智能體的策略。

專業(yè)智能體團(tuán)隊(duì)

在專家智能體團(tuán)隊(duì)中，這個(gè) AI 任務(wù)助手項(xiàng)目構(gòu)建了三個(gè)智能體

1. 網(wǎng)絡(luò)搜索智能體：具備搜索互聯(lián)網(wǎng)數(shù)據(jù)的能力，通過(guò)公開(kāi)的搜索引擎 API 獲取數(shù)據(jù)
2. 知識(shí)檢索智能體：基于智能助手中的文檔記錄（私有知識(shí)）進(jìn)行 RAG 為任務(wù)提供更具有個(gè)人領(lǐng)域知識(shí)點(diǎn)上下文，并且基于 RAG 來(lái)獲取領(lǐng)域知識(shí)
3. 應(yīng)用交互智能體：基于問(wèn)題調(diào)動(dòng)其他應(yīng)用接口，比如個(gè)人日歷

專業(yè)智能體團(tuán)隊(duì)的有效設(shè)計(jì)是構(gòu)建高性能 AI 任務(wù)助手的核心。網(wǎng)絡(luò)搜索智能體、知識(shí)檢索智能體和應(yīng)用交互智能體各司其職，形成一個(gè)全面的知識(shí)獲取和執(zhí)行系統(tǒng)。這種模塊化、專業(yè)化的設(shè)計(jì)不僅提高了系統(tǒng)的整體性能，也使得系統(tǒng)更具可維護(hù)性和擴(kuò)展性。

在實(shí)施過(guò)程中，關(guān)鍵是確保智能體間的無(wú)縫協(xié)作和清晰的職責(zé)劃分。隨著系統(tǒng)的發(fā)展，可以根據(jù)業(yè)務(wù)需求逐步擴(kuò)展智能體團(tuán)隊(duì)，增加更多專業(yè)領(lǐng)域的能力。這種微服務(wù)式的智能體架構(gòu)將成為未來(lái)企業(yè)級(jí) AI 系統(tǒng)的主流設(shè)計(jì)模式。

現(xiàn)在你肯定會(huì)有一個(gè)疑問(wèn)，他們之間是如何通訊調(diào)度的，協(xié)調(diào)智能體一定不是簡(jiǎn)單的并行分配任務(wù)，有的任務(wù)是具有時(shí)序依賴的，在我實(shí)現(xiàn)這個(gè)助手過(guò)程中，采用了 星型拓?fù)涞耐ㄓ崣C(jī)制，除此之外不同的多智能體框架有不同的通訊機(jī)制，比如 MetaGPT 框架采用了 消息池訂閱機(jī)制（可以理解成一群人坐那開(kāi)會(huì)，不斷的發(fā)表言論，每個(gè)智能體只獲取對(duì)自己需要多信息）

星型拓?fù)洌浩髽I(yè)級(jí)多智能體架構(gòu)的首選通訊機(jī)制

這種機(jī)制通過(guò)將一個(gè)中央?yún)f(xié)調(diào)智能體與多個(gè)專業(yè)智能體相連接，形成類似星狀的組織結(jié)構(gòu)，從而實(shí)現(xiàn)高效的信息流通和任務(wù)管理。在企業(yè)級(jí) AI 解決方案中，這種架構(gòu)已成為處理復(fù)雜業(yè)務(wù)場(chǎng)景的首選模式，特別是在需要整合多種專業(yè)能力的應(yīng)用場(chǎng)景中。

這是一種中心化的通訊機(jī)制有以下特點(diǎn)

1. 中心協(xié)調(diào)節(jié)點(diǎn)：核心位置由協(xié)調(diào)智能體（Orchestrator Agent）占據(jù)，作為系統(tǒng)的指揮中心
2. 放射狀連接：所有專業(yè)智能體都直接與協(xié)調(diào)智能體相連，形成輻射狀結(jié)構(gòu)
3. 單點(diǎn)通信原則：專業(yè)智能體之間不直接通信，所有交互必須通過(guò)中央?yún)f(xié)調(diào)者中轉(zhuǎn)

這種設(shè)計(jì)避免了網(wǎng)狀拓?fù)渲械膹?fù)雜連接關(guān)系，同時(shí)比鏈?zhǔn)酵負(fù)涮峁┝烁叩捻憫?yīng)效率和容錯(cuò)能力。

當(dāng)信息以中線點(diǎn)向外流動(dòng)時(shí)，視為任務(wù)分配，當(dāng)以專家智能體為核心向上流動(dòng)時(shí)，視為結(jié)果聚合

當(dāng)協(xié)調(diào)智能體進(jìn)行任務(wù)分配時(shí)，還需要維護(hù)一個(gè)狀態(tài)機(jī)，記錄以下內(nèi)容：

• 每個(gè)專業(yè)智能體的當(dāng)前工作狀態(tài)
• 已分配任務(wù)的執(zhí)行進(jìn)度
• 系統(tǒng)整體響應(yīng)流程的狀態(tài)
• 可能的阻塞點(diǎn)或瓶頸

這種狀態(tài)同步確保協(xié)調(diào)智能體能夠?qū)崟r(shí)把握系統(tǒng)運(yùn)行狀況，進(jìn)行必要的干預(yù)和調(diào)整。

這雖然已經(jīng)能夠滿足絕大多數(shù)需要，但還是不夠高效，更高效的方式還應(yīng)在此基礎(chǔ)上疊加優(yōu)先級(jí)系統(tǒng)。

優(yōu)先級(jí)系統(tǒng)

設(shè)計(jì)一個(gè)方法確定任務(wù)的執(zhí)行順序。不是所有任務(wù)都需要串行執(zhí)行。一些策略包括：

• 關(guān)鍵路徑優(yōu)先：某些信息必須先獲取才能執(zhí)行后續(xù)任務(wù)
• 速度優(yōu)先：一些快速任務(wù)可以并行處理
• 重要性加權(quán)：優(yōu)先處理對(duì)最終答案最關(guān)鍵的信息
• 業(yè)務(wù)特殊性有限：命中一些意圖時(shí)，可以觸發(fā)特定的工作流有限處理或阻斷其他任務(wù)

現(xiàn)在這已經(jīng)是一個(gè)較為完備的多 Agent 系統(tǒng)了

我們應(yīng)該可以清晰的感受到，協(xié)調(diào)智能體才是業(yè)務(wù)的核心，一旦進(jìn)入到復(fù)雜場(chǎng)景，和業(yè)務(wù)鏈條極其復(fù)雜的業(yè)務(wù)時(shí)，要確保該智能體有非常豐富的推理空間，那么我們?nèi)绾巫?AI 應(yīng)用變得加與“我”適配呢？隨著使用的深入，應(yīng)該具有更加了解我的特點(diǎn)的能力。

這就需要一套完備的記憶系統(tǒng)

記憶的本質(zhì)：創(chuàng)建真正個(gè)性化體驗(yàn)

上下文和記憶系統(tǒng)構(gòu)成了真正有效 AI 產(chǎn)品的基礎(chǔ)。沒(méi)有強(qiáng)大的記憶架構(gòu)，即便最先進(jìn)的推理能力也無(wú)法創(chuàng)造用戶期望的個(gè)性化體驗(yàn)。

多層次記憶

我們的實(shí)現(xiàn)采用分層記憶系統(tǒng)，平衡即時(shí)上下文需求與長(zhǎng)期理解能力

會(huì)話上下文（短期記憶）

該層維護(hù)即時(shí)對(duì)話歷史，通常包括用戶與系統(tǒng)之間最近 5-10 輪交互。它確保單次互動(dòng)會(huì)話內(nèi)的對(duì)話連貫性。

核心特性：

• 完整存儲(chǔ)在上下文窗口中
• 精確保留近期交流內(nèi)容
• 通過(guò)滑動(dòng)窗口機(jī)制自動(dòng)管理
• 支持對(duì)近期陳述的直接引用

會(huì)話記憶（中期記憶）

該層在整個(gè)服務(wù)事件中保存關(guān)鍵信息，可能跨越多個(gè)對(duì)話片段或不同渠道的接觸點(diǎn)。

核心特性：

• 結(jié)構(gòu)化存儲(chǔ)已識(shí)別實(shí)體和意圖
• 保存關(guān)鍵決策和提供的信息
• 多步驟流程的狀態(tài)追蹤
• 持續(xù)時(shí)間通常為數(shù)小時(shí)至數(shù)天

用戶記憶（長(zhǎng)期記憶）

該層維護(hù)跨越多次對(duì)話的客戶關(guān)鍵信息、偏好和交互模式。

核心特性：

• 高度選擇性地保存關(guān)鍵信息
• 關(guān)注模式和偏好而非具體對(duì)話內(nèi)容
• 與客戶數(shù)據(jù)平臺(tái)和 CRM 系統(tǒng)集成
• 持久性以月或年計(jì)

如何形成記憶

記憶系統(tǒng)不是單純的存儲(chǔ)原始對(duì)話，而是提取和索引關(guān)鍵實(shí)體與事件。這種方法實(shí)現(xiàn)了相關(guān)先前交互的精確回溯，同時(shí)避免用無(wú)關(guān)歷史數(shù)據(jù)淹沒(méi)上下文窗口。

記憶的結(jié)構(gòu)化示例：

{
“memory_id”: “mem_78912”,
“memory_type”: “technical_issue”,
“primary_entity”: “smartphone_model_xyz”,
“related_entities”: [“camera_app”, “battery_performance”],
“information”: “設(shè)備遇到電池消耗和相機(jī)應(yīng)用凍結(jié)問(wèn)題”,
“context”: “客戶嘗試重啟和應(yīng)用重裝但未解決”,
“resolution_status”: “unresolved”,
“resolution_attempts”: [“restart”, “app_reinstallation”],
“customer_sentiment”: “frustrated”,
“timestamp”: “2023-05-15T14:30:00Z”,
“importance_score”: 0.85
}

這種結(jié)構(gòu)化方法實(shí)現(xiàn)了：

1. 上下文相關(guān)檢索：基于當(dāng)前對(duì)話相關(guān)性檢索記憶
2. 模式識(shí)別：識(shí)別跨客戶的相似問(wèn)題
3. 個(gè)性化：根據(jù)過(guò)往交互調(diào)整響應(yīng)策略
4. 持續(xù)學(xué)習(xí)：追蹤解決方案有效性

可以理解為，讓大模型去理解對(duì)話中的含義，并且抽取其中的實(shí)體和事務(wù)，然后針對(duì)性的完成 短期 中期 長(zhǎng)期的對(duì)應(yīng)存儲(chǔ)方式，這樣做的好處并不是一味的將歷史信息大量灌入上下文窗口，而是先理解問(wèn)題，選擇預(yù)置匹配的記憶來(lái)補(bǔ)充。

讓我們舉個(gè)例子來(lái)感受記憶系統(tǒng)的價(jià)值，跨時(shí)間的交互場(chǎng)景，展示記憶系統(tǒng)如何創(chuàng)建更個(gè)性化、更有效的客戶體驗(yàn)：

之前互動(dòng)（2 周前）：

客戶：”我在將新智能音箱連接到家庭 Wi-Fi 網(wǎng)絡(luò)時(shí)遇到問(wèn)題。”

系統(tǒng)：[提供 Wi-Fi 連接故障排除步驟]

客戶：”解決了！但現(xiàn)在我在鏈接音樂(lè)賬戶時(shí)遇到問(wèn)題。”

系統(tǒng)：[引導(dǎo)完成流媒體服務(wù)連接]

客戶：”太好了，現(xiàn)在一切正常。謝謝！”

當(dāng)前互動(dòng)：

客戶：”嗨，我們之前討論的音箱又出問(wèn)題了?，F(xiàn)在它會(huì)隨機(jī)與我的手機(jī)斷開(kāi)連接。”

沒(méi)有有效記憶系統(tǒng)的情況下，系統(tǒng)對(duì)”我們之前討論的音箱”沒(méi)有上下文理解，需要詢問(wèn)設(shè)備型號(hào)、購(gòu)買時(shí)間等基本信息。

這創(chuàng)造了一種無(wú)縫體驗(yàn)，讓客戶感到被理解和重視，顯著提高滿意度和解決效率。

總結(jié)一下

到這里我們已經(jīng)完全完成了這個(gè)項(xiàng)目，我們已經(jīng)把固定的 workflow 編排，升級(jí)為了具有 Agentic 性的多 Agent 系統(tǒng)，從較為簡(jiǎn)單的單輪查詢，升級(jí)到多輪反復(fù)循環(huán)自主規(guī)劃任務(wù)的強(qiáng)大系統(tǒng)，在這套以協(xié)調(diào)智能體作為核心入口，驅(qū)動(dòng)專家智能體團(tuán)隊(duì)完成任務(wù)的多 agent 架構(gòu)中，我們幾乎可以勝任 80% 的企業(yè)級(jí)需求，隨著能力的擴(kuò)張，需要不斷延伸專家智能體的數(shù)量來(lái)拓展能力邊界。

AI 時(shí)代的產(chǎn)品思維變革

變革一：從工作流的定義到邊界與目標(biāo)定義

軟件產(chǎn)品專注于定義明確的用戶旅程和工作流程。去梳理業(yè)務(wù)場(chǎng)景，然后把業(yè)務(wù)拆解為可解釋的固定環(huán)節(jié)，然后對(duì)應(yīng)構(gòu)建產(chǎn)品，每個(gè)步驟都有確定的輸入、輸出和 UI 元素。產(chǎn)品經(jīng)理精確規(guī)定系統(tǒng)在每個(gè)場(chǎng)景中的行為。

AI 產(chǎn)品則需要根本不同的方法。產(chǎn)品經(jīng)理不再規(guī)定精確工作流，而是定義：

• 邊界：智能體責(zé)任范圍的清晰界限，
• 目標(biāo)：成功結(jié)果的明確標(biāo)準(zhǔn)，
• 環(huán)境/容器：智能體有效運(yùn)行所需的上下文環(huán)境

這種面向目標(biāo)的方法關(guān)注智能體應(yīng)當(dāng)實(shí)現(xiàn)什么，而非在每種可能情況下如何實(shí)現(xiàn)，要更加的擁抱灰度，與此同時(shí)，要構(gòu)建評(píng)估思維，因?yàn)樾枨蟮牡辉偈枪潭ㄇ揖€性的，這就需要有很強(qiáng)的評(píng)估思維，根據(jù)結(jié)果來(lái)反推 AI 系統(tǒng)中某個(gè)環(huán)節(jié)或某個(gè)變量的調(diào)整，形成反饋循環(huán)

變革二：抽象優(yōu)于場(chǎng)景

軟件產(chǎn)品經(jīng)理高度依賴特定用戶故事和場(chǎng)景：”作為客戶，我希望查看訂單歷史，以便追蹤過(guò)去購(gòu)買。”

這種細(xì)粒度方法在面對(duì)通過(guò)自然語(yǔ)言交互并處理同類請(qǐng)求無(wú)數(shù)變體的 AI 產(chǎn)品時(shí)變得不切實(shí)際。

AI 產(chǎn)品經(jīng)理必須轉(zhuǎn)向抽象和模式思維：”系統(tǒng)應(yīng)理解并響應(yīng)關(guān)于用戶過(guò)往交易的查詢，無(wú)論表述形式如何，通過(guò)檢索相關(guān)交易詳情并在對(duì)話上下文中呈現(xiàn)。”

這種轉(zhuǎn)變要求產(chǎn)品經(jīng)理發(fā)展：

1. 模式識(shí)別能力：識(shí)別多樣表達(dá)中的基本用戶需求
2. 意圖映射：理解用戶表達(dá)類似需求的各種方式
3. 邊界定義：明確區(qū)分 AI 責(zé)任范圍內(nèi)外的事項(xiàng)

所有這些都表達(dá)同一基本需求的變體。產(chǎn)品經(jīng)理不應(yīng)為每種可能表達(dá)創(chuàng)建場(chǎng)景，而應(yīng)定義抽象能力及其邊界。

變革三：從關(guān)注功能到定義原子能力

從功能到能力的轉(zhuǎn)變代表產(chǎn)品經(jīng)理思維的另一根本轉(zhuǎn)變：

軟件產(chǎn)品經(jīng)理：”我們要在訂單歷史頁(yè)面添加’重新訂購(gòu)’按鈕，自動(dòng)將之前購(gòu)買的商品添加到購(gòu)物車。”

AI 產(chǎn)品經(jīng)理：”我們要使智能體能夠理解并執(zhí)行用戶在任何對(duì)話上下文中重復(fù)過(guò)往購(gòu)買的意圖。”

這種基于能力的思維使 AI 產(chǎn)品能以僵化功能定義無(wú)法實(shí)現(xiàn)的方式適應(yīng)用戶需求。它的價(jià)值不在于特定 UI 元素或工作流步驟，而在于系統(tǒng)理解并滿足用戶意圖的能力。

用戶故事應(yīng)該只是抽象為元子能力的思考基礎(chǔ)。

變革四：從確定性到概率性思維

對(duì)產(chǎn)品經(jīng)理而言，最深刻的轉(zhuǎn)變是從確定性思維轉(zhuǎn)向概率性思維。

傳統(tǒng)軟件開(kāi)發(fā)中，我們習(xí)慣于使用二元判斷標(biāo)準(zhǔn)來(lái)評(píng)估產(chǎn)品質(zhì)量——系統(tǒng)要么”工作”（正常運(yùn)行），要么”不工作”（出現(xiàn)錯(cuò)誤）。這種思維模式根植于確定性系統(tǒng)的特性：給定相同輸入，系統(tǒng)總是產(chǎn)生完全相同的輸出。

而 AI 系統(tǒng)，特別是基于大型語(yǔ)言模型的系統(tǒng)，其質(zhì)量表現(xiàn)卻存在于一個(gè)連續(xù)譜系中，具體體現(xiàn)為：

響應(yīng)準(zhǔn)確度梯度：AI 響應(yīng)不是簡(jiǎn)單的”對(duì)/錯(cuò)”二分法，而是存在從”完全準(zhǔn)確”到”部分準(zhǔn)確”再到”完全不準(zhǔn)確”的連續(xù)過(guò)渡

適用性層級(jí)：回答可能技術(shù)上正確但上下文適用性存在不同程度的匹配，從”完美契合”到”大致相關(guān)”再到”完全偏離”

用戶價(jià)值遞進(jìn)：提供的解決方案可能從”超出期望”到”基本滿足需求”再到”沒(méi)有解決問(wèn)題”形成價(jià)值連續(xù)體

這種情況場(chǎng)景無(wú)法窮盡列舉，必須通過(guò)邊界和原則管理

這要求產(chǎn)品經(jīng)理適應(yīng)，設(shè)置可接受性能范圍而非精確規(guī)格，定義護(hù)欄保持系統(tǒng)在適當(dāng)邊界內(nèi)，以及建立反饋機(jī)制使系統(tǒng)能隨時(shí)間改進(jìn)

寫(xiě)在最后

“不是所有能被計(jì)算的都有價(jià)值，也不是所有有價(jià)值的都能被計(jì)算。”愛(ài)因斯坦的這句名言，或許是我們面對(duì) AI 產(chǎn)品范式轉(zhuǎn)變最恰當(dāng)?shù)膯⑹尽?/p>

傳統(tǒng)軟件世界中，我們習(xí)慣于線性思維、確定性假設(shè)和可預(yù)測(cè)的結(jié)果。我們用流程圖描繪用戶旅程，用功能清單定義產(chǎn)品邊界。這種方法在確定性系統(tǒng)中運(yùn)作良好，就像牛頓力學(xué)在中等尺度世界的精確預(yù)測(cè)一樣。

然而，隨著人工智能帶來(lái)的范式轉(zhuǎn)變，我們進(jìn)入了一個(gè)全新的認(rèn)知領(lǐng)域這里的規(guī)則更像量子力學(xué)，充滿了概率、不確定性和涌現(xiàn)屬性。在這個(gè)領(lǐng)域中，產(chǎn)品不再是靜態(tài)的工具，而是與人類共舞的動(dòng)態(tài)伙伴。

正如物理學(xué)家尼爾斯·玻爾所言：”如果量子力學(xué)沒(méi)有讓你感到震驚，那說(shuō)明你還沒(méi)有理解它。”同樣，如果 AI 產(chǎn)品的新范式?jīng)]有讓我們重新思考產(chǎn)品的本質(zhì)，那我們可能仍停留在舊世界的認(rèn)知框架中。