近期閱讀了Anthropic發(fā)布的最新文章《Building effective Agents》, 文章分享了他們對(duì)于如何高效構(gòu)建Agents的相關(guān)思考, 看完后獲得了一些收獲, 與你分享。

01 Anthropic 對(duì) Agent 的定義

Agent是一個(gè)架構(gòu)或者是系統(tǒng)

它即被定義為一個(gè)能夠較長(zhǎng)時(shí)間自主獨(dú)立運(yùn)行，通過(guò)調(diào)用各種工具來(lái)完成復(fù)雜任務(wù)的自主系統(tǒng)，也被定義為通過(guò)遵循預(yù)定義工作流的預(yù)設(shè)系統(tǒng)。

所以Anthropic對(duì)Agent系統(tǒng)進(jìn)行了兩類劃分：

1. Agents： 根據(jù)任務(wù)復(fù)雜程度，由LLM動(dòng)態(tài)決定處理流程來(lái)自動(dòng)完成任務(wù)，適用于“開(kāi)放性與創(chuàng)造性場(chǎng)景”，如智能客服助理：能夠根據(jù)客戶提出的多樣化問(wèn)題，動(dòng)態(tài)選擇合適的知識(shí)庫(kù)和工具，提供個(gè)性化的解決方案。

2. Workflow： 基于預(yù)設(shè)的編排路徑，在每個(gè)節(jié)點(diǎn)中準(zhǔn)確地調(diào)用LLM節(jié)點(diǎn)和相關(guān)工具節(jié)點(diǎn)，從而完成復(fù)雜任務(wù)，適用于“標(biāo)準(zhǔn)化與流程化場(chǎng)景”，如客戶評(píng)論批量處理：通過(guò)預(yù)設(shè)的工作流程收集客戶評(píng)論，判斷評(píng)論的情緒，再自動(dòng)生成評(píng)論的回復(fù)文案。

02 Workflow的構(gòu)建方法

1. Prompt chainning (提示鏈編排)

定義：提示鏈的方法是將任務(wù)分解為多個(gè)子任務(wù)，每一個(gè)節(jié)點(diǎn)輸入的信息都是前一個(gè)節(jié)點(diǎn)的輸出內(nèi)容。

典型場(chǎng)景：復(fù)雜文本生成，首先生成主題的大綱內(nèi)容，然后檢查大綱是否符合標(biāo)準(zhǔn)，接著根據(jù)大綱內(nèi)容逐段撰寫(xiě)，每一段都基于前面的內(nèi)容，以確保主題連貫的一致性。

2. Routing (路由編排)

定義：路由的編排方式，類似于Coze的意圖識(shí)別節(jié)點(diǎn)，能夠?qū)⑤斎氲男畔⑦M(jìn)行分類，并將其定向?qū)５教囟ǖ奶幚砺窂焦?jié)點(diǎn)。

典型場(chǎng)景：智能客服系統(tǒng)，當(dāng)用戶提出問(wèn)題時(shí)，系統(tǒng)先判斷問(wèn)題的意圖，再將其分流至響應(yīng)的回復(fù)模塊，比如： 訂單查詢，技術(shù)支持，功能說(shuō)明，投訴建議等處理路徑。

3. Parallelization (并行編排)

定義：并行編排的方式是將LLM同時(shí)處理同一項(xiàng)任務(wù)，并在聚合器中整合輸出結(jié)果，從而提高任務(wù)處理的準(zhǔn)確性和全面性。

如圖所示，開(kāi)始節(jié)點(diǎn)為用戶輸入的信息，將用戶輸入的信息同時(shí)輸入至三個(gè)大語(yǔ)言模型節(jié)點(diǎn)進(jìn)行并行處理，并將每個(gè)節(jié)點(diǎn)的輸出結(jié)果進(jìn)行聚合匯總，最終進(jìn)行整體輸出。

典型場(chǎng)景：內(nèi)容合規(guī)審查，多個(gè)大語(yǔ)言模型分別檢測(cè)內(nèi)容中是否存在違規(guī)，敏感或不良信息，再由聚合器進(jìn)行綜合判斷，以提高審核的可靠性。

并行編排的優(yōu)勢(shì)：

• 將復(fù)雜任務(wù)拆分為子任務(wù)后，不僅提高輸出質(zhì)量，同時(shí)通過(guò)并行處理的方式，能夠提升輸出的響應(yīng)速度
• 支持同一個(gè)任務(wù)多次獲得不同的輸出結(jié)果，在聚合器中選擇重復(fù)輸出最高的結(jié)果為最終輸出的內(nèi)容，能夠有效提升輸出信息的可信度

4. Orchestrator-workers (協(xié)調(diào)器編排)

定義：協(xié)調(diào)器編排的方式是由前置的大語(yǔ)言進(jìn)行動(dòng)態(tài)的任務(wù)分解，并將分解后的子任務(wù)派給其他的大語(yǔ)言模型進(jìn)行處理，最終通過(guò)整合子任務(wù)輸出結(jié)果的方式，進(jìn)行最終答案的輸出。

這個(gè)編排結(jié)構(gòu)是不是很像路由編排與并行編排的結(jié)合體，他們之間還是有很多本質(zhì)差異的，比如和路由編排的差異在于：

Routing(路由編排)主要是一種分類機(jī)制，對(duì)輸入的任務(wù)請(qǐng)求進(jìn)行分類，然后再將其導(dǎo)向?qū)ｉT的任務(wù)處理流程，核心是做子流程的分離，使不同類型的任務(wù)能夠被高效地分配到最適合處理的路徑上，提高系統(tǒng)的整體效率 (適用于明確不同任務(wù)類型的場(chǎng)景)。

Orchestrator-workers(協(xié)調(diào)器編排)核心是由模型對(duì)復(fù)雜任務(wù)進(jìn)行動(dòng)態(tài)拆解與分配，適用于任務(wù)復(fù)雜，且任務(wù)的執(zhí)行順序不可預(yù)測(cè)的使用場(chǎng)景。

典型場(chǎng)景：合同審查，前置的大語(yǔ)言模型將合同審查任務(wù)拆解為： 條款識(shí)別，風(fēng)險(xiǎn)評(píng)估，合規(guī)性審查，修改建議等多個(gè)子任務(wù)，并將這些子任務(wù)分配給擅長(zhǎng)處理響應(yīng)任務(wù)的垂直模型，最后再通過(guò)大語(yǔ)言模型將輸出內(nèi)容進(jìn)行整合，生成全面的審查報(bào)告

03 Agent設(shè)計(jì)原則

最后和大家分享一下Anthropic總結(jié)的Agent編排原則，我認(rèn)為有價(jià)值的原則有兩點(diǎn)/

原則一，優(yōu)先用最簡(jiǎn)單的方式搭建，減少Agent架構(gòu)的復(fù)雜性

這一點(diǎn)與做產(chǎn)品類似，先基于需求做最簡(jiǎn)單的MVP，不需要一上來(lái)就構(gòu)建非常復(fù)雜的工作流，系統(tǒng)越復(fù)雜，不僅輸出的時(shí)長(zhǎng)更久，而且成本也更高，所以優(yōu)先用簡(jiǎn)單的方式來(lái)搭建，去解決核心需求/

原則二，將Agent規(guī)劃執(zhí)行的步驟展示給用戶，從而增加系統(tǒng)的可理解性和可信度

比如協(xié)調(diào)器的編排方式，可以讓用戶直觀地查看自動(dòng)分解的任務(wù)結(jié)果和任務(wù)推理過(guò)程，從而增強(qiáng)輸出內(nèi)容的可信度。

參考資料

Building effective Agents，from： Anthropic

Url：https：//www.anthropic.com/research/building-effective-agents