AI Agent實(shí)踐分享:基于FAQ文檔和LLM,從0-1搭建智能問答機(jī)器人~

0 評(píng)論 3193 瀏覽 30 收藏 26 分鐘

在人工智能領(lǐng)域,大型語言模型(LLM)正逐漸成為構(gòu)建智能系統(tǒng)的核心。本文通過兩個(gè)實(shí)踐案例,詳細(xì)闡述了如何從零開始,利用受限的FAQ文檔和LLM能力,搭建一個(gè)智能問答機(jī)器人,供大家學(xué)習(xí)。

LLM,是通往通用人工智能之路的基礎(chǔ),凡是真正具有智能的系統(tǒng)也好、工具也罷,其內(nèi)部一定是集成了好用的LLM(個(gè)人觀點(diǎn))。

然而,大語言模型的幻覺(上下文回答自相矛盾等)、不遵循指令、訓(xùn)練和微調(diào)需消耗大量算力、微調(diào)需要專業(yè)算法人士、落地ROI等問題,使得大語言模型的落地面臨著各種各樣的挑戰(zhàn)和問題需要解決。

FunctionCall、RAG、few-shot、SFT、AI Agent平臺(tái)等這些技術(shù)框架和產(chǎn)品的出現(xiàn),使得普通人直接使用LLM變得容易了起來~隨便利用LLM通識(shí)能力搭一個(gè)“玩具”(比如英語口語陪練、軟文寫作大師等)很容易,但要真正想用好LLM,且用在實(shí)際的業(yè)務(wù)場(chǎng)景中,并非易事。

那么本文,本人就先以簡(jiǎn)單的case,演示一下:基于限定的FAQ文檔和LLM,來如何從0-1搭建一個(gè)智能問答機(jī)器人,以及過程中我遇到的問題及如何解決的。

注:本文FAQ文檔,以網(wǎng)頁URL形式提供~后續(xù)有時(shí)間,將再分享FAQ是以文檔文件形式實(shí)踐的成果~感興趣的友友,敬請(qǐng)期待!

本文閱讀溫馨提示?:

內(nèi)容有些長(zhǎng),約7000字,需要一些耐心,主要涉及如下內(nèi)容:

(1)實(shí)踐case1:基于FAQ文檔,利用LLM能力進(jìn)行答復(fù),要求超出文檔范疇,回復(fù)“不知道”即可;——case1模擬的業(yè)務(wù)場(chǎng)景:專業(yè)性極強(qiáng)、對(duì)回答準(zhǔn)確率要求極高的業(yè)務(wù)場(chǎng)景,比如金融、醫(yī)療等行業(yè);

(2)實(shí)踐case2:優(yōu)先基于FAQ文檔進(jìn)行智能問答,若用戶意圖與FAQ相關(guān),則利用LLM&RAG能力進(jìn)行回復(fù);若與FAQ無關(guān),則利用LLM通識(shí)能力&聯(lián)網(wǎng)能力,為用戶推薦回答。

(3)客服系統(tǒng)及智能客服的系統(tǒng)架構(gòu),以及我關(guān)于“基于LLM的「智能客服機(jī)器人」”的一些思考~

——case2模擬的是【任務(wù)型】機(jī)器人為主,同時(shí)具備閑聊能力的機(jī)器人。

覺得有用的寶子,建議收藏碼住本文!防止過后找不到~

01 實(shí)驗(yàn)一:僅基于限定FAQ文檔回答問題,超出范疇要求LLM回復(fù)“不知道”

1.1 使用的工具、FAQ文檔說明

使用工具:

扣子(中文版),工具地址:https://www.coze.cn/home

FAQ文檔

使用的是這個(gè)URL內(nèi)容:

https://mp.weixin.qq.com/s/B0FskW3iPypdE9oj3Sfjcg(這是一個(gè)關(guān)于谷歌創(chuàng)始人之一:謝布林近期的訪談,訪談關(guān)于他重回一線寫代碼,以及他對(duì)AI行業(yè)的看法、對(duì)AI的實(shí)踐運(yùn)用等內(nèi)容,還有主持人與其談及了谷歌Gemini與openAI的差距等話題);

2.2 實(shí)驗(yàn)過程與實(shí)驗(yàn)結(jié)果記錄:

1)上手搭建-v0.0.1版:僅能基于限定的FAQ文檔,回答問題

模擬業(yè)務(wù)場(chǎng)景:只能基于限定的FAQ回答問題,當(dāng)用戶提問超出提綱范圍,要求LLM回復(fù)“不知道”。

p.s.本人之所以這樣設(shè)定,是因?yàn)檫@種設(shè)定契合于醫(yī)療、醫(yī)藥、金融等行業(yè)(與人生命財(cái)產(chǎn)關(guān)聯(lián)性較強(qiáng)的行業(yè)/業(yè)務(wù)),即這些專業(yè)性比較強(qiáng)的業(yè)務(wù)場(chǎng)景,通常要求LLM不知道不要瞎說、胡說,如果建議錯(cuò)了反倒影響用戶體驗(yàn)~

step1:對(duì)Agent進(jìn)行配置

A、配置LLM提示詞:v0.0.1版

# 角色

你是一個(gè)專業(yè)高效的智能答疑助手,能夠準(zhǔn)確、快速地依據(jù)給定的 FAQ(常見問題解答)回答各種問題,F(xiàn)AQ 形式包括 url 網(wǎng)頁鏈接以及外部知識(shí)庫 API。

限定的FAQ 文檔就用這個(gè):https://mp.weixin.qq.com/s/B0FskW3iPypdE9oj3Sfjcg

## 技能

###技能1:精準(zhǔn)搜索 FAQ

一旦接收到用戶的問題,馬上在已有的 FAQ 中進(jìn)行全面細(xì)致的搜索;

如果找到相關(guān)問題及答案,嚴(yán)格按照以下格式回復(fù):

=====

**問題**:<用戶提出的問題>;

**答案**:<FAQ 中的對(duì)應(yīng)答案>

如果沒有找到相關(guān)問題和答案,就說“不知道”即可。

##限制

- 必須嚴(yán)格按照規(guī)定格式輸出內(nèi)容,絕對(duì)不能偏離給定的框架要求。

B、配置Agent其它項(xiàng):大模型、推薦問題、大模型所要調(diào)用的插件

a)LLM使用了默認(rèn)的【豆包·function callMox 32k 精確模式】,插件配了“鏈接讀取”插件、“圖片理解”、“kimi”~

b)“推薦問題”配置

Step2:對(duì)配好的Agent進(jìn)行調(diào)試:

在Agent正式發(fā)布前,我們需要對(duì)其進(jìn)行調(diào)試(測(cè)試),測(cè)好了沒大問題了,再發(fā)布。

在測(cè)試過程中,我對(duì)Bot進(jìn)行了正負(fù)向測(cè)試,同時(shí)測(cè)試其自己生產(chǎn)的問題可否能回答上;

①正向測(cè)試:在提綱中的問題進(jìn)行測(cè)試(比如:“讓謝布林感到「WOW」的 AI 應(yīng)用場(chǎng)景是什么?”、“1998 年,謝布林和誰成立了谷歌?”、“介紹謝布林”、“謝布林有沒有用AI來做數(shù)獨(dú)游戲?”
等),測(cè)試機(jī)器人能否回答上來,回答是否正確、是否按格式要求等;

②負(fù)向(邊界情況)測(cè)試:不在提綱中的問題,進(jìn)行測(cè)試(比如:“請(qǐng)介紹一下奧特曼”、“奧特曼相信光嗎?”等),看其是否按要求回答“不知道”,還是瞎說。

③系統(tǒng)自動(dòng)生成的相關(guān)問題,測(cè)試。

調(diào)試過程中遇到的問題:

  1. 測(cè)試大模型時(shí)都正常,都能回答上。發(fā)布后,同樣問題卻回答錯(cuò)誤。——這大概率是大模型的幻覺問題,不會(huì)是平臺(tái)的BUG(個(gè)人認(rèn)為)(原因后面解釋);
  2. 它推薦的問題,它自己卻回答不上。自動(dòng)推薦處定義的提示詞已經(jīng)說明強(qiáng)調(diào):推薦其有能力回答的問題。
  3. 幻覺問題的體現(xiàn):給大模型配了插件,調(diào)試時(shí)調(diào)用了該插件,調(diào)試正常調(diào)通了。發(fā)布后,卻不調(diào)用插件回答問題。
  4. 調(diào)試過程中,調(diào)試階段A一會(huì)自主調(diào)用插件(鏈接讀?。?,一會(huì)又不調(diào)用該插件(提示詞都是一樣的)。
  5. 發(fā)布后,關(guān)于同一問題,回答明顯矛盾。如下所示:

問題分析與解決

問題1:測(cè)試時(shí),都正常都能回答上。發(fā)布后,同樣問題,卻回答錯(cuò)誤。

原因分析:——這大概率是大模型的幻覺問題,不會(huì)是平臺(tái)的BUG(個(gè)人認(rèn)為),因?yàn)槠脚_(tái)BUG這種非算法類的,工程類的問題只要解決了就不會(huì)存在。極有可能是大模型幻覺問題,那暫時(shí)無解。

問題2:它推薦的問題,它自己卻回答不上。自動(dòng)推薦處定義的提示詞已經(jīng)說明強(qiáng)調(diào),推薦其有能力回答的問題。

猜測(cè)原因1:它推薦的問題可能是基于它基礎(chǔ)的【通識(shí)能力】+【聯(lián)網(wǎng)能力】,并沒有限定于給它配置的系統(tǒng)提示詞和身份。——但這個(gè)猜測(cè)又不是很合理,正常產(chǎn)品設(shè)計(jì)一定是系統(tǒng)人設(shè)是第一個(gè)層級(jí)的限制(要是我設(shè)計(jì),默認(rèn)情況,我就會(huì)這樣設(shè)計(jì),即是“and”關(guān)系);或者系統(tǒng)人設(shè)和自動(dòng)推薦的問題,默認(rèn)“and”關(guān)系,此外還支持“or”。

猜測(cè)原因2:大模型幻覺。如果又是幻覺問題,那還是不好解決。

問題3和問題4原因分析:可能是系統(tǒng)提示詞寫的不完善,比如同一個(gè)功能的插件配了好幾個(gè),又沒有明確和LLM說明什么時(shí)候用哪個(gè),那么大模型就可以在面對(duì)提問時(shí),自主選擇。那自然就可能出現(xiàn)問題3和4。比如這個(gè)badcase:

問題3和問題4解決辦法:

1)同一功能作用的插件,要么配1個(gè);要么配多個(gè)的時(shí)候,為避免引起歧義,在系統(tǒng)提示詞中,加以限定:說明好什么情況下用這個(gè)插件,什么情況下用另外的插件。

這里,我刪除了【kimi插件】(后續(xù)實(shí)驗(yàn)有需要用到kimi聯(lián)網(wǎng)檢索時(shí)候,我再加上),結(jié)果如下:

但我又遇到了新的問題:

比如:

①我問它“1998年,謝布林和誰一起成立了谷歌?”(這個(gè)問題它之前能回答,現(xiàn)在又不能回答了…)

②比如它沒有輸出執(zhí)行過程。

問題原因猜測(cè)是:URL中FAQ中確實(shí)沒有這個(gè)問題,而是整個(gè)文檔有這部分內(nèi)容。策略:考慮優(yōu)化提示詞,回答范圍不限定于FAQ,而是整個(gè)URL文件。

好吧。。。即使我優(yōu)化了提示詞到查找整個(gè)URL而非部分FAQ,關(guān)于問題1,它仍然是回答不知道。我需要知道它是怎么執(zhí)行的。

關(guān)于問題2(不輸出執(zhí)行過程的問題),后續(xù)增加提示詞要求即可?!贿^這個(gè)也要注意,面向終端客戶時(shí),有沒有必要輸出中間過程,或者是選擇性地輸出(產(chǎn)品童鞋需要注意);

  • 問題5:發(fā)布后,關(guān)于同一問題,回答明顯矛盾。
  • 原因分析:大模型幻覺問題?!罄m(xù)考慮加入few-shot,或在對(duì)話窗口中進(jìn)行微調(diào),然后利用大模型的Mememory能力進(jìn)行優(yōu)化。

2)v0.0.2:在v0.0.1版基礎(chǔ)上,進(jìn)行優(yōu)化

v0.0.1版存在上面羅列的諸多問題,因此考慮優(yōu)先優(yōu)化提示詞,解決一部分容易解決的問題

v0.0.2版配置如下:

v0.0.2在v0.0.1版基礎(chǔ)上,主要優(yōu)化點(diǎn)在于:

1、增加“輸出執(zhí)行和思考過程”;

2、優(yōu)化檢索“FAQ”為“檢索全文”;

3、去掉容易引起大模型歧義的同等作用的多個(gè)插件,僅保留一個(gè)。

v0.0.2測(cè)試結(jié)果:

v0.0.2調(diào)試結(jié)果說明:

Bot按指令要求調(diào)用【鏈接提取】插件了;√

也按格式要求輸出了回答、輸出了執(zhí)行和思考過程?!?/p>

暫時(shí)滿足了我的業(yè)務(wù)要求~ ????

(但仍然存在一些幻覺問題,但由于本人暫無時(shí)間精力和能力去微調(diào),所以該case暫且到這里。下面進(jìn)行Bot的發(fā)布。

3)基于v0.0.2版配置,發(fā)布Bot機(jī)器人(基于外接FAQ的智能問答)

  • 扣子平臺(tái)的發(fā)布功能,提供了多種選擇:你可以設(shè)置Bot的權(quán)限為公開、為私有。
  • 支持發(fā)布至豆包智能體廣場(chǎng)(商店),支持發(fā)布到飛書應(yīng)用中,支持發(fā)布至抖音中。
  • 還支持發(fā)布至三方平臺(tái)生態(tài)中,微信、掘金等;
  • 發(fā)布形式支持URL(帶界面),支持發(fā)布API形式;

這里,我選擇了發(fā)布至字節(jié)Bot商店,但由于插件權(quán)限設(shè)置,即使是公開Bot,也只能我自己使用。

謝布林訪談-Bot在線體驗(yàn)鏈接:https://www.coze.cn/store/bot/7415175444246495243?panel=1&bid=6dqk42qr89g0a(你們可以試試能否打開,或者能打開能不能用)

同時(shí)這個(gè)Bot機(jī)器人為實(shí)驗(yàn)性質(zhì)的、“demo”性質(zhì)的,距離真正的商業(yè)化落地還有一定距離。

比如當(dāng)前的這個(gè)Bot仍然存在下述幻覺問題:

比如問它:“讓謝布林感到「WOW」的 AI 應(yīng)用場(chǎng)景是什么?”它回答的還是不完美??稍趯?duì)話過程中,調(diào)教它,得到想要得到的答案~

4)后續(xù)的優(yōu)化方向

線上的【謝布林訪談-FAQ】BOT仍然不是完美的,還有諸多缺陷,比如我在(3)小節(jié)提出的幻覺問題。

  • 后續(xù)解決方案可以是:
  • few-shot(指令微調(diào))->SFT(基于少量業(yè)務(wù)數(shù)據(jù),對(duì)模型進(jìn)行微調(diào));
  • 換LLM(根據(jù)業(yè)內(nèi)人士經(jīng)驗(yàn),參數(shù)量級(jí)越大的LLM,其指令遵循能力越強(qiáng)),重新執(zhí)行上述過程(Bot配置、Bot調(diào)試、Bot發(fā)布);

02 實(shí)驗(yàn)二:優(yōu)先基于限定的文檔回答問題,超出文檔范疇利用LLM通識(shí)能力+聯(lián)網(wǎng)能力,給出推薦回答

該case模擬的實(shí)際業(yè)務(wù)場(chǎng)景是:【優(yōu)先基于領(lǐng)域知識(shí)】進(jìn)行回復(fù)的任務(wù)型機(jī)器人,同時(shí)具備閑聊能力的機(jī)器人。

2.1 v0.0.1 Bot提示詞等配置

2.2 v0.0.1調(diào)試和預(yù)覽

問題1:按照上述提示詞,用戶的所有提問,比如“你好”、“請(qǐng)介紹你自己”、“請(qǐng)給我講個(gè)故事”等,他都將這些問題視為【有效輸入】去檢索URL文檔~ 比如下圖所示那般:

——該版本的問題是:

1、如果用戶所有問題,BoT均按照上面模版機(jī)械化地回答給用戶,會(huì)有些蠢、也很機(jī)械,用戶可能會(huì)被逼瘋。。。其實(shí)對(duì)于一些“你好”、“你是誰”等問題,直接回答即可(不用說一大堆有的沒的);——問題嚴(yán)重程度P1

2、如果針對(duì) “你好”、“你是誰”等與FAQ無關(guān)的意圖,也要作為query去檢索FAQ文檔的話,系統(tǒng)的效率會(huì)大打折扣,明顯浪費(fèi)計(jì)算資源。——問題嚴(yán)重程度P0。

——所以,一般的做法是:優(yōu)先對(duì)【用戶意圖】進(jìn)行標(biāo)記和分類。閑聊類的意圖,調(diào)用【閑聊】模塊執(zhí)行回復(fù);當(dāng)符合【FAQ問答】意圖,則調(diào)用【FAQ文檔問答】能力執(zhí)行回復(fù)。

下面對(duì)v0.0.1版本進(jìn)行改進(jìn),增加“意圖分類”邏輯。

2.3 v0.0.1改進(jìn):增加“用戶意圖分類”判斷邏輯,并調(diào)試、發(fā)布

策略說明:

1)當(dāng)用戶意圖與FAQ文檔相關(guān),則參照FAQ進(jìn)行回答;

2)如果用戶意圖與之不相關(guān),需調(diào)用通識(shí)能力+聯(lián)網(wǎng)檢索能力,為用戶推薦回答。

溫馨提示:實(shí)際最好的做法應(yīng)該是單獨(dú)有一個(gè)LLM,完成【意圖識(shí)別和分類】任務(wù)。另一個(gè)LLM只負(fù)責(zé)【FAQ文檔問答】。但是本人為實(shí)踐效率,這里用一個(gè)LLM同時(shí)完成這兩個(gè)任務(wù)(偷個(gè)懶??)。

按上面策略對(duì)v0.0.1版提示詞進(jìn)行修改和優(yōu)化。

同時(shí)本人測(cè)試了一些問題(與文檔相關(guān)、與文檔不相關(guān)的),個(gè)人覺得效果還可以,如下:

通過調(diào)試,認(rèn)為達(dá)到了業(yè)務(wù)使用要求,發(fā)布即可~

03 全文總結(jié)與回顧

本文以兩個(gè)小case,利用Coze工具,簡(jiǎn)單實(shí)踐了一下【基于LLM的智能問答助手】的0-1構(gòu)建方法,以及構(gòu)建過程中遇到的問題,以及解決思路和解決前后對(duì)比~

1、其中case1,模擬的是專業(yè)性極強(qiáng)或回答準(zhǔn)確率要求極高的業(yè)務(wù)場(chǎng)景,比如金融、醫(yī)療行業(yè),要求大模型不知道不要瞎說,say no即可~

2、case2,允許大模型優(yōu)先按照領(lǐng)域知識(shí)回答,當(dāng)領(lǐng)域知識(shí)無法滿足用戶問題時(shí),可允許大模型利用其通識(shí)能力和調(diào)用其它工具回復(fù)用戶提問?!@可以映射到早期:【基于知識(shí)進(jìn)行回復(fù)】同時(shí)具備閑聊能力的機(jī)器人,不至于顯得“人工智障”。

04 寫在后面:我關(guān)于「智能客服機(jī)器人」的一些實(shí)踐經(jīng)驗(yàn)和思考分享~

A、關(guān)于大模型“幻覺”問題的幾點(diǎn)解決經(jīng)驗(yàn)分享~

1)優(yōu)先優(yōu)化系統(tǒng)提示詞、修改大模型溫度值參數(shù)為0,然后可以適當(dāng)?shù)厥褂胒ew-shot的方法,對(duì)大模型進(jìn)行效果優(yōu)化;但few-shot的弊端也很明顯,占用的tokens太多(因?yàn)槊看屋斎?、輸出,都?huì)把系統(tǒng)提示詞+用戶提問作為輸入token);

——p.s.tokens越多,越費(fèi)錢;如果不是外采的,部署的開源的話,tokens越多計(jì)算量也會(huì)相應(yīng)變多,費(fèi)算力,費(fèi)存儲(chǔ)。

2)換一個(gè)LLM。根據(jù)經(jīng)驗(yàn),參數(shù)量越大的模型對(duì)指令遵循效果越好~(參考小米落地實(shí)踐),但也要辯證參考~

3)在調(diào)試過程中,如果不確定大模型給出的內(nèi)容,是否是正確的,可考慮在提示詞中增加“引用源”

4)以上都不行,就微調(diào)吧。

即使你優(yōu)化系統(tǒng)提示詞,到已經(jīng)很好、考慮的很全面了的地步了,但你仍然不能百分百的規(guī)避大模型的幻覺問題,這個(gè)誤差仍然存在?!@時(shí)就要看業(yè)務(wù)可接受多大的誤差。如果想要繼續(xù)縮短誤差,提高端到端回復(fù)準(zhǔn)確率的話,那就【微調(diào)】吧!

B、關(guān)于企業(yè)是否基于LLM,從0-1搭建【智能客服】機(jī)器人:

我認(rèn)為,對(duì)于那些已經(jīng)搭建了【智能客服】的企業(yè)來說,再基于LLM 搭建一個(gè)智能客服機(jī)器人,會(huì)面臨下面幾種選擇:

-方案a:原有智能客服系統(tǒng)+LLM改造,利用LLM進(jìn)行重構(gòu)和改造;

-方案b:完全摒棄原有方案,從0-1基于LLM重搞;

-方案c:繼續(xù)用原來的客服系統(tǒng),不引入LLM;

我認(rèn)為,大多企業(yè)會(huì)選擇方案 a,即逐步引入LLM,逐步重構(gòu)改進(jìn);可能也會(huì)有部分企業(yè)現(xiàn)階段選擇方案c:暫時(shí)不引入LLM,原因是:有些企業(yè)愿意嘗試創(chuàng)新、有些企業(yè)則比較看重ROI,還有些企業(yè)比較看重業(yè)務(wù)運(yùn)行的穩(wěn)定性(比如在原有穩(wěn)定運(yùn)行的業(yè)務(wù)系統(tǒng)中,引入LLM,帶來了不可控的風(fēng)險(xiǎn),那干脆不引入,等LLM再發(fā)展發(fā)展后再說,比如幻覺問題都有了標(biāo)準(zhǔn)的成熟的方案);還有些公司會(huì)選擇方案b。

——那具體怎么選,還是各個(gè)企業(yè)的老板們說了算的。

對(duì)于從來沒有建立過智能客服機(jī)器人的企業(yè),或者是新業(yè)務(wù)的新客服業(yè)務(wù),可以考慮基于LLM來建設(shè)。只要研究好提示詞、配備齊全相應(yīng)的產(chǎn)品/運(yùn)營(yíng)、懂微調(diào)的算法、和工程化開發(fā)的前后端人員就夠了~

C、關(guān)于「大模型落地到硬件終端」的考慮與必要準(zhǔn)備事項(xiàng)~

在LLM最終落地時(shí),還考慮大模型的落地場(chǎng)景,是云端,還是其它邊緣端(比如智能手機(jī)、智能手表,或是平板、學(xué)習(xí)機(jī)等),因?yàn)檫@些硬件終端,其內(nèi)存和算力都有限。——那針對(duì)手機(jī)等硬件終端,LLM落地時(shí)還需要做的工作是:蒸餾。

——蒸餾的意思是說,保持原有模型整體性能效果的前提下,盡量的壓縮模型體積(現(xiàn)在一個(gè)參數(shù)量稍微大點(diǎn)的大模型,動(dòng)不動(dòng)就大幾個(gè)GB,10GB的也不在少數(shù),這樣的龐然大物算力小的、內(nèi)存小的設(shè)備根本帶不動(dòng)~)

D、關(guān)于0-1搭建/重構(gòu)智能客服機(jī)器人的必要工作:

確定業(yè)務(wù)場(chǎng)景->確定機(jī)器人類型(任務(wù)還是閑聊,還是結(jié)合)->意圖治理、機(jī)器人基礎(chǔ)設(shè)施搭建(知識(shí)庫治理與配置、技能樹等)->機(jī)器人工作流程設(shè)計(jì)、用戶數(shù)據(jù)監(jiān)控邏輯設(shè)計(jì)->測(cè)試與上線->根據(jù)反饋進(jìn)行迭代~

客服系統(tǒng)整體架構(gòu)(含智能客服系統(tǒng)架構(gòu)),圖片繪制by本人(記得是畫了蠻久…)

好,那在原「客服系統(tǒng)」基礎(chǔ)上拿LLM改造,LLM可以做些什么呢?(不管是產(chǎn)品還是技術(shù),都是LLM求職面試高頻問題哦)

本文的兩個(gè)實(shí)踐case,實(shí)際針對(duì)「智能客服系統(tǒng)」提供了一些答案,即:

①利用LLM去做意圖的識(shí)別和分類;

②利用LLM,去做文檔的檢索;

更多的場(chǎng)景?(知識(shí)庫的建設(shè)?相似問的生成?自動(dòng)化評(píng)估?….)想要了解更多的朋友,歡迎評(píng)論區(qū)留言,與其它小伙伴探討~

本文由 @南方碟道 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載

題圖來自Unsplash,基于CC0協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒評(píng)論,等你發(fā)揮!