大模型在智能客服領(lǐng)域的應(yīng)用思考
智能客服領(lǐng)域可以說是大模型落地的前沿領(lǐng)域之一,那么這其中,有哪些應(yīng)用方向值得我們關(guān)注?這篇文章里,作者就做了相應(yīng)的構(gòu)想和探討,一起來看。
前言
隨著大模型技術(shù)的飛速發(fā)展,其在商業(yè)化應(yīng)用的落地實(shí)踐上仍面臨著挑戰(zhàn),不論是面向C端用戶的付費(fèi)服務(wù)模式,還是面向B端企業(yè)的業(yè)務(wù)賦能策略,目前都尚未形成成熟且清晰的商業(yè)模式。
在我所專注的智能客服領(lǐng)域,作為人工智能落地應(yīng)用的前沿陣地,我深刻感受到大模型的生成能力、泛化能力以及增強(qiáng)檢索等核心技術(shù)的巨大潛力?;诖耍覙?gòu)想了一系列應(yīng)用方向,并期望通過分享結(jié)合大模型工具的實(shí)驗(yàn)經(jīng)驗(yàn),與大家共同探討這些可能性。
一、呼入場(chǎng)景
客戶服務(wù)領(lǐng)域,無論是在線聊天還是語音交流,都已成為了現(xiàn)代業(yè)務(wù)運(yùn)作中不可或缺的一部分。目前,基于NLP(自然語言處理)、ASR(自動(dòng)語音識(shí)別)和大數(shù)據(jù)等先進(jìn)技術(shù),已經(jīng)涌現(xiàn)出了一系列智能化的客戶服務(wù)應(yīng)用。
然而,這些產(chǎn)品在功能邊界和特色上往往差異不大,難以在激烈的市場(chǎng)競(jìng)爭(zhēng)中脫穎而出。大模型的加持,從運(yùn)營成本和用戶體驗(yàn)上考慮,也許可以為這一領(lǐng)域帶來了新的發(fā)展機(jī)遇。
1. 問答機(jī)器人
在呼入場(chǎng)景中,問答機(jī)器人(包括在線客服機(jī)器人和語音導(dǎo)航機(jī)器人)的廣泛應(yīng)用凸顯了ASR轉(zhuǎn)譯準(zhǔn)確率和NLP自然語言處理語義理解能力的重要性。在實(shí)際業(yè)務(wù)運(yùn)營中,為了提升問答機(jī)器人的識(shí)別準(zhǔn)確率,往往需要維護(hù)一個(gè)盡可能大的相似問題庫。
然而,這種維護(hù)方式不僅耗時(shí)耗力,而且需要大量的運(yùn)營成本??紤]到大模型的泛化生成能力,我們可以設(shè)想一種創(chuàng)新的方法:通過輸入特定的prompt(指令),讓大模型生成更多的相似問題,經(jīng)過業(yè)務(wù)審核后入庫。這種方法有望顯著降低運(yùn)營成本,同時(shí)提升問答機(jī)器人的識(shí)別準(zhǔn)確率。為了驗(yàn)證這一想法,使用了文言一心、Kimi助手等大模型工具進(jìn)行了實(shí)驗(yàn),如下:
2. 話務(wù)小結(jié)抽取
席在接聽完一通會(huì)話后進(jìn)行話務(wù)小結(jié)是一個(gè)重要的環(huán)節(jié),用于記錄通話的核心內(nèi)容、問題以及解決方案等信息。傳統(tǒng)上,這個(gè)過程需要坐席在通話結(jié)束后手動(dòng)輸入,既耗時(shí)又可能因人為因素導(dǎo)致信息遺漏或偏差。
大模型的主題抽取能力可以用于自動(dòng)生成小結(jié),坐席只需審核確認(rèn)后錄入,這有助于縮短通話時(shí)長,提高效率。驗(yàn)證如下:
3. 多輪對(duì)話的處理
多輪對(duì)話在問答機(jī)器人技術(shù)中向來是頗具挑戰(zhàn)性的環(huán)節(jié),目前主要局限于特定的簡(jiǎn)單場(chǎng)景,由運(yùn)營人員在流程畫布上進(jìn)行詳細(xì)設(shè)定,涉及多個(gè)交互節(jié)點(diǎn)和路徑。
為了更靈活、精準(zhǔn)地響應(yīng)客戶的問題,我們可以借助大模型的生成能力和增強(qiáng)的檢索功能。這種方法在阿里的相關(guān)文章中得到了具體體現(xiàn)(參考:https://mp.weixin.qq.com/s/0THyHxpuIo9MI8MY9tLHiA),即通過大模型生成提示性的快捷短語,引導(dǎo)用戶更明確地表達(dá)需求,同時(shí)結(jié)合增強(qiáng)的檢索技術(shù),縮小答案的搜索范圍,從而生成更為可靠和準(zhǔn)確的回答。
二、呼出場(chǎng)景
在當(dāng)前的AI外呼場(chǎng)景中,雖然普遍采用基于預(yù)設(shè)流程的問答模式,結(jié)合ASR(自動(dòng)語音識(shí)別)和NLP(自然語言處理)技術(shù)來執(zhí)行外呼任務(wù),但這種方式在個(gè)性化服務(wù)和轉(zhuǎn)化率提升上存在一定局限性。借助大模型的生成能力,我們可以實(shí)現(xiàn)更為智能化的外呼策略。
具體來說,通過大模型分析不同用戶的屬性標(biāo)簽,如年齡、性別、興趣偏好、消費(fèi)習(xí)慣等,AI外呼系統(tǒng)可以為用戶定制差異化的呼叫內(nèi)容和方式,真正做到“千人千面”。驗(yàn)證如下:
三、后線管理應(yīng)用
1. 智能質(zhì)檢規(guī)則的泛化
在搭建質(zhì)檢系統(tǒng)的過程中,作者從0到1深度參與,深刻體會(huì)到了質(zhì)檢規(guī)則維護(hù)的復(fù)雜性和重要性。這些規(guī)則通常涉及關(guān)鍵字識(shí)別和正則表達(dá)式的使用,需要業(yè)務(wù)團(tuán)隊(duì)投入大量時(shí)間和精力去詳細(xì)羅列和測(cè)試,以確保質(zhì)檢的準(zhǔn)確率。
然而,借助大模型的泛化能力,我們可以極大地提升這一過程的效率和效果。大模型能夠通過學(xué)習(xí)大量的數(shù)據(jù),自動(dòng)生成與業(yè)務(wù)相關(guān)的關(guān)鍵字和正則表達(dá)式,從而幫助業(yè)務(wù)團(tuán)隊(duì)減輕工作量,并提高質(zhì)檢規(guī)則的全面性和準(zhǔn)確性。以正則表達(dá)式驗(yàn)證如下:
2. 坐席知識(shí)庫
傳統(tǒng)坐席知識(shí)庫在搜索和匹配信息時(shí),依賴于搜索引擎、索引、關(guān)鍵字匹配或語義理解進(jìn)行排序,這種方式可能導(dǎo)致用戶查找信息耗時(shí)較長,并且高度依賴于知識(shí)維護(hù)人員的規(guī)范性和及時(shí)性。大模型能力也許會(huì)將未來的知識(shí)庫搜索體驗(yàn)進(jìn)行顛覆性的改進(jìn)。
具體想法如下:首先,將知識(shí)庫中的信息進(jìn)行結(jié)構(gòu)化處理,并存儲(chǔ)到向量庫中。這樣,知識(shí)庫中的每一條信息都能以向量的形式存在,便于進(jìn)行高效的數(shù)學(xué)運(yùn)算和相似性比較。接著,將這些向量數(shù)據(jù)投喂給大模型進(jìn)行訓(xùn)練,為后續(xù)的搜索和生成任務(wù)打下基礎(chǔ)。用戶搜索時(shí),給出明確promote指令,大模型將相關(guān)的內(nèi)容檢索出來,再直接生成內(nèi)容返回給到用戶。
這和當(dāng)前使用的一些大模型助手的情況相似,舉例說明,如:給出近三年的國內(nèi)GDP數(shù)據(jù)。
結(jié)束語
以上是我基于對(duì)大模型能力的理解以及對(duì)客服業(yè)務(wù)場(chǎng)景的洞察,所產(chǎn)生的一些初步思考。這些思考得到了我在開源工具上進(jìn)行的驗(yàn)證的支持,盡管目前這些思考尚顯零散,但我期待能與各位同仁共同探討和完善。
再者,在探討大模型在業(yè)務(wù)場(chǎng)景中的落地應(yīng)用時(shí),我們不可忽視垂直領(lǐng)域的訓(xùn)練優(yōu)化。每個(gè)行業(yè)都有其獨(dú)特的業(yè)務(wù)邏輯和需求,因此,通過針對(duì)垂直領(lǐng)域的特定訓(xùn)練,能夠進(jìn)一步提升大模型的性能和適應(yīng)性。
最后,在實(shí)際落地過程中,我們需要保持開放的心態(tài),勇于提出大膽的假設(shè),但同時(shí)又要謹(jǐn)慎求證。為了降低風(fēng)險(xiǎn)并加速驗(yàn)證過程,建議在前期采用插件化的形式來逐步驗(yàn)證和優(yōu)化大模型的應(yīng)用效果。
本文由 @菜鳥店小二 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載
題圖來自 Unsplash,基于 CC0 協(xié)議
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。
寫的很好,我們公司也在做智能客服SaaS產(chǎn)品,在探索基于RAG的知識(shí)庫搜索能力,希望有機(jī)會(huì)能一起探討下
來交流,目前在做知識(shí)庫檢索,由于需要多重判斷,業(yè)務(wù)復(fù)雜性高,大模型總是出現(xiàn)幻覺~
確實(shí)是會(huì)出現(xiàn)幻覺,有無什么解決方案?
我現(xiàn)在新公司也在做這塊內(nèi)容,可以探討