AI語(yǔ)言模型中的ChatGPT近期在互聯(lián)網(wǎng)平臺(tái)上引起了廣泛的討論。那么，如果想將這個(gè)大型語(yǔ)言模型應(yīng)用在智能客服產(chǎn)品中，或者將其在ToB SaaS應(yīng)用軟件領(lǐng)域落地，應(yīng)該采用哪種構(gòu)建策略？

現(xiàn)在ChatGPT這個(gè)大型語(yǔ)言模型已經(jīng)在各種平臺(tái)獲得了廣泛的關(guān)注。那么，如果在ToB SaaS應(yīng)用軟件領(lǐng)域中想要將LLM大語(yǔ)言模型應(yīng)用于智能客服產(chǎn)品中，應(yīng)該如何實(shí)現(xiàn)呢？

首先，我們需要解決一個(gè)問(wèn)題：在智能客服領(lǐng)域，是否值得使用LLM大語(yǔ)言模型進(jìn)行智能化產(chǎn)品改造？

讓我們先綜合考慮一下智能客服產(chǎn)品的幾個(gè)典型特征：

人力密集：

智能客服是高度依賴人工操作的系統(tǒng)，需要解放生產(chǎn)力，提高效率。

數(shù)據(jù)密集：

智能客服產(chǎn)品能夠沉淀大量過(guò)程性數(shù)據(jù)，例如會(huì)話信息、通話記錄、錄音和操作日志。這種數(shù)據(jù)能夠?yàn)槿斯ぶ悄軕?yīng)用提供基礎(chǔ)。

流程可定義：

這類產(chǎn)品往往可以通過(guò)業(yè)務(wù)流程抽象來(lái)實(shí)現(xiàn)，例如IVR語(yǔ)音交互、外呼任務(wù)和工單流轉(zhuǎn)等。

有智能化應(yīng)用基礎(chǔ)：

智能客服早已成為人工智能技術(shù)的先鋒之一，例如文本機(jī)器人、語(yǔ)音機(jī)器人和智能質(zhì)檢等應(yīng)用已經(jīng)非常成熟。客戶和用戶對(duì)此也已經(jīng)接受并習(xí)慣。

綜上所述，如果某個(gè)行業(yè)擁有相對(duì)落后的生產(chǎn)工具、標(biāo)準(zhǔn)的生產(chǎn)流程、大量未充分處理的數(shù)據(jù)且不排斥人工智能技術(shù)，那么這個(gè)行業(yè)無(wú)疑是值得LLM大語(yǔ)言模型落地生根的沃土。

如果值得做，那么如何做？

雖然LLM大語(yǔ)言模型在智能客服產(chǎn)品中的應(yīng)用前途廣闊，但現(xiàn)階段看來(lái)，其應(yīng)用仍處于不成熟的階段。

這就是一個(gè)見仁見智的問(wèn)題了，大家的產(chǎn)品架構(gòu)不同，目標(biāo)客群不同、業(yè)務(wù)規(guī)模不同、主打產(chǎn)品各異。

我們可以假設(shè)，已經(jīng)有了一套得到驗(yàn)證，穩(wěn)定運(yùn)營(yíng)的成熟產(chǎn)品，不希望引入LLM帶來(lái)現(xiàn)有產(chǎn)品的巨大變化，進(jìn)而影響客戶體驗(yàn)。如何搞？

提倡擁抱變化，嘴上鼓吹A(chǔ)GI通用人工智能帶來(lái)行業(yè)巨變，這些都沒(méi)問(wèn)題，真要不破不立，付出真金白銀的代價(jià)來(lái)決策，去執(zhí)行，還是一個(gè)很難抉擇的命題。

1、架構(gòu)設(shè)計(jì)問(wèn)題

考慮我們的產(chǎn)品架構(gòu)是否能夠支持LLM大語(yǔ)言模型的應(yīng)用。目前我們的主打產(chǎn)品架構(gòu)由于歷史原因顯得陳舊，模塊化解耦不完善，性能瓶頸難以解決。雖然我們有很多生產(chǎn)客戶，但這也使得我們難以輕易地改動(dòng)架構(gòu)。在這種情況下，如果將ChatGPT整合到我們的架構(gòu)中，將會(huì)帶來(lái)更多的沉重壓力。

因此，我們需要先確定我們的下一步行動(dòng)是優(yōu)化當(dāng)前架構(gòu)還是探索新的LLM應(yīng)用方案。這就好比對(duì)待老房子改造，我們需要先施工打好基礎(chǔ)，或者簡(jiǎn)單裝修打造軟裝。如果歷史包袱較重，我們也可以另起爐灶，組建一支精銳團(tuán)隊(duì)進(jìn)行探索。這也可以看作是給原有池塘投入一只鯰魚。

2、工具設(shè)計(jì)問(wèn)題

設(shè)計(jì)頂層應(yīng)用之前，我們需要先梳理一下我們需要的工具，例如AI引擎管理、數(shù)據(jù)建模工具、意圖管理、標(biāo)簽標(biāo)注和管理、流程生成工具、業(yè)務(wù)構(gòu)建工具等等。

引入ChatGPT的能力，相對(duì)于以前智能客服產(chǎn)品所使用的自然語(yǔ)言處理、語(yǔ)義理解、意圖識(shí)別、關(guān)鍵字和正則處理等方式，帶來(lái)了顛覆性的改變。借助其能力，我們可以使用上下文關(guān)聯(lián)、邏輯鏈提示處理等方式，擺脫以前的手把手定義流程、字詞句填槽的舊模式，從而實(shí)現(xiàn)極大的改進(jìn)。

如果以前構(gòu)建復(fù)雜的AI應(yīng)用需要半編程化的方式，那么使用ChatGPT就更像是RPG游戲編程工具，通過(guò)場(chǎng)景搭建、角色扮演、提示格式化、邏輯化等方式來(lái)構(gòu)建應(yīng)用，并輔以人工反饋監(jiān)督。

這種方式是可行的。如果我們做得足夠好用，我們甚至可以邀請(qǐng)用戶參與“游戲”開發(fā)。

此外，很多工具本身也可以通過(guò)借助ChatGPT進(jìn)行智能化改造，以更高效、智能的方式來(lái)處理數(shù)據(jù)、生成數(shù)據(jù)。例如，我們可以通過(guò)自動(dòng)訓(xùn)練和標(biāo)注、知識(shí)庫(kù)的自動(dòng)化擴(kuò)充來(lái)代替語(yǔ)料手工標(biāo)注，代替?zhèn)鹘y(tǒng)問(wèn)答對(duì)的低效人力處理，并給出標(biāo)準(zhǔn)問(wèn)題，自動(dòng)擴(kuò)展相似問(wèn)題等等。

3、應(yīng)用設(shè)計(jì)問(wèn)題

最后讓我們討論一下智能客服應(yīng)用的設(shè)計(jì)，這個(gè)層面是用戶能夠感知到的界面和內(nèi)容。

為了更好地體現(xiàn)ChatGPT的優(yōu)勢(shì)能力，我們可以以智能客服的典型場(chǎng)景為例，探討其所能帶來(lái)的富有創(chuàng)意的改變。

（1）增強(qiáng)型對(duì)話能力

ChatGPT無(wú)疑帶來(lái)了非常強(qiáng)大的對(duì)話能力，我們十分期待并開始思考它加入智能客服對(duì)話中的效果。

然而，在智能客服產(chǎn)品領(lǐng)域中，對(duì)話通常是限定于特定業(yè)務(wù)領(lǐng)域和任務(wù)驅(qū)動(dòng)的需求。我們的客戶并不希望訪客進(jìn)來(lái)只是為了尋找一個(gè)超級(jí)智能、善解人意、會(huì)寫會(huì)畫的陪聊機(jī)器人。對(duì)話內(nèi)容必須在企業(yè)業(yè)務(wù)范疇內(nèi)收斂，服務(wù)于客服和營(yíng)銷場(chǎng)景，解決和處理問(wèn)題，不要浪費(fèi)寶貴的資源。

直接將ChatGPT引入客服領(lǐng)域而不加控制，就好比你回家發(fā)現(xiàn)掃地機(jī)器人不工作，而隔壁的智能吸塵器卻會(huì)和你侃侃而談，你會(huì)感到很失望！

因此，構(gòu)建增強(qiáng)型對(duì)話能力的過(guò)程中，我們一方面可以借助ChatGPT簡(jiǎn)化對(duì)話流程的設(shè)計(jì)。以前需要設(shè)置無(wú)數(shù)個(gè)意圖和上下文才能實(shí)現(xiàn)的方式，現(xiàn)在可以使用開箱即用的自然語(yǔ)言對(duì)話獲取和格式化提示，完成限定任務(wù)并收集訪客數(shù)據(jù)和意向。另一方面，我們可以通過(guò)私有化訓(xùn)練和公共文本數(shù)據(jù)的結(jié)合，為訪客提供不僵化、更優(yōu)質(zhì)的回答體驗(yàn)。

將ChatGPT與傳統(tǒng)的文本和語(yǔ)音機(jī)器人能力結(jié)合起來(lái)，將為智能客服機(jī)器人服務(wù)能力帶來(lái)質(zhì)的飛躍。

（2）智能質(zhì)檢

雖然傳統(tǒng)智能質(zhì)檢已經(jīng)非常成熟，但是通過(guò)結(jié)合ChatGPT的預(yù)訓(xùn)練能力和業(yè)務(wù)規(guī)則定義，可以實(shí)現(xiàn)更智能的質(zhì)檢結(jié)果輸出，而無(wú)需復(fù)雜的設(shè)置。

我們可以將一定數(shù)量的優(yōu)質(zhì)錄音和文本投入模型中，并告知ChatGPT哪些因素可以提高質(zhì)檢分?jǐn)?shù)，從而讓模型自動(dòng)判斷生產(chǎn)數(shù)據(jù)的質(zhì)量。接著，我們可以通過(guò)手動(dòng)質(zhì)檢來(lái)進(jìn)行對(duì)齊和調(diào)優(yōu)，讓ChatGPT不斷學(xué)習(xí)和改進(jìn)。

（3）智能化輔助

同樣地，我們可以通過(guò)提供優(yōu)質(zhì)的數(shù)據(jù)樣本、定義正確的流程和加分因子，不斷地讓ChatGPT在數(shù)據(jù)的滋養(yǎng)下，為座席提供更好的智能輔助功能。雖然原有的輔助功能框架可以保留，但是在內(nèi)部，它將成為一個(gè)不斷進(jìn)化、自動(dòng)學(xué)習(xí)的“業(yè)務(wù)助理”。

（4）內(nèi)訓(xùn)機(jī)器人

基于智能質(zhì)檢和智能輔助的基本能力，針對(duì)企業(yè)內(nèi)部培訓(xùn)場(chǎng)景，我們可以利用現(xiàn)有數(shù)據(jù)樣本，更自動(dòng)化地生成一個(gè)內(nèi)訓(xùn)"教官"。業(yè)務(wù)管理人員可以針對(duì)不同的崗前培訓(xùn)、業(yè)務(wù)流程、服務(wù)過(guò)程等設(shè)置不同的內(nèi)訓(xùn)主題，讓內(nèi)訓(xùn)機(jī)器人在訓(xùn)練過(guò)程中獲得足夠的標(biāo)準(zhǔn)語(yǔ)料，從而指導(dǎo)座席進(jìn)行自我訓(xùn)練。這種方案對(duì)于注重學(xué)習(xí)能力和管理能力的運(yùn)營(yíng)型客戶具有很強(qiáng)的吸引力。

（5）智能填單類

在智能客服應(yīng)用中，需要手動(dòng)輸入大量表單，如客戶資料、跟進(jìn)記錄和服務(wù)工單。目前，有一些CRM產(chǎn)品已經(jīng)嘗試使用ChatGPT進(jìn)行智能填單的實(shí)驗(yàn)應(yīng)用。以往的實(shí)現(xiàn)方式需要進(jìn)行復(fù)雜的工程化設(shè)計(jì)，實(shí)時(shí)匹配會(huì)話文本，進(jìn)行詞性分析、語(yǔ)義分析和關(guān)鍵字查找等操作，但是這些方法的表現(xiàn)經(jīng)常不盡如人意。隨著LLM大語(yǔ)言模型的出現(xiàn)，我們可以期待它的超強(qiáng)能力可以有效提升這類產(chǎn)品的實(shí)用性。

（6）從幫助中心到座席助理

全功能的智能客服產(chǎn)品是一個(gè)非常復(fù)雜的產(chǎn)品，擁有眾多功能和高上手難度。

許多設(shè)計(jì)需要操作者進(jìn)行復(fù)雜的操作、跳轉(zhuǎn)、配置和調(diào)整。以前的幫助方式通常是簡(jiǎn)單的頁(yè)面提示或者是像維基一樣龐大的在線幫助頁(yè)面，對(duì)用戶來(lái)說(shuō)不夠友好，對(duì)開發(fā)者來(lái)說(shuō)也有沉重的更新和維護(hù)負(fù)擔(dān)。

但是，使用智能助理模式的在線幫助，不同角色的用戶可以通過(guò)簡(jiǎn)單的對(duì)話式體驗(yàn)實(shí)時(shí)獲得幫助，甚至進(jìn)行功能性的配置和要求，智能助理可以精準(zhǔn)理解用戶的對(duì)話，直接進(jìn)行配置和修改。

例如，系統(tǒng)管理員喚起智能配置助理：

“小M小M，請(qǐng)幫我查找近半個(gè)月名字叫做***的客戶的所有訪問(wèn)和對(duì)話記錄。”

對(duì)于小M的能力來(lái)說(shuō)，這是小菜一碟。

“小M小M，我需要設(shè)置一個(gè)清明節(jié)的IVR語(yǔ)音導(dǎo)航，所有清明節(jié)時(shí)間呼入的電話都要播放這樣一句話：***。”

這個(gè)需求有一定的風(fēng)險(xiǎn)，出于謹(jǐn)慎的目的，小C需要反復(fù)確認(rèn)一些關(guān)鍵配置要素，以確保沒(méi)有誤操作。

（7）AIGC知識(shí)庫(kù)

智能客服產(chǎn)品中，最需要內(nèi)容生產(chǎn)能力的地方，莫過(guò)于知識(shí)庫(kù)。

產(chǎn)品必備的知識(shí)庫(kù)通常分幾類：內(nèi)部知識(shí)庫(kù)、機(jī)器人知識(shí)庫(kù)和外部知識(shí)庫(kù)。

• 內(nèi)部知識(shí)庫(kù)

對(duì)于內(nèi)部知識(shí)庫(kù)，這是提供給座席使用者，實(shí)時(shí)定位查詢使用的知識(shí)庫(kù)。由于企業(yè)的業(yè)務(wù)變化頻繁，知識(shí)庫(kù)的調(diào)整需要及時(shí)到位。一般需要專人進(jìn)行上傳、編輯、整理，這是一個(gè)非常耗費(fèi)工作量的事情。引入ChatGPT，可以協(xié)助高效智能的歸類和自動(dòng)生成知識(shí)庫(kù)類目、明細(xì)。如果增加對(duì)外部數(shù)據(jù)源的引用，知識(shí)庫(kù)還可以自動(dòng)關(guān)聯(lián)，減少知識(shí)庫(kù)同步的操作。使用者在應(yīng)用中，可以給與知識(shí)點(diǎn)反饋，幫助知識(shí)庫(kù)進(jìn)行權(quán)重自動(dòng)調(diào)節(jié)。

機(jī)器人知識(shí)庫(kù)是文本和語(yǔ)音機(jī)器人能夠回答訪客問(wèn)題的核心所在。機(jī)器人知識(shí)庫(kù)的有效內(nèi)容對(duì)于機(jī)器人的表現(xiàn)至關(guān)重要。對(duì)于未知問(wèn)題的整理，需要智能客服使用者大量投入工作量。借助用戶反饋對(duì)未知問(wèn)題進(jìn)行自動(dòng)整理和關(guān)聯(lián)，能節(jié)省很多知識(shí)庫(kù)維護(hù)者的工作。同時(shí)，通過(guò)多機(jī)器人組合的方式，在一通會(huì)話中接力棒一般服務(wù)于客戶的不同場(chǎng)景，ChatGPT專屬機(jī)器人也可以在特定的場(chǎng)合發(fā)揮能力，并逐步替代一些以往模式僵化的問(wèn)答型機(jī)器人。

• 外部知識(shí)庫(kù)

外部知識(shí)庫(kù)需要整合在智能客服產(chǎn)品中，將已整理的知識(shí)內(nèi)容轉(zhuǎn)化為輸出產(chǎn)物，更方便生成知識(shí)文章、圖片、甚至音視頻。基于ChatGPT的多模態(tài)的AIGC能力，可以快速生成一個(gè)個(gè)性化的知識(shí)空間。

• 數(shù)據(jù)預(yù)測(cè)類應(yīng)用

數(shù)據(jù)預(yù)測(cè)類應(yīng)用是基于對(duì)智能客服數(shù)據(jù)的預(yù)測(cè)分析。建設(shè)數(shù)據(jù)預(yù)測(cè)類產(chǎn)品可能需要很重的CDP數(shù)據(jù)平臺(tái)建設(shè)，CEM客戶體驗(yàn)管理等方式，但如果ChatGPT可以更高效精準(zhǔn)的進(jìn)行銷售意向，行為，成交概率的預(yù)測(cè)，對(duì)利潤(rùn)中心導(dǎo)向的智能客服產(chǎn)品，將具有很大價(jià)值。

4、商業(yè)化前景

以上內(nèi)容充滿了構(gòu)想和想象，但如果要真正將這些想法付諸實(shí)踐，我們必須同時(shí)考慮以下幾個(gè)問(wèn)題：

• 投入產(chǎn)出比：我們需要思考成本與效益之間的平衡，確保投入產(chǎn)生的價(jià)值能夠超過(guò)成本。
• 可衡量的客戶認(rèn)可和價(jià)值體現(xiàn)：我們需要衡量客戶對(duì)產(chǎn)品的認(rèn)可程度，并確保產(chǎn)品能夠?yàn)榭蛻魩?lái)實(shí)際的價(jià)值和好處。
• 通用性與行業(yè)性：我們需要考慮產(chǎn)品在不同行業(yè)和場(chǎng)景中的適用性，以及如何保持產(chǎn)品的通用性和靈活性。
• 數(shù)據(jù)風(fēng)險(xiǎn)和監(jiān)管安全：我們需要確保產(chǎn)品能夠保護(hù)客戶數(shù)據(jù)的隱私和安全，同時(shí)遵守相關(guān)的法律和規(guī)定。

這些問(wèn)題只是冰山一角，我們需要深入研究和思考，才能確保產(chǎn)品能夠真正落地，并為客戶帶來(lái)價(jià)值。

最后，我們期待與大家進(jìn)行深入交流，分享更多的想法和經(jīng)驗(yàn)，共同探索ChatGPT等技術(shù)的應(yīng)用和發(fā)展。同時(shí)，我們也期待ChatGPT和文心一言能夠?yàn)槲覀兘獯鸶嗟膯?wèn)題和提供更多的幫助。