許多組織對生成式 AI 應用常常抱有過高的期望。他們一開始對 ChatGPT 或 Microsoft Co-Pilot 這樣的技術感到興奮，閱讀了一些關于 AI 如何提升業務效率的文章后，便急于在各種場景中部署聊天機器人。但當實際效果不如預期時，他們往往會感到失望。這時，我常聽到一些借口，比如“模型不夠完善”或“我們需要提高員工的能力，寫出更好的提示詞”。

然而，在大多數情況（90%）下，這些結論都是誤判，問題在于我們過分局限于聊天機器人這個思維模式。我參與開發了數十個生成式 AI 應用，服務過三個人的小型團隊和擁有三十多萬人的大型跨國企業，我看到這種模式無處不在。

市面上有許多公司告訴你，你需要“某種聊天機器人解決方案”，因為似乎這已經成了標配。OpenAI 的 ChatGPT，Microsoft 的 Copilot，Google 的 Gemini 等項目都在努力簡化聊天機器人的創建過程。但我要說的是，能夠通過生成式 AI 解決的難題中，有 75% 并不適合用聊天機器人來解決。

我經常看到經理、項目主管或其他決策者一開始的想法是：“我們有了這個能構建聊天機器人的 AI 產品，現在要盡可能多地找到應用場景。”但根據我的經驗，這種從已構建的解決方案出發，再尋找現有問題的做法是錯誤的。正確的做法應該是先識別問題，然后分析并尋找匹配的 AI 解決方案。聊天機器人確實適合某些場景，但將其作為萬能鑰匙是不恰當的。

圖片

將解決方案強加于問題之上，與從問題入手并找到解決方案截然相反。? Marcel Müller 2024

在本文中，我將基于眾多生成式 AI 應用構建的實戰經驗，分享我從中獲得的見解和研發方法。這些應用程序目前已上線運行，服務于成千上萬的用戶，它們深刻影響了我在構建生成式 AI 解決方案時的思路 —— 不盲目跟風，也不因效果不佳而感到挫敗。

1.首先關注流程，其次才是聊天機器人（或其他界面）

我建議不要一開始就圍繞聊天機器人進行思考，那么正確的起點是什么呢？答案清晰明了：企業的業務流程。

企業內發生的每一件事都是業務流程的一部分。業務流程是由各種活動（即“作業單元”）、事件（例如，發生錯誤）和節點（例如，做出決策）串聯而成的作業流[1]。有專門的工具用于繪制業務流程圖[2]，并且圍繞業務流程的分析與優化[3][4][5]已經形成了一個完整的研究領域。業務流程管理之所以有效，是因為它不僅是一種理論，而且已經被廣泛應用于企業的各個角落 —— 盡管許多企業可能并不知道這一概念的確切名稱。

舉個例子，假設您是一家為銀行提供房地產評估服務的公司。銀行在發放抵押貸款前，會要求房地產評估師對房產的價值進行評估，這樣一旦抵押貸款無法償還，銀行就能知道房產的實際價值。

編寫房地產評估報告是一項復雜的業務流程，我們可以將其細分為多個子流程。通常情況下，評估師需要親自開車到房產所在地，進行拍照，然后坐下來撰寫一份長達 20-30 頁的評估報告。但在此，我們不要急于求成，想著“啊，20-30 頁的報告，我如果使用 ChatGPT 可能會更快完成”。請記住：流程先行，解決方案隨后。

我們可以將該流程拆分為更具體的子流程，例如：前往房產所在地、拍照，然后撰寫報告的不同部分，包括房屋的位置描述、各個房間的狀況和尺寸信息等。當我們深入探究單一流程時，會看到其中涉及的任務、決策節點和事件。例如，在撰寫位置描述時，評估師會在辦公桌前進行一些研究，通過 Google Maps 查看周邊商店，檢查城市交通圖，以便評估房屋的交通便利性和街道狀況。這些都是相關處理人員需要執行的活動。如果評估的是位于偏遠地區的孤立農場，那么公共交通選項可能并不重要，因為這種房子的買家通常都會依賴私人汽車。在流程中選擇不同路徑的決策，我們稱之為“決策節點”。

如在 BPMN 2.0 中的示例過程所示。? Marcel Müller 2024

我們采用的這種以流程為核心的思想，是在考慮應用 AI 之前，先對現有流程進行評估。

2.流程編排而非聊天式互動

在分析了我們的業務流程和目標后，我們可以著手考慮融入 AI 的流程應該是怎樣的。關鍵在于細化我們需要執行的各個步驟。如果我們只專注于撰寫房屋描述的子流程，它可能包括以下環節：

• 分析房屋周邊的相關地點和商業設施
• 描述室內裝修狀況
• 若非地處偏遠，則查找最近的公共交通站點
• 撰寫一頁內容的報告

確實，我們可以通過與 AI “對話伙伴”以互動的方式來完成這些任務，直至完成任務得到所需輸出。但在企業環境中，這種方式存在以下三個主要問題：

• 輸出的一致性：不同人給出的提示詞各不相同，導致輸出結果因提示詞編寫者的技能和經驗水平而異。在企業環境中，我們希望輸出結果盡可能保持一致。
• 質量參差不齊：你可能有過這樣的經歷，在與 ChatGPT 互動時需要多次調整提示詞，才能達到期望的質量。有時甚至可能得到完全錯誤的答案。在這個例子中，我們尚未找到一個能夠在不產生誤導信息的情況下，準確描述周邊商業設施的大語言模型。
• 內部知識與現有系統集成：每家公司都有內部知識，他們可能希望在與 AI “對話伙伴”互動中使用這些知識。盡管可以通過聊天機器人實現檢索增強生成（RAG），但這并非是在所有情況下都能高效產生理想結果的通用方法。

這些問題來自于聊天機器人背后的大語言模型的基本原理。

圖片

同聊天機器人進行交互（左）與預定義流程的協調編排（右）。? Marcel Müller 2024

企業級應用不應單純依賴于“提問-回答”的互動模式，而應設計為一套協調有序的流程步驟，這些步驟部分由 AI 驅動，每個步驟都旨在實現一個具體目標。例如，用戶可以啟動一個多步驟流程，該流程整合了各種模型和潛在的多模態輸入，以產出更有效的結果，并將這些步驟與小型數據檢索腳本相結合，后者在不依賴 AI 的情況下運行。通過整合檢索增強生成技術（RAG）并盡量減少人工介入，可以構建出更加強大和自動化的工作流程。

相較于通過交互界面人工協調，這種流程編排方式能大幅提升工作效率。此外，流程中的每一步并不都需要完全依賴 AI 模型完成。在上述例子中，我們發現使用 Google Maps API 來獲取附近的公交站點和交通站點的信息，在質量上遠勝于詢問即便是像 GPT-4o 這樣出色的語言模型，甚至超過了使用 Perplexity 這樣的網絡搜索增強生成引擎。

3.通過流程編排提升效率

想象一下，在沒有 AI 參與的情況下，我們是如何工作的。手動完成任務不僅耗時，而且效率低下。假設一個任務手動完成需要一個小時，若重復四次，總耗時就是四個小時。而采用基于生成式 AI 的聊天機器人解決方案，理論上可以節省一半的時間。但是，我們真的只能做到這一步嗎？剩下的時間其實被用于構思提示詞、等待回復以及通過不斷的修正來保證輸出的質量。

如在 BPMN 2.0 中的示例過程所示。? Marcel Müller 2024

在處理重復性任務時，雖然時間有所節省，但在那些多個員工需要執行相同流程的企業中，保持一致性所需的提示詞編寫、等待和輸出調整卻成了一個棘手的問題。此時，流程模板的作用就顯得尤為重要了。

通過流程模板，我們將流程標準化和參數化，使其可以多次復用。高質量的流程模板只需創建一次，卻能大幅提升單個案例處理的效率。這樣一來，用于創建提示詞、保障質量和調整輸出所花費的時間就大幅減少了。這正是基于聊天機器人的解決方案與依托模板的 AI 流程編排之間的本質區別，而這個區別對保證質量和提高可復現性具有深遠的影響。

流程模板的實際效益。? Marcel Müller 2024

此外，我們現在有了一個明確的測試領域，可以用來驗證我們的解決方案。在用戶可以自由輸入的聊天機器人中，想要以可量化的方式測試并建立信心是頗具挑戰的。我們越是明確限定用戶可輸入的參數和文件范圍，就越能夠精確地驗證解決方案的有效性。

在 AI 輔助的流程中使用模板，其實是對傳統流程管理中業務流程引擎原理的借鑒。每當出現新情況時，這些引擎便會從模板庫中挑選合適的模板進行流程編排。在這個過程中，相應的輸入參數就會被填進去。

以房地產評估流程為例，所使用的模板包含了三個輸入項：房產類型（如獨立住宅），室內照片集，以及房產地址。

流程模板的結構如下：

• 首先，利用 Google Places API 和提供的地址信息來搜尋周邊的商店。
• 接著，通過 OpenAI 的視覺 API 來對室內環境進行描述。
• 然后，再次使用 Google Places API 來查找附近的交通設施。
• 將第 1 步和第 3 步輸出的 JSON 數據以及交通設施的描述，配合 GPT-4o 生成一個文本頁面，內容結構為：先介紹房產、周邊商店和交通情況，隨后是室內環境描述，最后給出一個包含評分的綜合結論。

在我們的實際應用案例中，我們是通過 entAIngine 平臺內置的無代碼構建器來開發這個應用的。

在這個流程中，只有四分之一的工作步驟需要借助大語言模型。這其實是一個優點！因為 Google Maps API 不會憑空捏造信息。雖然它可能提供一些過時的數據，但它絕不會“虛構看似真實的場景。”此外，由于我們現在有了可分析的真實信息源，因此人類可以在流程中進行有效的審核。

在傳統的流程管理中，模板能夠降低流程的可變性，確保流程的可復制性，并提升效率和質量（這一點在 Six Sigma（譯者注：六西格瑪(6σ)概念于 1986 年由摩托羅拉公司的比爾·史密斯提出，此概念屬于品質管理范疇，西格瑪(Σ,σ)是希臘字母，這是統計學里的一個單位，表示與平均值的標準偏差。旨在生產過程中降低產品及流程的缺陷次數,防止產品變異，提升品質。） 等方法論中得到了驗證）。我們需要采用同樣的思維方式來處理這個問題。

4.生成式 AI 應用的用戶交互界面

現在，我們已經啟動了一個利用大語言模型（LLM）的流程，它解決了很多令人頭疼的問題。但用戶如何與之交互呢？

要實現這樣一個流程，可以手動編寫所有代碼，或者利用 entAIngine [6]這類無需編程的 AI 流程引擎來完成。

在利用流程模板構建業務流程時，交互可以以各種方式發生。根據我過去兩年的經驗，對于絕大多數（90%）生成式 AI 的應用場景，基本上是以下幾種界面：

• 知識檢索界面：功能類似于搜索引擎，可以引用和參考來源。
• 文檔編輯界面：將文本處理能力與模板、模型和流程編排相結合。
• 聊天界面：適用于進行迭代式、交互式的交流。
• 無需獨立界面的嵌入式流程編排（RPA）：通過 API 接口，與現有界面集成。

歸根結底，最關鍵的問題是哪種互動方式最為高效。確實，對于一些需要創意或處理非重復性任務的場景，聊天界面可能是最佳選擇。但往往并非如此。通常情況下，用戶的核心需求是創建文檔，此時，文檔編輯界面中預置的模板就能提供極為高效的互動體驗。有時候，如果我們想在現有應用中嵌入 AI 功能，就沒有必要再單獨開發一個界面。這里的難點在于如何在現有應用程序中正確執行流程、獲取所需輸入數據，并在界面的適當位置展示輸出結果。

上述提到的界面，構成了我至今遇到的大多數生成式 AI 應用場景的基礎，并且同時還能實現與企業環境的可擴展集成。

5.The Bottom Line

企業需要轉變思維，不再只是考慮“如何在各個場景中使用 AI 聊天機器人？”，而是思考“哪些業務流程包含哪些具體步驟，以及在這些步驟中如何有效地利用生成式 AI？”，這樣的轉變為企業帶來了實現 AI 真正價值的基礎。將 AI 技術與現有系統融合，并根據實際需求選擇合適的用戶界面。采用這種方式，企業能夠實現的效率提升，是那些僅局限于聊天機器人思維的企業所無法想象的。

References

[1] Dumas et al., “Fundamentals of Business Process Management”, 2018

[2] Object Management Group. “Business Process Model and Notation (BPMN) Version 2.0.2.” OMG Specification, Jan. 2014

[3] van der Aalst, “Process Mining: Data Science in Action”, 2016

[4] Luthra, Sunil, et al. “Total Quality Management (TQM): Principles, Methods, and Applications.” 1st ed., CRC Press, 2020.

[5] Panagacos, “The Ultimate Guide to Business Process Management”, 2012

[6] www.entaingine.com

Thanks for reading! 

Hope you have enjoyed and learned new things from this blog!

About the authors

Dr. Marcel Müller

Entrepreneur into Process Innovation with Deep Tech. AI. Founder of entAIngine