一、大模型時代，AI 技術在金融行業的應用趨勢

首先，介紹一下 AI 技術的發展歷程，及其在金融行業的應用趨勢。

從機器學習與 AI 工程化開始，企業通過構建各類機器學習和深度學習場景，逐步實現數字化創新。隨著場景復雜度的提升和多模態模型以及融合模型的出現，出現了更多 OCR 結構化數據與自然語言數據結合的場景，以及機器學習預測與運籌優化相匹配的場景。這些模型結合的場景使我們對 AI 基礎平臺的要求從模型開發升級到了 ModelOps 階段。在構建 ModelOps 系統時，企業的數智化能力也達到了新的高度。近期，AIGC 的出現利用自然語言而非機器代碼構建數據和信息搜索、分析和挖掘，為企業以 AI 低門檻進入數智文化新階段鋪平了道路。

可以看到，AIGC 的出現，使得企業原本分散的 AI 能力開始向上發展到企業經營的各個方面，甚至決策層。這種變革是自頂向下的，是前所未有的。隨著人工智能技術的發展，AI 在金融行業的應用也逐漸成為了一個行業熱點。從智慧營銷、智慧風控到信貸審批，AI 技術正在改變金融行業的傳統業務模式，提高服務效率，降低運營成本，同時為消費者帶來更加便捷和個性化的金融服務。

例如，在營銷領域，AI 技術通過大數據及機器學習方法分析營銷客戶的消費行為和購買歷史，更好地了解客戶需求，制定更準確的營銷策略，并向客戶提供更有針對性的產品和服務，從而提高了客戶滿意度和營銷效果。

在風控領域，AI 技術通過知識圖譜及機器學習方法，實時分析海量的交易數據，挖掘潛在的異常交易行為，從而有效識別欺詐風險。相較于傳統的人工審核方式，AI 技術在反欺詐領域的應用大大提高了識別速度和準確性，降低了金融風險。

而在運營領域，AI 技術通過對借款人的信用報告、消費行為等數據進行深度挖掘，實現快速準確的信用評估。這不僅有助于金融行業降低壞賬率，提高貸款審批效率，還能為借款人提供更加公平合理的貸款利率。隨著 AI 技術的不斷演進，近期大模型技術的出現將對金融行業的未來應用產生深遠的影響。

下面從三個方面分析大模型技術如何影響金融行業的場景應用。

首先，大模型技術變革的核心對象是知識，它將降低知識的獲取成本，提升知識的應用能力，并輻射到更廣泛的專業領域。對于金融行業這樣一個知識密集型行業來說，這將帶來巨大的影響。

其次，大模型的應用將逐步滲透到包括客服、營銷、風控等業務創新的多個領域。大模型表現出的上下文學習泛化性以及復雜推理能力，將重塑文字、數據、圖像等處理工具，帶來支持工作者的效率、體驗以及價值的提升。這也意味著金融從業人員的專業工作方式和方法可能會發生很大的變化。通過 AI 大模型賦能金融從業者，可以提高工作效率并降低成本。

最后，大模型的出現大幅降低了 AI 技術的應用門檻，這也可能重塑未來的人機交互體驗。在金融行業，大模型未來可能將提供更智能、個性化、高效的交互方式，甚至顛覆金融行業的客戶服務模式。

從宏觀角度看，通過大模型助手的應用，銀行業在單人節、單人、單人產能等核心競爭力環節有望實現大幅提升。微觀層面上，大模型可以在銀行業的前中后各個環節實現規模化降本增效。

具體來說，在前臺，大模型可以應用于分支行人員的聊天機器人和知識中心，幫助他們減少業務制度和業務條款的搜索時間。在中臺，大模型可以為運營和風控人員生成風險報告，使他們能夠更高效地訪問數據和分析報告來進行決策。在后臺，大模型可以作為代碼生成工具，幫助科技人員提升開發效率和質量。

傳統 AI 模型與大模型在金融行業中的應用各有優劣。傳統 AI 模型在處理特定任務時表現出較高的精確度，且訓練和運行所需的計算資源相對較少。相比之下，大模型在學習能力和泛化能力上具有顯著優勢，可以處理更復雜的任務，甚至可以處理多類型的多模態任務。然而，大模型的劣勢在于其參數量巨大，導致訓練和運行需要大量的計算資源。此外，大模型的工程化難度也遠高于傳統 AI 模型。因此，在實際應用中，選擇使用傳統 AI 模型還是大模型需要進行全面的權衡和評估。

大模型在金融行業的實際應用中存在三個主要難點。首先，大模型的工程化難度較高，目前尚無成熟的技術框架可供參考。其次，由于金融行業對應用的可靠性和準確性要求極高，大模型在這方面的表現可能會受到影響。第三個問題是性價比。大模型的資源消耗巨大，但其單個應用的用戶量可能受限，因此如何平衡大模型的投入與產出關系需要仔細衡量。為了實現大模型在金融行業的廣泛應用，我們需要盡量降低大模型落地的難度，以實現規模化的產業應用。

·

金融行業 AI 基礎軟件的演進路線可劃分為四個階段。早期階段，AI 能力零散，應用建設與垂直領域建模能力逐步加強。隨后，逐漸更加關注并加強工具能力平臺建設，統一數據算力、工程化能力、資產和運營，實現 AI 體系的治理和運營。

隨著大模型的出現，我們已進入第四個階段，即大模型適配的 AI 基礎軟件。通過建設白盒大模型訓練和微調能力，企業可以持續構建 AI 和 AIGC，將智能化作為企業持續創新的核心競爭力。這有助于降低 AI 建設與應用的門檻，逐步轉向智能化，并引領金融行業的經營與運營。

二、大模型時代，AI 基礎軟件在金融行業的設計思路

金融行業 AI 技術軟件在進入大模型時代后，需要一種新的設計思路，以適應大模型在金融行業的應用需求。

在金融行業 AI 技術軟件演進的第四個階段，我們提出了一種基于大模型的新的 AI 設計模式，主要包括以下四個方面：

• AIaaS 和數據驅動：大模型強調數據驅動，因此整個 AI 基礎軟件的架構需要構建一個數據管道清洗系統，以支持模型的訓練和更新。
• 知識管理系統：通過知識圖譜或知識庫來支持模型的知識獲取和沉淀。
• 可解釋性工具：由于大模型需要可解釋性，而生成結果存在不可靠性，需要可解釋工具來支持大模型的可解釋性和監督工作。
• 調優自動化：大模型需要通過自動機器學習的方式來實現模型的優化和智能化調優。

為了應對大模型對數據驅動的需求，在原有的基礎平臺中增加了向量數據庫，構建了大模型所需的知識管理能力，并增強了數據準備、標注以及數據增強能力。為了更好地服務基礎模型層，我們搭建了一套大模型工具鏈，其中包括提示詞管理、多種 PEFT 微調方法的集成以及一鍵式 RLHF。這些工具旨在構建大模型的自動化調優能力。最后，在模型服務模塊中，我們增加了大模塊的支持，以便保證大模型的可解釋性和監督。這些工具的增加使得我們的 AI 基礎軟件設計目標更加完善，為大模型的應用提供了強有力的技術支持。

為了實現上述 AI 基礎軟件設計目標，我們構建了一套完整的 AI 基礎軟件設計架構。該架構的底層是算力資源層，包括各類高性能異構 GPU 資源、高性能存儲資源和高性能網絡資源。之上是功能強化的 AI 技術平臺，包括算力資源存儲和管理調度模塊，以及從數據標注到模型訓練再到模型推理的全套 ModelOps 九章云極DataCanvas APS 機器學習產品模塊。這兩個模塊確保了 AI 模型在開發和訓練過程中的穩定高效，構成了 AI 中臺的初始兩層模塊。

為了使大模型更好地支持業務場景應用，增加了模型能力層、模型工具層和應用支撐層。模型能力層包括已引入的基礎開源或商用大模型、未來可能引入的行業大模型以及根據行內語料預訓練的企業大模型。這些大模型為上層大模型應用提供了基礎支撐。大模型工具層則包含大模型優化及應用擴展能力，使大模型能夠更有針對性地服務特定應用。應用支撐層最上層，提供了一個大小模型結合乃至多個大模型返回結果的決策引擎，使多個大模型能夠支撐業務應用并返回最佳結果。小模型輔助大模型生成結果，從而提高大模型生成結果的準確性和可控性。

大模型工具層的 6 個主要功能模塊包括：提示詞管理器、微調訓練工具、樣本數據生成器、大模型后評估、向量數據庫、大模型訓練框架。

上圖展示了整個 AI 基礎軟件如何通過大模型的語言能力、知識能力、邏輯與復雜問題推理能力，以及通用任務能力等關鍵能力，實現敏捷業務賦能。通過上述 AI 基礎軟件的架構和大模型擴展能力，進一步創造出服務于場景的協同辦公、知識管理、內容生成以及數據分析能力。這些能力在營銷、風控、運營、研發、財務以及投顧等場景中實現了業務的敏捷賦能。

三、大模型時代，AI 基礎軟件在金融行業的部署應用暢想

在 AI 基礎軟件的應用過程中，我們不僅使用了大型模型，還使用了小型模型。通過大小模型的結合，能夠更好地服務金融行業，實現 AI 基礎軟件對金融業務的快速賦能。

展望未來，大模型時代的 AI 基礎軟件將在金融行業部署應用方面產生深遠影響。我們可以預見，AI 技術軟件將在交互方式變革、產品種類豐富以及商業模式創新三個方面，進一步對金融行業產生影響。通過構建一個新興的生態平臺，實現一個超級應用，該應用可以覆蓋金融行業的所有應用場景，提供統一的入口，從而實現 AI 技術軟件對金融行業的迅速賦能。