美國銀行對AI的大力押注始于小規模
今年,美國銀行將投資40億美元用于AI及相關技術創新,但這家金融服務巨頭七年前自主研發的AI助手Erica,如今依然是關鍵的投資回報率來源、客戶與員工體驗的核心,也是其引以為傲的成果。
2018年時,很少有人使用“助手”一詞,更不用說“自主式AI”了,但美國銀行組建了一個由軟件工程師、語言學家和銀行業專家組成的團隊,打造了這款小型語言模型,該模型多年來根據呼叫中心收集的客戶反饋數據不斷優化。
美國銀行消費者、商業和財富管理技術部門負責人哈里·戈帕爾克里什南(Hari Gopalkrishnan)表示,Erica之所以能夠成功且經久不衰,關鍵在于其規模較小。
“我們不是用Erica來寫文章,也不是開發軟件,而是試圖理解客戶簡短的信息需求,因為他們不想在屏幕上有著50個不同選項的菜單中來回查找和選擇,而我們要做的就是理解客戶的真實意圖,比如當他們說‘我想支付賬單’時,他們到底是什么意思?”戈帕爾克里什南說道,“我們該如何理解客戶想要的簡短對話內容?
“我們訓練模型來做到這一點,”他談到這款基于開源模型打造的Erica時表示,“隨著時間的推移,它的準確率從80%提升到85%,再到90%以上,這讓我們對模型的預測更加精準。”
戈帕爾克里什南表示,疫情期間,美國銀行對Erica進行了調整,使客戶能夠申請薪資保護計劃(PPP)貸款,處理多種業務及消費需求。隨著GenAI和自主式AI產品的發展,他將予以接納,但他認為,該行的大部分客戶需求都可以自主研發。
如今,超過2000萬的銀行客戶都在使用Erica虛擬助手。此外,該行20多萬名員工中,超過90%的人都在使用面向員工的Erica,使得IT服務臺的電話呼叫量減少了50%以上。
銀行依靠AI
2025年,美國銀行將斥資數十億美元用于AI投資,為員工、銀行客戶和美林(Merrill Lynch)代理(Ask Merrill)提供增強的搜索和協助功能。
戈帕爾克里什南表示,該行已經在利用GenAI應用程序和試點項目,這些項目已經超越了概念驗證階段。例如,開發人員使用基于AI的工具輔助編碼,據稱效率提高了20%以上。
GenAI還被顧問用于為客戶會議做準備,每年為客戶參與和增長節省了數萬小時的時間。此外,GenAI還被用于呼叫中心優化,但該公司拒絕透露使用的工具。
美國銀行“自主研發”的一款GenAI平臺使全球市場銷售與交易團隊能夠“更快速、高效地搜索、總結和合成市場研究和評論”,該行表示。
戈帕爾克里什南重視代理和現有編排技術在處理消費者和企業銀行業務方面的實際應用,而非仍在測試中的復雜自主式AI技術,并指出許多被過度吹噓的技術(如元宇宙和增強現實)尚未轉化為銀行業客戶的業務用例。
但戈帕爾克里什南看好計算機視覺和基礎模型的多模態能力,他計劃利用這些技術提升客戶滿意度。
不過,Erica仍將是客戶和員工體驗的代表——隨著需求的出現,其后端將增加更先進的推理能力。
混合云推動創新
美國銀行每年在技術上投入130億美元,并與未具名的咨詢公司合作,而不是單打獨斗。
戈帕爾克里什南同時擔任該行八個業務部門中六個部門的CIO,他表示,美國銀行采用的是基于多年來運營的虛擬私有云的混合“托管策略”,并根據需要使用公共云。美國銀行與微軟、AWS、谷歌和其他云服務商都有合作,但和許多銀行CIO一樣,戈帕爾克里什南出于成本和安全方面的考慮,更傾向于將工作負載留在內部。
“我們在擴展規模方面非常有效,這讓我們不必為突發流量付費,”戈帕爾克里什南說道,并補充說,看到一些組織將業務從云計算中撤出“很有意思”。
“我們始終表示,我們不會讓擺動過度,導致偏離方向,”這位CIO說道,“我們的觀點是,我們基本上采用的是托管策略,我們的虛擬私有云中有多個可用區,我們廣泛地使用虛擬私有云,并根據需求,可以基于用例(無論是為其他軟件供應商還是為我們自己)將數據爆發到公有云。”
美國銀行也在繼續加大對主機的投入,這有助于該行應對近期股市的大幅波動。
“主機仍然是一個非常重要的戰略平臺,但隨著時間的推移,我們已經實現現代化,弄清楚哪些工作負載更適合在分布式環境中運行,哪些工作負載應該橫跨多個可用區實現更橫向的可擴展性,以及哪些工作負載如果我們投入大量資金重寫會是不負責任的。”他說道。
隨著美國銀行繼續進軍分析和AI領域,數據聚合和數據清洗也已成為其行動計劃的一部分,他暗示,Hadoop和Snowflake等是正在使用的數據平臺。
“我們一直在推動數據計劃現代化,”戈帕爾克里什南說道,“我們在數據分析方面有著大量的工作,從正確的地方獲取數據,確保數據的準確性、合規性和可控性。”
他補充說:“我們在AI方面所做的一切都要經過一個包含16個不同支柱(如偏見和透明度)的治理流程。”
進軍GenAI領域
隨著該公司進一步深入GenAI領域,實用性將成為技術選擇的核心目標——盡管戈帕爾克里什南承認美國銀行可能會使用更先進的基礎模型,但這家金融服務公司將探索最簡單的解決方案來產生結果,并且不會依賴于任何單一供應商。
“我們的目標是實現模型不可知論(model-agnostic),因為隨著時間的推移,行業會發生重大變化。推理會出現,代幣定價會變化,新的創新會出現,”他說道,“我們不想依賴于任何給定模型。本質上,我們會研究一個用例,研究數據分類,研究我們的能力,然后結合實際情況,找出解決問題的正確方案。”
戈帕爾克里什南表示,基礎模型的訓練、推理和推理創新非常出色,但他將繼續使用現成的方案和成熟的解決方案,來滿足客戶和員工的不斷變化的數字化需求,他不想用新的平臺取代舊的。
“我們不會盲目追求剛發布的新事物,因為利用已經通過簡單的常識性智能體和基本編排實現的方案,還有很多工作可以做。”他說道。
Forrester分析師布萊恩·霍普金斯(Brian Hopkins)稱美國銀行的技術策略為“務實精準”,并指出,已經處理了24億多次互動、留存率高達98%的Erica,是在不損害信任的情況下擴大數字參與度的經典案例。
“他們采取了更加謹慎的方式進入GenAI領域,但我認為,這最終可能會成為明智之舉,”他談到這家美國第二大銀行時說道,“信任是銀行業的命脈,而GenAI仍然存在幻覺、缺乏可解釋性和安全隱患等風險。當美國銀行已經構建的東西行之有效時,為什么要冒信任受損的風險呢?考慮到他們的規模,如果出錯,將代價高昂,這不是像咨詢這樣的知識密集型業務,GenAI已經產生了更為直接的影響。”
如今,在進入GenAI階段時,美國銀行是從優勢地位出發的——擁有干凈的數據、清晰的業務目標和豐富的AI運營經驗,這位分析師補充道。他們的“一次投資,多次復用”的模型從長遠來看可能會帶來巨大的回報。
“最終,雖然他們并不張揚,但我發現他們默默耕耘,卓有成效,”霍普金斯說道,“一旦GenAI領域的塵埃落定,我毫不驚訝他們會超越競爭對手。”