CIO們需要直面GenAI的成長陣痛
在GenAI的成功沒有固定框架,且幾乎沒有成功的生產案例可供借鑒的情況下,IT領導者們即便開始關注一些最佳實踐,也仍然只有粗略的路線圖。
對于IT領導者而言,將GenAI的潛力轉化為商業價值的道路仍然陡峭且令人畏懼,但GenAI路線圖的關鍵組成部分——數據、平臺和技能——正在不斷發展并變得更加明確。
這是上周在MIT舉辦的Big.AI@MIT活動中,“GenAI在商業中的下一步”小組討論的關鍵要點,該討論由埃森哲的首席AI官(CAIO)蘭·關(Lan Guan)主持。
關與來自標普全球(S&P Global)和康寧(Corning)的AI領導者一起討論了將GenAI模型從概念驗證轉移到生產中所面臨的巨大挑戰,以及使GenAI模型真正對企業有價值的基礎。
許多CIO都發現自己處于這樣的境地,正如關所指出的,根據埃森哲的一項調查,只有不到10%的企業將GenAI模型投入生產。
“98%的商業領袖表示他們想采用AI,但很多人只是不知道該怎么做,”關聲稱,她目前正在與沙特阿拉伯的一家大型航空公司、一家大型制藥公司和一家高科技公司合作,在公司內部實施GenAI藍圖。
她表示,盡管在哪些方法有效、哪些方法無效方面已經吸取了寶貴的教訓,但IT高管們最想要的、經過壓力測試的GenAI參考架構仍然寥寥無幾。
進展與挑戰
關表示,埃森哲與沙特航空的工作涉及一個“旅行伴侶”模型,該模型遠不止是一個在線旅行社、預訂代理或旅游指南。這家與卡塔爾航空競爭的航空公司正指望通過AI助手和大型語言模型(LLM)來提高預訂量并擴大其在不斷增長的市場中的份額,她說道,并補充說這個運行了六個月的模型已經吸引了300萬訪問者,并處理了一些預訂,但其價值更具戰略性。
“他們的主要意圖是改變對品牌的認知,提供更好的體驗,”她說,“我不能說我有很多這樣的例子。”
康寧的首席數據與信息官(CDIO)索米亞·西塔拉姆(Soumya Seetharam)表示,該公司已經在數據之旅上探索了幾年,超過70%的業務交易數據已被錄入數據平臺。但她強調,這只是結構化數據。
“說實話,我們面臨的最大挑戰是非結構化數據,”西塔拉姆說道,并指出康寧現在必須“找出如何對非結構化數據進行分類,并將其轉化為有用的形式”。
標普全球的首席AI官巴維什·達亞爾吉(Bhavesh Dayalji)補充說,將所有類型的數據結構整合到GenAI模型中是一項挑戰。為此,這家金融信息和分析公司正在開發應用程序編程接口(API),并研究所有“將你的數據連接到大型內存模型”的方法。
標普全球還創建了評估集,不僅用于測試GenAI模型的幻覺問題,還用于確保有一種通用的方法來評估結果和效果。作為金融服務和商品市場的專家,必須有標準的評估方法,他說道。
“然后,我們需要將整個金融服務社區聚集起來,共同評估GenAI模型和解決方案,”同時也是標普全球AI創新中心Kensho首席執行官的達亞爾吉表示,“我認為,通過深入研究數據,我們可以找到某種解決方案。”
路線圖浮現
埃森哲的首席AI官為希望最大化GenAI投資回報率(ROI)而不陷入“垃圾進,垃圾出”失敗境地的CIO們提供了三條關鍵建議。
首先,關在接受CIO.com于小組討論后的私人采訪時表示,要清理所有企業數據,并妥善準備以用于基礎GenAI模型。
“他們沒有清理數據,”她警告說,盡管許多CIO正在應對數據挑戰,但大多數人都沒有為GenAI妥善準備數據。“專有數據是你最大的競爭優勢。”
其次,關表示,CIO必須采取“基于平臺的方法”來開發和部署AI。例如,企業可以在主機上運行GenAI工作負載,但大部分活動將在公有云或本地私有云上運行,她說道。
“現在是他們重新審視現有企業和數據架構以及AI的時候了,”關表示。
“基于平臺的AI方法強調構建一個可擴展、可重用的基礎,該基礎隨著組織的發展而發展,而不是為單個用例開發成本高昂、孤立的解決方案,”關說道,她支持建立標準來測試模型結果是有必要的這一觀點。
“通過識別用例之間的共性——如數據管道、模型管理和應用程序——組織可以創建共享組件,以簡化部署、減少冗余,并加速AI解決方案和企業重塑的價值實現時間。”
埃森哲已經開發了自己的AI Refinery——一種基于平臺的GenAI模型創建和部署方法。
“從實際意義上講,AI Refinery是一種認知架構,具有內置的智能和上下文,AI代理可以在其中進行推理、規劃,并與人類一起動態執行任務,”關說道,“利用大型語言模型,該系統能夠解釋人類意圖,并根據經驗進行適應,整合組織知識以做出更好的決策。”
最后,她建議,CIO必須確保他們擁有一支穩定的、合格的AI人員隊伍,以及一系列用于構建和部署GenAI模型的專業技能。大多數CIO在提升員工技能或培訓員工方面的速度都不夠快,而且包括具備GPU基礎設施規劃技能的數據科學家和軟件工程師在內的各種人才都很稀缺。
關自己六年前曾是埃森哲的一名數據科學家,她開始學習軟件工程技能、應用程序開發技能和基礎設施規劃技能,為GenAI做準備。她表示,尋找人才是“我也正面臨的挑戰”。
在峰會上,眾多AI初創公司和解決方案提供商出席,展示了聲稱能夠解決CIO和首席分析官(CAO)面臨的各種AI挑戰的解決方案。在另一個小組討論中,來自New Technology Ventures和Underscore VC的風險投資家表示,用于創新的投資資金充裕,但承認市場仍處于炒作周期中。
然而,正如風險投資小組討論的主持人所指出的,大多數參與者都知道GenAI是一項顛覆性的技術。
“人們認識到這種轉變是多么具有震撼性……人們正在涌入,”GenAI初創公司Collective[i]的聯合創始人兼風險投資人海蒂·梅瑟(Heidi Messer)表示,該公司提供財務預測服務,“我們確實需要透過噪音來閱讀,這很棘手,但在未來五到七年里,將會創造[巨大的]價值。”
與此同時,標普全球的達亞爾吉表示,企業必須超越專業技能的范疇,設想員工與GenAI模型和處理瑣碎任務的AI助手互動后將產生的新角色的所有方面。
“我們繼續教育我們的員工,確保他們了解AI對他們角色的影響以及他們如何履行自己的職責,”他說,“其次,你如何為他們提供工具來做不同的工作和創新?”