CIO分享:權衡AI投資方向和如何降低風險
在一個充滿風險的領域,避免不利結果與獲得改變游戲規則的優勢,二者是同樣重要的。成功的CIO會找到辦法以平衡風險和回報。
在AI引發的熱潮中,技術正在迅速崛起,初創公司迫切需要獲得關注,超大規模企業正在爭先恐后地爭奪市場份額。對最精明的CIO們來說,這種環境也是對他們決策能力的一大考驗。但無論是否準備好,他們都必須做出具有深遠影響的選擇,停滯不前不是他們的一個選項。
Covanta是一家專門從事可持續材料管理(包括大規模回收)的企業,該公司首席信息官Srini Gudipati表示:“AI發展很快,所以我們不想拖延。我們需要準備好回應我們的CEO,以解決和AI相關的問題。”
Forrester Research新興技術副總裁Brian Hopkins對此表示認同。他說:“我們無法足夠快地篩選所有這些內容,但你不能袖手旁觀。機會太大了,其中存在很多風險,也有很多地雷需要排除。”
有一點是肯定的:未來幾年,AI技術將獲得大量資金注入。IDC預測,AI的核心IT支出將從2024年的2356億美金增長到2027年的5210億美元。
應對風險
進行任何技術進行投注或投資的第一步,都是要了解你自己承受風險的能力。Webster Bank首席信息官Vikram Nafde表示:“我們對采用AI技術保持審慎和深思熟慮的態度,這與我們作為傳統金融機構的適度風險偏好是一致的。”Webster Bank是一家商業銀行,擁有超過750億美金的資產,主要是通過商業銀行、消費者銀行和HSA銀行(一家以醫療保健為重點的金融服務提供商)提供數字服務和傳統服務。
在AI方面,Nafde看到了所選供應商的風險、用例商業的價值以及項目的成本,他已經制定好了戰略來解決這三個問題。
在供應商方面,Nafde是從和超大規模廠商建立合作關系開始的。他說:“我們想要一個由大型的、成熟的參與者組成的生態系統。”目前Webster Bank的現有合作伙伴包括AWS和微軟。盡管Nafde更喜歡與大型企業合作,但他找到了一些開發出工具可以在超大規模設備上運行的生成式AI的小型公司,其中一家公司開發的工具可以根據之前的互動和其他市場數據來預測客戶意圖和行為。
為了找到有前景的用例,Webster Bank仔細研究了幾十個提案,并決定從其中三個可以帶來切實好處的提案開始。該銀行目前正在開展這些POC計劃:內部生產力的智能搜索、利用生成式AI功能實現自動化以協助銀團商業貸款工作流程、以及客戶流失預測。
為了應對第三個風險領域(也就是成本),Nafde正在帶頭為內部員工提供必要的技能、能力和工具,以在公司內部開展AI計劃。Nafde表示:“我們通過投資發展FTE(全職員工)并為我們的技術人員配備必要的專業知識,目標是最大限度地減少對外部顧問的依賴,并最大限度地提高我們從內部推動創新的能力。”
在Covanta,Gudipati正在根據具體情況具體一個項目一個項目地實施AI,其重點是通過在成熟技術能力范圍內進行實施,每次解決一個特定的問題。他說:“我們正在謹慎行事,因為大型語言模型的興起將數據安全風險提升到了一個新的水平。過去幾年我們一直在使用開源模型開發自己的內部AI功能,這確保我們的敏感數據和知識產權不會被外部提供商所利用。”
Covanta的一個POC是通過識別已經進入Covanta設施的丙烷罐等物品以及無害的可回收物來降低將危險材料帶入設施內的風險。Gudipati說:“我們正在探索的技術使用AI和X射線技術來分析入站卡車,以便在丙烷罐在與大型粉碎機撞擊發生爆炸之前發,就發現丙烷罐的可疑輪廓。”如果發生爆炸將是將是一個重大危險,需要付出巨大代價。他表示,消除火災風險的成本約為每小時10000美元,實施后應該能夠收回這部分成本。
在另一個實施方案中,Covanta正在使用AI來檢查潛在客戶的網站,以衡量公司的碳足跡,以及公司是否有資格獲得聯邦能源信貸。他說:“我們的數據團隊使用亞馬遜云上的生成式AI來探索可持續性指標,因此在這方面是創收的。”
還有一個實施,是Covanta正在使用Salesforce的CRM案例管理工具來創建發票,并使客戶能夠直接與Salesforce機器人對話來回答任何發票相關問題。Covanta還使用AI對合同進行法律審查,檢測并突出可能的風險點。“這些都是默默使用工具的一些好例子。”
公共事業行業的謹慎心態
傳統上,政府機構是最不愿意承擔風險的組織,其運作必然會受到公眾的監督,公眾對無法獲得回報或使公民數據面臨風險的項目幾乎是無法容忍的。
美國哈里斯縣通用服務執行董事兼首席信息官Sindhu Menon表示:“在哈里斯縣,我們將數據機密性、完整性和可用性放在解決方案設計和架構的最前沿。”按照人口計算,該機構是全美第三大縣,該機構為休斯頓地區470萬公民提供服務。
與Gudipati和Nafde一樣,Menon和她的團隊正計劃使用超大規模設備作為風險相對較低的一個選擇。盡管是多云環境,但該機構的大部分云實施都托管在微軟Azure上,其中一些托管在AWS云上,還有一些托管在ServiceNow的311公民信息平臺上。Menon表示,哈里斯縣有大約六個基于AI的POC正處于規劃階段,其中一個用于許可證處理現代化,另一個用于司法程序現代化。
奠定基礎
為了開展POC實施,Menon和她的團隊正在建立一個實驗室,預計將于2024年3月首次亮相,用于在推出AI工具之前對其進行測試。該實驗室位于縣辦公大樓內,將吸引來自多個部門的成員,包括哈里斯縣的數據團隊和架構團隊。
她解釋說:“全縣都有很大的興趣參與測試。我們的目標是將團隊聚集在一起,提供一個安全的環境來學習和測試解決方案。”對于可能涉及當前托管在Azure上的Snowflake數據湖這一典型項目,Menon強調數據質量是至關重要的。“AI工具依賴于這些解決方案中使用的數據。我們需要良好的數據管理實踐才能獲得所需的結果和AI解決方案。”
同樣,Nafde組建了一個由約20人組成的AI治理團隊,由Webster Bank首席企業架構師和首席數據官領導,其中包括技術專家、風險和合規人員以及律師。該銀行的AI團隊一個重點關注點同樣是數據質量。為此,這個團隊對銀行的Snowflake環境實施了數據質量和治理工具。
對于Covanta的Gudipati來說,第一步是通過建立一個強大而全面的數據基礎來實施AI技術和服務,使公司“為AI做好準備”。
“AI需要由高質量數據的滋養,因此我們使用Talend創建了全面的數據管理結構,并利用Snowflake作為我們的運營數據存儲和倉庫。然后,我們在AWS上實施了一套全面的AI工具,這些工具本身可以很好地協同工作,為我們提供真正的AIOps。我們廣泛使用AWS作為基礎設施和數據存儲,因此選擇他們是有意義的。我們建設完成了地基和基礎設施,讓AI在此之上能夠真正地發揮全部潛力。”
被鎖定的風險
由于運行AI算法成本不低,因此每個項目都面臨著成本高于預期的風險。
Gudipati說:“AI引擎的運行成本很高,它相比傳統AI要消耗更多的處理器,因此我們必須關注成本。”
Nafde表示認同。“人們沒有意識到AI模型必須調動如此多的計算資源。他們不知道這會花費多少錢,我們有計算服務的成本觸發因素。我們相信我們可以管理運行成本,因為我們將不斷地評估成本。”
委托云服務提供商(包括超大規模提供商)并非沒有被鎖定的風險。盡管可以從一個云提供商轉向另一家云提供商,以獲得更好的交易合同,但遷移的勞動力和費用是令人望而生畏的,可能會抵消任何潛在的節省。例如,Snowflake可以運行在微軟Azure或者AWS上,因此可以從一個云遷移到另一個云。“我不認為這是不可能的,但你需要做一些基礎工作,提前考慮一下是件好事。”
不要只是站在那里,做點什么
對于CIO來說,以前很少有技術能夠讓他們在生成式AI的幫助下采取行動。風險緩解策略面臨著高管的推動,他們不希望自己的公司落后。
“這可能是歷史上第一次,非技術人員能夠看到一些東西并對此感到興奮,因為他們可以參與其中,這已經成為董事會層面興趣的一個轉折點,”Forrester的Hopkins說。
Nafde認為,在金融服務領域,支付公司Stripe和移動應用MX等初創公司可以利用AI來接管客戶關系。“用戶行為可能發生很大的變化以至于人們不會想到銀行,而是他們正在使用的支付應用。金融科技公司和初創公司要么利用AI超越老牌企業,要么就是被淘汰。”
然而,與初創公司不同的是,老牌企業不能冒著因為把全部賭注押在AI上而可能遭受損失的風險,他們面臨的挑戰是找到一條能夠產生底線結果的中間路線。Gudipati說:“我們不會告訴全世界我們是一家基于AI的企業,但我們會把AI作為一個日常解決問題的工具。”