生成式AI正在大規模地為企業敞開創新的大門，但在這個新時代，高管層必須仔細監督對生成式AI的采用，以保證代碼質量并減輕技術債務。

生成式AI在起步階段就已經改變組織并且給IT戰略帶來了深刻的影響。但是，雖然大型語言模型加速了工程敏捷性，但也打開了一道閘門帶來了前所未有的技術債務。分析公司Red Monk首席分析師、聯合創始人Stephen O’Grady表示：“生成式系統可能會加速生成的代碼量，因此僅在這個基礎上，技術債務就會增加。”

但這不應該阻止CIO們探索和實施AI，Salesforce公司高級副總裁、首席信息官Juan Perez 補充說。他把AI視為一種需要適當治理、安全控制、維護和支持以及生命周期管理的應用。他表示，由于AI產品的數量不斷增加，選擇最合適的模型和底層數據對于支持AI之旅至關重要。

如果實施得當，生成式AI就能夠以更低的成本生產更高質量的產品。Walgreens Boots Alliance首席信息官Neal Sample表示：“問題不是AI是否會對整體業務產生積極影響，而是影響程度和速度的問題。”但他指出，要實現負責任的AI發展，政府監管和公司治理都是必要的。

生成式AI：IT戰略的核心

機器學習模型有潛力實現更快速的IT迭代。代碼測試平臺Sonar公司首席信息官Andrea Malagodi表示，至少這些模型可以自動執行那些日常的、重復性的任務，從而釋放軟件開發人員的帶寬，讓他們能夠專注于更具創造性、更高級別的工作。他說：“投資生成式AI工具來支持這些團隊就是對他們的成長、生產力和總體滿意度的投資。”

Palo Alto Networks公司首席信息官Meerah Rajavel補充說，生成式AI將極大地促進開發，尤其是Java、Python和C++ 等成熟編程語言的代碼生成，但它的力量還不止于此。她認為，AI有助于將代碼測試左移，以協助單元測試、調試和識別軟件開發周期早期的錯誤配置。“作為CIO，為我們的開發人員提供幫助他們成功的最佳工具，這是我工作的一個關鍵組成部分，而AI無疑將有助于提高效率。”

AI還可以顯著推進跨部門的運營。對于無代碼自動化平臺公司Workato的首席信息官Carter Busse來說，AI是該公司今年IT戰略的核心。但AI的好處不僅限于IT方面，它還可以為客戶支持、提高生產力和推動跨團隊創新等方面提供幫助。他說：“CIO的任務是幫助業務高效發展，而AI是我們向前推進的一種方式。”

因此，代碼生成并不是受益于最新AI浪潮的唯一領域。云數據倉庫公司Snowflake的首席信息官和首席數據官Sunny Bedi表示，員工生產力受到的影響最大。他預測，未來所有員工都將與AI助手展開密切合作，有助于個性化的新員工入職體驗、協調內部溝通以及制作創新想法原型等工作。他補充說，企業通過利用大型語言模型開箱即用的功能，還可以減少對搜索、文檔提取、內容創建和審查、以及聊天機器人等操作的第三方依賴。

AI如何減輕技術債務

生成式AI模型本身并不是造成IT債務的最大決定性因素，而是在實踐中的應用方式。Sample表示：“需要仔細考慮在組織中哪些方面實施AI，以及如何實施AI，避免產生技術債務。”他補充說，當把AI模型應用于現有技術生態系統的時候（例如修改連接和在使用舊堆棧的同時集成生成式AI）積累技術債務的風險會更高。

另一方面，如果使用得當，生成式AI可以通過重寫遺留應用和自動化積壓任務來幫助消除舊的技術債務。也就是說，如果沒有正確的云環境和戰略，CIO不應該一頭扎進去。“如果組織過早地實施生成式AI，現有的技術債務可能會繼續增長，或者在某些情況下變成長期的技術債務，”企業管理軟件套件OnBase開發公司Hyland首席信息官Steve Watt這樣示。因此他建議，制定一項計劃來解決現有的技術債務，這樣新的AI驅動的計劃就不會崩潰。

起初，企業在嘗試AI和大型語言模型的時候可能會增加IT債務。但Busse認為，從長遠來看，大型語言模型會減少債務，但這要取決于AI動態響應不斷變化需求的能力。他說：“通過將AI嵌入到你的業務流程中，你將能夠更快地適應流程變化，從而減少技術債務。”

評估AI代碼的質量

最近，人們對AI生成的代碼質量提出了質疑，有報告強調，自AI助手出現以來，代碼改動和代碼重用的情況有所增加。Red Monk公司的O’Grady表示，AI生成的代碼質量取決于很多因素，包括部署的模型、手頭的用例、以及開發人員的技能。“就像人類開發人員一樣，AI系統確實會輸出有缺陷的代碼，而且未來還將如此。”

例如，Sonar的Malagodi引用了微軟研究院最近的一項研究，該研究評估了22個模型，發現這些模型在基準測試中普遍表現不佳，暗示了訓練設置中存在基本盲點。該報告解釋說，雖然AI助手可以生成功能代碼，但并不總是超越功能正確性的范疇，考慮到效率、安全性和可維護性等其他環境，更不用說遵守代碼約定了。

Malagodi認為，這方面還有很大的改進空間。他說：“雖然生生成式AI可以更快地生成更多行的代碼，但如果質量不好，這個過程可能會變得非常耗時。”他敦促CIO和CTO采取必要措施，確保AI生成的代碼是干凈的。“這意味著AI生成的代碼是一致的、有意的、適應性強且負責任的，從而打造安全的、可維護的、可靠且可訪問的軟件。”

這些模型根源的質量問題可能會對代碼輸出產生不利影響。云技術智能平臺Snow Software公司首席信息官Alastair Pooley表示，雖然生成式AI有潛力產生卓越的技術成果，但數據質量、模型架構和訓練程序都可能導致結果不佳。他說：“訓練不足的模型或者不可預見的邊緣情況都可能導致輸出質量下降，帶來運營風險并損害系統可靠性。”所有這些都需要對輸出和質量進行持續的審查和驗證。

Palo Alto Networks公司的Rajavel補充說，AI就像其他任何工具一樣，結果取決于你使用哪種工具以及如何使用它。對她來說，如果沒有適當的AI治理，你選擇的模型可能會產生不符合產品架構和預期結果的低質量工件結果。她補充說，另一個重要因素是你要為手頭的工作選擇哪種AI，因為沒有一種模型是放之四海而皆準的。

AI潛在風險清單

除了IT債務和代碼質量之外，部署生成式AI時還需要考慮一系列潛在的不利結果。“這些問題可能涉及數據隱私和安全、算法偏見、工作替代、人工智能生成內容的道德困境等，”Pooley說。

其中一個方面，是惡意個人利用生成式AI發起攻擊。Rajavel指出，網絡犯罪分子已經開始利用這項技術進行大規模攻擊，因為生成式AI能夠起草令人信服的網絡釣魚活動并傳播虛假信息。攻擊者還可以針對生成式AI工具和模型本身，導致數據泄露或毒害內容輸出。

O’Grady表示：“生成式系統有可能加速并幫助攻擊者，然而可以說，很多企業最大的擔憂就是私有數據從封閉的廠商系統中泄露出去。”

這些技術可以產生非常令人信服的結果，但結果可能也是充滿錯誤的。除了模型中的錯誤之外，還需要考慮成本影響，并且很容易在不知不覺中或者是不必要的情況下，在AI上花費了大量的資金，無論是使用錯誤的模型，不了解消耗成本，還是沒有有效地使用。

Perez表示：“AI并非沒有風險，它需要從頭開始構建，由人類控制各個領域，以確保任何人都可以信任其結果——從最基本的用戶到最有經驗的工程師。”對Perez來說，另一個懸而未決的問題是AI開發和維護所有權，這也給IT團隊帶來了跟上創新需求的壓力，因為許多IT員工缺乏時間來實施和訓練AI模型和算法。

不容忽視的問題：就業

然后就是引起主流媒體關注的結果：AI取代人類勞動力。但生成式AI將如何影響IT行業的就業情況還有待確定。“目前很難預測對就業的影響，因此這是一個潛在的擔憂，”O’Grady說。

盡管這場辯論中無疑存在多種觀點，但Walgreen公司的Sample并不認為AI對人類構成生存威脅。相反，他對生成式AI改善員工生活的潛力持樂觀態度。他說：“消極的觀點認為，AI將會影響很多工作，但積極的觀點認為，AI會讓人類變得更好。最終，我認為AI將讓人們不必再做那些重復性的、本可以自動化的任務，可以專注于更高級別的工作。”

如何緩解AI帶來的擔憂

可以采用多種方法來緩解AI帶來的擔憂。對于Perez來說，生成式AI的質量取決于這些模型攝取的數據。他說：“如果你想要高質量的、可信的AI，你就需要高質量的、可信的數據。”然而，問題是數據常常充滿錯誤，需要工具來集成來自不同來源的、不同格式的非結構化數據。他還強調不要局限在“參與其中”，而要讓人類更多地處于駕駛座的位置上。“我將AI視為一種值得信賴的顧問，但不是唯一的決策者。”

為了維護軟件質量，還需要進行嚴格的測試，以檢查AI生成的代碼是否準確無誤。為此，Malagodi鼓勵企業采用“代碼干凈”的方法（包括靜態分析和單元測試），以確保恰當的質量檢查。“當開發人員專注于干凈代碼的最佳實踐時，他們就可以確信他們的代碼和軟件是安全的、可維護的、可靠的且可訪問的。”

Bedi補充說，和任何新技術一樣，最初的熱情是需要適當謹慎心態來調和的。因此，IT領導者應該考慮有效使用AI能助手的步驟，例如可觀察性工具，這些工具能夠檢測架構漂移，并支持為應用需求做好準備。

圍繞AI的采用展開治理

Pooley表示：“生成式AI代表了技術進步邁向了一個新的時代，如果管理得當，它有可能帶來巨大的好處。”不過他建議，CIO們應該在創新和固有風險之間進行平衡，尤其是必須采取控制措施和利用指南來限制因不受控制地使用這些工具而導致的數據泄露。“和很多技術機會一樣，如果出現問題，CIO們發現他們自己是要承擔責任的。”

對于Sample來說，監管機構有責任充分解決AI給社會帶來的風險。例如，他提到了拜登政府最近發布的一項行政命令，旨在建立新的AI安全標準。另一方面是帶頭制定企業指導方針來管理這種快節奏的技術，例如，Walgreens已經開始圍繞AI制定治理框架了，其中包括公平、透明、安全和可解釋性等考慮因素。

Workato的Busse同樣主張制定內部指令，優先考慮安全和治理。他建議對員工進行培訓、制定內部行動手冊、以及實施AI實驗的審批流程。Pooley指出，很多企業已經成立了AI工作組，以幫助應對風險并利用生成式AI的優勢。一些具有安全意識的組織正在采取更WEI 嚴格的措施。O’Grady補充說，為了防止滲透，很多買方還是會優先考慮本地系統。

Perez表示：“CIO們應該帶頭確保他們的團隊擁有恰當的培訓和技能，以有利于組織的方式識別、構建、實施和使用生成式AI。”他描述了Salesforce公司的產品和工程團隊是如何在AI輸入和輸出之間建立信任層，最大限度地降低使用這種強大技術所帶來的風險。

也就是說，有意采用AI和對其進行治理是同樣重要的。Hyland公司的Watt表示：“各個組織都在急于實施AI，但并不清楚它的作用以及如何為他們的業務帶來最大利益。”AI并不能解決所有問題，因此，了解這項技術可以解決哪些問題、不能解決哪些問題，這對于了解如何最大限度地解決問題來說是至關重要的。

對業務產生積極影響

通過適當的檢查，生成式AI將在無數領域提高敏捷性，CIO們預計，生成式AI將被用來實現切實的業務成果，例如用戶體驗。Perez表示：“生成式AI將讓企業能夠為客戶創造曾經感覺不可能的體驗，AI不再只是小眾團隊的工具，每個人都將有機會利用它來提高生產力和效率。”

但用戶體驗的好處并不僅僅限于外部客戶。Rajavel補充說，內部員工體驗也將從中受益。她預測，經過內部數據培訓的AI助手只需立即獲取企業內部頁面上已有的答案，就可以將IT請求減少一半。

Sample表示，Walgreens還通過生成式AI驅動的語音助手、聊天機器人和短信來改善客戶體驗。通過減少呼叫量和提高客戶滿意度，團隊成員可以更好地關注店內客戶。此外，該公司還部署了AI來優化店內運營，例如供應鏈、占地面積和庫存管理，幫助領導者做出有關業務營收和利潤的決策。但保持警惕是關鍵。

O’Grady表示：“與之前所有的技術浪潮一樣，AI無疑會帶來重大的負面影響和附帶損害。總的來說，AI將加速發展并增強人類的能力，但同時會極大地擴大各種問題的范圍。”