最近幾個月，幾位首席數據官都問了我同一個問題：我們應該如何進行人工智能治理？更具體地說，我們應該成立一個單獨的人工智能治理委員會，還是應該利用現有的數據治理委員會？雖然他們渴望推進，但這種不確定性導致了延誤和挫敗感，尤其是在業務利益相關者中，他們往往將任何形式的治理都視為額外的復雜性。

在本文中，我將分析數據和 AI 治理委員會通常關注的重點，探討其中的重疊部分，并討論將它們分開或合并的利弊。目標是幫助您確定最適合您組織的方案。

“數據治理委員會”

數據治理委員會旨在確保組織有效地管理其數據。這通常包括制定清晰的政策和標準，指導治理能力的構建，并確保數據治理在組織的各個領域得到應用。數據治理委員會是確保切實執行數據治理的關鍵機制，并為領導者的參與和上報提供渠道。該委員會還可以監督合規性工作，以確保組織能夠證明治理在實踐中有效。

數據治理委員會通常涵蓋的關鍵主題包括：

• 創建和傳達政策和標準以確保數據管理方式的一致性。
• 制定并批準具有明確角色、職責和實施方法的治理框架。
• 管理數據質量，包括實施控制、跟蹤問題及其解決方案。
• 監督確保遵守個保法、 GDPR 和 HIPAA 等數據隱私法規的步驟，將監管要求轉化為可操作的步驟。
• 監督元數據管理，例如實施用于捕獲、維護和共享元數據的工具和流程。
• 管理主數據，通常側重于定義所有權、管理權以及確保關鍵數據集的數據質量。

數據治理委員會的輸入通常包括現有政策、業務需求、觀察到的數據問題、數據使用請求、數據密集型項目計劃以及資金提案。這些輸入有助于理事會確定優先事項并做出決策。輸出通常包括更新后的政策、優先舉措、已批準的數據目錄內容、使用指南、上報至高管層的問題以及資金或項目計劃的批準等等。

這些委員會的成員通常由數據所有者、數據管理員、業務代表、IT 主管、系統所有者、隱私、法律和審計團隊代表組成，如果組織規模較大，有時還會有區域負責人。該委員會反映了確保治理決策符合組織總體目標所需的技術和業務視角。這種設置或多或少與已規范化數據治理實踐的組織的工作方式一致。

“人工智能治理委員會”

人工智能治理委員會通常專注于管理組織內人工智能的道德和負責任使用。該委員會旨在確保在應用人工智能和分析技術時，其巨大的規模化和自動化潛力得到謹慎管理。人工智能系統能夠處理海量數據，并以比任何手動流程更快、更廣泛的方式影響決策。人工智能算法一旦部署，便可能具備自主行動的能力，因此控制其使用方式并明確界定哪些行為合適、哪些行為不合適至關重要。這一點尤為重要，因為人工智能決策通常缺乏透明度或可解釋性，這意味著諸如偏見或意外后果等潛在問題可能會被忽視，直到造成重大損害。

例如，當用于訓練模型的歷史數據反映出不公平或刻板印象時，AI 就可能出現偏見。如果一個用于招聘決策的 AI 模型，是基于某個行業的歷史招聘數據進行訓練的，而該行業對某一特定人群的偏好高于其他人群，那么 AI 可能會強化并延續這些偏見，系統性地排除某些候選人。

因此，考慮到這一點，人工智能治理委員會通常討論的關鍵主題包括：

• 人工智能倫理、偏見和公平定義和執行道德原則，以確保人工智能系統公平對待所有群體，不會（非）故意傷害個人或社區。
• 人工智能用例的風險評估識別和評估與每個人工智能應用相關的風險，例如聲譽損害、違反法規或運營失敗。
• 模型治理為人工智能模型設定總體治理框架，包括對文檔、可解釋性、測試、監控和問責的期望——而實際實施和生命周期管理則在交付團隊中進行。
• 遵守人工智能特定法規解釋并遵守人工智能法案等法律框架，該法案為人工智能的安全性、透明度和問責制制定了標準。

提交給委員會的意見通常包括人工智能相關的政策、倫理指南、監管要求、商業用例、組織戰略以及數據和人工智能使用指標。當出現問題時，額外的意見可以以審計結果、監管發現或事件的形式出現，這些事件凸顯了監管方面的差距，并觸發了審查或糾正措施。行業指南或社會規范等外部期望，以及人工智能項目的項目提案和資金申請，也發揮著重要作用。

AI 治理委員會的成果可能包括符合倫理道德的 AI 框架、批準或拒絕 AI 模型及其用例的決策、風險緩解策略、將未解決的風險或問題上報至高管層，以及資金或資源分配的審批。這些成果有助于確保 AI 項目符合組織目標和外部要求，同時最大限度地降低潛在風險。

人工智能治理委員會的參與者通常由專家和利益相關者組成，他們能夠提供多元化的觀點。這些參與者可能包括人工智能專家、法律顧問、隱私代表、商業領袖、數據治理代表、平臺或系統所有者以及其他相關專家。這種廣泛的專業知識確保委員會能夠有效地處理人工智能治理的技術和倫理層面的問題。

下表總結了數據治理和人工智能治理委員會的主要典型特征。

數據治理與人工智能治理的重疊與共同點

數據治理和人工智能治理之間存在顯著的重疊，尤其是在它們都以賦能業務用例為核心這一點上。數據治理的重點是確保正確的數據能夠滿足業務目標的需求。這涉及確定數據的質量、可訪問性和合規性，以便有效地支持各種用例。人工智能治理則專注于專門涉及人工智能的業務用例，確保這些應用符合倫理道德、負責任，并與組織目標保持一致。兩者之所以重疊，是因為許多業務用例在兩者之間共享，都依賴于強大的數據基礎和對人工智能系統的適當監管。

另一個共同點在于數據所有權和分類的重要性。數據治理的根本在于了解數據存在哪些內容、數據位于何處、數據敏感程度如何以及如何使用。這些活動對于建立問責制和確保遵守數據法規至關重要。人工智能治理在此基礎上建立，通過利用數據分類并讓數據所有者參與其中，確保人工智能系統能夠妥善使用數據。例如，了解哪些數據集是敏感的或受限制的，可以直接指導決策哪些人工智能應用在何種條件下是允許的。

AI 治理也高度依賴于具體的數據治理能力。數據目錄和元數據管理系統等工具在識別和理解可用數據集方面發揮著至關重要的作用。例如，許多基于內部數據訓練的生成式 AI 模型需要精確的定義和元數據才能正確解讀數據并有效運行。同樣，了解數據的存儲位置及其分類方式，可以使 AI 治理工作與更廣泛的組織數據戰略保持一致，并確保遵守既定規則。

或許最直接的重疊領域在于推動數據的合理使用。數據治理的根本在于確保數據以正確的方式用于正確的目的。這包括管理數據生命周期，從創建到使用，通常還涉及建立審批流程、配置控制和使用指南。我曾與一家保險行業機構合作，該機構將此作為其企業數據治理計劃的核心，持續了一年，確保每個用例都經過適當的審查和批準。從許多方面來看，人工智能治理只是這項更廣泛努力的一部分：其重點是確保人工智能應用程序中的數據使用是恰當的，并符合道德和監管標準。

最后，利益相關者在實際操作上存在重疊。許多參與數據治理工作的個人和團隊，例如數據管理員、IT 主管、合規官和業務代表，與參與 AI 治理項目或委員會的人員相同。

何時以及為何將數據治理與人工智能治理分開可能是件好事

有幾個原因可以解釋為什么將數據治理和人工智能治理分開是有意義的，這些因素中的一個或多個越適用，將它們區分開來的理由就越充分：

時間壓力。

AI治理通常需要比數據治理更快的推進速度。數據治理項目通常采用基于領域的方法，耗時數月甚至數年，而 AI 治理通常與業務用例直接相關，需要立即上線。業務利益相關者希望盡快部署 AI 解決方案，而為了適應更慢、更系統的數據治理實施而推遲這些解決方案可能會適得其反。通過將兩者分離，組織可以讓 AI 治理以更快的速度運行，同時確保其保持必要的嚴謹性。

人工智能和非人工智能數據使用性質的差異。

人工智能治理需要針對人工智能系統及其復雜性的專業知識。數據治理相對具有普遍性，側重于數據所有權、質量和訪問權限，而人工智能治理則面臨著更難理解的挑戰，例如透明度和可解釋性。人工智能系統通常以“黑匣子”的形式運行，因此很難完全理解決策是如何制定的。人工智能的可擴展性進一步加劇了這一問題，人工智能驅動的決策可以在幾秒鐘內影響數百萬客戶或交易。治理中的任何失誤都可能導致直接的大規模損害，這需要專門的關注和專業知識。

計劃中或現有的 AI 使用范圍。

組織內 AI 的使用范圍也會影響分離治理工作的決策。如果 AI 的使用僅限于單個業務部門或職能，那么將 AI 治理僅集中在該領域可能是有意義的，而無需涉及更廣泛的數據治理計劃。在這種情況下，讓更廣泛的利益相關者參與與他們無關的討論會浪費時間和資源。相反，如果 AI 滲透到多個業務部門和職能，與數據治理的協同作用就會增強，從而降低分離的效益。AI 在組織內的覆蓋范圍在決定治理工作應該統一還是拆分方面起著關鍵作用。

專注于AI建模而非更廣泛的數據問題。

AI治理通常依賴于數據治理作為輸入或推動因素，而不是直接負責更廣泛的數據管理工作。例如，理想情況下，AI治理應該從數據治理流程提供的干凈、分類良好的數據開始。然后，AI治理可以專注于AI建模方面的考量，例如：

• 建立建模標準。
• 記錄和測試模型。
• 進行偏見測試。
• 實施后監控和再訓練模型。
• 確保遵守人工智能特定的法規。

這些活動通常技術性很強，且與人工智能密切相關，需要專業知識和關注度，且不與更廣泛的數據治理職責重疊。組織越能將這些人工智能特定任務與更廣泛的數據使用考量清晰地區分開來，就越有理由成立單獨的人工智能治理委員會。

通過將人工智能治理的重點放在人工智能系統的運營、倫理和技術層面，并讓數據治理處理基礎數據問題，組織可以簡化這兩個流程，并避免不必要的復雜性。這種分離確保了每個治理機構都能有效運作，而不會互相干擾。

為什么應該同時考慮數據治理和人工智能治理

我剛剛闡述了何時以及為何可以將數據治理和人工智能治理分開……然而，總體而言，在沒有具體理由將它們分開的情況下，我傾向于默認將它們放在一起。以下是一些原因：

• 共享基礎——理解、分類并負責任地使用數據

數據治理和人工智能治理的核心都建立在相同的原則之上：理解數據存在哪些內容、對其進行適當分類并確保以負責任的方式使用數據。雖然人工智能決策可能因其可擴展性和快速影響的潛力而需要額外關注，但定義數據所有權、分類和使用方式的基礎流程是相同的。人工智能治理并非取代這些原則，而是以它們為基礎。通過將兩者結合起來，組織可以避免重復工作并確保數據處理方式的一致性。

• 推動合理使用的統一方法

對我來說，管理數據的合理使用和管理人工智能的合理使用之間沒有根本區別。以客戶細分為例：一個用例最初可能涉及手動流程，但之后可能會演變為包含自動化，并最終由人工智能驅動的模型。在手動階段，用一套標準來管理這個用例，而在引入人工智能后，再將其轉移到另一套單獨的標準，這樣合理嗎？當然不是。數據的道德和負責任使用不應取決于決策是由人類還是人工智能程序做出的。人工智能只是自動化的一個層面，同樣的道德使用原則應該普遍適用。

• 避免利益相關者疲勞和重復勞動

從實際角度來看，讓業務利益相關者有效地參與一個治理委員會本身就頗具挑戰性。要求他們參與兩個委員會——一個負責數據治理，另一個負責人工智能治理——只會增加復雜性和所需的工作量。如果數據和人工智能治理領域對于是否應該設立一個還是兩個委員會存在不確定性，那么可以肯定的是，業務利益相關者也會提出同樣的問題。單一委員會可以避免重復勞動，減少利益相關者疲勞，并確保更高效的治理。

• 通過統一治理簡化協調

將數據治理與人工智能治理相結合，有助于推動統一方法，從而簡化業務協調并減少混亂。一套統一的框架、政策和標準幾乎總是比各自為政更可取。這不僅使治理更易于管理，也使利益相關者更容易理解和遵守規則，無論他們處理的是數據還是人工智能用例。

• 后期靈活分離

最后，最初將治理保持統一可以靈活地進行調整，以便隨著組織成熟度的增長而不斷提升。一旦建立了治理框架并且團隊積累了經驗，將 AI 治理與數據治理分開是否合理就會變得更加清晰。如果組織發現某些利益相關者或用例需要更多關注，那么將其拆分成單獨的工作組甚至獨立的 AI 治理委員會相對容易。然而，反之則困難得多。如果一開始就設立兩個獨立的委員會，后來意識到需要將它們統一起來，就會面臨一系列挑戰。這些挑戰包括協調遺留決策、協調工具和框架，以及解決方法或政策中的沖突。此外，領導者或利益相關者也有可能抵制，因為他們可能會覺得自己的角色或權威在過渡期間被削弱。通過從合并委員會開始，組織可以避免這些陷阱，并為有效、可擴展的治理奠定基礎。

小結

決定將數據治理與 AI 治理分開還是合并，最終取決于您組織的獨特需求和成熟度。雖然兩種方法都有其合理的論據，但從統一的框架入手通常能夠提供靈活性和簡便性，以便隨著組織的發展進行擴展。AI 的運作離不開數據，其治理也同樣如此。