組織為什么要在機(jī)器學(xué)習(xí)治理上掙扎?當(dāng)我們要為組織解決機(jī)器學(xué)習(xí)治理時，我們看到客戶面臨五個主要挑戰(zhàn)。

機(jī)器學(xué)習(xí)模型治理是組織如何控制訪問、實現(xiàn)策略和跟蹤模型活動的整個過程。這是降低模型失效、法規(guī)遵從性和攻擊風(fēng)險的必要條件。治理是將組織的底線和品牌風(fēng)險最小化的基礎(chǔ)。具有有效機(jī)器學(xué)習(xí)治理的組織不僅具有對模型在生產(chǎn)中的運(yùn)行方式的細(xì)粒度控制和可見性，而且通過將AI/ML治理策略與IT策略的其余部分集成，它們可以釋放運(yùn)營效率。

[[386444]]

通過治理，組織可以了解可能影響模型結(jié)果的所有變量，從而幫助他們快速識別和緩解可能降低結(jié)果準(zhǔn)確性和應(yīng)用程序性能的問題(例如模型漂移)。這些問題會隨著時間的推移，直接影響企業(yè)的底線，并隨著時間的流逝削弱客戶對品牌的信任。

在一份有關(guān)機(jī)器學(xué)習(xí)治理的白皮書中有提到管理人工智能治理的7步框架。

首先我們要知道，組織為什么要加大力度進(jìn)行機(jī)器學(xué)習(xí)治理?

機(jī)器學(xué)習(xí)治理是各組織在2021年面臨的最大挑戰(zhàn)，因為它們正競相擴(kuò)大機(jī)器學(xué)習(xí)能力，以在快速發(fā)展的數(shù)字化市場中保持競爭力。(資料來源:2021年企業(yè)機(jī)器學(xué)習(xí)趨勢報告)

當(dāng)我們的客戶需要為他們的組織解決機(jī)器學(xué)習(xí)治理時，我們看到了五個主要的挑戰(zhàn)。

• 不清楚什么是最佳實踐：我們?nèi)蕴幱跈C(jī)器學(xué)習(xí)治理的初期，組織缺乏明確的路線圖或規(guī)范性建議，無法在自己特定的環(huán)境中進(jìn)行有效實施。
• 相關(guān)法規(guī)不夠完善：不斷變化和模糊的監(jiān)管環(huán)境導(dǎo)致了不確定性，公司需要投入大量資源來維持合規(guī)。那些不能跟上的公司可能會失去競爭優(yōu)勢。
• 現(xiàn)有的解決方案都是手動的且不完整：即使是今天正在實施治理的組織，也是使用各種各樣不同的工具和手動流程拼湊而成。這樣的解決方案不僅需要持續(xù)的維護(hù)，而且它們還存在覆蓋范圍的關(guān)鍵缺口。
• 機(jī)器學(xué)習(xí)不容易集成到現(xiàn)有的IT策略中：有效的機(jī)器學(xué)習(xí)治理需要與IT協(xié)作，但大多數(shù)組織仍然將機(jī)器學(xué)習(xí)視為精品計劃——這使得它難以集成到更標(biāo)準(zhǔn)化的企業(yè)IT流程和技術(shù)堆棧中。
• 管理不善的機(jī)器學(xué)習(xí)給公司資產(chǎn)帶來風(fēng)險：實施機(jī)器學(xué)習(xí)的公司面臨著品牌和利潤的風(fēng)險。這些存在偏差或不被理解的模型可能會侵蝕客戶對品牌的信任，而不被監(jiān)控的模型可能會在生產(chǎn)中失敗。

組織應(yīng)采取哪些措施來改善機(jī)器學(xué)習(xí)治理?

組織應(yīng)該實施一個可以解決上述機(jī)器學(xué)習(xí)治理挑戰(zhàn)的MLOps平臺。否則組織就不得不拼湊起來并維護(hù)他們自己的解決方案。無論哪種方式，你都要確保能夠支持以下7個關(guān)鍵層面：

• 完整的模型目錄，包括模型風(fēng)險文檔，用于訓(xùn)練和預(yù)測模型數(shù)據(jù)源的描述以及模型輸出的目標(biāo)和使用。
• 基于風(fēng)險梯度的靈活模型風(fēng)險管理框架：高風(fēng)險模型得到更多的驗證、測試和監(jiān)控，而低風(fēng)險模型得到更輕松的接觸，將更多的責(zé)任委派給業(yè)務(wù)單元或模型開發(fā)人員;
• 擁有一個有效的過程，用于將模型部署并集成到舊系統(tǒng)和數(shù)據(jù)體系結(jié)構(gòu)中
• IT可以使用工具來操作，管理和監(jiān)視生產(chǎn)中模型的運(yùn)行狀況，從而使模型開發(fā)人員脫離模型操作
• 監(jiān)控模型準(zhǔn)確性和數(shù)據(jù)一致性的工具，如果模型結(jié)果或輸入數(shù)據(jù)有所偏差或輸入數(shù)據(jù)質(zhì)量下降，這些工具將生成警報;
• 集成的模型和數(shù)據(jù)更改管理流程，以便對數(shù)據(jù)或模型的變更進(jìn)行適當(dāng)?shù)臏y試和溝通，以防止意外情況的發(fā)生;
• 標(biāo)準(zhǔn)的審計報告和日志，以便審查人員和審核員可以審查模型結(jié)果、變更歷史、數(shù)據(jù)錯誤或過去的模型失敗和采取措施的記錄。