在采訪中，Holistic AI的聯合首席執行官Emre Kazim討論了公司從一開始就需要將負責任的AI實踐融入其業務戰略的必要性。他探討了如何解決偏見、隱私和透明度等問題，這需要一種積極主動且全面的方法，而不僅僅是遵守法規。

公司如何解決AI模型中的偏見、隱私問題和缺乏透明度的情況?

為了應對這些挑戰及其他更多問題，公司需要制定一個清晰且積極主動的AI治理計劃。對于將AI視為重要商業舉措的公司而言，AI治理需要從一開始就融入其IT戰略中，它不是一個可選項。一個全面的AI治理計劃需要解決政府法規和/或標準、安全要求以及業務層面的KPI，并包括以下方面：

• 有效性——AI工作負載是否完成了其既定目標?它是否高效?相對于其用例和目標，它的表現如何?
• 穩健性——隨著情況的發展或面臨惡意破壞系統的企圖時，系統如何保持性能?系統抵御對抗性威脅的能力如何?
• 隱私性——系統是否存在數據泄露的風險，從而可能暴露敏感或個人信息?
• 偏見——深入查看模型與其預期用例的關系，以確定系統中是否存在偏見。在不同場景中，偏見的處理方式不同，因此在上下文中衡量這一點至關重要。例如，在醫療診斷應用中，你可能想要針對某些人群(如特定血統的老年男性易患心臟病)，但在招聘應用中則不希望如此。
• 可解釋性——AI系統對用戶和開發人員來說是否易于理解?我們能否理解系統是如何得出其預測或問題答案的?這對于透明度和信任至關重要。

AI治理不僅僅是為了規避風險——它還能通過幫助團隊協同工作并提高效率，來加速公司的AI采用。通過清晰且協作地管理AI，公司可以更快地采用AI并獲得更好的結果。使用能夠全面了解風險和業務績效指標(如偏見、合規性、有效性、穩健性和可解釋性)的工具，公司發現更容易構建公平、安全且與公司目標一致的AI系統。

諸如歐盟的《人工智能法案》等新興法規如何影響負責任AI的采用?

事實上，目前全球有近500項關于AI的法律正在制定中，其中200項在美國處于聯邦層面，另外還有83起僅與通用AI相關的訴訟。全球許多政府正在考慮制定法規，以在使用AI時保護其公民。這種非?；钴S的監管環境無疑正在推動企業從一開始就考慮其AI應用中的責任和公平性。

但還有更強大的市場力量在發揮作用。公司明白，AI的采用對其生存至關重要，未來的勝者將由其有效利用AI的能力決定。此外，他們明白品牌聲譽是其最寶貴的資產之一。在AI方面的失誤——尤其是在關鍵任務環境中(如交易算法失控、用戶隱私泄露或未達到安全標準)——會侵蝕公眾信任并損害公司的底線。這可能帶來嚴重的后果。由于公司的競爭力和潛在的生存能力都岌岌可危，AI治理已成為他們不容忽視的商業要務。

隨著AI創新的加速，你認為當前對負責任AI的努力是否足夠，還是我們需要更強大的框架?

AI的采用尚處于早期階段，我認為推動負責任AI的動力將來自多個方向。當然，我們看到政府和聯邦層面都有很多活動，但這正在形成一種分散的方法。我們還看到，一些領先的公司明白采用AI對其未來至關重要，并希望快速行動。他們沒有等待監管環境穩定下來，而是在采用負責任AI原則方面發揮領導作用，以保護其品牌聲譽。因此，我相信公司會出于自身利益而明智地行動，以加速其AI計劃并提高業務回報。但這些動機與更廣泛的社會利益完美契合：部署安全、可靠和值得信賴的AI。

企業聲譽和市場力量正在確保AI治理不僅僅是一個事后考慮——它是一項商業要務，這與監管努力同時發生，這對每個人來說都是好消息。

鑒于AI決策的不可預測性，你建議采取哪些風險管理策略來監測和減輕與AI相關的風險?

正如公司建立數據治理來管理組織數據、建立云治理來監督其向云計算的過渡一樣，他們現在必須采用全面的AI治理策略來指導其AI的采用。

有效的AI治理涵蓋整個AI生命周期，確保與組織戰略、道德原則和監管要求保持一致。

一個強大的治理框架涉及AI使用的每個階段，從采用和開發到風險管理。監測在這個過程中發揮著關鍵作用，確保持續的監督和合規性。實施AI治理的關鍵步驟包括：

• 盤點和發現：識別和編錄AI系統和資產。
• 入職和工作流程：定義將AI集成到運營中的流程。
• 政策、文檔和合規準備：制定明確的指導方針，并確保遵守法規和框架——如歐盟的《人工智能法案》或NIST，或公司自行設計的框架。
• 測試、驗證和風險優化：評估AI性能并減輕潛在風險。
• 報告、警報和分析：通過全面監測提供見解和早期預警。此外，系統如何實現業務KPI和性能?
• 投資回報率跟蹤：衡量AI投資產生的價值。
• 持續監測：保持持續警惕，以應對新出現的挑戰。

通過遵循這些步驟，企業可以確保其AI計劃具有戰略性、道德性和可持續性。

對于AI系統出現故障或產生偏見輸出的情況，企業應該制定哪些具體的應急響應協議?

擁有有效AI治理策略的公司能夠更好地主動應對潛在風險并防止最壞情況的發生。事實上，分析師報告稱，到2028年，實施全面AI治理平臺的企業相比沒有此類系統的企業，AI相關的道德事件將減少40%。

其中一個關鍵因素是持續監測——根據應用的關鍵程度和風險水平，可以是定期或連續的——以便快速發現和響應問題。這種監測可以根據預定義的界限自動通知相應的團隊，并在出現問題時建議補救步驟。

同樣重要的是確保團隊接受培訓并為緊急情況做好準備。就像強大的安全事件響應計劃一樣，跨職能團隊的定期培訓至關重要。這些培訓應模擬AI事件場景，包括執行補救策略和完善溝通響應計劃。

在與客戶溝通時，要優先考慮透明度、誠實和真實性。及時分享你所知道的信息，有新信息時提供更新，并向客戶保證你正在迅速采取行動解決問題。如果處理得當，有效的應急響應甚至可以通過展示其對負責任AI的承諾和高度的責任感，來幫助品牌建立與客戶的信任。