“計算機永遠不能承擔責任，因此計算機永遠不能做出管理決策。”

– IBM 培訓手冊，1979 年

人工智能 (AI) 的采用正在不斷增加。根據IBM 2023 年全球 AI 采用指數，42% 的企業已積極部署 AI，40% 的企業正在試驗該技術。在使用或探索 AI 的企業中，59% 的企業在過去兩年中加快了投資和推廣速度。結果是利用智能工具得出（據稱）準確答案的 AI 決策能力有所提升。

然而，快速采用也引發了一個問題：如果人工智能做出錯誤選擇，誰該負責？錯在 IT 團隊？高管？人工智能模型構建者？還是設備制造商？

在本文中，我們將探索不斷發展的人工智能世界，并根據當前用例重新審視上述引言：公司是否仍然需要人類參與，還是可以由人工智能來做出決定？

正確做法：人工智能在哪些方面改善了業務成果

DEGI 首席顧問兼 ISACA 工作趨勢小組成員 Guy Pearce 從事人工智能研究已有 30 多年。“起初，人工智能是象征性的，”他說，“現在它是統計性的。人工智能是算法和模型，可以處理數據并隨著時間的推移提高業務績效。”

IBM 最新發布的《AI 在行動》報告中的數據顯示了這一轉變的影響。三分之二的領導者表示，AI 推動了收入增長率超過 25%，72% 的領導者表示，高管層與 IT 領導層在 AI 成熟道路上的下一步行動上意見完全一致。

隨著人們對人工智能的信心不斷增長，企業正在實施智能工具來改善業務成果。例如，財富管理公司Consult Venture Partners 部署了 AIda AI，這是一款對話式數字人工智能禮賓服務，它使用 IBM Watsonx 助手技術來回答潛在客戶的問題，而無需人工代理。

結果不言而喻：Alda AI 正確回答了 92% 的查詢，47% 的查詢促成了網絡研討會注冊，39% 的查詢轉化為潛在客戶。

偏離目標：如果人工智能犯了錯誤會發生什么？

92% 對于 Alda AI 來說是一個令人印象深刻的成就。但要注意的是，它仍然有 8% 的時間是錯誤的。那么，當 AI 犯錯時會發生什么呢？

對于皮爾斯來說，這取決于賭注。

他以一家金融公司利用人工智能評估信用評分并發放貸款為例。這些決策的結果風險相對較低。在最好的情況下，人工智能會批準按時全額償還的貸款。在最壞的情況下，借款人違約，公司需要采取法律行動。雖然不方便，但負面結果遠遠超過了潛在的積極影響。

“說到高風險，”皮爾斯說，“看看醫療行業。假設我們使用人工智能來解決等待時間的問題。我們是否有足夠的數據來確保患者按照正確的順序就診？如果我們做錯了怎么辦？結果可能是死亡。”

因此，人工智能如何用于決策，很大程度上取決于它所做出的決策是什么，以及這些決策如何影響做出決策的公司和受決策影響的人。

在某些情況下，即使是最壞的情況也只會帶來一點不便。但在另一些情況下，其結果可能會造成重大損害。 

承擔責任：如果人工智能犯了錯誤，誰該負責？

2024 年 4 月，一輛處于“全自動駕駛”模式的特斯拉汽車撞死了一名摩托車手。盡管需要駕駛員主動監督，但該車司機承認在事故發生前一直在看手機。

那么誰該承擔責任？司機顯然是最佳人選，他因交通殺人罪被捕。

但這并不是追究責任的唯一途徑。特斯拉也應該承擔一定責任，因為該公司的人工智能算法未能發現受害者。責任也可以歸咎于國家公路交通安全管理局 (NHTSA) 等管理機構。也許他們的測試不夠嚴格或完整。

甚至有人認為，特斯拉人工智能的創造者應該為發布可能致命的代碼承擔責任。

這就是人工智能決策的悖論：是某個人犯了錯，還是所有人都犯了錯？“如果你把所有應該承擔責任的利益相關者聚集在一起，那么責任在哪里？”皮爾斯問道。“是高管層？還是整個團隊？如果責任遍布整個組織，那么每個人都不會坐牢。最終，共同承擔責任往往會導致沒有責任。”

劃清界限：人工智能的終點在哪里？

那么，組織應該在哪里劃定界限呢？人工智能洞察力何時讓位于人類決策？

有三個考慮因素至關重要：道德、風險和信任。

“當涉及到道德困境時，”皮爾斯說，“人工智能無法解決。”這是因為智能工具自然會尋求最有效的途徑，而不是最道德的途徑。因此，任何涉及道德問題或擔憂的決定都應包括人類的監督。

與此同時，風險是人工智能的專長。“人工智能擅長風險，”皮爾斯說。“統計模型會給你一個標準誤差，讓你知道人工智能的建議是具有高還是低的潛在變異性。”這使得人工智能非常適合基于風險的決策，比如金融或保險領域的決策。

最后，企業需要優先考慮信任。“人們對機構的信任度正在下降，”皮爾斯說。“許多公民不相信他們分享的數據被以值得信賴的方式使用。”

例如，根據《GDPR》，公司需要對數據收集和處理保持透明，并讓公民有機會選擇退出。為了增強人們對使用人工智能的信任，組織應該清楚地說明他們使用人工智能的方式和原因，并（在可能的情況下）允許客戶和客戶選擇退出人工智能驅動的流程。

決策，決策

人工智能應該用于管理決策嗎？也許吧。它會被用來做出一些決策嗎？幾乎可以肯定。人工智能的吸引力——它能夠捕獲、關聯和分析多個數據集并提供新的見解——使其成為企業簡化運營和降低成本的有力工具。

不太清楚的是，向管理層決策的轉變將如何影響問責制。皮爾斯表示，目前的情況造成了這一領域的“界限模糊”；立法還沒有跟上人工智能使用率的提高。

為了確保符合道德原則、降低錯誤選擇的風險并贏得利益相關者和客戶的信任，企業最好讓人類參與其中。也許這意味著在人工智能采取行動之前需要得到員工的直接批準。也許這意味著偶爾要審查和評估人工智能的決策結果。

但無論企業選擇哪種方法，核心信息始終不變：在人工智能驅動的決策方面，沒有固定的界限。這是一個不斷變化的目標，由可能的風險、潛在的回報和可能的結果決定。