該數(shù)據(jù)庫包含700多個(gè)AI風(fēng)險(xiǎn)，顯示AI系統(tǒng)的風(fēng)險(xiǎn)（51%）多于人為風(fēng)險(xiǎn)（34%），且這些風(fēng)險(xiǎn)更可能在AI部署后出現(xiàn)（65%），而非開發(fā)過程中（10%），然而，即使是最詳盡的AI框架也忽略了數(shù)據(jù)庫中約30%的風(fēng)險(xiǎn)。 

最常涉及的風(fēng)險(xiǎn)領(lǐng)域包括： 

? “AI系統(tǒng)的安全、故障和局限性” (76%)

? “社會經(jīng)濟(jì)和環(huán)境危害” (73%)

? “歧視和有害影響” (71%) 

此外，MIT數(shù)據(jù)庫中提到的其他風(fēng)險(xiǎn)包括“隱私和安全” (68%) 以及“惡意行為者和濫用” (68%)，相比之下，“人機(jī)交互” (41%) 和“錯(cuò)誤信息” (44%) 的關(guān)注度稍低。

這些基準(zhǔn)風(fēng)險(xiǎn)有助于更好地理解AI在商業(yè)領(lǐng)域中的風(fēng)險(xiǎn)與收益之間的平衡，然而，關(guān)鍵問題在于如何確切地判斷收益何時(shí)超越了風(fēng)險(xiǎn)。行業(yè)專家認(rèn)為，目前我們還沒有達(dá)到這個(gè)臨界點(diǎn)。 

Fordham大學(xué)Gabelli商學(xué)院的教授W. Raghupathi指出，引入新技術(shù)對任何企業(yè)來說都是一項(xiàng)重大挑戰(zhàn)，尤其是復(fù)雜的AI。規(guī)模、復(fù)雜性以及實(shí)施和部署的難度、升級、支持等都是技術(shù)相關(guān)的問題。此外，隱私、安全、信任、用戶和客戶接受度也是關(guān)鍵挑戰(zhàn)。再加上缺乏有效的成本衡量模型，這使得挑戰(zhàn)更加嚴(yán)峻。 

另一個(gè)挑戰(zhàn)是AI的采用速度非常快，甚至在任何已知和不可預(yù)見的風(fēng)險(xiǎn)浮現(xiàn)之前。“我們需要快速行動，并更快地思考，回答如何展示AI給企業(yè)帶來的價(jià)值，以及這是否值得冒險(xiǎn)的問題，”LogicGate的產(chǎn)品和技術(shù)總裁Jay Jamison表示，“有很多AI解決方案可能能夠提高效率，但它們應(yīng)如何與法規(guī)指南、安全風(fēng)險(xiǎn)和額外的治理需求等因素進(jìn)行衡量？” 

Raghupathi指出，目前判斷AI的收益是否超過風(fēng)險(xiǎn)可能還為時(shí)過早。“應(yīng)用程序的部署與其對業(yè)務(wù)的影響之間存在滯后。像低級自動化這樣的特定應(yīng)用程序取得了成功，但支持戰(zhàn)略的高級應(yīng)用程序尚未轉(zhuǎn)化為實(shí)質(zhì)性利益。” 

他還提到，評估復(fù)雜應(yīng)用程序與簡單自動化任務(wù)的影響和收益可能需要數(shù)年時(shí)間，因?yàn)槲覀冞€沒有評估這些好處的基準(zhǔn)或定量模型。 

雖然AI目前備受業(yè)界關(guān)注，但這種熱度將不可避免地隨著新技術(shù)和新方法的出現(xiàn)而減退。隨著AI熱潮的消退，企業(yè)將更加仔細(xì)地評估其風(fēng)險(xiǎn)與收益。 

Jamison指出，隨著技術(shù)變得更強(qiáng)大，AI將消耗更多的能源，成本將不可避免地上升。“目前，AI既具有很高的價(jià)值又相對廉價(jià)，使許多企業(yè)能夠享受其帶來的好處，但這種情況不會永遠(yuǎn)持續(xù)下去，最終賬單將到來。” 

他還強(qiáng)調(diào)，需要更強(qiáng)的AI治理來進(jìn)行更有意義的風(fēng)險(xiǎn)評估。“企業(yè)必須考慮他們計(jì)劃如何以及為什么使用AI，并識別其使用中可能帶來的潛在風(fēng)險(xiǎn)。忽視這些問題是不可行的，必須有一個(gè)計(jì)劃來確保這些AI解決方案既安全又有效地使用。”