這項調查涵蓋249名企業風險高層管理人員，匯總出2023年第二季度最嚴峻的五大新興風險。

根據Gartner公司發布的數據，生成式AI（包括OpenAI ChatGPT和谷歌Bard）的大規模普及已經成為2023年第二季度企業風險管理者們最關注的問題。

Gartner風險與審計實踐研究總監Ran Xu表示，“在我們第二季度的調查當中，生成式AI已經成為第二大常見風險，這也是其首次出現在風險因素的前十名中。由此看來，隨著公眾認知和生成式AI工具普及度的快速增長，再結合潛在用例的巨大廣度，這些工具帶來的潛在風險已經不容小覷。”

2023年5月，Gartner對249名企業風險高層管理人員進行了調查，其中提出20種新興風險的基準觀點。這份季度新興風險報告提出了這些風險的潛在影響、時間范圍、關注程度和感知機會等細節信息。

而在第二季度的最新調查當中，第三方生存能力成為各類組織最為關注的首要新興風險（見表1）。財務規劃不確定性排名第三，位列第四的則是云集中風險。對中國的貿易緊張局勢排名第五，具體又分為當前宏觀經濟疲軟，以及因地緣政治的廣泛波動所引發的現實影響與技術擔憂。

2023年第二季度最常被提及的五大新興風險

Gartner調查顯示，生成式AI已成企業面臨的重大新興風險

來源：Gartner（2023年8月）

生成式AI的大規模普及

Gartner此前已經確定了生成式AI的六大風險，以及與功能保障相關的四大AI監管領域。Gartner專家表示，在管理企業風險方面，必須解決以下三大核心難題：

• 知識產權Xu解釋道，“被輸入給生成式AI工具的信息，可以作為其訓練數據集的一部分。也就是說，其中包含的敏感或機密信息可能最終會被輸出給其他用戶。此外，使用這些工具生成的輸出，也很可能會在無意間侵犯其他工具使用者的知識產權。”

解決問題的關鍵，是教育企業領導者在使用此類工具時保持謹慎態度和透明公開，以便立足生成式AI工具的輸入和輸出層面妥善控制知識產權風險。

• 數據隱私

生成式AI工具可能會在不事先通知的情況下，與其他第三方（例如供應商或服務提供商）共享用戶信息，而這很可能違反多個司法管轄區的隱私法條款。例如，中國和歐盟已經開始實施監管，美國、加拿大、印度和英國等國家也提出了監管建議。

• 網絡安全Xu指出，“黑客總是出于自己的目的積極測試新技術，尋求能夠損害新技術的方法，生成式AI當然也不例外。我們已經看到有生成式AI在誘導之下生成惡意軟件和勒索軟件代碼的例子；還包括「提示詞注入」攻擊，即通過精心設計的提示詞詐騙AI工具泄露自己本不該輸出的信息。種種趨勢正導致高級網絡釣魚攻擊走向工業化、量產化的道路。”

第三方生存風險的根源和影響

Xu解釋道，“持續不斷的通貨膨脹幾乎不受加息政策的緩解，而且持續時間也比預期更長，這加劇了第三方機構的成本和利潤壓力。隨著美國央行不斷提高利率以對抗通脹，信貸緊縮周期必然隨之來臨，且很可能迫使供應商暫停運營、甚至因借貸成本上升而資不抵債。”

如果經濟狀況普遍惡化，也可能導致需求進一步下降，從而影響第三方供應商的生存能力、或者是及時交付商品/服務的能力。Gartner專家指出了由第三方生存問題引發的三種潛在后果，供風險管理者根據實際情況進行監控：

• 關鍵投入與材料損失：如果第三方供應商因為宏觀經濟形勢而提高價格，則會引發關鍵投入與材料方面的顯著損失，因為第三方會更青睞愿意支付更高價格的客戶。
• 財務規劃假設或將不成立：當供應商提高價格或者意外倒閉時，原本的成本假設將不再成立，因此需要調整成本并提高獲取商品/服務的價格。
• 供應鏈之外的挑戰：各合作伙伴（包括托管服務提供商、商業合作伙伴、債權人或者技術供應商）可能會收縮甚至停止正常運營，給客戶方的業務運轉造成重大影響。