現(xiàn)如今，生成式AI的探索和實施工作已經(jīng)不可避免地同安全問題交織在一起。根據(jù)近期的一份數(shù)據(jù)報告，49%的企業(yè)領(lǐng)導(dǎo)者認(rèn)為安全風(fēng)險已經(jīng)成為首要問題，38%的企業(yè)領(lǐng)導(dǎo)者則將因不了解如何使用GPT工具而引發(fā)的人為錯誤/人為數(shù)據(jù)泄露列為頭號挑戰(zhàn)。

盡管這些擔(dān)憂各有道理，但早期采用者所獲得的好處將遠遠超過這些阻礙探索的潛在后果。

在本文中，我們將幫助各位團隊成員和客戶了解為何不能把安全視為事后因素，而應(yīng)將其作為AI與業(yè)務(wù)相集成的先決條件，同時探討這方面工作中的一系列最佳實踐。

以安全策略為起點

企業(yè)已經(jīng)感受到由AI應(yīng)用所帶來的新興安全風(fēng)險與現(xiàn)實緊迫性。事實上，根據(jù)之前提到的統(tǒng)計報告，81%的企業(yè)領(lǐng)導(dǎo)者表示他們的公司已經(jīng)實施、或者正在制定圍繞生成式AI建立的用戶政策。

然而，由于該項技術(shù)的發(fā)展速度極快、新興應(yīng)用與用例時刻都在涌現(xiàn)，因此政策內(nèi)容也必須不斷更新以應(yīng)對隨時出現(xiàn)的風(fēng)險和挑戰(zhàn)。

為了在加快探索的同時最大限度降低安全風(fēng)險，我們自然有必要為測試和學(xué)習(xí)工作設(shè)置“護欄”。而且相關(guān)政策的制定也絕不應(yīng)孤立推進，而應(yīng)從企業(yè)內(nèi)各個部門的代表處充分征集意見，思考不同職能單位如何使用/是否可以使用生成式AI應(yīng)對各自面臨的安全風(fēng)險。

總而言之，各部門對于AI技術(shù)的探索不應(yīng)被粗暴禁止。如果單純出于恐懼而在企業(yè)范圍內(nèi)全面封禁，那么大家也不必?fù)?dān)心競爭對手吞噬自己的市場份額了——您本身就是在自毀長城。

以一線人員為核心

為了確保能夠以安全的方式使用生成式AI，我們首先應(yīng)為普通開發(fā)人員提供許可，例如允許他們?nèi)媸褂么笳Z言學(xué)習(xí)模型Insight GPT的私有實例。這一方面有助于發(fā)現(xiàn)潛在用例，同時也能根據(jù)輸出開展壓力測試，對生成式AI服務(wù)做出持續(xù)改進。

我們很快發(fā)現(xiàn)，一位倉庫團隊成員找到了一種提高訂單配送效率的方法。在這種非凡的用例中，該成員要求Insight GPT在SAP中編寫一份腳本，用以自動處理部分工作負(fù)載。雖然效果很棒，但如果沒有設(shè)置適當(dāng)?shù)淖o欄，這種嘗試也極易引發(fā)事故。比如說，一旦工作人員粗心之下執(zhí)行了一筆訂單中并不存在的交易，那么后續(xù)的自動環(huán)節(jié)將無法中斷。

所以在促進民間探索并盡可能限制風(fēng)險的過程中，我們需要：審查委員會應(yīng)制定明確的指導(dǎo)方針，開展風(fēng)險評估并加強AI系統(tǒng)的透明度。進行適當(dāng)培訓(xùn)，教育員工如何以負(fù)責(zé)任的方式將AI納入工作場景，特別是應(yīng)當(dāng)闡明對于道德標(biāo)準(zhǔn)、偏見、人類監(jiān)督和數(shù)據(jù)隱私等關(guān)鍵問題的處理方式。開設(shè)內(nèi)部論壇，鼓勵團隊成員在公司創(chuàng)新者群組內(nèi)分享自己的發(fā)現(xiàn)和教訓(xùn)。

減少“幻覺”的風(fēng)險

生成式AI之所以存在風(fēng)險，一個重要原因就是它偶爾會產(chǎn)生“幻覺”。根據(jù)Insight報告，企業(yè)領(lǐng)導(dǎo)者最關(guān)心的一個共同主題，就是幻覺會如何引發(fā)錯誤的商業(yè)決策。然而，由幻覺導(dǎo)致的風(fēng)險往往各不相同，有時問題不大、有時后果嚴(yán)重，具體影響往往因場景而異。

雖然GPT工具必然會輸出某些與客觀現(xiàn)實不符的結(jié)果，但我們很快意識到這種錯誤回答往往屬于措辭層面的混淆。例如，在早期測試當(dāng)中，我們詢問Insight GPT埃迪·范·海倫曾與埃迪·范·海倫合作過哪首作品。正確答案是“Beat It”，但它的回答卻是“Thriller”。可從另一角度講，“Beat It”確實是“Thriller”專輯中的一首作品，所以它的回答也并非毫無道理。

這就完美詮釋了“幻覺”問題造成的不同風(fēng)險，特別是在處理各種主觀性較強的工作負(fù)載時。要想在安全角度上解決這類問題，我們就必須建立并執(zhí)行相關(guān)政策，將所有AI生成的內(nèi)容都納入人工監(jiān)督范疇之內(nèi)。此外，所有由AI輔助生成的內(nèi)容都必須進行明確標(biāo)記。當(dāng)這些內(nèi)容穿行在內(nèi)部及外部各價值鏈時，也應(yīng)始終附帶標(biāo)記并接受監(jiān)督。

當(dāng)下，生成式AI行業(yè)仍處于萌芽階段，誰能摸索出負(fù)責(zé)任且安全的應(yīng)用方式，同時減少數(shù)據(jù)泄露、信息錯誤、偏見及其他風(fēng)險所引發(fā)的潛在威脅，誰就能建立起明確的技術(shù)優(yōu)勢。企業(yè)需要保證自己的AI政策與行業(yè)的變化持續(xù)保持同步，在維護合規(guī)性、緩解幻覺問題的同時逐步建立起用戶信任。