事實上，生成式AI可能很快就會在整個企業(yè)的銷售、營銷、采購和供應(yīng)鏈中大力支持人類決策。想想看，IBM方面已經(jīng)宣布，將暫停招聘其首席執(zhí)行官認(rèn)為AI可以填補的7800個當(dāng)前和未來的職位。然而，盡管生成式AI存在巨大的潛力領(lǐng)域，但其在隱私、算法偏見甚至業(yè)務(wù)連續(xù)性方面也存在同樣重大的風(fēng)險。

我一直在與其他領(lǐng)導(dǎo)人討論這些問題，特別是因為它們涉及管理供應(yīng)商合規(guī)使用AI的安全和道德政策。根據(jù)這些對話，以下是領(lǐng)導(dǎo)團隊考慮的一些風(fēng)險領(lǐng)域，以及針對采購團隊的一些常識性指導(dǎo)方針，以確保AI在道德、準(zhǔn)確和安全的情況下運行。

風(fēng)險

雖然與AI相關(guān)的風(fēng)險數(shù)量可能還不完全清楚，但以下是一些已經(jīng)浮出水面并亟需解決的問題：

1. 欺詐和AI魚叉式網(wǎng)絡(luò)釣魚

安全研究人員認(rèn)為，ChatGPT正在引發(fā)一場騙局的“浪潮”。任何針對供應(yīng)商(即使是很小的供應(yīng)商)的騙局都可以用來損害其客戶的采購團隊。這一點可以參見2021年涉及SolarWinds和其他公司的攻擊，以了解受損的供應(yīng)商如何影響下游的其他公司。

另一方面，供應(yīng)商可能會擔(dān)心AI在采購過程中選擇獲勝供應(yīng)商的準(zhǔn)確性或公平性——客戶或黑客可能會操縱AI系統(tǒng)，使其偏袒某些供應(yīng)商，而非其他供應(yīng)商，這意味著可能會失去一份利潤豐厚的合同。

2. 盜竊知識產(chǎn)權(quán)

除非使用得當(dāng)，否則輸入ChatGPT或其他生成式AI工具的數(shù)據(jù)可能會傳播給使用該服務(wù)的其他用戶或公司，從而暴露敏感的IP和“商業(yè)機密”。這可能會導(dǎo)致嚴(yán)重的法律后果——特別是考慮到歐盟的《通用數(shù)據(jù)保護條例》(GDPR)等法律——并可能損害公司的聲譽。作為回應(yīng)，三星等一些公司已經(jīng)禁止或暫停員工使用生成式AI技術(shù)，同時調(diào)查潛在風(fēng)險。

3. 算法偏見

許多新的AI系統(tǒng)為供應(yīng)商提供算法推薦。不幸的是，AI是根據(jù)歷史數(shù)據(jù)和過去的決策進行訓(xùn)練的，其中可能包括對邊緣化供應(yīng)商的(無意識的)偏見。如果數(shù)據(jù)中存在的偏見沒有得到妥善解決，AI可能會延續(xù)甚至加劇這些偏見，導(dǎo)致不公平的結(jié)果和潛在的法律責(zé)任。

目前，這些偏見正在影響使用AI進行招聘決策的公正性。為此，紐約剛剛通過了一項法律，要求公司對其自動招聘工具中的算法偏見承擔(dān)法律責(zé)任。

4. 供應(yīng)中斷

在與供應(yīng)鏈領(lǐng)導(dǎo)者的對話中，一些人擔(dān)心AI可能會檢測到或先發(fā)制人地對某種特定商品進行擠兌/搶購，并在搶購之前觸發(fā)一個自動購買周期，從而引發(fā)擠兌。很容易想象，隨著AI與監(jiān)控市場并為重復(fù)交易執(zhí)行購買周期的自主系統(tǒng)更加融合，試圖在價格飆升之前“戰(zhàn)勝市場”觸發(fā)供應(yīng)短缺的風(fēng)險可能會無意中造成供應(yīng)中斷。

對于食品、燃料和藥品等類別，采購和供應(yīng)管理團隊可能會感到痛苦，更不用說我們所服務(wù)的客戶和社區(qū)了。AI管理的庫存決策也可能導(dǎo)致意想不到的庫存水平——導(dǎo)致庫存減少、缺貨、物流成本增加、收入損失和客戶信心下降。

常識性指南

考慮到這些威脅，以及AI的發(fā)展速度，立即圍繞這項技術(shù)的使用制定一項常識性政策是有意義的。

在工作場所之外建立負(fù)責(zé)任的使用方式

不要假設(shè)所有員工都是“AI禁欲者”。提供關(guān)于提示(prompt)中應(yīng)該和不應(yīng)該包含哪些信息的指導(dǎo)，對于圍繞負(fù)責(zé)任的使用展開全面討論至關(guān)重要。用戶應(yīng)該接受培訓(xùn)，以有效地使用AI工具并解釋其輸出，并保持對AI局限性和潛在風(fēng)險的認(rèn)知。

與供應(yīng)商間設(shè)立界限

無論您的團隊成員和供應(yīng)商是否知道，事實是，放入ChatGPT的任何信息都可能被競爭對手和其他第三方訪問。IT團隊已經(jīng)在競相建立規(guī)則，但他們往往只關(guān)注內(nèi)部。

作為采購和供應(yīng)鏈團隊，我們的工作是將這些期望傳達給我們的供應(yīng)商合作伙伴。至少，提醒供應(yīng)商始終實施數(shù)據(jù)匿名化和加密技術(shù)，以保護敏感信息。

組建專業(yè)團隊

對許多人來說，創(chuàng)造有效的“提示”是一項關(guān)鍵的新技能，所以可以考慮培訓(xùn)團隊如何創(chuàng)造提示，甚至聘請“提示工程師”(prompt engineer)來優(yōu)化結(jié)果。

您可能還要考慮執(zhí)行程序來檢測和減輕AI數(shù)據(jù)和輸出中的偏見。這可能涉及偏見審計、公平指標(biāo)和多樣化的訓(xùn)練數(shù)據(jù)集。

討論自觸發(fā)(self-triggering)供應(yīng)中斷

哪些商品類別可能容易受到“恐慌性購買”的影響?其他市場參與者是如何應(yīng)對這一挑戰(zhàn)的?

這些都是戰(zhàn)略關(guān)注的主題，無論AI是被您的公司還是被市場上的其他買家/賣家使用，這些問題都將至關(guān)重要。作為一種預(yù)防措施，建議現(xiàn)在就開始與您的團隊進行這些類型的對話。

防護機制的未來演變

隨著技術(shù)的進步和業(yè)務(wù)實踐的改變，圍繞AI的風(fēng)險和法律限制將繼續(xù)演變?？紤]一下未來可能需要對AI功能進行哪些增強，以實現(xiàn)更高級的功能，如預(yù)測分析、更多語言的自然語言處理、偏見審計和高級欺詐檢測。

現(xiàn)在有很多關(guān)于AI的炒作，對許多采購和供應(yīng)鏈領(lǐng)域的人來說，這并不是什么新鮮事。然而，這些模型只會變得越來越好，而且改進的速度從未如此之快。如果我們在這項技術(shù)加速之前沒有進行內(nèi)部討論，形成明確的界限和具體的意圖，我們可能會被AI本身產(chǎn)生的想法和建議所困。