AI繼續(xù)成為技術(shù)聚光燈下的焦點(diǎn)，隨著我們進(jìn)入2023年最后一個(gè)季度，國際社會對利用AI的力量產(chǎn)生了廣泛的興趣，這是正確的，但在興奮和期待的同時(shí)，世界各國政府也發(fā)出了一些適當(dāng)?shù)木妫瑩?dān)心AI的所有前景和潛力都有陰暗面：它可以容易地被壞人用作惡意目的。

因此，2023年10月30日，美國總統(tǒng)喬·拜登發(fā)布了《關(guān)于安全、可靠和值得信賴的AI開發(fā)和使用的行政命令》，同時(shí)七國集團(tuán)領(lǐng)導(dǎo)人發(fā)表了一份聯(lián)合聲明，支持2023年5月的《廣島進(jìn)程國際行為準(zhǔn)則——開發(fā)先進(jìn)AI系統(tǒng)的組織》。美國的行政命令還提到了預(yù)計(jì)將于11月舉行的英國AI安全峰會，屆時(shí)世界各國領(lǐng)導(dǎo)人、科技公司和AI專家將齊聚一堂，“促進(jìn)關(guān)于AI的關(guān)鍵對話”。

了解AI將如何影響CISO的角色是關(guān)鍵

在國際社會試圖為許多人眼中的混亂帶來秩序的嘈雜聲音中，重要的是要了解AI和ML將如何影響他們的角色及其挫敗、檢測和補(bǔ)救威脅的能力。了解新政策的動向?qū)τ诤饬繎?yīng)對威脅的責(zé)任在哪里至關(guān)重要，并提供對這些政府機(jī)構(gòu)認(rèn)為的前進(jìn)道路的洞察。

CISO將得到很好的服務(wù)，以確保他們能夠了解各種工作組和咨詢委員會(例如，AISSB)，因?yàn)樗麄冎С制鋵?shí)體的發(fā)展和采用AI/ML工具。此外，鑒于全球倡議的流動性，跨國界缺乏協(xié)調(diào)是一個(gè)現(xiàn)實(shí)問題，如果指導(dǎo)方針和條例在區(qū)域內(nèi)或國家不同，可能會導(dǎo)致下游的遵約問題。

美國關(guān)于AI的行政命令

美國的這項(xiàng)行政命令建立在白宮之前參與AI的基礎(chǔ)上，并為行業(yè)和政府提供了指導(dǎo)方針。那些擁有國家安全足跡的實(shí)體應(yīng)該特別關(guān)注AI技術(shù)的兩用可能性。這項(xiàng)行政命令指出了七個(gè)重要領(lǐng)域：

• 確保安全保障。
• 保護(hù)隱私。
• 推進(jìn)公平和公民權(quán)利。
• 為消費(fèi)者和工人挺身而出。
• 促進(jìn)創(chuàng)新和競爭。
• 提升領(lǐng)導(dǎo)力。
• 確保負(fù)責(zé)任和有效地使用AI。

站在AI監(jiān)管第一線的政府機(jī)構(gòu)

美國國家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)面臨著一項(xiàng)艱巨的任務(wù)，它在社交媒體上將其描述為“機(jī)會”：“AI提供了巨大的機(jī)會，但我們也必須管理風(fēng)險(xiǎn)。[行政命令]指示NIST制定指導(dǎo)方針和最佳實(shí)踐，以促進(jìn)達(dá)成共識的行業(yè)標(biāo)準(zhǔn)，幫助確保安全、可靠和值得信賴的AI的開發(fā)和部署。”

與此同時(shí)，白宮國家網(wǎng)絡(luò)總監(jiān)辦公室在社交媒體上準(zhǔn)確地描述了它對行政命令的理解：“今天的EO為AI安全和保障、保護(hù)美國人的隱私、促進(jìn)公平和公民權(quán)利建立了新的標(biāo)準(zhǔn)-它維護(hù)消費(fèi)者和工人，促進(jìn)創(chuàng)新和競爭。”

美國國土安全部發(fā)布了自己的情況說明書，解釋了行政命令及其職責(zé)，重點(diǎn)強(qiáng)調(diào)了關(guān)鍵領(lǐng)域：

• 成立AI安全與安保咨詢委員會(AISSB)，以“支持AI負(fù)責(zé)任的發(fā)展。該委員會將匯集來自AI硬件和軟件公司、領(lǐng)先研究實(shí)驗(yàn)室、關(guān)鍵基礎(chǔ)設(shè)施實(shí)體和美國政府的杰出行業(yè)專家。”
• 努力制定AI安全和安保指南，供關(guān)鍵基礎(chǔ)設(shè)施所有者和運(yùn)營商使用。
• 利用AI的潛力來改善美國的網(wǎng)絡(luò)防御，強(qiáng)調(diào)中國國際安全局如何積極地“利用AI和ML工具進(jìn)行威脅檢測、預(yù)防和漏洞評估”。

另外，網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局在其自己的社交媒體帖子中強(qiáng)調(diào)，它將“評估與使用AI相關(guān)的潛在風(fēng)險(xiǎn)，為關(guān)鍵基礎(chǔ)設(shè)施部門提供指導(dǎo)，利用AI的潛力來改善美國的網(wǎng)絡(luò)防御，并為紅隊(duì)GenAI提供建議。”

評估AI對知識產(chǎn)權(quán)的威脅

對知識產(chǎn)權(quán)的威脅不是假設(shè)的，在行政命令中處于首要位置。為了加強(qiáng)對AI相關(guān)知識產(chǎn)權(quán)的保護(hù)，國土安全部將通過國家知識產(chǎn)權(quán)協(xié)調(diào)中心創(chuàng)建一個(gè)項(xiàng)目，幫助AI開發(fā)人員利用國土安全調(diào)查、執(zhí)法和行業(yè)合作伙伴關(guān)系來緩解與AI相關(guān)的風(fēng)險(xiǎn)。

以IBM為代表的工業(yè)界也發(fā)出了這樣的警告：“解決潛在AI安全問題的最佳方式是通過開放創(chuàng)新。一個(gè)強(qiáng)大的開源生態(tài)系統(tǒng)，擁有包括創(chuàng)建者、開發(fā)者和學(xué)者在內(nèi)的不同聲音，將有助于迅速推進(jìn)AI安全科學(xué)，促進(jìn)市場競爭。”

ChatGPT進(jìn)入消費(fèi)者手中已經(jīng)一年了，而過去的12個(gè)月完全是旋風(fēng)式的采用。CISO必須像以前建議的那樣，提出尖銳的問題，并要求支持在其產(chǎn)品中包含AI/ML的提供商提供來源和可證明的測試結(jié)果。雖然全球政府的倡議指向了正確的方向，但很明顯，最終的責(zé)任將落在CISO的肩上，以確定他們的實(shí)踐是否在正確的軌道上。