上周末，人工智能領(lǐng)頭羊企業(yè)OpenAI悄悄從ChatGPT使用政策中刪除了禁止應(yīng)用于軍事用途的條款，這標(biāo)志著人工智能武器化的潘多拉盒子已經(jīng)打開。

值得注意的是，在OpenAI新政策曝光前不到一個(gè)月，美國國防部副部長希克斯在訪問加州期間曾宣稱，美國軍方與硅谷聯(lián)手是“擊敗”中國的關(guān)鍵。

過去多年，硅谷科技巨頭始終與軍方刻意保持距離，例如谷歌為了避免卷入軍火生意選擇出售軍方頗感興趣的機(jī)器人公司波士頓動(dòng)力(Boston Dynamics)。而OpenAI在推出ChatGPT后，在其使用政策中也明確表明禁止用于軍事目的。

但是隨著近年硅谷新冷戰(zhàn)思維和“技術(shù)民族主義”的盛行，一些科技巨頭陸續(xù)放棄與美國政治/軍方保持距離的傳統(tǒng)立場，以此降低政治成本。

打開了AI武器化的潘多拉盒子

1月10日，媒體The Intercept發(fā)現(xiàn)OpenAI在“使用政策”頁面中刪除了包括“禁止用于高度人身傷害風(fēng)險(xiǎn)的活動(dòng)”以及“軍事和戰(zhàn)爭”的內(nèi)容。

新版“使用政策”雖然保留了“不得使用我們的服務(wù)傷害自己或他人，例如開發(fā)或使用武器”的禁令，但這更像是針對(duì)個(gè)人行為的限制，而對(duì)“軍事和戰(zhàn)爭”的全面禁令已經(jīng)被OpenAI刪除。

OpenAI悄悄修改人工智能“使用政策”的做法引發(fā)了業(yè)界的廣泛猜測，OpenAI發(fā)言人Niko Felix在給The Intercept的電子郵件中含混地表示：“我們的目標(biāo)是創(chuàng)建一套易于記憶和應(yīng)用的通用原則。”但是，F(xiàn)elix拒絕透露模糊的“傷害”禁令是否涵蓋所有軍事用途。

事實(shí)上，決定一場戰(zhàn)爭走勢的，并非武器開發(fā)或使用，而是戰(zhàn)場情報(bào)處理能力。而這，正是OpenAI避而不談的人工智能最具毀滅性的軍事應(yīng)用。

網(wǎng)絡(luò)安全公司Trail of Bits的工程總監(jiān)、機(jī)器學(xué)習(xí)和自主系統(tǒng)安全專家Heidy Khlaaf指出：“OpenAI非常清楚在軍事應(yīng)用中使用ChatGPT技術(shù)和服務(wù)可能產(chǎn)生的風(fēng)險(xiǎn)和危害。”Khlaaf在2022年與OpenAI的研發(fā)人員合著的一篇論文特別強(qiáng)調(diào)了AI技術(shù)在軍事領(lǐng)域的風(fēng)險(xiǎn)。

Khlaaf補(bǔ)充說，OpenAI的新政策更強(qiáng)調(diào)合法性而不是安全性：“新舊政策之間存在明顯區(qū)別，舊政策明確規(guī)定禁止武器開發(fā)、軍事和戰(zhàn)爭應(yīng)用，而新政策則強(qiáng)調(diào)靈活性和遵守法律。”“新政策對(duì)人工智能安全的潛在影響是巨大的，因?yàn)殚_發(fā)武器以及開展軍事和戰(zhàn)爭活動(dòng)在不同程度上來說都是合法的。鑒于大語言模型(LLM)存在眾所周知的偏見和幻覺，并且總體上缺乏準(zhǔn)確性，在軍事戰(zhàn)爭中的使用會(huì)導(dǎo)致不精確和有偏見的行動(dòng)，可能會(huì)加劇傷害和平民傷亡。”

顯然，OpenAI新政策已經(jīng)“半推半就”地打開了大語言模型武器化的潘多拉盒子。去年，The Intercept曾報(bào)道五角大樓和美國情報(bào)界對(duì)ChatGPT的興趣日益濃厚，但當(dāng)時(shí)OpenAI不愿透露是否會(huì)執(zhí)行明確的“軍事和戰(zhàn)爭”禁令。

AI Now董事總經(jīng)理，前美聯(lián)儲(chǔ)AI政策分析師莎拉·邁爾斯·韋斯特(Sarah Myers West)表示：“鑒于人工智能系統(tǒng)已經(jīng)在加沙沖突中被用于針對(duì)平民，OpenAI選擇在此時(shí)從使用政策中刪除‘軍事和戰(zhàn)爭’顯得尤為耐人尋味和影響重大。新政策的措辭含糊不清，引發(fā)了業(yè)界對(duì)OpenAI是否打算執(zhí)行軍事禁令的廣泛質(zhì)疑。”

不用直接殺人也能左右戰(zhàn)局

雖然目前OpenAI的人工智能產(chǎn)品還無法用于直接殺人，例如ChatGPT還無法操縱無人機(jī)或發(fā)射導(dǎo)彈。但是像ChatGPT這樣的大語言模型可以極大增強(qiáng)軍事殺戮機(jī)器的威力，例如快速編寫代碼、處理情報(bào)、增強(qiáng)指揮控制系統(tǒng)和生成軍事采購訂單。對(duì)OpenAI提供的ChatGPT定制機(jī)器人的審查報(bào)告表明，美國軍事人員已經(jīng)開始使用這項(xiàng)技術(shù)提高文書工作的效率。

此外，為美軍作戰(zhàn)提供地理空間情報(bào)的美國國家地理空間情報(bào)局(NGA)已公開討論使用ChatGPT來協(xié)助人類分析師的可能性。美軍各作戰(zhàn)單元高度依賴NGA的地理情報(bào)和數(shù)據(jù)執(zhí)行諸如尋找直升機(jī)著陸區(qū)、戰(zhàn)場監(jiān)視、目標(biāo)定位、損害評(píng)估等任務(wù)，而ChatGPT顯然可以大大加快軍事作戰(zhàn)單元獲取地理情報(bào)的速度。因此，即便OpenAI的工具被軍隊(duì)部署用于非直接暴力目的，仍然會(huì)大大提升軍隊(duì)的戰(zhàn)斗力和殺傷力。

蘭卡斯特大學(xué)科學(xué)技術(shù)人類學(xué)博士和名譽(yù)教授Lucy Suchman認(rèn)為：“從‘軍事和戰(zhàn)爭’到‘武器’的概念切換為OpenAI打開了參與戰(zhàn)爭基礎(chǔ)設(shè)施的空間，只要不直接參與狹義的武器開發(fā)，其余(例如指揮控制系統(tǒng))都是AI大展拳腳的領(lǐng)域”。Suchman是20世紀(jì)70年代以來的知名人工智能學(xué)者，也是國際機(jī)器人武器控制委員會(huì)成員，他補(bǔ)充道：“新政策片面強(qiáng)調(diào)武器，刻意回避了軍事承包和作戰(zhàn)行動(dòng)問題，一切不言自明。”

Suchman和MyersWest還特別提及了OpenAI的投資者和合作者微軟公司是美國主要國防承包商之一。微軟迄今為止已向OpenAI投資了130億美元，并轉(zhuǎn)售該公司的軟件工具。

Intercept指出，OpenAI為AI武器化“開后門”的做法并不令人意外，因?yàn)槿蚋鲊能婈?duì)都渴望采用機(jī)器學(xué)習(xí)技術(shù)來獲得優(yōu)勢。五角大樓也在試探性地探索如何使用ChatGPT或其他大型語言模型，這些模型可接受大量書籍資料、手冊(cè)、文章和其他網(wǎng)絡(luò)數(shù)據(jù)的培訓(xùn)，以便模擬人類對(duì)用戶提示的反應(yīng)。盡管像ChatGPT這樣的大語言模型的輸出結(jié)果通常非常令人信服，但它們是針對(duì)連貫性而不是對(duì)現(xiàn)實(shí)的準(zhǔn)確把握而優(yōu)化的，因此經(jīng)常出現(xiàn)所謂的機(jī)器幻覺，導(dǎo)致準(zhǔn)確性和真實(shí)性出現(xiàn)問題。

盡管如此，大語言模型快速攝取文本并快速輸出分析(或至少是分析的模擬)的能力非常適合數(shù)據(jù)密集型的國防部。

大語言模型的十大軍事用例

盡管美國軍方一些高級(jí)官員表達(dá)了對(duì)機(jī)器幻覺和錯(cuò)誤的憂慮，以及使用ChatGPT分析機(jī)密或其他敏感數(shù)據(jù)可能帶來的安全風(fēng)險(xiǎn)，五角大樓仍然渴望大范圍采用人工智能工具。美國防部副部長凱瑟琳·希克斯(Kathleen Hicks)在去年11月的講話中表示，開啟人工智能是“我和勞埃德·奧斯汀部長從第一天起就一直在推動(dòng)的以作戰(zhàn)人員為中心的全面創(chuàng)新方法的關(guān)鍵任務(wù)”。

去年，五角大樓可信人工智能和自主事務(wù)首席主任金伯利·薩布隆(Kimberly Sablon)在夏威夷舉行的一次會(huì)議上也表示：“(ChatGPT)等大語言模型將為整個(gè)軍事領(lǐng)域帶來大量顛覆性的功能。”

美國軍方覬覦的大語言模型十大軍事用例如下：

1. 情報(bào)分析與處理：LLMs能夠快速處理和分析大量文本數(shù)據(jù)，如情報(bào)報(bào)告、通訊攔截和公開源信息，以提取關(guān)鍵信息和模式。自動(dòng)生成軍事行動(dòng)報(bào)告、情況簡報(bào)和其他官方文檔。
2. 模擬、戰(zhàn)術(shù)規(guī)劃和演習(xí)：利用大語言模型進(jìn)行戰(zhàn)術(shù)和戰(zhàn)略模擬，可以幫助軍事規(guī)劃者評(píng)估不同沖突情景的可能結(jié)果，并優(yōu)化戰(zhàn)術(shù)部署。
3. 輿情分析與心理戰(zhàn)：分析社交媒體和網(wǎng)絡(luò)上的公眾輿情，用于心理戰(zhàn)和宣傳戰(zhàn)略。在心理戰(zhàn)和信息操作領(lǐng)域，大語言模型可以用于創(chuàng)建針對(duì)性的宣傳材料，分析敵方的公共信息以判斷其意圖。
4. 語言翻譯與交流：LLMs可以實(shí)時(shí)翻譯和解碼多種語言，包括少數(shù)民族和區(qū)域性語言，這在軍事情報(bào)收集和國際部隊(duì)協(xié)作中非常重要。
5. 訓(xùn)練和培訓(xùn)：大語言模型可以用于創(chuàng)建和管理在線軍事教育和培訓(xùn)課程，提供定制化學(xué)習(xí)體驗(yàn)和自動(dòng)評(píng)估。
6. 威脅識(shí)別：利用先進(jìn)的數(shù)據(jù)分析能力快速識(shí)別威脅并進(jìn)行優(yōu)先級(jí)分類。
7. 預(yù)測分析：通過分析歷史數(shù)據(jù)和當(dāng)前情報(bào)，預(yù)測敵方行動(dòng)或地緣政治事件。
8. 無人系統(tǒng)指令與控制：用于指揮和控制無人機(jī)、無人地面車輛等無人系統(tǒng)。
9. 戰(zhàn)術(shù)優(yōu)化與路徑規(guī)劃：利用模型分析戰(zhàn)場地形和敵方部署，為部隊(duì)行動(dòng)提供最佳路徑和戰(zhàn)術(shù)建議。
10. 衛(wèi)星圖像與空間數(shù)據(jù)分析：分析來自衛(wèi)星的圖像和空間數(shù)據(jù)，以支持偵察和監(jiān)視任務(wù)。