編輯 | 伊風(fēng)

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

OpenAI又被曝違約了！這次是違反了對(duì)白宮的安全承諾。

去年夏天，OpenAI向美國(guó)政府承諾，將嚴(yán)格對(duì)其前沿的突破性技術(shù)進(jìn)行安全測(cè)試，以確保AI不會(huì)造成損害，比如教用戶制造生化武器或幫助黑客開發(fā)新型網(wǎng)絡(luò)攻擊。

然而，為了應(yīng)對(duì)OpenAI領(lǐng)導(dǎo)層設(shè)定的GPT-4o mni 5月份的“deadline”。OpenAI的安全團(tuán)隊(duì)中的一些成員感到壓力，并“加快”了對(duì)新模型的安全測(cè)試過(guò)程。

根據(jù)三位熟悉情況但因害怕被報(bào)復(fù)的匿名人士透露，在模型GPT-4o mni的測(cè)試開始之前，OpenAI就已經(jīng)在舉辦產(chǎn)品發(fā)布的慶功宴了！員工被邀請(qǐng)?jiān)贠penAI的舊金山辦公室中舉辦產(chǎn)品的慶祝派對(duì)。

根據(jù)其中一個(gè)舉報(bào)者說(shuō)：“他們?cè)诓恢繥PT-4o mni是否安全發(fā)布之前就計(jì)劃了發(fā)布后的派對(duì)。”這位人士在匿名討論敏感公司信息時(shí)表示：“我們基本上在這個(gè)（確保AI安全的）過(guò)程中失敗了。”

OpenAI搶發(fā)產(chǎn)品也算是老傳統(tǒng)了。此前，OpenAI前董事會(huì)成員曾在采訪中透露，奧特曼沒有報(bào)告董事會(huì)，就直接發(fā)布了ChatGPT。而當(dāng)時(shí)的董事會(huì)成員甚至是瀏覽X才得到了該消息。

為了能進(jìn)一步約束OpenAI的安全行為，保障前沿AI巨頭可以將公共安全放在商業(yè)利益之上，參議院的民主黨人和一名獨(dú)立議員已公開致信奧特曼，犀利質(zhì)問(wèn)公司在對(duì)待批評(píng)者方面的安全標(biāo)準(zhǔn)和實(shí)踐。

圖片

完整文件地址：https://www.schatz.senate.gov/imo/media/doc/letter_to_openai.pdf

這封信件中最重要的部分之一（最先由《華盛頓郵報(bào)》獲得）是第9項(xiàng)內(nèi)容：“OpenAI是否承諾將其下一個(gè)基礎(chǔ)模型提供給美國(guó)政府機(jī)構(gòu)進(jìn)行預(yù)部署測(cè)試、審查、分析和評(píng)估？”

信中列出了另外11個(gè)需要解決的要點(diǎn)，包括確保OpenAI承諾將其計(jì)算能力的20%用于安全研究，以及制定防止惡意行為者或外國(guó)對(duì)手竊取OpenAI產(chǎn)品的協(xié)議。

以下是信中12個(gè)問(wèn)題的完整內(nèi)容：

1.OpenAI是否計(jì)劃遵守其先前公開承諾，將其計(jì)算資源的20%用于AI安全研究？

a.如果是，請(qǐng)描述OpenAI已經(jīng)采取的、正在采取的或?qū)⒉扇〉牟襟E，以將其計(jì)算資源的20%用于AI安全研究。

b. 如果不是，OpenAI用于AI安全研究的計(jì)算資源比例是多少？

2. 您能否確認(rèn)貴公司不會(huì)對(duì)現(xiàn)任和前任員工執(zhí)行永久性的非貶損協(xié)議？

3. 您能否進(jìn)一步承諾從雇傭協(xié)議中刪除任何可能用來(lái)懲罰公開提出公司實(shí)踐問(wèn)題的員工的條款，例如防止員工在私人“要約收購(gòu)”事件中出售其股權(quán)的能力？

a. 如果不能，請(qǐng)解釋原因，并說(shuō)明任何內(nèi)部保護(hù)措施，以確保這些條款不會(huì)被用來(lái)在經(jīng)濟(jì)上阻止告密者。

4. OpenAI是否有程序讓員工提出有關(guān)網(wǎng)絡(luò)安全和安全的問(wèn)題？這些問(wèn)題提出后如何處理？

a. OpenAI員工是否提出過(guò)對(duì)公司網(wǎng)絡(luò)安全實(shí)踐的擔(dān)憂？

5. OpenAI現(xiàn)有或計(jì)劃實(shí)施哪些安全和網(wǎng)絡(luò)安全協(xié)議，以防止惡意行為者或外國(guó)對(duì)手竊取AI模型、研究或知識(shí)產(chǎn)權(quán)？

6. OpenAI供應(yīng)商行為準(zhǔn)則要求您的供應(yīng)商實(shí)施嚴(yán)格的非報(bào)復(fù)政策，并為告密者提供報(bào)告問(wèn)題的渠道，而無(wú)需擔(dān)心報(bào)復(fù)。OpenAI本身是否遵循這些做法？

a. 如果是，請(qǐng)描述OpenAI的非報(bào)復(fù)政策和告密者報(bào)告渠道，以及這些渠道向誰(shuí)報(bào)告。

7. OpenAI是否允許獨(dú)立專家在發(fā)布前測(cè)試和評(píng)估OpenAI系統(tǒng)的安全性和可靠性？

8. 公司目前是否計(jì)劃在其安全和安全測(cè)試、評(píng)估程序、流程和技術(shù)以及治理結(jié)構(gòu)（如其安全和安全委員會(huì)）中，邀請(qǐng)獨(dú)立專家參與安全和負(fù)責(zé)任的AI開發(fā)？

9. OpenAI是否承諾將其下一個(gè)基礎(chǔ)模型提供給美國(guó)政府機(jī)構(gòu)進(jìn)行預(yù)部署測(cè)試、審查、分析和評(píng)估？

10.OpenAI的發(fā)布后監(jiān)控實(shí)踐是什么？在最近發(fā)布的大型語(yǔ)言模型部署后，您的團(tuán)隊(duì)觀察到了哪些誤用模式和安全風(fēng)險(xiǎn)？這些風(fēng)險(xiǎn)必須達(dá)到多大規(guī)模，您的監(jiān)控實(shí)踐才有很大可能性捕捉到它們？請(qǐng)分享您的團(tuán)隊(duì)在發(fā)布后測(cè)量中的經(jīng)驗(yàn)教訓(xùn)，以及為改進(jìn)您的政策、系統(tǒng)和模型更新而采取的步驟。

11.您計(jì)劃向公眾提供已部署模型的回顧性影響評(píng)估嗎？

12.請(qǐng)?zhí)峁┯嘘P(guān)OpenAI計(jì)劃如何實(shí)現(xiàn)其對(duì)拜登-哈里斯政府的自愿安全和安全承諾的文件。

參考鏈接：

1.https://www.washingtonpost.com/technology/2024/07/12/openai-ai-safety-regulation-gpt4/

2.https://www.schatz.senate.gov/imo/media/doc/letter_to_openai.pdf

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：伊風(fēng)