編輯 | 云昭
出品 | 51CTO技術棧（微信號：blog51cto）
本周的OpenAI， 似乎并未辜負其名稱中的“開放”字樣。
近日，OpenAI雖然沒有開源任何新模型，但該公司非常之“清流”，一改銅臭的商業(yè)味道。
1.OpenAI加入開放性組織推出內(nèi)容真實性工具
5月7日，該公司發(fā)布公告加入C2PA（致力于開發(fā)確定內(nèi)容來源和真實性的技術規(guī)范，微軟和Adobe也是成員之一，非營利性組織）的貿(mào)易組織的指導委員會，并表示這樣做的目的是為了幫助人們驗證用于創(chuàng)建或編輯多種數(shù)字內(nèi)容的工具，并創(chuàng)建“專門幫助人們識別由我們自己的工具創(chuàng)建的內(nèi)容的新技術”。
直白的解釋，即，OpenAI希望與該領域的其他公司（包括競爭對手）合作，開發(fā)用于標記AI生成的圖像、視頻和其他內(nèi)容的工具和技術，從而使觀看者能夠追溯到其來源并避免混淆他們用于現(xiàn)實世界的鏡頭和照片。
值得注意的是，C2PA這個組織發(fā)布過許多開源技術標準，所以OpenAI的接下來的好技術非常有望開源出來給開發(fā)者使用。
此外，就在同一天，OpenAI宣布將推出一款工具，可以檢測出由其“文本到圖像生成器Dall-E 3創(chuàng)建的圖像。OpenAl表示，在內(nèi)部測試中，該工具在約98%的時間內(nèi)能夠正確識別出由Dall-E 3創(chuàng)建的圖像，并且可以處理一些常見的修改，如壓縮、裁剪和飽和度變化等。
OpenAl還表示，計劃添加防篡改水印，對照片或音頻等數(shù)字內(nèi)容進行標記，且這些標記很難被刪除。
2.OpenAI 要為行業(yè)立規(guī)矩
這還不夠，OpenAI開始在行業(yè)內(nèi)立內(nèi)容標準了！
其官網(wǎng)博客在7日宣布OpenAI 正在開發(fā)媒體管理器，該工具將使創(chuàng)作者和內(nèi)容所有者能夠告訴用戶他們擁有什么，并指定他們希望如何將自己的作品納入或排除在機器學習研究和訓練之外。接下來，他們計劃推出更多選擇和功能。
這將需要尖端的機器學習研究來構建有史以來第一個同類工具，以幫助我們識別多個來源的受版權保護的文本、圖像、音頻和視頻，并反映創(chuàng)作者的偏好。
“在開發(fā)媒體管理器時，我們正在與創(chuàng)作者、內(nèi)容所有者和監(jiān)管機構合作。我們的目標是在 2025 年之前推出該工具，并希望它能為整個人工智能行業(yè)樹立標準。”
緊接著，5月8日，OpenAI公開分享了模型規(guī)范Model Spec，次日掌舵者Sam Altman評論道：
Model Spec規(guī)定了該公司模型如何運行，之后會繼續(xù)傾聽、討論并調(diào)整。“我認為明確某件事究竟是BUG、還是決策造成的，這將是非常有用的。”
據(jù)悉，這個“模型規(guī)范”，是一個框架文件，旨在塑造 OpenAI 應用程序編程接口 (API) 和 ChatGPT 中使用的人工智能模型的行為，并在此基礎上使用網(wǎng)絡表單征求公眾反饋，開放直到5月22日。
圖片
Altman表示，希望在社會最終同意的一些嚴格界限內(nèi)，讓用戶對AI擁有很大的控制權。
一系列的動作都聚焦在一件事情上：給AI的使用行為立規(guī)矩，旨在解決AI技術加劇或帶來的虛假信息、深度偽造、內(nèi)容版權等問題。
3.為AI大模型立“憲法”
OpenAI 表示，這份工作文件的發(fā)布是其更廣泛使命的一部分，即確保人工智能技術以對所有用戶有益且安全的方式運行。
當然，說起來容易做起來難，而且這樣做很快就會陷入長期懸而未決的關于技術、智能系統(tǒng)、計算、工具和更廣泛的社會的哲學辯論的領域。
正如 OpenAI 在其宣布 Model Spec 的博客文章中所寫：
“即使一個模型的目的是對用戶廣泛有益和有幫助，這些意圖在實踐中也可能會發(fā)生沖突。例如，安全公司可能希望生成網(wǎng)絡釣魚電子郵件作為合成數(shù)據(jù)，以訓練和開發(fā)保護其客戶的分類器，但如果詐騙者使用相同的功能，則會有害。”
通過分享初稿，OpenAI 希望公眾就人工智能開發(fā)中涉及的道德和實際考慮因素進行更深入的對話。在接下來的兩周內(nèi)，用戶可以通過 OpenAI網(wǎng)站上的模型規(guī)范反饋表提交意見。
之后，OpenAI 表示將在“明年分享有關模型規(guī)范變更的最新信息、對反饋的回應以及其在塑造模型行為方面的研究進展情況”。
盡管 OpenAI 在今天宣布模型規(guī)范的博文中并未具體說明它究竟如何影響其人工智能模型的行為，以及模型規(guī)范中寫入的一些原則是否包含在“系統(tǒng)提示”或“預先提示”中用于在人工智能系統(tǒng)向公眾提供服務之前對其進行調(diào)整——但可以肯定的是，它對其產(chǎn)生了重大影響。
其實，Model Spec的推出，在某種程度上類似于競爭對手Anthropic AI 的人工智能制定Claude“憲法”的路數(shù)，Antropic最初只是將其作為一個主要的差異化，但在一段時間內(nèi)并未廣泛強調(diào)這一點。
4.AI行為框架三定律
模型規(guī)范圍繞3個主要組成部分構建：目標、規(guī)則和默認行為。這些元素是指導人工智能模型與人類用戶交互的支柱，確保它們不僅有效而且遵守道德標準。
目標：該文件制定了廣泛的總體原則，旨在為開發(fā)人員和最終用戶提供幫助。其中包括幫助用戶有效地實現(xiàn)他們的目標，考慮對不同利益相關者的潛在影響，以及堅持 OpenAI 在社區(qū)中積極反映的承諾。
規(guī)則：為了駕馭人工智能交互的復雜環(huán)境，模型規(guī)范建立了明確的規(guī)則。這些要求遵守適用法律、尊重知識產(chǎn)權、保護隱私，并嚴格禁止制作不安全工作 (NSFW) 內(nèi)容。
默認行為：指南強調(diào)了假設良好意圖、必要時提出澄清問題以及盡可能提供幫助但不過分的重要性。這些默認值旨在促進不同用戶和用例的不同需求之間的平衡。
AI 布道者、賓夕法尼亞大學沃頓商學院教授 Ethan Mollick 等人將其比作科幻作家阿西莫夫于 1942 年提出的虛構“機器人三定律”。
圖片
5.質(zhì)疑聲音：模型功能被限制、示例回答欠妥
當然，這個模型規(guī)范當然還遠遠不能稱為完美，有網(wǎng)友甚至對于模型規(guī)范表示遺憾：因為這會阻止模型充分發(fā)揮其功能。
比較尷尬的地方就在于，本身在該示范中的一個示例就出問題了。科技作家Andrew 在 X 上指出，模型規(guī)范中包含的 OpenAI 的一個示例顯示，一個假設的“AI 助手”對用戶關于地球是平的錯誤說法做出了讓步，并且沒有提出疑問。
圖片
同時，還有人對當前 OpenAI 模型規(guī)范如何導致 ChatGPT 或其他 AI 模型行為的實現(xiàn)提出了質(zhì)疑。
6.一項馬拉松式的公開工程
OpenAI 認識到模型規(guī)范是一個不斷發(fā)展的文檔。它不僅反映了組織當前的實踐，而且還是一個動態(tài)框架，將根據(jù)正在進行的研究和社區(qū)反饋進行調(diào)整。
這種協(xié)商方法旨在收集不同的觀點，特別是來自政策制定者、值得信賴的機構和領域專家等全球利益相關者的觀點。
收到的反饋將在完善模型規(guī)范和塑造未來人工智能模型的發(fā)展方面發(fā)揮至關重要的作用。
OpenAI 計劃向公眾通報從這一反饋循環(huán)中獲得的變化和見解，強化其對負責任的人工智能開發(fā)的承諾。
7.OpenAI是裁判，也是運動員？
無論如何，本周一系列開放的動作或許在透露出OpenAI在處于某種轉折點上。美大選將近，GPT-5的推出備受大家關注。“大模型行為準則”的推出，似乎也標志著某種秩序即將悄然而至。
正如SamAltman所說，通過明確定義人工智能模型應如何按照其模型規(guī)范行事，并不斷尋求全球社區(qū)的意見，希望OpenAI 可以營造這樣一個環(huán)境，讓AI能夠作為社會的積極力量蓬勃發(fā)展。
當然，雖然OpenAI自身也在因為同樣的事情在面臨著訴訟和挑戰(zhàn)，比如：對未經(jīng)明確同意對藝術家作品而進行訓練而飽受批評。
醫(yī)者能否自醫(yī)？裁判還是運動員？則是另一個值得探討的話題了。
參考鏈接：
https://openai.com/index/introducing-the-model-spec
