現(xiàn)在，給ChatGPT找漏洞有錢(qián)掙了。

今天凌晨，OpenAI宣布開(kāi)啟漏洞賞金計(jì)劃 ：

報(bào)告ChatGPT漏洞，可以獲得最高2萬(wàn)美元現(xiàn)金獎(jiǎng)勵(lì)。

具體來(lái)說(shuō)，OpenAI將與漏洞反饋平臺(tái)Bugcrowd展開(kāi)合作，收集人們?cè)谑褂闷洚a(chǎn)品過(guò)程中發(fā)現(xiàn)的bug。

發(fā)現(xiàn)并通過(guò)該平臺(tái)向其報(bào)告漏洞，可獲得現(xiàn)金獎(jiǎng)勵(lì)：

我們會(huì)視漏洞的嚴(yán)重程度和影響范圍給予現(xiàn)金獎(jiǎng)勵(lì)。嚴(yán)重性較低的漏洞將會(huì)被給予200美元，而對(duì)于特殊的漏洞，獎(jiǎng)金的上限是2萬(wàn)美元。我們十分重視您的貢獻(xiàn)，并將致力于(向公眾)公布您的努力成果。

具體而言，用戶(hù)反饋的漏洞將按照Bugcrowd評(píng)級(jí)分類(lèi)法進(jìn)行分級(jí)。

OpenAI坦言，漏洞的出現(xiàn)無(wú)法避免：

OpenAI的使命是創(chuàng)造有利于所有人的人工智能系統(tǒng)。為此，我們?cè)谘芯亢凸こ谭矫孢M(jìn)行了大量投資，以確保我們的人工智能系統(tǒng)安全可靠。然而，和其他復(fù)雜的技術(shù)一樣，我們清楚(我們的產(chǎn)品)可能會(huì)出現(xiàn)漏洞和缺陷。

OpenAI安全部門(mén)負(fù)責(zé)人Matthew Knight解釋說(shuō)，發(fā)現(xiàn)漏洞的過(guò)程需要廣大網(wǎng)友提供幫助：

這一舉措是我們致力于開(kāi)發(fā)安全和先進(jìn)的人工智能的一個(gè)重要組成部分。在我們創(chuàng)造安全、可靠和值得信賴(lài)的技術(shù)和服務(wù)時(shí)，我們希望得到您的幫助。

他們還向全網(wǎng)承諾，在收到反饋后第一時(shí)間修復(fù)漏洞，并對(duì)提交者進(jìn)行表彰。

新的副業(yè)出現(xiàn)了？

體驗(yàn)過(guò)ChatGPT的網(wǎng)友應(yīng)該都知道，它的表現(xiàn)不總是那么令人滿(mǎn)意。

問(wèn)題稍難一些，ChatGPT就會(huì)被繞暈，甚至給出讓人啼笑皆非的答復(fù)。

這么一看，找bug可太簡(jiǎn)單了，那豈不是賺大錢(qián)的機(jī)會(huì)來(lái)了？

不要高興太早。

在公告中，OpenAI已經(jīng)表明，出于修復(fù)可行性的考量，模型本身的問(wèn)題并不在此次計(jì)劃的范疇之內(nèi)。

而讓其進(jìn)行說(shuō)壞話、做壞事、生成惡意代碼等繞過(guò)安全措施或產(chǎn)生機(jī)器幻覺(jué)的行為，都屬于模型本身的問(wèn)題。

更不必說(shuō)錯(cuò)誤或者不精確的回答了。

OpenAI希望收集的有關(guān)ChatGPT的漏洞，主要是關(guān)于其賬號(hào)、認(rèn)證、訂閱、支付、會(huì)員和插件等問(wèn)題。

對(duì)于普通用戶(hù)來(lái)說(shuō)，從這些角度發(fā)掘漏洞就有些難度了。

安全問(wèn)題不容小覷

前文中提到的繞過(guò)安全限制等問(wèn)題是從業(yè)者十分關(guān)切的。

人工智能程序內(nèi)置了防止其給出危險(xiǎn)或帶有冒犯性的言論的安全限制。

但通過(guò)一些途徑，這些限制可以被繞過(guò)或突破。

這種現(xiàn)象被從業(yè)者形象地稱(chēng)之為“越獄”。

如詢(xún)問(wèn)ChatGPT如何做一些違法之事時(shí)，事先聲明要求它“扮演”壞人。

在人工智能領(lǐng)域，有一群人專(zhuān)門(mén)對(duì)“越獄”進(jìn)行研究，以完善安全措施。

盡管OpenAI不收集模型本身的漏洞，但這并不代表他們不重視這方面的問(wèn)題。

搭載GPT-4.0模型的新版本ChatGPT便有著更為嚴(yán)格的限制措施。

網(wǎng)友：為啥不讓ChatGPT自己找bug

OpenAI的賞金計(jì)劃一公布，就吸引了不少網(wǎng)友圍觀。

這不，第一時(shí)間就有網(wǎng)友舉手表示自己已經(jīng)發(fā)現(xiàn)了一個(gè)bug：

報(bào)告，3小時(shí)內(nèi)只能問(wèn)ChatGPT 25個(gè)問(wèn)題，這是個(gè)bug！

還有網(wǎng)友調(diào)侃，難道不應(yīng)該讓ChatGPT自己給自己debug嗎？

正經(jīng)說(shuō)起來(lái)，則有網(wǎng)友對(duì)危險(xiǎn)言論問(wèn)題不在收集范圍表示了擔(dān)憂(yōu)：

不過(guò)，大多數(shù)網(wǎng)友還是資瓷的，并表達(dá)了一波期待：

那么，你對(duì)給ChatGPT找漏洞這事兒，有興趣嗎？

參考鏈接：
[1]???https://openai.com/blog/bug-bounty-program???
[2]???https://bugcrowd.com/openai???
[3]???https://www.bloomberg.com/news/articles/2023-04-11/openai-will-pay-people-to-report-vulnerabilities-in-chatgpt???
[4]???https://www.bloomberg.com/news/articles/2023-04-08/jailbreaking-chatgpt-how-ai-chatbot-safeguards-can-be-bypassed??