在 ChatGPT 引爆科技圈之后，人們對(duì)于先進(jìn)技術(shù)產(chǎn)生了更多期待，但一直有專家警告 AI 可能造成的危害。我們知道，OpenAI 的使命是確保通用人工智能 —— 比人類更聰明的 AI 系統(tǒng)，能夠造福全人類。本周五，這家公司發(fā)布了「AGI 路線圖」，詳細(xì)解釋了這家前沿研究機(jī)構(gòu)對(duì)通用人工智能研究的態(tài)度。

在路線圖中，OpenAI 對(duì)新技術(shù)的發(fā)展有了更加謹(jǐn)慎的態(tài)度，這可能意味著以后用戶和應(yīng)用范圍會(huì)受到更嚴(yán)密的監(jiān)控和限制。讓我們看看 OpenAI 是怎么說(shuō)的：

如果通用人工智能（AGI）最終被成功構(gòu)建起來(lái)，這項(xiàng)技術(shù)不僅可以帶來(lái)更多可能性，推動(dòng)全球經(jīng)濟(jì)發(fā)展，也能改變新興科學(xué)知識(shí)的發(fā)現(xiàn)，會(huì)從各種角度幫助人類提升生活水平。

AGI 有潛力賦予每個(gè)人不可思議的新能力。我們可以想象這樣一個(gè)世界，在其中，所有人都可以獲得幾乎所有認(rèn)知任務(wù)的幫助，它或許是人類才智和創(chuàng)造力的巨大力量倍增器。

但另一方面，正如一些人所擔(dān)心的，通用人工智能也會(huì)帶來(lái)嚴(yán)重的濫用、嚴(yán)重事故和社會(huì)混亂的風(fēng)險(xiǎn)。由于 AGI 的好處如此之大，我們不能認(rèn)為讓社會(huì)永遠(yuǎn)停止其發(fā)展是可取的方向，相反，社會(huì)和 AGI 的開發(fā)者必須要想辦法把它做好。

與通用人工智能共同生活的未來(lái)圖景難以預(yù)測(cè)，當(dāng)前的 AI 進(jìn)展可能會(huì)遭遇新的挑戰(zhàn)，但在 ChatGPT 獲得成功的當(dāng)下，OpenAI 列出了我們最關(guān)心的幾項(xiàng)原則：

1. 我們希望通用人工智能使人類能夠在宇宙中實(shí)現(xiàn)最大程度的繁榮。我們不希望未來(lái)成為一個(gè)虛假的烏托邦，但我們希望將技術(shù)好的一面最大化，壞的一面最小化，讓 AGI 成為人類善意的放大器。

2. 我們希望 AGI 的益處、接入和治理能得到廣泛和公平的分享。

3. 我們要正確應(yīng)對(duì)潛在風(fēng)險(xiǎn)。在面對(duì)這些風(fēng)險(xiǎn)時(shí)，理論上似乎正確的事情在實(shí)踐中往往比預(yù)期更難以控制。我們必須通過(guò)部署功能較弱的技術(shù)版本來(lái)不斷學(xué)習(xí)和適應(yīng)，以最大程度地減少「無(wú)可挽回」的情況。

短期目標(biāo)

OpenAI 認(rèn)為，若為通用人工智能的發(fā)展做準(zhǔn)備，有幾件事要先做好。

首先，隨著我們不斷構(gòu)建出更為強(qiáng)大的 AI 系統(tǒng)，我們必然希望快速部署 AGI 并獲得在現(xiàn)實(shí)世界中操作它們的經(jīng)驗(yàn)。謹(jǐn)慎管理 AGI 存在的最佳方式應(yīng)該是逐漸過(guò)渡到 AGI 的世界。我們期望強(qiáng)大的 AI 能夠加快世界進(jìn)步的速度，OpenAI 認(rèn)為最好是逐步適應(yīng)這一點(diǎn)。

漸進(jìn)的方式讓人們、政策制定者和機(jī)構(gòu)能有時(shí)間了解正在發(fā)生的事情，親身體驗(yàn)這些系統(tǒng)的好處和缺點(diǎn)，調(diào)整我們的經(jīng)濟(jì)組織形式，并實(shí)施有效監(jiān)管。漸進(jìn)的方式還允許社會(huì)和 AI 共同進(jìn)化，并允許人們?cè)陲L(fēng)險(xiǎn)相對(duì)較低的情況下共同弄清楚自身所需。

OpenAI 目前認(rèn)為，成功應(yīng)對(duì) AI 部署挑戰(zhàn)的最佳方法是采用快速學(xué)習(xí)和謹(jǐn)慎迭代的緊密反饋循環(huán)。在新技術(shù)的沖擊下，社會(huì)將面臨「人工智能系統(tǒng)被允許做什么、如何消除偏見、如何處理工作崗位流失」等重大問(wèn)題。最佳決策將取決于技術(shù)所采用的路徑，并且與任何新領(lǐng)域一樣，到目前為止，大多數(shù)的專家預(yù)測(cè)都是存在偏差的。這使得在預(yù)期外進(jìn)行規(guī)劃會(huì)非常困難。

一般來(lái)說(shuō)，我們認(rèn)為在世界上更多地使用 AI 會(huì)帶來(lái)好處，并希望推廣它（通過(guò)將模型放入服務(wù) API 中，將它們開源等等）。OpenAI 相信，開放的訪問(wèn)也將導(dǎo)致更多更好的研究，吸引更多的人貢獻(xiàn)新的想法。

OpenAI 表示，隨著其開發(fā)的系統(tǒng)越來(lái)越接近 AGI，該機(jī)構(gòu)在模型的創(chuàng)建和部署方面都變得越來(lái)越謹(jǐn)慎。

OpenAI 需要權(quán)衡部署大模型的利弊。一方面，部署先進(jìn)的大模型是重要的科技進(jìn)展；另一方面，部署模型之后，公司和機(jī)構(gòu)也需要考慮如何限制惡意行為者、避免對(duì)社會(huì)和經(jīng)濟(jì)造成不良影響等問(wèn)題。在這種情況下，OpenAI 表示將圍繞持續(xù)部署來(lái)改進(jìn)其規(guī)劃。

其次，OpenAI 正在努力創(chuàng)建更加一致和可控的模型。從 GPT-3 的第一個(gè)版本到 InstructGPT 和 ChatGPT，這一步步的轉(zhuǎn)變就是 OpenAI 在這個(gè)方向上努力的例子。

值得注意的是，OpenAI 認(rèn)為有一點(diǎn)非常重要，就是人類社會(huì)需要就如何使用人工智能達(dá)成極其廣泛的界限，而在這些界限內(nèi)，個(gè)人用戶有很大的自由使用權(quán)。OpenAI 希望最終世界能夠就這些廣泛的界限達(dá)成一致。

隨著模型變得更強(qiáng)大，OpenAI 將需要開發(fā)新的對(duì)齊技術(shù)。OpenAI 的短期計(jì)劃是使用 AI 來(lái)幫助人類評(píng)估更復(fù)雜模型的輸出并監(jiān)控復(fù)雜系統(tǒng)，而從長(zhǎng)遠(yuǎn)來(lái)看，OpenAI 將會(huì)使用 AI 來(lái)幫助其提出新的想法以獲得更好的對(duì)齊技術(shù)。

重要的是，我們需要在人工智能安全和能力方面共同取得進(jìn)展，這二者不應(yīng)該分開談?wù)摗penAI 表示其最安全的工作來(lái)自于其最有能力的模型。也就是說(shuō)，提高人工智能的安全性對(duì) AI 研究進(jìn)步非常重要。

第三，OpenAI 希望就三個(gè)關(guān)鍵問(wèn)題展開全球?qū)υ挘喝绾沃卫磉@些系統(tǒng)，如何公平分配它們產(chǎn)生的收益，以及如何公平共享訪問(wèn)權(quán)限。

除了這些，OpenAI 還提到在該公司的章程中有一個(gè)條款是關(guān)于協(xié)助其他組織提高安全性，而不是在后期 AGI 開發(fā)中與對(duì)手競(jìng)爭(zhēng)。OpenAI 投資規(guī)則中對(duì)股東可以獲得的回報(bào)設(shè)定了上限，這樣研究機(jī)構(gòu)本身就不會(huì)被激勵(lì)去嘗試無(wú)限制地獲取價(jià)值，也不會(huì)冒險(xiǎn)部署具有潛在災(zāi)難性危險(xiǎn)的東西。

OpenAI 被一個(gè)非營(yíng)利組織管理，以保證該機(jī)構(gòu)是為人類的利益而運(yùn)行（并且可以凌駕于任何營(yíng)利利益之上）。

OpenAI 認(rèn)為在發(fā)布新系統(tǒng)之前進(jìn)行獨(dú)立審查是 AGI 研究非常重要的一步。關(guān)于 AGI 工作應(yīng)何時(shí)停止訓(xùn)練、確定模型可以安全發(fā)布或從生產(chǎn)使用中撤出模型的公共標(biāo)準(zhǔn)是很重要的。最后，OpenAI 認(rèn)為世界主要政府應(yīng)對(duì)超過(guò)一定規(guī)模的機(jī)器學(xué)習(xí)訓(xùn)練保持監(jiān)管。

長(zhǎng)遠(yuǎn)目標(biāo)

OpenAI 相信人類的未來(lái)應(yīng)該由人類自己決定，與公眾分享有關(guān)進(jìn)步的信息至關(guān)重要。我們應(yīng)該對(duì)所有試圖建立 AGI 的努力進(jìn)行嚴(yán)格審查，并在重大決策上面向公眾進(jìn)行咨詢。

從某種意義上說(shuō)，第一個(gè) AGI 將只是人工智能持續(xù)發(fā)展中的一個(gè)小節(jié)點(diǎn)，然后從這個(gè)節(jié)點(diǎn)開始不斷衍生出新的進(jìn)展。AI 的發(fā)展可能會(huì)在很長(zhǎng)一段時(shí)間內(nèi)保持我們?cè)谶^(guò)去十年中看到的進(jìn)展速度。

有一天，世界可能會(huì)變得與今天截然不同，但科技的進(jìn)步也可能帶給人類很大的風(fēng)險(xiǎn)。一個(gè)「錯(cuò)位的」超級(jí)智能 AGI 可能會(huì)對(duì)世界造成嚴(yán)重的傷害。

加速科學(xué)發(fā)展的人工智能將是一個(gè)值得思考的特例，這也許比其他任何事情都更有影響力。有足夠能力加速自身進(jìn)步的 AGI 可能會(huì)導(dǎo)致世界發(fā)生重大變化。也許 AGI 的發(fā)展在初期是比較緩慢的，但 OpenAI 預(yù)計(jì)給世界帶來(lái)巨大變化的 AGI 在最后階段一定會(huì)出現(xiàn)。

基于上述原因，OpenAI 認(rèn)為 AGI 領(lǐng)域較慢的啟動(dòng)速度更容易確保安全，并且 AGI 在關(guān)鍵時(shí)刻減速可能也很重要。即使技術(shù)的進(jìn)展讓我們可以迅速發(fā)展 AGI，但減速的重要意義是要給社會(huì)足夠的時(shí)間來(lái)適應(yīng)。

成功過(guò)渡到一個(gè)擁有超級(jí)智能的世界可能是人類歷史上最重要、最有希望，但也最可怕的項(xiàng)目。這種巨大進(jìn)展的成功還遠(yuǎn)未得到保證，但我們已經(jīng)可以預(yù)見的利害關(guān)系有望將所有人團(tuán)結(jié)起來(lái)。

無(wú)論如何，那將是一個(gè)繁榮到我們還無(wú)法完全想象的世界。而 OpenAI 希望為世界貢獻(xiàn)一個(gè)與這種繁榮相一致的通用人工智能。