GPT-3是OpenAI語(yǔ)言人工智能模型，由1750億個(gè)參數(shù)組成。總部位于舊金山的OpenAI研究實(shí)驗(yàn)室今年5月開始逐步推出了該模型，并引起越來越大的反響。這個(gè)龐大的語(yǔ)言模型幾乎可以勝任所有可以用文字表達(dá)的工作：從回答問題、寫文章、寫詩(shī)歌、甚至寫代碼……無一不包。那么，現(xiàn)實(shí)中它究竟有多厲害呢？

最近，國(guó)外一名剛?cè)腴TGPT-3不久的伯克利大學(xué)生利亞姆·波爾（Liam Porr），以一個(gè)假名，然后用人工智能模型建了一個(gè)完全假的博客。不過，這卻成功“騙倒”了一大批內(nèi)容閱讀者。

[[339655]]

這個(gè)充滿諷刺性和欺騙性的“AI把戲”很快騙過了Hacker News等科技極客圈子，然后真相曝光——瞬間成為了熱點(diǎn)話題——這么多人怎么就被一個(gè)完全由AI搭建起來的所謂“博客”給誆了？居然還有不少人“訂閱”了上面的消息？

盡管許多人猜測(cè)到目前為止超強(qiáng)大的語(yǔ)言生成AI工具——GPT-3會(huì)如何影響內(nèi)容生產(chǎn)，但這種“以假亂真”的程度和效果是他們始料未及的。這是目前唯一一次GPT-3如此真實(shí)地展示自己的實(shí)力，足以說明這一工具的應(yīng)用潛力。

在加州大學(xué)伯克利分校(University of California, Berkeley)學(xué)習(xí)計(jì)算機(jī)科學(xué)的波爾說，這次經(jīng)歷中最突出的一點(diǎn)是:“實(shí)際上，它超級(jí)簡(jiǎn)單，這是最可怕的部分。”

登上頭條狂漲粉的“AI雞湯文”

雖然GPT-3還沒有徹底開放，但波爾卻依然輕輕松松獲取了接口。波爾提交了一份申請(qǐng)。他填寫了一張表格，里面有一份關(guān)于他打算使用的簡(jiǎn)單問卷。但他也沒有等上多少時(shí)間。在聯(lián)系了伯克利的人工智能社區(qū)的幾名成員后，他很快找到了一名已經(jīng)有此權(quán)限的博士生。

這個(gè)博士生同意合作后，波爾很快就寫了一個(gè)小腳本讓他運(yùn)行。它給了GPT-3一個(gè)博客文章的標(biāo)題和介紹，并給出了幾個(gè)完整的版本。Porr的第一個(gè)帖子(在Hacker News上發(fā)布的那個(gè))和之后的每一個(gè)帖子都是從一個(gè)輸出中復(fù)制粘貼過來的，幾乎沒有編輯。

他說:“從我想到這個(gè)想法并與那個(gè)博士生取得聯(lián)系，到我真正創(chuàng)建了這個(gè)博客——這大概只花了幾個(gè)小時(shí)。”

波爾用假名字“adolos”寫的第一篇假博客，居然順順利利就登上了YC新聞平臺(tái)Hacker News熱門榜第一名！波爾說，他使用了三個(gè)獨(dú)立的賬號(hào)在Hacker News上提交并投票，試圖把他的帖子推得更高。管理員說這個(gè)策略不起作用，但他的點(diǎn)擊率標(biāo)題起作用了。

不需要太多編輯就能生成內(nèi)容的訣竅是——理解GPT-3的優(yōu)缺點(diǎn)。波爾說:“它很擅長(zhǎng)創(chuàng)造漂亮的語(yǔ)言，但不太擅長(zhǎng)邏輯和理性。”因此，他選擇了一個(gè)不需要嚴(yán)格邏輯的流行博客類別——“雞湯文”，這樣就能實(shí)現(xiàn)高效和自助式的產(chǎn)出。

然后，他按照一個(gè)簡(jiǎn)單的公式來寫他的標(biāo)題：他在Medium和Hacker News上翻來翻去，看看在這些類別中發(fā)生了什么，然后把一些相對(duì)相似的東西放在一起。《感覺生產(chǎn)力不高？也許你應(yīng)該停止思慮過多》“”（Feeling unproductive? Maybe you should stop overthinking）他為其中一篇文章寫道。《大膽和創(chuàng)造力勝過智慧》（Boldness and creativity trumps intelligence），他又在另一篇文章中寫道。有幾次，這些標(biāo)題并沒有起到作用。但只要他堅(jiān)持正確的話題，這個(gè)過程就很容易實(shí)現(xiàn)，“雞湯文”成功地幫著博客蹭蹭蹭狂漲粉。

兩周后，他幾乎每天都發(fā)帖子。隨后不久，Hacker News上就有人指責(zé)波爾的博客文章是GPT-3寫的。另一名用戶卻回應(yīng)說，這條評(píng)論“不可接受”。甚至有讀者讀后留言稱，“好文！和Ethan Hawke在Ted的演講一樣深刻！”對(duì)波爾的假博客持懷疑態(tài)度的少數(shù)人，居然就這樣被社區(qū)的其他成員投了反對(duì)票，妥妥證明了并非“大眾的眼睛都是雪亮的”。

一大部分人愣是沒看出來文章不是人類寫的，Medium、YC的新聞平臺(tái)等多家平臺(tái)都轉(zhuǎn)載刊發(fā)了他的第一篇博客、他的博客居然還瘋狂漲粉人氣居高不下……這讓小哥波爾開始感到不淡定了，不過他自己也感到非常驚訝。

波爾說，他想證明GPT-3可以冒充人類作家。事實(shí)上，盡管該算法的書寫模式有些奇怪，偶爾也會(huì)出現(xiàn)錯(cuò)誤，但在他在Hacker News上發(fā)表的最重要的帖子上，只有三四個(gè)人懷疑該算法可能是由某個(gè)算法產(chǎn)生的。而且，所有這些評(píng)論都立即被其他社區(qū)成員否決。

最后，波爾以一條自己寫的神秘信息結(jié)束了這個(gè)項(xiàng)目。標(biāo)題為《如果我沒有道德，我將如何對(duì)待GPT-3》，文章將他的過程描述為一個(gè)假設(shè)。同一天，他還在自己真正的博客上發(fā)表了一篇更直白的自白，澄清曝光了“假博客”的始終。

AI語(yǔ)言工具引發(fā)擔(dān)憂與思考

根據(jù)OpenAI的算力統(tǒng)計(jì)單位petaflops/s-days，訓(xùn)練AlphaGoZero需要1800-2000pfs-day，而OpenAI的GPT-3用了3640pfs-day，看來?yè)碛形④洘o限算力的OpenAI，現(xiàn)在真的是為所欲為了。

對(duì)于專家來說，這一直是這種語(yǔ)言生成算法引起的擔(dān)憂。自從OpenAI首次發(fā)布GPT-2以來，人們就猜測(cè)它很容易被濫用。而GPT-3已經(jīng)成為OpenAI迄今為止推出最新、最大的AI語(yǔ)言模型。在自己的博客文章中，該實(shí)驗(yàn)室重點(diǎn)關(guān)注了人工智能工具作為大量制造錯(cuò)誤信息的武器的潛力。其他人則想知道是否可以用它來大量發(fā)布谷歌游戲相關(guān)關(guān)鍵詞的垃圾帖子。

去年2月，OpenAI的GPT-2(該算法的早期版本)登上了新聞?lì)^條，OpenAI宣布將保留該版本，以防被濫用。這一決定立即引發(fā)了強(qiáng)烈反響，研究人員指責(zé)該實(shí)驗(yàn)室在“搞噱頭”。到了11月，該實(shí)驗(yàn)室終于改變了立場(chǎng)，發(fā)布了這個(gè)模型，當(dāng)時(shí)還言之鑿鑿地稱“到目前為止沒有發(fā)現(xiàn)濫用的有力證據(jù)”。這不，這回“翻車”翻得有點(diǎn)厲害了。

該實(shí)驗(yàn)室對(duì)GPT-3采取了不同的方法；它既沒有拒絕，也沒有允許公眾訪問。取而代之的是，它將算法提供給了那些申請(qǐng)私有測(cè)試的研究人員，目的是收集他們的反饋，并在今年年底將這項(xiàng)技術(shù)商業(yè)化。

波爾說，他的實(shí)驗(yàn)還展示了一個(gè)更平凡但仍然令人不安的選擇——人們可以使用該工具生成大量的點(diǎn)擊誘導(dǎo)內(nèi)容。他說:“很有可能會(huì)出現(xiàn)大量平庸無質(zhì)量的博客內(nèi)容，因?yàn)楝F(xiàn)在進(jìn)入的門檻太低了。”“我認(rèn)為在線內(nèi)容的價(jià)值將大大降低。”

波爾計(jì)劃用GPT-3做更多的實(shí)驗(yàn)。但他仍在等待OpenAI的介入。他說:“他們可能對(duì)我的所作所為感到不滿。”“我是說，這有點(diǎn)傻。”

背后的“AI大法”OpenAI

在成立的短短四年時(shí)間里，OpenAI已經(jīng)成為全球領(lǐng)先的人工智能研究實(shí)驗(yàn)室之一。與Alphabet旗下的DeepMind等其他人工智能巨頭一樣，谷歌不斷推出引人注目的研究成果，并因此成名。它也是硅谷的寵兒，創(chuàng)始人包括埃隆·馬斯克(Elon Musk)和傳奇投資者山姆·奧特曼(Sam Altman)。

最重要的是，它因其使命而受到推崇。它的目標(biāo)是成為第一個(gè)創(chuàng)造人工智能的機(jī)器——一個(gè)具有人類思維的學(xué)習(xí)和推理能力的機(jī)器。其目的不是統(tǒng)治世界；相反，該實(shí)驗(yàn)室想要確保這項(xiàng)技術(shù)是安全發(fā)展的，并且它的好處能均勻地分配給全世界。

這意味著，如果AGI技術(shù)的發(fā)展遵循阻力最小的道路，那么它很容易失控。圍繞在我們身邊的那種笨拙的人工智能，就是一個(gè)例子。問題是，AGI一直都很模糊。該領(lǐng)域內(nèi)的共識(shí)是，這種先進(jìn)的能力將需要幾十年，甚至幾個(gè)世紀(jì)的時(shí)間——如果真的有可能發(fā)展它們的話。許多人還擔(dān)心，過分追求這一目標(biāo)可能會(huì)適得其反。

大多數(shù)人第一次聽說OpenAI是在2019年2月14日。那天，實(shí)驗(yàn)室宣布了一項(xiàng)令人印象深刻的新研究：只需按下一個(gè)按鈕，就可以生成令人信服的論文和文章。

但也有一個(gè)問題：研究人員說，這種被稱為GPT-2的模型釋放起來太危險(xiǎn)了。如果這樣強(qiáng)大的技術(shù)落入壞人之手，就很容易被“武器化”，制造大規(guī)模的虛假信息。這立即引起了科學(xué)家們的強(qiáng)烈反對(duì)。

在持續(xù)不斷的炒作指控中，OpenAI堅(jiān)稱GPT-2不是噱頭。更確切地說，這是一項(xiàng)經(jīng)過深思熟慮的實(shí)驗(yàn)，經(jīng)過一系列內(nèi)部討論和辯論后達(dá)成一致。大家一致認(rèn)為，即使這次的行動(dòng)稍微有點(diǎn)過火，但它將為處理更危險(xiǎn)的研究開創(chuàng)先例。

但OpenAI與GPT-2的媒體宣傳活動(dòng)也遵循了一種成熟的模式，這種模式讓更廣泛的人工智能社區(qū)產(chǎn)生了懷疑。多年來，該實(shí)驗(yàn)室的重大、引人注目的研究公告一再被指責(zé)助長(zhǎng)了人工智能的炒作周期。批評(píng)人士還不止一次地指責(zé)該實(shí)驗(yàn)室大肆宣揚(yáng)其研究結(jié)果，甚至達(dá)到了錯(cuò)誤描述的地步。出于這些原因，該領(lǐng)域的許多人都傾向于保持一定的距離。

GPT-2引發(fā)如此強(qiáng)烈的反彈還有另一個(gè)原因。人們覺得OpenAI又一次違背了它之前關(guān)于開放和透明的承諾，并走上了營(yíng)利的道路。未公開的研究讓人們更加擔(dān)憂和懷疑——會(huì)不會(huì)是這項(xiàng)技術(shù)一直處于保密狀態(tài)，為將來獲得許可做準(zhǔn)備?但是人們并不知道，這不是OpenAI唯一一次選擇隱藏它的研究。