難得難得！關(guān)于GPT-5細節(jié)以及OpenAI更多內(nèi)幕，竟然被奧特曼自曝了。

GPT-5會是整個性能全面提升，會超出預期；對正研究如何提升GPT-4的初創(chuàng)公司會是一種碾壓。

如果回到過去，我會考慮換掉“OpenAI”這個名字。

計算能力將會成為世界上最重要的貨幣。如果投入足夠的計算資源，構(gòu)建超越人類能力的AGI是完全可行的。

我非常尊敬Ilya，他的事情他自己說更合適，但我真的希望能一直跟他一起共事。

這波輸出頻率之高、內(nèi)容之豐富，讓不少網(wǎng)友感到驚訝。

前腳剛跟韓國硅谷記者團透露GPT-5會超出預期，后腳就同Lex Frideman展開兩個小時的訪談。

于是乎，不到一天時間，這個訪談就有超百萬的訪問量。

奧特曼2小時超長訪談

在同Lex Frideman訪談中，奧特曼分享了很多內(nèi)容，包括大家伙蹲了好幾周的GPT-5進展，以及一直在被熱議的“Ilya在哪”這樣的敏感話題。

量子位做了簡單整理，并從中摘取了部分重要信息，在此分享給大家。

• 關(guān)于GPT-5：全面提升。
• 關(guān)于OpenAI董事會：通往AGI的道路應該是一場巨大的權(quán)力斗爭。
• 關(guān)于Ilya在哪：他的計劃，我不方便透露。
• 與馬斯克的官司：他曾想收購我們實現(xiàn)完全控制。
• 7萬億美元籌集？計算能力將成為未來的貨幣。
• 關(guān)于谷歌：世界不需要另一個谷歌。
• 關(guān)于AGI：任何人不應該控制AGI。

（不過必須承認的是，奧特曼玩太極玩得賊6，愿意稱他為新一代張sam豐）

關(guān)于GPT-5：全面提升

Q：從GPT-4到GPT-5的飛躍，哪些方面讓你感到興奮?

奧特曼：我很高興看到GPT-5的智能水平得到提升。這聽上去可能有點陳詞濫調(diào)，但真正令人興奮的是，它將是整個領(lǐng)域的全面進步，而不僅僅是某一方面變得更好。

Q：在編程方面，你認為未來5到10年內(nèi)，人類還會親自編寫多少代碼?

奧特曼：相信未來編程會有很多不同的形式，也許有些人會完全使用自然語言編程，也就是說不用寫代碼。

Q：編程很難，尤其是最后縮小那1%的差距，這有多難?

奧特曼：在大多數(shù)情況下，實踐者會使用多種工具，他們會用自然語言去完成部分工作。

Q：我們會在某個時候看到OpenAI推出人形機器人或類人機器人大腦嗎?

奧特曼：會的，在未來的某個時候。

Q：具身智能對你有多重要?

奧特曼：我覺得如果我們擁有AGI，但仍然是人類在現(xiàn)實世界執(zhí)行各種任務，這將是令人沮喪的。因此作為轉(zhuǎn)變的一部分，我們也希望能開發(fā)出人形機器人，或者某種現(xiàn)實世界的機器人。

Q：OpenAI過去在機器人技術(shù)方面有過相當一段時間的研究。

奧特曼：我們是一家小公司，所以必須集中資源。而且由于一些錯誤的原因，當時機器人的發(fā)展遇到了很大困難。未來我們還會以某種方式重新投入到機器人研發(fā)中。

Q：這聽起來既令人鼓舞，又有些令人不安。

奧特曼：為什么?

Q：因為這感覺我們很快就會進入機器人時代，就像《終結(jié)者》里那樣。

奧特曼：我們會重新投入機器人的研發(fā)，但當然不是要把自己變成機器人。

Q：要實現(xiàn)類似GPT-5的模型，還需要克服哪些最大的挑戰(zhàn)和瓶頸?

奧特曼：關(guān)鍵點一直都是這些——更強大的計算能力？新的突破性進展？還是別的什么？所有這些因素缺一不可。

OpenAI做得非常好的一點是“將200個中等規(guī)模的改進組合在一起，變成一個龐然大物”，這實際上是Ilya的原話。

Q：所以這種分布式、持續(xù)的創(chuàng)新正在發(fā)生?

奧特曼：是的。

Q：在技術(shù)層面也是如此嗎?

奧特曼：尤其是在技術(shù)層面。

有些人需要考慮如何將所有這些拼湊在一起，但大多數(shù)人都試圖在頭腦中把握整個大局。

從高層次來看，你可能并不清楚每一個細節(jié)是如何運作的，但我普遍認為，有時從宏觀角度審視全局是非常有用的。這對技術(shù)問題和商業(yè)創(chuàng)新都適用。

但事情的發(fā)展往往會出人意料。即使大部分時間你都專注于某個特定領(lǐng)域，也能獲得令人驚訝的洞見。

我曾經(jīng)擁有的一項超級有價值的能力，就是對科技行業(yè)的所有或大部分前沿領(lǐng)域都有一個技術(shù)全景圖。有時我能看到這些領(lǐng)域之間的聯(lián)系，或一些可能出現(xiàn)的新事物。

但如果我只專注于一個領(lǐng)域，就不會有這些想法，因為我沒有全部的信息。現(xiàn)在我已經(jīng)鉆研得非常深入了。

Q：你已經(jīng)不再是從前的你了。

奧特曼：現(xiàn)在的工作跟我以前的工作完全不同。

關(guān)于董事會：通往 AGI 的道路應該是一場巨大的權(quán)力斗爭

Q：告訴我OpenAI董事會的故事。

奧特曼：……這絕對是我職業(yè)生涯中最痛苦的經(jīng)歷，充滿混亂、羞愧、不安以及許多其他負面的東西。不過其中也有美好的事情，但我希望當時不要那么倉促，以至于無法停下來欣賞它們……

整個周末，除了一個大的例外……有時候，我真的覺得這是AI安全史上最糟糕的事情之一。我也很高興這事發(fā)生得比較早。我認為在 OpenAI 開始和我們創(chuàng)建 AGI 之間的某個時刻，會有一些瘋狂和爆炸性的事情發(fā)生，但可能還會有更瘋狂和爆炸性的事情發(fā)生。我認為，它仍然幫助我們建立了一些彈性，并為未來的更多挑戰(zhàn)做好了準備。

過去那個戲劇性周末并不是OpenAI真正意義所在。OpenAI真正意義在過去的7年。

Q：你有種感覺，你會經(jīng)歷某種權(quán)力斗爭？

奧特曼：通往 AGI 的道路應該是一場巨大的權(quán)力斗爭。

Q：你覺得董事會權(quán)力太大了嗎？

奧特曼：我認為董事會應該擁有很大的權(quán)力，但我們確實看到，在大多數(shù)公司結(jié)構(gòu)中，董事會通常對股東負責。

有時人們擁有超級股票權(quán)的股份或其他東西。這種情況下，我認為對結(jié)構(gòu)多加考慮的一點是，除非你制定了其他規(guī)則，否則非營利組織的董事會擁有很大的權(quán)力。

他們只對自己負責，不對任何人負責。這在某些方面是好的，但我們真正希望的是，OpenAI 的董事會能夠?qū)φ麄€世界負責，因為這是一件很實際的事情。

關(guān)于Ilya在哪：我不方便透露

Q：Ilya是不是被關(guān)在某個秘密核設施里？

奧特曼：不是的。

Q：那么，他是不是在某個普通的秘密基地？

奧特曼：也不是。

Q：那他是不是在非秘密的核設施里？

奧特曼：不是的，以上都不是。

Q：你和Ilya認識很久了，現(xiàn)在你們之間的關(guān)系如何？

奧特曼：我非常尊敬Ilya，不過關(guān)于他的計劃，他自己來說更合適。但我真心希望我們能夠一直合作，直到我職業(yè)生涯的結(jié)束。他比我年輕，或許他的工作生涯會更長一些。

Q：有傳言說，Ilya可能已經(jīng)看到了一些關(guān)于AGI的東西，這讓他感到非常憂慮。他究竟看到了什么？

奧特曼：Ilya還沒有看到AGI，我們也都還沒有見過AGI。我之所以特別欣賞Ilya，其中一個原因是他對AGI以及與之相關(guān)的安全問題非常嚴肅認真，他總是考慮這些技術(shù)對社會可能產(chǎn)生的影響。在我們不斷取得進展的過程中，Ilya是我與之討論這些問題最多時間的人之一。所以，Ilya并沒有看到AGI。但他確實是人類在這一領(lǐng)域的功臣，為了確保我們能夠正確處理這些問題，他付出了很多思考和努力。

Q：每當他談論技術(shù)時，他總是在進行深遠的思考，這使得他成為一個非常吸引人的人物。你知道他為什么保持沉默嗎？他是在進行自我反省嗎？

奧特曼：我還是那句話，我不想替Ilya發(fā)言。我認為你應該直接問他。他絕對是一個有深度的思想家。我相信他一直在以一種很好的方式進行自我反思。

Q：對，他還懂得沉默的力量。我還聽說他有時候表現(xiàn)得有點傻氣，但我從未見過他那樣的一面。

奧特曼：最近我和他一起參加了一個晚宴，看到他正在和一只小狗玩耍，表現(xiàn)得非常親切和可愛。我當時想，這真是外界很少見到的Ilya的另一面。

與馬斯克的官司：他曾想收購我們

Q：關(guān)于馬斯克對OpenAI提起的訴訟，你如何看待他提出的批評？他的觀點有合理之處嗎？他的理解有哪些偏差？

奧特曼：我不太明白他訴訟的真正意圖。我們最初只是想建立一個研究實驗室，對于這項技術(shù)的未來走向并沒有明確的預期。

那是在語言模型還未廣泛流行之前，我們還不清楚什么是API，也沒有想過要銷售Chatbot的訪問權(quán)限，更沒有考慮過產(chǎn)品化的問題。我們的初衷是僅僅進行研究，對其他事情一無所知。

我認為，對于許多顛覆性的新技術(shù)，我們往往在不確定中探索，并做出一些假設，而這些假設最終往往被證明是錯誤的。

隨著時間的推移，我們意識到需要采取不同的策略，也需要更多的資金支持。因此，我們不斷調(diào)整結(jié)構(gòu)，每一步?jīng)Q策都是基于當時的合理性。但這并不意味著如果我們能回到過去，我們會做出完全不同的選擇。

Q：你們這群熱衷于AGI研究的人曾被嘲笑，馬斯克也曾因談論火箭而受到質(zhì)疑，你認為他對此有何感想？

奧特曼：不久之前，馬斯克還在熱衷于討論火箭發(fā)射，同樣遭到了人們的嘲笑。我本以為他會對我們的處境有更多的同情。

當時，馬斯克選擇與我們分道揚鑣，他認為OpenAI會失敗，因此想要完全掌控局面。我們則希望繼續(xù)沿著現(xiàn)在OpenAI所走的道路前進。他還曾希望特斯拉能夠開發(fā)出AGI。

在不同的時期，他都試圖將OpenAI轉(zhuǎn)變?yōu)橐患矣伤刂频臓I利性公司，或者將其與特斯拉合并。

我們并不同意這樣的方向，所以他選擇離開，這也是他的自由。

Q：對于OpenAI這個名字中的“Open”，你是如何理解的？

奧特曼：如果可以回到過去，我會選擇一個不同的名字。OpenAI的核心使命是將先進的技術(shù)作為公益事業(yè)免費提供給公眾。

這種開放性對我們的使命至關(guān)重要。我相信，如果我們能夠向世界提供強大且成本低廉的人工智能工具，這將極大地推動人類創(chuàng)造一個美好的未來。因此，我們將繼續(xù)致力于向全球提供免費或低成本的先進AI工具，這對于實現(xiàn)我們的使命至關(guān)重要。

Q：那么，對于馬斯克提議將OpenAI更名為CloseAI，你有何看法？

奧特曼：這反映了他對訴訟的重視程度，他的說法讓我感到意外。

Q：但我認為這起訴訟背后更重要的是對AGC以及OpenAI未來的立場表達。

奧特曼：Grok之前一直沒有開源任何產(chǎn)品，直到人們開始質(zhì)疑這種做法的虛偽性，他才宣布將在本周開源。我不認為開源與否是他真正關(guān)心的問題。

Q：目前許多公司都在考慮開源策略，OpenAI是否有過類似考慮？

奧特曼：是的，開源模式在某些領(lǐng)域肯定會有其位置，特別是對于那些可以在本地運行的小型模型，市場需求巨大。我認為未來會同時存在開源和閉源的模式，這與其它技術(shù)生態(tài)系統(tǒng)并無二致。

Q：許多初創(chuàng)公司對OpenAI從非營利組織轉(zhuǎn)變?yōu)橛镜淖龇ǜ械疥P(guān)注。

奧特曼：我會強烈建議這些公司三思而后行。我不認為我們正在開創(chuàng)一個先例。

Q：你期待與馬斯克未來的關(guān)系如何發(fā)展？

奧特曼：我非常尊敬馬斯克，希望在未來我們能夠建立起友好的關(guān)系。

7萬億美元？算力將成為未來的貨幣

Q：有報道稱你籌集了7萬億美元？

奧特曼：我從沒說過這樣的話。

Q：但你說了：Fuck it， maybe eight。

奧特曼：我確實認為算力將成為未來的“貨幣”。它可能會變成世界上最寶貴的資源，我們應當大量投資以提升計算能力。

這涉及到許多挑戰(zhàn)，比如能源供應是最大的難題，數(shù)據(jù)中心的建設、供應鏈管理以及芯片生產(chǎn)也同樣困難。但這是未來的發(fā)展方向。我們所需的計算量目前還難以估計。

Q：如何解決能源問題？你看好核能？

奧特曼：我確實看好核能。

Q：核聚變？

奧特曼：是的。我認為我們應該建造新的反應堆。現(xiàn)在該行業(yè)停滯不前實在是太可惜了。

關(guān)于谷歌：世界不需要另一個谷歌

Q：隨著GPT的發(fā)展，OpenAI是否有意接管谷歌20年前開始的業(yè)務？

奧特曼：我覺得這個問題很無聊。很多人試圖做出一個比 Google 更好的搜索引擎。但這涉及到技術(shù)、品牌以及生態(tài)系統(tǒng)等多方面的挑戰(zhàn)。

我不認為世界需要另一個谷歌。

Q：將ChatBot與搜索引擎集成在一起。

奧特曼：這樣更酷。LLM加上搜索功能的整合，我認為還沒有人能真正探索出來，我很樂意去嘗試。

Q：那你對廣告業(yè)務的看法呢？ 奧特曼：我討厭廣告。互聯(lián)網(wǎng)需要廣告來支撐，但我認為這只是一時的產(chǎn)業(yè)。

我更傾向于人們?yōu)镃hatGPT付費，而他們得到的答案不受廣告商的影響。這是一個簡單直接的商業(yè)模式。

我在使用Twitter、Facebook、Google或其他依賴廣告的平臺時，并不喜歡它們。我認為在AI時代，這種情況可能會變得更糟。

Q：像維基不做廣告是個非常大膽的舉動，從商業(yè)角度OpenAI現(xiàn)在可持續(xù)的嗎？

奧特曼：我們必須找到增長的方法，我相信我們會找到的。能否在沒有廣告的情況下運營一家偉大的企業(yè)，滿足計算需求？我相信這是可能的。

對于AGI的展望：任何人不應該控制AGI

Q：您認為我們何時能開發(fā)出AGI？

奧特曼：我曾經(jīng)喜歡猜測這個問題，但AGI的定義模糊不清。我認為更有意義的是討論何時能實現(xiàn)具體功能，而非泛泛而談「何時達到這個里程碑」。
AGI不是終點，而是一個起點，是一個重要的里程碑。

預計到本十年末，甚至可能更早，我們將擁有強大的AI系統(tǒng)，讓人驚嘆“哇，這太了不起了”。

Q：但許多人認為ChatGPT已經(jīng)是AGI。

奧特曼：是的，但我不認為GPT-3.5改變了世界。它可能改變了人們對未來的期望，這非常重要。

這確實讓更多人重視這個問題，推動我們進入新的發(fā)展階段。因此，我不想再次低估它。我想在實現(xiàn)這一成就后退休對我的職業(yè)生涯感到滿意。但我不認為會在回顧這一點時說，這是一個真正改變了世界的門檻。

Q：所以你在尋找一些真正重大的變革。

奧特曼：是的，這正是我對AGI的期待之一。

Q：你期待的是奇點級別的變革嗎？

奧特曼：不，不是。我認為，如果一個系統(tǒng)能顯著加快世界科學發(fā)現(xiàn)的速度，那將是一件大事。真正的經(jīng)濟增長大多源自科技進步。

Q：你一般能比其他人更先與AGI交流，你會問些什么？

奧特曼：研究人員會比我更早與AGI交流。但如果可能，我會問AGI：

請解釋一下物理學的萬物理論。

Q：您可以問一些是非問題，比如“這樣的理論存在嗎？它能存在嗎？”或者“還有其他外星文明嗎？您的直覺是什么？”

奧特曼：是的，雖然我不指望第一個AGI能回答這些問題，即使只是是非問題。但如果可能，這些問題會是我提問的首選。

Q：誰首先打造出AGI，將獲得巨大的權(quán)力。您覺得自己能掌控這樣的權(quán)力嗎？

奧特曼：我會非常誠實地回答這個問題。我始終相信，無論是我還是其他人，都不應完全控制OpenAI或AGI。

我們需要一個健全的治理體系。去年董事會的風波讓我意識到，盡管董事會有權(quán)力解雇我，但實際上這并未發(fā)生。這是一種治理上的失敗。

我從未擁有過，也從未想要擁有對OpenAI的超級投票控制權(quán)。即使經(jīng)歷了這么多，我仍然不想要它。

我認為任何公司都不應做出這些決策，我們需要政府來制定規(guī)則。

我在OpenAI的發(fā)展過程中做出了一些好的和壞的決定，總的來說，我對自己的表現(xiàn)感到自豪。但我不認為任何個人應該或能夠控制AGI，或影響AGI的發(fā)展方向。我不認為這是正在發(fā)生的事情。

Q：你擔心失去對AGI的控制嗎？很多人擔心的不是國家行為者或安全問題，而是AI本身。

奧特曼：根據(jù)我目前的看法，這不是我最擔心的問題。

One More Thing

不過爆料了那么多，對于GPT-5發(fā)布時間還是三緘其口。

Lex Fridman說：如果今年發(fā)布GPT-5話，就眨眼兩次。

奧特曼be Like：我忍住不眨。

完整版視頻鏈接：https://www.youtube.com/watch?v=jvqFAi7vkBc。