Altman做客油管博主Lex Fridman科技博客 ,被追問了一個又一個辛辣的問題。
長達兩個小時的對談,奧特曼從OpenAI宮斗、馬斯克訴訟、Sora,一直聊到AGI與外星文明!
本文重點梳理了長對談中的精彩部分,對于科技圈的焦點議題,奧特曼是這么說的!
1.GPT-5何時發布?
在被問到GPT-5什么時候推出時,奧特曼稱:我不知道。
但他透露今年會發布一款新的模型,雖然目前還沒有為該模型命名。OpenAI將在未來幾個月發布許多很酷的新東西,在談論GPT-5是否高于預期之前,有新的模型會率先發布。
在被問到GPT-5需要克服的最大障礙是什么。奧特曼覺得計算和技術方面都有涉及?!巴黄频年P鍵因素是什么?是一臺更大的電腦嗎?還是一個新的秘訣?這些所有要素都(應該)是關聯在一起的。OpenAI在這一點上做得非常好。就像Llya之前說的那樣,‘我們把200個中等規模的東西相互結合,形成一個巨大的東西’?!?/p>
OpenAI采用的是分布式的、持續不斷的創新方式,尤其是在技術層面上。
2.談論AGI何時來臨沒有意義
奧特曼曾經非常喜歡推測AGI何時會來臨。但之后他意識到這個問題構建的很糟糕。
“人們對什么是AGI有著非常不同的定義。因此,我認為討論何時能構建執行X、Y或Z功能的AI系統更有意義,而不是討論我們何時能到達一個模糊的界限。同時,AGI也不是結局,它更像是一個開始。為了不回避問題,我想說,我預計到20s末,或者更早,我們將擁有相當強大的系統。我們可以看到(AGI)并說,哇,如果我們現可以看到它,那真是太了不起了?!?/p>
就像艾倫·圖靈,甚至是其他生活在90年代的人,如果他們有機會體驗ChatGPT,哪怕是3.5版本,他們也會篤信這就是AGI。但是在奧特曼看來,GPT-3.5、GPT-4都沒有真正意義上的改變世界,而只是一個“人工制品”。
奧特曼說,“現在的全球經濟與我們推出GPT-4之前有什么不同嗎?我想你會說沒什么不同?!艺J為,當一個系統能夠顯著提高全球科學發現的速度,那將是一個巨大的改變。我相信,大多數真正的經濟增長來自于科技進步?!边@一點對他所理解的AGI至關重要。
3.Q*到底是什么?
關于Q*有很多神秘傳說。奧特曼說,他其實特別希望擁有一個“核設施”,但Q*真的不是。
“OpenAI 不擅長保守秘密,并且受到很多泄密的困擾?!比欢?,奧特曼也神秘地說,他還沒有做好談論Q*的準備。
“我們從事各種各樣的研究。我們已經說過了,我們認為在這些系統中推理是我們想要追求的重要方向。我們還沒有完全破解這個密碼。我們對此非常感興趣?!?/p>
奧特曼說,“在我們完全實現GPT 5之前,我們不會進行秘密構建,我們決定公開討論GPT 1、2、3和4。部分原因是我認為AI和驚喜(像Q*)不應該放在一起。同樣,這個世界、人們、機構,無論你怎么稱呼它,都需要時間去適應和思考這些事情。我認為,OpenAI所做的最好的事情之一就是采取了這種策略。OpenAI讓全世界關注AGI的進展,認真對待AGI,在我們像站在槍口之下一樣慌張地做出決定之前,慎重考慮我們想要建立什么樣的系統、結構和治理?!?/p>
4.談Sora:理解世界了,但仍有局限
談到Sora和世界模型,奧特曼首先反對了那些唱衰Sora的陳詞濫調。回憶起第一次看到Sora的生成視頻,奧特曼發現Sora較好地完成了對遮擋的生成,當遮擋物離開時,后面的物體又顯現出來,讓他覺得Sora的效果不錯。
但是奧特曼也坦言Sora還存在一些限制,例如視頻中的貓咪的軀干上會突然長出肢體。同時,他認為這些弱點的存在既是因為Sora技術路線的固有缺陷,也是由于模型體量和訓練數據的限制所造成的。
奧特曼表示,在Sora的發布之前,他還需要確保模型的性能符合人們的期待,這方面還有不少的工作要做。同時,他們必須能妥善處理深度偽造的問題,確保Sora以有益的方式被使用。
在聊到藝術工作者對Sora的擔憂時,奧特曼類比了攝影對于繪畫的影響,認為AI只是帶來了新的藝術創作形式?!癥ouTube上的許多視頻,也許其中大多數會在制作過程中使用AI工具,但它們在根本上仍然會由人來進行構思、組合和運行?!?/p>
5.談馬斯克:尊重,未來仍能是朋友
聊到馬斯克那場drama十足的訴訟案,奧特曼說他現在“還是沒搞懂是怎么一回事”。
回顧OpenAI的發展史,奧特曼表示,OpenAI最初只是作為一個研究實驗室,并沒有明確的商業化計劃。隨著研究的進展,隨著時間的推移,他們意識到必須調整結構,才能獲得技術發展所需要的巨額資本。
奧特曼認為,馬斯克的離開是因為“馬斯克覺得OpenAI會失敗”。“馬斯克想要OpenAI完全的控制權以扭轉局面,但我們希望OpenAI繼續朝著現在的方向前進。同時,他想把OpenAI變成一家他管理的盈利公司或是與特斯拉進行合并。我們不想這樣做。而他決定離開,這很好。”
談到Grok的開源,奧特曼說,在人們指出Grok虛偽之前(指Grok自身未開源卻起訴OpenAI),馬斯克并未開源過任何東西。所以,奧特曼覺得開源并不是馬斯克的直接目的,而是“醉翁之意不在酒”。
但是,奧特曼仍然非常尊重馬斯克,他希望這只是一場AI領域的“友誼比賽”,并希望未來仍然能和馬斯克“再續前緣”。
6.回顧“宮斗”,人生至暗時刻
奧特曼提到去年11月17日的董事會,“那絕對是我一生中最痛苦的職業經歷?;靵y、可恥、不安以及許多其他負面的事情?!?/p>
從宮斗開始,他開始真正意識到“通往AGI的道路會是一場巨大的權力斗爭”,并著手反思如何更好地管理公司,例如了解董事會結構、與人合作的方式等,并能以一個富有彈性的組織來“盡可能地緩和權力斗爭?!?/p>
回顧被罷免的過程,奧特曼表示,董事會成員總體上都是善意的人,只是在某種壓力之下,人們可能做出了并不是最優解的選擇。到現在,他仍然支持董事會擁有巨大的權力——只是作為非營利組織的董事會,必須要設置更多的規則,才能保證他們能對所有人負責,而不是只顧個人利益。
奧特曼也提到,他重返董事會時,同時加入了一些有豐富經驗的董事會成員,以便在OpenAI接近實現AGI的過程中能更好地承受未知的風險和壓力。
7.Ilya到底去哪了?
“what did Ilya see?”在社交媒體上瘋傳,很多流言中說,他因為看到了AGI而被OpenAI關在了某個秘密基地里做人質。
奧特曼在對談中直接否認了這一點。他說道,“我喜歡Ilya,并且非常尊敬他。有關于他的工作計劃,我覺得這應該由他自己進行回答,但我真的希望我們能繼續合作。”
當被問到Ilya是否見到了AGI,奧特曼說,“他沒有見過AGI,我們都沒有見過AGI,我們沒有創造出AGI”。不過Llya是個十分重視AGI及相關安全問題的人,并會考慮AGI對社會將產生怎樣的巨大影響。
奧特曼強調Llya并未看到AGI,也提到了他們最近一次見面:Llya在和一只小狗玩得親熱,就像一部滑稽電影中的鏡頭一樣可愛。
除了上述內容之外,奧特曼還談到了模型的隱私問題、對谷歌Gemini的看法等話題,完整采訪值得一看,感興趣的朋友可以移步:
https://www.youtube.com/watch?v=jvqFAi7vkBc