微軟內部工程師突爆料：OpenAI下一代模型11月即將上架，今天離職的AGI顧問：今天Lastday 原創
編輯 | 言征
出品 | 51CTO技術棧（微信號：blog51cto）
大消息，OpenAI的下一代前沿模型獵戶座已經籌備發布了？
24晚間消息，外媒 The Verge 得到微軟內部工程師的曝料稱：該公司預計最早在11月就能獲得對OpenAI醞釀已久的Orion訪問權限，以便他們構建自己的產品和功能，這位工程師正在準備在Azure上托管Orion的工作。
不過，Verge報道，這次Orion發布于此前版本不同，OpenAI會先給受信任的合作伙伴發布該模型，之后才會通過ChatGPT更廣泛地推出。
此外，該知情人員還透露，這個模型最后會不會被稱為GPT-5，還沒有確定。
不過這一消息尚未得到OpenAI的證實。該公司內部員工回應，這一報道并不準確，但吊詭的是，也沒有進一步闡述詳情。
1.下一代GPT，OpenAI高管透露了哪些
繼OpenAI最新發布的可媲美擴散模型的、連續時間一致性模型sCM后，這是最新有關OpenAI推出新模型的一則消息。
Orion一直被業界視為GPT-4的下一代SATA模型，早在今年9月3日，OpenAI的一名高管OpenAI Japan的 Nagasaki，在公布了“GPT Next”的計劃時，用千倍GPT-4的性能提升來描述Orion：
這款AI模型（GPT Next）的計算量目標是GPT-4的100倍，使用相似的資源，但架構和效率都有所提升。它將在今年晚些時候以緊湊的Strawberry版本（也就是今天大家知道的o1模型）發布。
Nagasaki還提到了在10000個H100 GPU上訓練的Orion，其計算規模會再增加10倍，使得總計算量達到當前GPT-4的3個數量級以上。這些令人振奮的進展標志著AI能力進入了一個新時代。
圖片
緊接著是11天后，OpenAI CEO奧特曼直接出來為Orion做預告：冬季的星座很快就要升起了。
圖片
冬天哪個星座最亮眼，無疑就是獵戶座（Orion）了。
除了這些高管對于Orion的爆料，還有兩個OpenAI不可回避的關鍵事實：
首先，OpenAI正在經歷前所未有的員工離職動蕩期，前不久元老級董事會成員的分道揚鑣的消息剛剛消退，但帶來的連鎖反應依舊十分劇烈：首席技術官 Mira Murati隨著o1模型的發布后立即宣布了離職，同時離職的還有公司首席研究官 Bob McGrew 和后期訓練副總裁 Barret Zoph。
人員流動并沒有結束，就在今天，任職6年的AGI準備工作高級顧問的Miles Brundage也將迎來在OpenAI的lastday。
圖片
另一個不可忽視的變化是，OpenAI剛剛以 1570 億美元的估值完成了歷史性的 66 億美元融資，但該輪融資要求該公司將自身重組為營利性實體。
這也意味著，奧特曼治下的OpenAI正在徹底走向不斷融資繼而IPO的商業道路。
一面是公司全面重組為商業實體，一面是元老級員工的高頻流動，這對于Orion或者GPT-5的發布而言，都不是一個特別利好的消息。
2.離職員工研究員：別激動，下一代AI沒有Ready
昨天，OpenAI的老員工Brundage 在解釋為什么離開OpenAI的博客中，提到了OpenAI目前的進展和困境。
關于Brundage，大家可能不太熟悉，他在OpenAI已經工作了六年多，按照OpenAI的標準來說這已經很久了（這六年里OpenAI已經今非昔比！）
Brundage最初擔任政策團隊的研究科學家，后來成為政策研究主管，目前擔任AGI（通用人工智能）準備工作的高級顧問。其領導過的團隊（政策研究和AGI準備工作團隊）在塑造OpenAI的部署實踐方面做了很多非常重要的工作，例如為外界所致的外部紅隊計劃、推動制定前幾個OpenAI系統卡片，以及發表了大量關于語言模型和AI代理的社會影響、前沿AI監管、計算能力治理等主題的有影響力的工作等等。
他在文中表示：他在創建 OpenAI 的 AI/AGI 水平5級量表方面發揮了重要作用。通過這個量表，接下來的AI模型組織工作都會據此展開，直至實現AGI。而OpenAI 認為世界目前處于第二級的懸崖邊上，其特征是具有人類水平推理能力的 AI。
雖然參與制定了這一規劃，但Brundage 堅持認為 OpenAI 和整個世界都沒有為正在構建的下一代 AI 系統做好準備。
言外之意，即便是OpenAI，也難以推出有真正意義的L3級別（智能體）的AI大模型，也就是說Orion也好、GPT-5也好，大概率也不太會有質的躍遷。
圖片
值得注意的是，Brundage 對于AGI是否可以造福人類也發表了看法：
雖然 AGI 可以造福全人類，但它不會自動造福。相反，負責制造它——并監管它——的人類必須有意識地去做這件事。
這一警告也透露出，他可能認為 OpenAI 在如何處理 AGI 管理方面沒有經過足夠的深思熟慮。
Brundage 表示，隨著高級研究員的離職，OpenAI 正在將其 AGI 準備團隊的成員重新分配到組織內的其他小組。此次解散是在它解散其 AI 安全團隊不到六個月后發生的，這并不完全是個好兆頭，因為最新的大牌辭職動搖了公司的領導層。
目前大模型能力的瓶頸加上OpenAI對于安全方面的重視程度的減弱的證據表明，下一代AI系統并未Ready。
用Brundage自己的話說：“我在OpenAI已經完成了大部分我原本打算做的事情”，意即他不認為在OpenAI還能繼續做自己規劃的事情了。
3.離開OpenAI的三個理由
不少高管和高級研究員選擇離開了OpenAI，前CTO Mira離職時隱晦的表達：在這個時刻（o1感剛發布的高光時刻）決定離開是合理的。Brundage則從研究員的視角給出了自己的答案，這個答案可能更接地氣些——
圖片
“我決定從行業外部而非內部去影響和推動AI的發展。有幾個方面的考慮指向了這一結論。”
第一，機會成本已經變得非常高：我沒有時間去研究我認為重要的各種研究課題，而且在某些情況下，我認為如果我在行業外部研究這些課題，它們的影響會更大。OpenAI現在備受矚目，其產出也從許多不同的角度被審視，因此我很難發表關于所有對我而言重要的課題的論文。需要明確的是，雖然我不能說我總是同意OpenAI對論文審查的立場，但我確實認為，在行業內部存在一些出版限制是合理的（我也曾幫助撰寫過OpenAI政策的幾個版本），但對我來說，這些限制已經太多了。
第二，“我希望減少偏見”。當你成為某個組織的一員，并且每天與那里的人密切合作時，就很難對這個組織保持公正。考慮到存在財務利益沖突，人們有理由質疑來自行業的政策想法。我盡量在分析中保持公正，但我肯定會有一些偏見，當然，在OpenAI工作也會影響人們如何看待我的陳述以及來自行業內部其他人的陳述。我認為，在政策對話中，需要有更多獨立于行業的聲音，我計劃成為其中之一。
第三，“我在OpenAI已經完成了大部分我原本打算做的事情”。自從他開始擔任AGI準備工作高級顧問這一最新職務以來，就已經開始更明確地思考兩種類型的AGI準備工作——OpenAI管理日益強大的AI能力的準備，以及世界有效管理這些能力（包括通過監管OpenAI和其他公司）的準備。
而關于前者，Brundage會向高管和董事會講述了相當多關于其認為OpenAI需要做的事情以及存在的差距的內容；關于后者，Brundage認為他在外部反而可以發揮更大的作用。
參考鏈接：
??https://milesbrundage.substack.com/p/why-im-leaving-openai-and-what-im??
??https://www.theverge.com/2024/10/24/24278363/microsoft-openai-next-model-orion-notepad??
本文轉載自??51CTO技術棧??，作者：言征
