OpenAI 的「真還傳」劇情昨天迎來了大結(jié)局。但今天，事件主角 Sam Altman 又上了熱搜。

路透社報道稱，在 Sam Altman 被董事會開除四天之前，幾名研究人員向董事會發(fā)送了一封信，警告他們 OpenAI 已經(jīng)有了一項重大的人工智能發(fā)現(xiàn)，而這項發(fā)現(xiàn)可能會威脅到人類。知情人士稱，這封以前未報道的信件和人工智能算法是董事會罷免 Altman 的一個關(guān)鍵線索，也是董事會對 Altman 的諸多不滿之一。

路透社提到，OpenAI 在發(fā)給員工的內(nèi)部信息中承認了一個名為 Q * 的項目，并在 Altman 被開除之前致信董事會。OpenAI 的一位發(fā)言人表示，上述內(nèi)部信息是由長期擔任高管的 Mira Murati（OpenAI 前 CTO，在混亂之初曾被任命為臨時 CEO）發(fā)布的，目的是提醒員工注意某些媒體報道，但不評論其準確性。

 Q * 的發(fā)音為 Q-Star，一些內(nèi)部人士認為，這可能是 OpenAI 在追尋超級智能 / 通用人工智能（AGI）道路上取得的一項突破。也就是說，他們可能已經(jīng)創(chuàng)造出了比人類更智能的 AI 系統(tǒng)或與其有關(guān)的突破。

據(jù)悉，Q-Star 能夠解決以前從未見過的數(shù)學問題，而數(shù)學是生成式人工智能發(fā)展的前沿。目前，生成式人工智能擅長通過統(tǒng)計預(yù)測下一個單詞來進行寫作和語言翻譯，而且對同一個問題的回答也可能千差萬別。但是，如果掌握了數(shù)學能力（只有一個正確答案），就意味著人工智能將擁有更強的推理能力，與人類智能相媲美。人工智能研究人員認為，這可以應(yīng)用于新穎的科學研究等方面。著名數(shù)學家陶哲軒就經(jīng)常曬出自己在 ChatGPT 的輔助下進行數(shù)學研究的例子。

最近幾周，該模型的演示在 OpenAI 內(nèi)部流傳，其發(fā)展速度讓一些關(guān)注人工智能安全的研究人員感到震驚。

消息人士稱，研究人員在給董事會的信中指出了人工智能的能力和潛在危險，但沒有說明信中提到的具體安全問題。

長期以來，計算機科學家們一直在討論超級智能機器帶來的危險，比如它們是否會認為毀滅人類符合它們的利益。

在這種擔憂不斷蔓延之際，Altman 卻在加速推進 GPT 系列模型的開發(fā)及其商業(yè)化，以早日實現(xiàn)通用人工智能。

除了在本月的 OpenAI 開發(fā)者大會中宣布了一系列新工具外，Altman 在上周的亞太經(jīng)合組織工商領(lǐng)導(dǎo)人峰會上還開玩笑說，他相信 AGI 就在眼前。他還表示，在 OpenAI 的工作經(jīng)歷中，他有幸目睹了知識邊界四次被推進，其中最近一次發(fā)生在幾周前。

在發(fā)表這番言論的第二天，Altman 就被董事會解雇了。

據(jù) The Information 報道，神秘模型 Q-Star 是由 OpenAI 的兩位頂級研究人員 ——Jakub Pachocki 和 Szymon Sidor—— 基于 OpenAI 首席科學家 Ilya Sutskever 的研究成果構(gòu)建的。在 Altman 被開除后，二人也成了首批辭職的高級員工之一。

The Information 還寫道，在取得突破后的幾個月里，Sutskever 似乎對這項技術(shù)持保留態(tài)度。今年 7 月，他組建了一個「超級對齊」團隊，致力于讓強大的 AI 系統(tǒng)遵循人類的意愿，而不是傷害人類。該團隊在其網(wǎng)頁上說：「雖然超級智能現(xiàn)在似乎還很遙遠，但我們相信它可能會在十年內(nèi)到來。」

Ilya 取得的突破以及他對 AI 安全的擔憂，有助于解釋他為什么參與罷免 Altman 的行動，以及 Sidor 和 Pachocki 為什么在 Altman 被解雇后迅速辭職。不過，在 Altman 重回 OpenAI 后，兩人也回到了公司。

除了 Pachocki 和 Sidor，OpenAI 前董事長兼聯(lián)合創(chuàng)始人 Greg Brockman 也一直致力于將該技術(shù)集成到新產(chǎn)品中。上周，他和 Altman 一起離開，如今又一起回歸。

據(jù)知情人士透露，Ilya 的突破還幫 OpenAI 克服了獲得足夠高質(zhì)量數(shù)據(jù)來訓(xùn)練新模型的限制，這是開發(fā)下一代模型的主要障礙。該研究涉及使用計算機生成的數(shù)據(jù)，而不是現(xiàn)實世界的數(shù)據(jù)（如從互聯(lián)網(wǎng)中提取的文本或圖像）來訓(xùn)練新模型。

有跡象表明，Sutskever 越來越擔心人工智能的風險。在一篇博客文章中，OpenAI 表示，它將把五分之一的計算資源用于解決來自「超級智能」的威脅，Sutskever 和 Leike 寫道，這「可能導(dǎo)致人類被剝奪權(quán)力，甚至人類滅絕」。

在經(jīng)過幾天的混亂之后，OpenAI 正在經(jīng)歷一輪新的洗牌，還有很多問題懸而未決。很多人調(diào)侃說，這意味著這場大戲還有第二季。

Adam 成原董事會「遺珠」，首席科學家 Ilya 發(fā)聲

隨著 Sam Altman 重返 OpenAI CEO 職位，原董事會也迎來了重組。

現(xiàn)在，OpenAI 組成了包括前 Salesforce 聯(lián)席首席執(zhí)行官 Bret Taylor（董事會主席）、前美國財政部長 Larry Summers 和 Quora 聯(lián)合創(chuàng)始人 Adam D'Angelo 在內(nèi)的三人初始董事會。

我們知道，OpenAI 原董事會成員有 6 人，包括 3 名 OpenAI 高管（原董事長兼總裁 Greg Brockman、CEO Sam Altman 和首席科學家 Ilya Sutskever）和 3 名非員工董事（Adam D'Angelo、Tasha McCauley 和 Helen Toner）。此后就是大家熟知的 Greg 和 Altman 被踢出董事會。

而全新初始董事會的「出爐」意味著 OpenAI 原董事會成員 Ilya Sutskever、Helen Toner、Tasha McCauley 都暫時「出局」了。至此原 6 人董事會成員只有 Adam 留了下來。這就讓人對 Adam 非常好奇，畢竟他此前被認為是開除 Sam Altman 的幕后推手（他的 AI 項目 Poe 被認為與 Altman 發(fā)布的 GPTs 等產(chǎn)品存在競爭關(guān)系）。

Adam 年少成名，他是問答網(wǎng)站 Quora 的聯(lián)合創(chuàng)始人之一，與 Facebook 創(chuàng)始人扎克伯格為預(yù)備學校同學，并曾擔任 Facebook 首位 CTO。Adam 被認為是一位致力于在網(wǎng)絡(luò)上傳播更好信息的杰出工程師，為人很低調(diào)。

Adam 擔任 OpenAI 董事會成員已經(jīng) 5 年了，過去幾天他在網(wǎng)上遭到了業(yè)內(nèi)同行的批評，甚至馬斯克也要求他解釋為什么驅(qū)逐 Altman。而根據(jù) Quora 前員工的一些說法，Adam 有時會突然解雇高管，而不考慮對員工的影響。

不過，對于 OpenAI 內(nèi)部存在的激進與安全路線之間的平衡，Adam 似乎持有樂觀的態(tài)度。身邊人形容他很務(wù)實，對 AI 的商業(yè)化并不過分謹慎。可以說 Adam 并沒有試圖減緩 AI 的進步，過去一年他一直將精力投入到自己的 AI 項目 Poe 中，這是孵化自 Quora 的一個 AI 聊天機器人平臺。

此外，Altman 也一直欣賞 Adam，在 2018 年將他引入 OpenAI 董事會。Altman 曾稱 Adam 是人們在討論最聰明 CEO 時不斷提及的少數(shù)幾個名字之一，有時甚至會在深夜與他通電話解決問題。

另一位前董事會成員、OpenAI 首席科學家 Ilya Sutskever 的去留也備受關(guān)注。他參與了解雇 Altman 的行動，但隨后又后悔了。Sam Altman 轉(zhuǎn)發(fā)了 lya 表示后悔的帖子并加上了「愛心」的表情，看起來是和解的信號。其實，Ilya 在 OpenAI 的技術(shù)影響力也足以促使 Altman 讓事情翻篇。

據(jù)《華爾街日報》報道，這一轉(zhuǎn)變是 Greg Brockman 的妻子促成的，而 Ilya 是二人婚禮的主婚人。

多年來，Ilya 一直在研究如何讓 GPT-4 等語言模型解決涉及推理的任務(wù)，例如數(shù)學或科學問題。2021 年，他啟動了一個名為 GPT-Zero 的項目，這是對 DeepMind 的 AlphaZero 的致敬，該程序可以下國際象棋、圍棋和將棋。該團隊假設(shè)，給語言模型更多的時間和計算能力來生成對問題的回答，可能會讓它們在學術(shù)上取得新的突破。

知情人士透露，Transformer 論文（Attention is All You Need）作者之一 Lukasz Kaiser 在 GPT-Zero 項目中發(fā)揮了關(guān)鍵作用。這位人士說，該團隊試驗的技術(shù)包括一種被稱為「測試時計算（test-time computation）」的機器學習概念，旨在提高語言模型解決問題的能力。今年早些時候，Ilya 和他的團隊發(fā)現(xiàn)了這種方法的一種變體，這促使他們在訓(xùn)練更復(fù)雜的模型方面取得了更大的成果。看來，核心技術(shù)還是掌握在 Ilya 手里。

在 OpenAI 宣布 Altman 將回歸后，Ilya 在個人社交平臺上寫到，「沒有任何語言、任何語句能夠表達我有多開心」。看來，Ilya 與 Altman 之間并非水火不容的關(guān)系。

從新舊董事會成員的整體背景來看，原董事會成員中有學者和研究者，而全新初始董事會成員擁有廣泛的商業(yè)和技術(shù)背景。

不過，根據(jù)一些外媒的說法，全新初始董事會的主要工作是審查和任命一個最多 9 人的正式董事會，重置 OpenAI 的管理模式。另外，主要投資者微軟加入董事會的談判也正在進行中。

股票變現(xiàn)可以繼續(xù)，但投資人也在改變策略

在這場風波之前，OpenAI 正計劃以 860 億美元的估值出售員工股票。這場風波讓員工們的變現(xiàn)機會蒙上了陰影，不過隨著 Sam Altman 的回歸，一切會慢慢重回正軌。

根據(jù) The Information 從知情人士獲知的消息，OpenAI 員工股票出售工作已重啟。由風險投資公司 Thrive Capital 牽頭的一批投資者將購買員工或其他投資人持有的高達 10 億美元（可能還會更多）的股票，此次招標活動預(yù)計將于下月完成。此次招標意義重大，員工股票出售是外部投資者買進 OpenAI 的最簡單方式。

在 Sam Altman 風波之前，已經(jīng)有一系列投資者參與其中，其中包括 OpenAI 現(xiàn)股東、好萊塢男明星阿什頓?庫徹聯(lián)合創(chuàng)立的風險基金 Sound Ventures。該基金在風波之前已經(jīng)承諾參與邀約收購，金額約為 1 億美元。現(xiàn)在不清楚該基金是否仍計劃購買 OpenAI 股票。

最近幾天，投資者非常擔心他們持有的 OpenAI 股票價值會狂跌。因此，包括紅杉資本、Thrive Capital 和 Tiger Global Management 在內(nèi)都在為 Sam Altman 的復(fù)職鋪路。

雖然 Sam Altman 已經(jīng)回歸，但仍面臨投資者的一長串問題。據(jù)報道，OpenAI 保留的組織結(jié)構(gòu)中仍由「非營利部門監(jiān)管從私人投資者籌集資金的營利部門」。投資者對這種不尋常的結(jié)構(gòu)以及 OpenAI 缺乏常規(guī)治理表示嚴重擔憂。

據(jù) The Information 報道，這次 OpenAI 的混亂并沒有讓風投對人工智能行業(yè)失去信心。Crunchbase 的數(shù)據(jù)顯示，今年，風險投資者已經(jīng)向人工智能初創(chuàng)企業(yè)投入了超過 250 億美元的資金。一些風投告訴 The Information，他們認為 OpenAI 的失敗是公司特有的問題，最近的事件不會讓他們撤回對其他人工智能初創(chuàng)公司的投資。

不過，The Information 認為，他們在支持那些治理結(jié)構(gòu)不尋常的初創(chuàng)公司或那些建立在 OpenAI 技術(shù)基礎(chǔ)上的初創(chuàng)公司時會更加謹慎，并將鼓勵他們的投資組合公司嘗試其他模型提供商和開源模型，這一趨勢已經(jīng)開始出現(xiàn)。

目前，已經(jīng)有部分投資者開始對依賴單一、專有服務(wù)進行生成式 AI 競爭的做法進行重新評估。Saleforce、高通、英偉達和谷歌前 CEO Eric Schmidt 正在向開源 AI 初創(chuàng)公司投資，比如 Hugging Face 和 Mistral AI。