OpenAI“宮斗”番外！首席科學家Ilya官宣離職，參與驅逐奧特曼“宮斗”后沉寂5月首發聲！ 原創
編輯 | 伊風
出品 | 51CTO技術棧（微信號：blog51cto）
谷歌I/O大會的主題演講剛剛結束四個小時。正當人們把目光從GPT-4o中戀戀不舍地移開，轉到Gemini上時。OpenAI又跑來“搞事”了！
自之前“宮斗”后就行蹤成謎的首席科學家Ilya Sutskever，在X上宣布自己將離職，投入到一個對自己有意義重大的新項目中，并可能在時機合適時透露相關細節！
緊接著，奧特曼也發文表達了對Ilya的感謝與不舍，并宣布將由Jakub Pachocki接棒擔任OpenAI的首席科學家。
圖片
“伊利亞和OpenAI即將分道揚鑣。這對我來說非常悲傷；伊利亞無疑是我們這一代最偉大的頭腦之一，是我們領域的指路明燈，也是一位親愛的朋友。他的才華和遠見眾所周知；他的溫暖和同情心不那么廣為人知，但同樣重要。
沒有他，OpenAI就不會是今天的樣子。盡管他有自己個人意義重大的事情要去做，我將永遠感激他在這里所做的一切，并致力于完成我們一起開始的使命。我很高興能有如此長時間接近這樣一位真正卓越的天才，以及一個如此專注于為人類帶來最佳未來的人物。
雅庫布將成為我們的新首席科學家。雅庫布也無疑是我們這一代最偉大的頭腦之一；我很高興他在這里接過接力棒。他負責了許多我們最重要的項目，我非常相信他將帶領我們快速且安全地朝著確保通用人工智能(AGI)惠及每個人的使命前進。”
伊利亞還曬出一張OpenAI leader們的合照。
圖片
在這張照片中，伊利亞本人站在中間。從左向右依次參與合照的是，新上任的首席科學家Jakub，聯合創始人Greg Brockman，OpenAI CEO Altman及OpenAI CTO Mira Murati。
此前，一直有傳言說伊利亞的消失是因為他“撞見”了Q*?，F在伊利亞突然的現身讓人倍感意外。
翻一翻伊利亞的X賬戶，發現距離他上一次更新轉帖過去了足足5個月，更加戲劇性的是，這篇帖子的主題是“超級對齊”的資金將幫助人們更好監督AI安全性的。
圖片
一、宮斗回顧：超級對齊與Q*傳聞
在伊利亞現身以后，網友評論道：很高興看到他還活著！
圖片
從奧特曼的角度來看，OpenAI的宮斗史正是由伊利亞的一封短信拉開大幕的。
2023年11月16日周四（當地時間），奧特曼收到了要求周五中午進行談話的消息。從后面發生的事情來看，這封短信正是董事會即將采取行動的前兆。
緊接著11月17日的談話中，伊利亞告訴奧特曼他被解雇了。隨后，時任總裁的Greg Brockman也接到了短信和電話，被告知他本人已經被董事會除名（但職位保留），同時奧特曼已經被解雇。
經過奧特曼等數位高管的辭職、談判失敗、出走微軟等反轉再反轉之后，奧特曼重回OpenAI，而伊利亞卻不知去向。
結合事后所浮出的內幕細節，伊利亞很可能是最初推動奧特曼被罷免的“牽頭者”。在奧特曼（Sam Altman）被罷免的前幾天，OpenAI的幾位研究人員曾向董事會發出了警告，他們表示發現了一種強大的人工智能技術，可能對人類構成威脅。
這個“很強大的人工智能技術”，也就是被廣為人知的“Q*”。
人們認為正是因為伊利亞看到了這項恐怖的技術，從而促使他推動董事會解雇奧特曼。而從這次宮斗以后“what did Ilya see”就變成了一個經久不衰的AI梗。以至于在奧特曼官宣伊利亞離開的推文下，仍有網友在追問不休。
圖片
根據資料，Q*技術的名字暗示了它結合了兩種著名的人工智能技術：Q-Learning和A*搜索算法。
這意味著新模型能夠將支持ChatGPT的深度學習技術與人類編程的規則相結合。Q*技術將推動通用人工智能（AGI）的進步，它絕對比我們目前所認為的智能更接近了一步，并且有可能使模型能夠產生新的想法，這是ChatGPT所做不到的。
一些AI專家表示，如果Q*技術目前只相當于一個小學生的水平，但其擁有的潛力可能使其未來能夠影響整個世界。
而伊利亞正是對這項技術持謹慎態度的人，此前他領導OpenAI 超級對齊團隊，為OpenAI開發安全、有益的人工智能（AGI）的方法負責。該團隊的工作重點是確保先進的人工智能系統與人類的價值觀和利益保持一致，當時已成為 OpenAI 的首要任務之一。
然而在OpenAI這項任務其實充滿了挑戰：確保人工智能與人類價值觀保持一致與技術加速所帶來的盈利潛力是相沖突的。
在宮斗的尾聲，伊利亞曾表示他對參與董事會行動的后悔。
圖片
就在幾個月前，奧特曼參與博客采訪時，被問到過伊利亞的近況，他稱贊伊利亞的長處，說他是能看到一項技術在未來十年中發展的人。
二、接棒首席科學家崗位的Jakub：對GPT-4有貢獻，曾追隨奧特曼辭職
新出任首席科學家的雅庫布（Jakub）是一個陌生的名字，就像伊利亞去年曾在推文中說的那樣，他的才華和貢獻不那么為人所知。
圖片
伊利亞發布離開推文后，雅庫布也進行了轉發，稱伊利亞為“導師和出色的合作伙伴”，并真誠表達了對伊利亞的感謝與一同共事時光的懷念。
圖片
雅庫布是有實力接替伊利亞工作的人，自2017年加入OpenAI后，他“一直領導著變革性研究計劃”。OpenAI的官方通知中寫到，“ 雅庫布曾擔任研究總監，領導 GPT-4 和 OpenAI Five 的開發，以及大規模 RL 和深度學習優化方面的基礎研究?！?/p>
在擔任首席科學家前，他在OpenAI擔任過一系列的重要職位：
- Dota 團隊的研究帶頭人（2017年2月 - 2019年3月）
- 推理團隊的研究帶頭人（2019年3月 - 2021年3月）
- 深度學習科學團隊的研究帶頭人（2021年3月 - 2022年7月）
- 研究負責人（2021年11月 - 2023年10月）
- 研究主管（2023年10月 - 2024年5月）
在去年OpenAI宮斗風波期間，雅庫布擔任著研究主管一職。
在奧特曼與Brockman相繼離開OpenAI時，他與OpenAI其他的兩位高級研究人員Aleksander Madry、Szymon Sidor同時宣布辭職。
如今，他的上任，恐怕就是OpenAI宮斗最后的尾聲了。而伊利亞究竟看到了什么，仿佛一個永遠沒有答案的開放式問題。
圖片
三、兩大關鍵人物離去，超級對齊團隊名存實亡
Sutskever 離職后不久，他的同事、OpenAI "超對齊 "團隊的聯合負責人 Jan Leike 也跟隨他在同一天宣布離職。
圖片
OpenAI的AI研究團隊正在經歷新一波的動蕩，許多人對OpenAI是否能引導安全、有益的AGI感到失望。此前，OpenAI 選擇將其 20% 的計算專用于超級對齊，以控制未來超人類智能可能存在的潛在風險。
也有離開OpenAI離開的員工在X上表達對奧特曼的不滿。（“限制線性代數”暗示奧特曼參與公共討論和政策倡導活動，以推動對人工智能領域技術使用的監管或限制。）
圖片
現在，超級對齊團隊的兩位共同領導者都已離職，問題就在于這項事業是否會繼續下去，以及以何種身份繼續下去。在AI算力見頂的時刻，20%的計算是否會被挪用到更加“實際”的領域中，例如AI訓練。
有些人認為，伊利亞是一個所謂的 "道學家"，或者說他關注的是人工智能給人類帶來生存風險的能力（也被稱為 "X 風險"）。
然而，分析專家說，Altman 和 OpenAI 的其他人并不像伊利亞那樣關注 x 風險。
所以，也許對人類命運關注較少的那一派勝出了。
至此，OpenAI的聯合創始人馬斯克、GPT-3.5-4.0核心人物伊利亞、以及開源巨頭 Karpathy 都相繼離開了這家公司。
GPT的發明之所以能夠實現，是因為谷歌將Transformers的學術成果貢獻出來，才能讓更多的人站到了巨人的肩膀上。而OpenAl，作為得利的創新者，正試圖改變游戲的規則，將新的成果據為己有。
盡管伊利亞與OpenAI的故事結束了，但這位“AI Uncle”自己的故事正剛剛要開始。
也許，在不久的將來，這個意義重大的個人項目，能讓這位沉寂了5個月的AI天才重返大眾視野，讓他懷揣著AGI信仰，繼續發熱發光。
?本文轉載自51CTO技術棧，作者：伊風
