放棄博士學位加入OpenAI，他要為ChatGPT和AGI引入記憶與人格
今天，一位研究者加入 OpenAI 的消息吸引了很多人的關注。
這位研究者名為 James Campbell，他才于 2024 年攻讀 CMU 的計算機科學博士學位。現在，他突然宣布要放棄博士學業，加入 OpenAI。
在社媒 X 上，他表示自己在 OpenAI 的研究重心是「AGI 和 ChatGPT 的記憶 + 人格」，記憶將從根本改變人類與機器智能的關系。他將努力工作，確保正確地實現這一切。
他的加入連 OpenAI 聯合創始人、總裁 Greg Brockman 都表達了歡迎。
還有人表示，「你為什么花了這么長時間才決定加入 OpenAI。」
那么，這位老兄是何方神圣呢？他的加入為什么引起了這么多的關注？我們來看一下他的履歷。
他本科畢業于康奈爾大學，專業是數學與計算機科學。本科期間，他致力于 LLM 可解釋性和真實性的研究，還是兩篇論文《Representation Engineering》和《Localizing Lying in Llama》的主要作者。
前一篇論文研究了表示工程：一種自上而下的 AI 透明性方法，后者研究了在 Llama 中定位謊言：通過提示、探查和修補來理解判斷題上的不誠實指令。
- 論文 1：Representation Engineering: A Top-Down Approach to AI Transparency，https://arxiv.org/abs/2310.01405
- 論文 2：Localizing Lying in Llama: Understanding Instructed Dishonesty on True-False Questions Through Prompting, Probing, and Patching，https://arxiv.org/abs/2311.15131
他還在 Gray Swan AI（AI 安全公司）從事對抗魯棒性和評估方面的工作，并曾從事計算神經科學、物理學和深度學習理論方面的工作。他也是 ProctorAI（監視用戶工作狀態的多模態 AI 系統）、AI-Timeline.org 的創始人，以及 AidanBench（AI 模 型基準測試工作）的合著者。
其中，ProctorAI 曾引發過廣泛熱議，該系統監視用戶的屏幕，如果發現你有拖延，就會提醒你。它的工作原理是每隔幾秒截取電腦屏幕截圖，并輸入到 Claude 3.5 Sonnet、GPT-4o、LLaVA 1.5 等多模態大模型中。如果發現用戶注意力不集中，它會控制屏幕并用個性化消息提醒。
項目地址：https://github.com/jam3scampbell/ProctorAI
2024 年，他進入 CMU 攻讀博士學位，研究重心是理解通用智能的構成要素，并確保這些要素的安全性。
如今，他選擇加入 OpenAI，開始了在產業界的探索。
其實， James Campbell 的加入有跡可循。幾天前，在 OpenAI 宣布組建模型行為研究團隊的帖子下面，二者便開始了互動。
在更早的時候，James Campbell 發表過一些關于 ChatGPT 記憶方面的觀點。
他贊同應該對 ChatGPT 的記憶及其導致更強幻覺的問題進行研究，并認為上下文污染和模式崩潰是真實存在的，但目前對它們的研究還不多。如果在每個 prompt 中塞入數千個 token 的記憶，它們便會變得更加活躍。
看起來，James Campbell 的加入是一場雙向奔赴。
