Altman逆襲登場:揭秘OpenAI背后的權謀和變局
OpenAI混亂結束,Sam Altman重返CEO職位。五天風波或深刻改變公司和AI行業。上周五,Altman被董事會撤職,員工抗議后于周二重返,現有董事會多數成員已離職。然而,獨立存在的董事會秉持“為人類福祉”使命對公司獨特性至關重要。Altman在2023年巡回中警告有關他構建技術的危險性,將OpenAI盈利組織嵌套在非盈利結構中,作為強AI開發的防火墻。無論Altman如何運用數十億微軟資金,董事會有權監督他,違背人類利益可罷免。Altman在六月表示:“董事會有權解雇我,這很重要。
”牛津大學哲學高級研究員、AI倫理研究員Toby Ord表示:“結果證明,他們無法解雇Altman,而這是不利的。”
OpenAI領導層混亂,新董事會重組,新增科技界權威及前美財政部長拉里·薩默斯。兩位“有效利他主義”女性董事被踢出,深化對治理人工智能分歧。對于擔憂人工智能摧毀人類、認為技術加速烏托邦的超人類主義者、相信自由市場資本主義者、主張通過監管控制潛在危害的科技巨頭,看法不同。Ord表示:“這是注定的沖突過程。”他指出,如果OpenAI的治理董事會無法實際影響其行為,那么揭示其無力可能是一件好事。
事件引發各方猜測,或牽涉AI未知風險
OpenAI董事會罷免Altman的原因成謎。董事會表示Altman“未能坦誠,妨礙了其行使職責的能力。”公司內部澄清解雇并非回應不當行為。臨時首席執行官Emmett Shear承諾調查原因,留下了Altman花費太多時間在副業上或對Microsoft順從的傳言。一些陰謀論聲稱OpenAI已創造人工通用智能,董事會切斷了其開關。
“我可以百分之百確定我們沒有達到人工通用智能(AGI),”倫敦帝國理工學院商學院AI和創新實踐教授David Shrier說。“我也可以百分之百確定治理層面發生了巨大的失誤。”
Shrier指出,OpenAI失敗不僅源于董事會的非盈利與盈利部門的緊張關系,也因公司規模急劇增長。他強調ChatGPT六周內用戶增至一億,遠快于全球網絡七年達到相似規模。他認為董事會無法應對公司龐大規模和人工智能技術風險,強調創業公司需要建立成熟、強大的治理機制。
監管法規或重塑行業未來
全球監管機構將密切關注OpenAI。美國FTC投票增強對AI服務公司的監管權,歐盟在AI法案談判中分歧,爭議是否監管基礎模型制造商如OpenAI的GPT-4。法、德、意支持基礎模型“強制性自律”,認為公司可自我控制。法德分別是基礎模型公司Mistral和Aleph Alpha所在地。CEO Mensch認為這就像因為C語言可用于編制惡意軟件而要監管C語言一樣“很荒謬”。
過去幾天事件表明自我監管無法保護社會。歐洲議會領導者Benifei表示,Altman的戲劇表明需要法規,揭示企業治理不可靠。OpenAI治理失敗或加強對更強大公共監督的呼吁,未來社會的歐洲AI治理主任Mo?s認為政府是唯一能對投資者說不的力量。OpenAI的危機是對道德資本主義的警鐘,非營利董事會和營利管理層結合的公司治理結構不奏效,需要政府行動。
微軟支持下,商業化邁出關鍵一步
Altman募資數十億美元與科技巨頭合作推動更先進人工智能。然而,他承認未完全了解其發展方向,與其對毀滅性事件的擔憂不協調。三名獨立董事因與有效利他主義有聯系而罷免,引起支持者不滿。Altman多次要求政府監管,擔憂人工智能領域可能對世界造成傷害。卡內基梅隆大學教授Ghani認為,談論“監管我們,否則毀掉世界”是胡說八道,這已經偏離真正風險。
盡管Altman最終復職,但OpenAI及其他人工智能初創公司似乎發生了變化。ChatGPT的制造商及競爭對手更顯商業化,投資回報成為重要動機。OpenAI稱新董事會組成為臨時,可能加入更多成員。分析師預測公司已接近微軟,后者承諾提供130億美元。盡管Altman稱復職為回到以前狀態,但OpenAI可能更直接代表微軟競爭。Meta和亞馬遜也增加了對人工智能的投資。
“因此,現在這不僅僅是這些AI實驗室之間的競賽,那些創立它們的人,我認為,可能真的關心他們所完成的歷史性工作,”Ord表示。“現在演變成了AI實驗室背后一些世界巨頭公司之間的競賽,這改變了它的性質。我認為這一方面是相當危險的。”