逃離谷歌,多年來DeepMind一直在尋求獨立:還搞了「Mario」計劃
谷歌收購 DeepMind 花費了 6 億美元。2020 年,DeepMind 交出了一份高達 6.49 億美元(約 42 億人民幣)的年度虧損賬單。人們擔心 DeepMind 入不敷出會逐漸喪失領(lǐng)先技術(shù)研究的主導權(quán),DeepMind 卻無時無刻不在想重獲自由。
有段時間,DeepMind 員工們將其稱為「Watermelon 計劃」;后來,高管們又稱之為「Mario 計劃」,不論如何它們都指代同一件事:讓 DeepMind 重新從谷歌拆分出來的秘密計劃。
DeepMind 在人工智能領(lǐng)域的大名可謂家喻戶曉,這家 2010 年創(chuàng)立于英國,以探索最前沿技術(shù)為己任的公司在過去的幾年里創(chuàng)造了很多「第一」:讓 AI 首次在圍棋上超越人類,在星際爭霸 2 上達到職業(yè)玩家水平,還有破解蛋白質(zhì)分子折疊問題,解決了生物學家 50 年來的重大挑戰(zhàn)。
人們一直對被收購后的 DeepMind 為何仍能與母公司谷歌保持距離感到好奇,實際上這是該公司員工不斷「斗爭」達成的結(jié)果:近日外媒 Business Insider 報道,九名直面「馬里奧」計劃的現(xiàn)任和前任員工表示,DeepMind 擔心谷歌有朝一日可能會濫用其技術(shù),多年來,高管們一直努力使這家人工智能公司與其所有者分離。
知情人士稱,這包括尋求獨立法律地位的計劃,其將使該組織的工作與谷歌保持距離。
一位前員工表示,DeepMind 面臨的一個核心問題是,它將業(yè)務出售給了它不信任的人。「從那時起發(fā)生的一切都是出售引發(fā)的后續(xù),」該人士補充道。
根據(jù)《華爾街日報》今年 4 月的報道,谷歌打壓了 DeepMind 創(chuàng)始人們多年來試圖為確保獨立性所做的努力,雙方?jīng)]有達成一致。長達數(shù)年的談判,以及谷歌人工智能部門最近的重組,引發(fā)了人們對這家搜索巨頭是否能夠保有對未來至關(guān)重要的技術(shù)的控制權(quán)的問題。
「自收購以來,DeepMind 和谷歌之間的合作非常成功——在谷歌支持下,我們?nèi)〉昧烁淖內(nèi)斯ぶ悄茴I(lǐng)域的研究突破,現(xiàn)在正在解開科學中的一些最大難題。」DeepMind 發(fā)言人在一份聲明中表示。「多年來我們討論了和谷歌集團之間的各種架構(gòu),試圖找到支持我們長期研究任務的最佳方式。我們?yōu)槟軌蛲瓿蛇@些任務感到無比自豪,同時繼續(xù)擁有運營自主權(quán)和 Alphabet 的全力支持。」
不可避免的谷歌化
不論現(xiàn)在的紛爭,2014 年谷歌收購 DeepMind 時,這筆交易被視為一場雙贏。谷歌獲得了一家世界領(lǐng)先的 AI 研究機構(gòu),而 DeepMind 也為其構(gòu)建像人類一樣學習不同任務的 AI(即通用人工智能 AGI)獲得了資金支持。
不過事情總沒有那么理想,很快二者就出現(xiàn)了一些摩擦。一些員工表示:一些 DeepMind 的研究人員與谷歌龐大的商業(yè)體系之間具有文化沖突。還有一些人表示立即將 DeepMind 的工作置于科技巨頭谷歌的控制之下是令人擔憂的。有一段時間,由于擔心谷歌監(jiān)視他們的工作,DeepMind 的一些員工使用加密消息應用程序進行通信。
一位知情人士說:「有一次,DeepMind 的高管發(fā)現(xiàn)谷歌內(nèi)部人工智能研究小組發(fā)表的工作與 DeepMind 的一些代碼庫相似,但卻沒有引用。這讓 DeepMind 的 CEO 哈薩比斯非常生氣。這就是 DeepMind 對其代碼加以更多保護的原因之一。」
2015 年谷歌重組為 Alphabet,以給予風險更高的項目更多自由度。在那之后,DeepMind 的領(lǐng)導層也試圖使其成為 Alphabet 的一個獨立子部門,并擁有自己的損益表。
DeepMind 現(xiàn)已在 Alphabet 內(nèi)部享有高度的運營獨立性,不過該公司還希望能夠?qū)崿F(xiàn)法律自主權(quán)。DeepMind 的目標是實現(xiàn) AGI,他們擔心自己的技術(shù)被濫用。
知情人士稱,在 DeepMind 內(nèi)部,獲得更多自主權(quán)的計劃最初被稱為「Watermelon」,后來在 DeepMind 的領(lǐng)導層中被正式命名為「Mario」。
DeepMind 認為他們的技術(shù)過于強大,不能讓私人公司占有,因此需要將其安置在與股東利益無關(guān)的其他法律實體中,這對整個人類社會都更有益。
DeepMind 創(chuàng)始人、CEO 德米斯 · 哈薩比斯。
接受資助,但還是要分家
2017 年在蘇格蘭的一次公司會議中,DeepMind 的領(lǐng)導層向員工披露了其與谷歌分離的計劃。知情人士稱:當時領(lǐng)導層內(nèi)部表示,DeepMind 計劃成為全球利益公司。盡管該名稱并非官方法律地位,但反映了 DeepMind 認為其技術(shù)會產(chǎn)生全球影響。
后來,在與谷歌的談判中,DeepMind 表示希望成為擔保有限公司,這是一種沒有股東的公司結(jié)構(gòu),常被非營利組織使用。兩名參與談判的人士稱談判協(xié)議要求 Alphabet 繼續(xù)為 DeepMind 提供資金,并獲得其技術(shù)的獨家許可,條件是 Alphabet 不能跨越某些道德紅線,例如將 DeepMind 技術(shù)用于軍事武器或監(jiān)視。
2019 年,英國公司大廈提交的文件顯示:DeepMind 注冊了一家名為 DeepMind Labs Limited 的新公司,以及一家新的控股公司,知情人士稱這和與谷歌的分離計劃有關(guān)。
多年來,DeepMind 與谷歌的談判經(jīng)歷了高峰和低谷,但在 2020 年獲得了新的動力。DeepMind 內(nèi)部一個高級團隊開始與外部律師和谷歌舉行會議,他們討論是否會共享代碼庫、內(nèi)部性能指標和軟件費用。
謝爾蓋 · 布林和拉里 · 佩奇因為創(chuàng)辦谷歌而擁有巨大財富,但近年來正在逐漸淡出人們的視線。
DeepMind 和谷歌的領(lǐng)導層在人工智能倫理道德問題上從一開始就存在分歧,DeepMind 也一直在擔憂與谷歌的交易可能帶來的道德困境。《經(jīng)濟學人》在 2019 年報道稱:在 2014 年收購結(jié)束之前,兩家公司簽署了「道德和安全審查協(xié)議」,以防止谷歌控制 DeepMind 的技術(shù)。該協(xié)議的一部分包括成立一個倫理委員會來監(jiān)督研究。
但是多年來關(guān)于誰應該加入這個倫理委員會存在很多內(nèi)部討論,對媒體的承諾也很模糊。一位知情人士曾稱:該小組「從未存在過,甚至從未召集過,也從未解決過任何道德問題」。對此,DeepMind 的發(fā)言人拒絕置評。
還有知情人士稱:如果 DeepMind 與谷歌分離,將召集成立一個獨立的審查委員會。該委員會將由谷歌和 DeepMind 的高管以及第三方組成。一位看到候選人入圍名單知情人士稱:美國前總統(tǒng)巴拉克 · 奧巴馬是 DeepMind 想要為該委員會爭取的人。
此外,DeepMind 還制定了一套道德規(guī)章,其中包括禁止將其技術(shù)用于軍事武器或監(jiān)視,以及規(guī)定其技術(shù)應以造福社會的方式使用。2017 年,DeepMind 成立了一個由員工和外部研究員組成的專注于人工智能倫理研究的部門。它的既定目標是「為真正有益和負責任的人工智能鋪平道路」。
幾個月后,一份谷歌與五角大樓之間的有爭議合同,即 Maven 項目被披露,引起內(nèi)部軒然大波,有人指責谷歌卷入了「戰(zhàn)爭行業(yè)」,這在 DeepMind 內(nèi)部敲響了警鐘。
之后,谷歌發(fā)布了一套管理其人工智能工作的原則,其中的指導方針類似于 DeepMind 已在內(nèi)部制定的道德規(guī)章,這激怒了 DeepMind 的一些高層領(lǐng)導。
谷歌現(xiàn)任 CEO 桑達爾 · 皮查伊。
誰來掌控 AI?
今年 4 月,哈薩比斯在一次全體會議上告訴員工,與谷歌的拆分談判已經(jīng)結(jié)束了。DeepMind 將保持其在 Alphabet 內(nèi)部的現(xiàn)有地位。DeepMind 未來的工作將由谷歌高級技術(shù)審查委員會監(jiān)督,其中包括兩名 DeepMind 高管、谷歌人工智能主管 Jeff Dean 和法律高級副總裁 Kent Walker。
但斗爭還沒有結(jié)束,DeepMind 為實現(xiàn)獨立長達數(shù)年的斗爭引發(fā)了人們對其在谷歌未來的質(zhì)疑。谷歌對人工智能研究的承諾也受到質(zhì)疑,此前該公司兩名資深人工智能倫理研究人員離職的消息震動了業(yè)內(nèi)。一系列事件導致了社區(qū)的強烈反應,并引發(fā)了人們對谷歌是否真正允許獨立研究產(chǎn)生了懷疑。
應用數(shù)據(jù)倫理中心的研究員 Ali Alkhatib 表示,迫切需要更多的公共問責制度來規(guī)范大型科技公司對于人工智能的追求。
對于谷歌來說,多年投資 DeepMind 撒下的錢才剛剛獲得回報。去年 7 月,預測人類蛋白結(jié)構(gòu)的 AI 算法 AlphaFold 研究登上 Nature,其可以幫助科學家更好地了解微觀蛋白質(zhì)的行為,這有可能徹底改變藥物發(fā)現(xiàn)的方式。
而在 DeepMind 哈薩比斯堅持認為人工智能技術(shù)不應該被一家盈利機構(gòu)所控制。6 月在 Tortoise 的可信人工智能論壇上發(fā)表講話時,他提出構(gòu)建「世界人工智能研究所」的構(gòu)想。哈薩比斯推測,新機構(gòu)可能受聯(lián)合國管轄,要由該領(lǐng)域的頂尖研究人員組成。
「如果你作出表率,我們的設想就會更接近現(xiàn)實,」哈薩比斯說道。「我希望 DeepMind 能夠成為行業(yè)的榜樣。」