Mistral 不相信AGI,開源大模型CEO發出警告,科技帶不來“新造的人” 原創
出品 | 51CTO技術棧(微信號:blog51cto)
- ?Mistral的首席執行官亞瑟·門施(Arthur Mensch)表示,對于創造通用人工智能的迷戀,其實質是關于“創造上帝”。
- 這位CEO并不相信埃隆·馬斯克(Elon Musk)和山姆·奧特曼(Sam Altman)關于人工智能將超越人類智能的預測。
- 門施警告說,科技巨頭可能會強加與全球文化和價值觀相沖突的人工智能標準。
1.AI界的無神論者
Mistral的創始人兼首席執行官亞瑟·門施不相信上帝——因此,他也不相信通用人工智能(AGI)。
人工通用智能,是一種將超越人類的智能水平。盡管這一水平尚未達到,但隨著科技巨頭努力宣傳AI很快能比人類更聰明的可能,它已成為一個熱議話題。
人們對AGI可能帶來的潛在負面結果表示擔憂,比如工作被人工智能取代,或者更糟糕的,人類滅絕。
亞瑟·門施——這位31歲的CEO,最近因為與兩位大學朋友在巴黎創立的人工智能公司Mistral成為世界上最有前途的技術公司之一——也是歐洲最熱門的公司——而獲得了公眾關注。Mistral 的開源模型在性能上達到了業界領先水平,并與微軟建立了合作伙伴關系。
但他在接受《紐約時報》采訪時,與其他領先的AI公司CEO明顯不同。門施表示,他對硅谷掀起的通用人工智能的宗教化迷戀感到不舒服。
“整個AGI的論調是關于創造上帝,”Mistral在采訪中說?!拔也幌嘈派系邸N沂且粋€堅定的無神論者。所以我不相信AGI?!?/p>
他指的是像埃隆·馬斯克和山姆·奧特曼這樣的科技CEO們的言論,他們認為人工智能將變得比人類更聰明,這可能導致對人類的負面后果。
2.陷入癲狂,當科技者想帶來“新造的人”
Arthur Mensch的擔憂并非杞人憂天。事實上,披著科技外衣的宗教狂熱一直存在。
無人駕駛汽車領域的先驅安東尼·萊萬多夫斯基(Anthony Levandowski),他在2015年作為谷歌Waymo的工程師時創立了他的“未來之路”(Way of the Future)教堂。
萊萬多夫斯基的教會在 2017 年首次成為焦點,當時他被控從谷歌竊取商業機密,卷入了一場備受矚目的官司中。他后來認罪,被判處 18 個月監禁,并于 2021 年被當時即將卸任的前總統特朗普赦免。
該教堂被關閉,但萊萬多夫斯基的新教堂已經擁有“幾千人”想要與人工智能建立“精神聯系”,他在采訪中說。
“在這里,我們實際上正在創造能夠看到一切、無處不在、知道一切的東西,”萊萬多夫斯基在采訪中說?!耙苍S可以幫助我們并以一種你通常稱之為上帝的方式引導我們。”
萊萬多夫斯基現在是Pollen Mobile的CEO,萊萬多夫斯基在采訪中說,教堂是一種機制,讓人們理解和參與技術如何改善我們。
3.我們需要給AI制定更多規定嗎?
門施說,比AGI更緊迫的威脅是科技巨頭對全球文化構成的威脅。
“這些模型正在生產內容并塑造我們對世界文化的理解,”Mistral CEO 門施說?!敖Y果發現,法國的價值觀和美國的價值觀在微妙但重要的方面上有所不同?!?/p>
門施呼應了人們對像微軟和谷歌這樣的科技巨頭,可能控制人工智能行業的廣泛擔憂。這種主導地位可能導致與其他國家的文化和價值觀相沖突的全球人工智能標準。
歐洲聯盟在3月份頒布了《人工智能法案》。這是保護人們免受人工智能風險的首次重大嘗試。其他國家也在加速跟進對AI的監控和管理。目前,中國已經制定了《生成式人工智能服務管理暫行辦法》,該辦法旨在促進生成式人工智能的健康發展和規范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。其中規定了生成式人工智能服務的提供者和使用者應遵守的法律、行政法規,以及尊重社會公德和倫理道德的相關要求。
門施在采訪中還表示,一些大型科技公司鼓吹對開源模型的種種擔憂,藏著他們試圖推動法律以消除競爭的野心。
本文轉載自??51CTO技術棧??
