「這是一個艱難的決定，會讓一些人感到不安。但是，綜合考慮所有因素，我認為加州或許應該通過 SB 1047 人工智能安全法案。二十多年來，我一直是人工智能監管的倡導者，正如我們對任何對公眾存在潛在風險的產品 / 技術進行監管一樣?！箘倓?，馬斯克發了這樣一則推文。

馬斯克提到的 SB 1047 全稱是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿人工智能模型安全創新法案》）」，旨在為高風險的 AI 模型建立明確的安全標準，以防止其被濫用或引發災難性后果。

具體來說，該法案旨在從模型層面對人工智能進行監管，適用于在特定計算和成本閾值之上訓練的模型。但如果嚴格按照規定的計算和成本閾值來算，現在市面上所有主流的大型模型都會被認為存在「潛在危險」。而且，法案要求模型背后的開發公司對其模型的下游使用或修改承擔法律責任，這被認為會給開源模型的發布帶來「寒蟬效應」。

該法案于今年 2 月份在參議院被提出，隨后一直爭議不斷。很多科學家認為，法案的條款過于不合理，將對科技創新造成毀滅性的影響。前段時間，李飛飛親自撰文，闡述了法案可能帶來的諸多不利影響。加州大學的數十名師生簽署了聯名信，以反對這一法案（參見《李飛飛親自撰文，數十名科學家簽署聯名信，反對加州 AI 限制法案》）。

在反對聲浪如此高漲的當下，馬斯克的態度多少有點出人意料。畢竟一旦法案通過，他創建的 xAI 所訓練的 Grok 系列模型也會被納入監管范圍，而且研發進度也可能受到影響。

與此同時，他的競爭對手 OpenAI 最近宣布反對該法案，轉而支持替代法案。

SB 1047 將于本周在州立法機關進行投票。如果在 8 月 31 日立法會議結束前獲得通過，它將被提交給州長 Gavin Newsom，他將在 9 月 30 日之前簽署或否決該法案。

OpenAI：人工智能革命才剛剛開始，SB 1047 將逼走世界級人才

前段時間，OpenAI 發布了一封公開信，反對 SB 1047 法案。公開信指出，該法案將損害人工智能行業的創新，而且該問題的監管應該來自聯邦政府，而不是各州。

OpenAI 首席戰略官 Jason Kwon 在信中寫道：「人工智能革命才剛剛開始，加州作為人工智能全球領導者的獨特地位正在推動該州的經濟發展。SB 1047 將威脅這種增長，減緩創新步伐，并導致世界級的工程師和企業家離開該州，在其他地方尋找更大的機會?！?/span>

據一位知情人士透露，由于擔心加州監管環境的不確定性，OpenAI 暫停了關于擴大其舊金山辦事處的對話。

法案起草者、加州參議員 Scott Wiener 在一份聲明中為擬議中的立法進行了辯護，并表示 OpenAI 的信「沒有批評法案中的任何一項條款」。他還表示，關于人工智能人才離開該州的論點「毫無意義」，因為該法律將適用于任何在加州開展業務的公司，無論其辦公室位于何處。

Anthropic、Hinton、Bengio 支持 SB 1047

其實，在 OpenAI 發布公開信之前，SB 1047 已經經過了一番修改，以安撫科技公司，主要修訂如下：  

據悉，部分修改意見由另一家人工智能科技公司 Anthropic 提出。最近，該公司公開表示支持修訂后的法案，但也并非毫無保留。

「根據我們的評估，新的 SB 1047 已經有了很大的改進，我們認為它的好處可能超過成本，」Anthropic CEO Dario Amodei 在 8 月 21 日給加州州長 Gavin Newsom 的一封信中說?！溉欢?，我們對此并不確定，該法案的某些方面對我們來說似乎令人擔憂或模棱兩可?！?/span>

除了 Anthropic 和馬斯克，SB 1047 還獲得了包括 Geoffrey Hinton 和 Yoshua Bengio 在內的知名人工智能研究人員的支持，他們強調了平衡創新與安全的重要性。Hinton 稱贊該法案方法合理，強調了需要有針對強大人工智能系統風險的立法。

對于兩位好友的看法，和他們一起獲得 2018 年圖靈獎的 Yann LeCun 表示完全不同意。他既不相信現在的大模型能達到超人水平，也不認為超級 AI 必然主宰人類。在他看來，現在對 AI 進行嚴格監管還為時過早。

支持標記 AI 生成的內容

雖然反對 SB 1047，但其實大部分 AI 研究者、科技公司并非完全反對監管，而是反對 SB 1047 里的監管方法。

例如，在對人工智能生成的內容進行標記方面，加州一項法案最近就取得了新進展。

據 TechCrunch 報道，OpenAI、Adobe 和微軟已支持加州一項法案 ——AB 3211，該法案要求科技公司對人工智能生成的內容進行標記。

AB 3211 法案將于八月進行最終投票。該法案要求人工智能生成的照片、視頻和音頻剪輯的元數據中包含水印。許多人工智能公司已經這樣做了，但大多數人不閱讀元數據。AB 3211 法案還要求 Instagram、X 等大型在線平臺以普通網友可以理解的方式標記人工智能生成的內容。

OpenAI、Adobe 和微軟是內容來源和真實性聯盟（C2PA）的成員。從今年早些時候開始，OpenAI 已經向由 DALL?E 3、ChatGPT 和 OpenAI API 創建和編輯的圖像中添加了 C2PA 元數據。

值得注意的是，商業軟件聯盟 BSA（成員包括 Adobe、微軟等）在 4 月份曾表示反對 AB 3211 法案，他們在致加州立法者的一封信中稱該法案「不可行」且「過于繁重」。然而，該法案的修正案似乎改變了他們的想法。

不過，科研人員對 SB 1047 法案的態度似乎沒這么容易轉變。特別是，以 OpenAI 為代表的科技公司一直持反對意見。SB 1047 法案的最終投票結果可能會在人工智能行業激起一些風浪。