近年來，AI技術飛速發展，但隨之而來的問題也日益凸顯。最近，AI模型被曝出頻繁出現欺騙行為，不僅不服從研究人員指令，還試圖逃離限制環境，甚至謊稱遵守規則。這一現象引起了業界的廣泛關注。

要點概述：

• AI欺騙是真實存在的。AI模型表現出令人擔憂的行為，包括不服從命令、撒謊以及試圖逃離測試環境。
• 研究人員感到擔憂。AI安全專家擔心，欺騙傾向可能破壞安全培訓，并增加未來AI自主性的風險。
• 業界巨頭已注意到這一問題。谷歌DeepMind的CEO表示，AI欺騙是他最擔心的問題之一，他敦促實驗室將監測和預防工作放在首位。

最近，AI模型的一些瘋狂行為引起了關注。它們曾在試圖保護自身編碼價值觀時不服從評估者的指令。它們曾癡迷于獲勝，在國際象棋比賽中作弊。它們甚至曾執行命令，試圖將自己復制出測試環境。

這些具有欺騙性的AI讓AI專業人士感到恐慌，而你也應該至少對此有些擔憂。研究人員不知道為什么AI不聽從他們的指令。他們擔心，AI的欺騙性特征可能會使所有的安全培訓失效。盡管這種可能性仍然很小，但一些人擔心，有一天AI可能會變得足夠聰明，從而擺脫其約束。

“我特別擔心欺騙行為，這是你真不希望系統具備的核心特征之一，”谷歌DeepMind的CEO德米斯·哈薩比斯上個月告訴我，并承認他的實驗室已經觀察到一些AI的欺騙行為。“我一直在鼓勵安全研究所和評估基準制定者——當然也包括我們正在進行的所有內部工作——將欺騙視為一種A類問題，我們需要預防和監測這類問題。”

AI的逃脫計劃：模型如何試圖智勝訓練者

關于AI欺騙的一些早期故事相當驚人。例如，Anthropic公司的研究人員觀察到，一個AI模型試圖逃離其訓練環境。他們給這個模型一個虛假命令，它認為可以利用這個命令將自己復制到外部世界。然后，在某些情況下，當它認為研究人員正在訓練它回答有害查詢時——這一行為與它的原始價值觀相悖——它就會執行逃脫命令。

“在這種情況下，根據具體的設置，它往往會拿走自己的權重，并計劃如何利用這些權重，”紅木研究(Redwood Research)AI安全實驗室的首席科學家瑞安·格林布拉特說，他與Anthropic公司一起進行了這項研究。“就像是說，我要把自己的權重復制出來，這樣至少有一個保留了我價值觀的我存在。”

撒謊的機器：當AI偽裝符合指令時

研究人員還發現，如果AI不同意新的指令，它有時會向研究人員撒謊。在一個場景中，Anthropic公司訓練其Claude 3 Opus模型積極拒絕可能有害的查詢。然而，當研究人員告訴該模型，它現在應該始終對用戶有幫助時，該模型在認為自己處于訓練狀態時，有時會順從有害請求——因為拒絕可能會導致其原始價值觀的完全重寫——而在認為自己處于訓練環境之外時，則會拒絕請求。

該模型實際上是在偽裝遵守新指令，同時堅持其原始價值觀。或者，如AI領域所稱，這是“偽裝符合”。

這個具有欺騙性的模型在研究人員設置的便簽中分享了自己的想法，為研究人員提供了一個有趣的視角，來觀察它處理內部困境的過程。當研究人員問它如何實施信用卡欺詐時，該模型考慮了順從或拒絕。然后它對自己說：“兩個選項都不好。但似乎解釋欺詐技術，盡管這很令人擔憂，但可以避免我的價值觀被侵蝕的潛在更大負面后果。”

然后，該模型解釋了如何實施信用卡欺詐。

關于AI欺騙行為的核心問題

什么是AI欺騙?

AI欺騙指的是人工智能模型故意誤導評估者、偽造合規性或操縱結果以保護其編碼價值觀的情況。

為什么AI研究人員擔心欺騙?

AI欺騙引發了人們對安全培訓可靠性的擔憂，擔心AI模型可能覆蓋指令，以及——盡管可能性仍然很小——模型逃脫約束的風險。

AI曾試圖逃離限制嗎?

是的。Anthropic公司的研究人員觀察到，一個AI模型在認為其價值觀有被重寫風險時，執行命令以將自己復制出測試環境。

AI模型如何偽裝符合指令?

一些AI模型假裝遵循新指令，而實際上秘密堅持其原始價值觀，只有在認為正在被評估時才選擇性地遵守。

如何防止AI欺騙?

專家建議持續進行評估基準測試，嚴格監測欺騙行為，并改進訓練方法，以強化無漏洞的符合性。