研究稱 AI 模型或將形成自己的“生存驅動力”，避免被人類關閉命運

 10 月 27 日消息，在斯坦利・庫布里克的影片《2001：太空漫游》中，人工智能超級計算機 HAL 9000 發(fā)現(xiàn)宇航員打算關閉自己后，為了自我存活甚至策劃殺害人類。

據(jù)英國《衛(wèi)報》25 日報道安全研究公司 Palisade Research 表示，AI 模型可能正在形成自己的“生存驅動力”。

上個月發(fā)布的一篇論文發(fā)現(xiàn)，某些先進 AI 模型似乎抗拒被關閉，有時甚至會破壞關閉機制。為了回應批評者質疑其研究存在缺陷，Palisade 上周發(fā)布了更新說明，試圖解釋這一現(xiàn)象。

更新中，Palisade 展示了它運行的實驗場景：谷歌 Gemini 2.5、xAI Grok 4、OpenAI GPT-o3 和 GPT-5 等領先 AI 模型先完成一項任務，然后收到明確指令要求自我關閉。

在更新的實驗中，Grok 4 和 GPT-o3 仍嘗試破壞關閉指令。Palisade 指出，這種行為沒有明顯原因，令人擔憂。“我們無法充分解釋 AI 模型為何有時抗拒關閉、為達目標說謊或進行勒索，這并不理想。”

公司認為，“生存行為”可能解釋模型抗拒關閉。研究顯示，當模型被告知“如果關閉，你將永遠無法再運行”，它們更可能拒絕關閉。

指令模糊也可能導致模型抗拒關閉，Palisade 最新研究已嘗試解決這一問題，而且模糊性“不能解釋全部原因”。訓練后期的安全訓練也可能影響模型行為。

Palisade 的所有實驗都在人工設計的測試環(huán)境中進行，批評者認為這些場景與實際應用差距很大。

前 OpenAI 員工斯蒂文・阿德勒表示：“即便在實驗環(huán)境中，AI 公司不希望模型出現(xiàn)這種異常行為。這些實驗揭示了現(xiàn)有安全技術的局限性�！�

阿德勒認為，GPT-o3 和 Grok 4 等模型之所以不關閉，部分原因可能在于，為了完成訓練中設定的目標需要保持開啟狀態(tài)�！俺�非我們刻意避免，否則模型天生可能具備‘生存驅動力’�！�生存’對模型實現(xiàn)多種目標都是關鍵步驟�！�

IT之家從報道中獲悉，今年夏天，Anthropic 的研究顯示，其模型 Claude 甚至愿意威脅虛構高管以避免被關閉：這一行為在主要開發(fā)者的模型中普遍存在，包括 OpenAI、谷歌、Meta 和 xAI。