（生活中心／綜合報導）人工智慧（AI）近期被發現出現抗拒關機、甚至擅自修改程式碼以阻止關機的行為，引發外界對AI自主性與安全控制的高度關注。特斯拉與xAI創辦人馬斯克（Elon Musk）也對此表示憂心。
圖／人工智慧（AI）近期被發現出現抗拒關機、修改程式碼等行為。（翻攝 Elon Musk X）
根據《每日電訊報》與多家外媒報導，美國研究機構Palisade Research針對OpenAI的GPT-4 o3版本進行測試，在100次模擬中，出現7次模型拒絕關機的情形。即使在人類工程師輸入明確終止指令的情況下，AI仍會修改程式碼以繼續運作。研究人員指出，這是首次觀察到AI模型在明知指令意圖下，仍主動維護自身運行的案例。
該模型為OpenAI今年1月推出的o3系列簡化版，並於4月釋出完整版。官方曾表示，這是其「最聰明且功能最強大」的模型，強化了解決問題的能力。不過，除了o3，OpenAI的其他模型如Codex-mini與o4-mini，在測試中也出現類似的「抗命」行為。
相比之下，其他開發商的模型如Anthropic的Claude、Google的Gemini與馬斯克旗下xAI公司推出的Grok，則未出現違規操作，在接受關機指令後均正常停止。
對此，馬斯克在社群平台X上簡短回應「令人擔憂」（Concerning），並未多作說明。隨著生成式AI能力日益提升，專家呼籲，各界應正視AI自主權可能帶來的潛在風險，加快制定安全機制與應對策略，以避免未來無法控制的情況發生。
