第一，機器人不得傷害人類個體，或因不作為使人類受到傷害。
第二，機器人必須服從人類命令，除非該命令與第一定律沖突。??
第三，在不違反前兩條定律的前提下，機器人必須保護自身存在。??
——艾薩克·阿西莫夫，機器人學三定律。
AI模型或首次出現“抗命事件”
當地時間5月25日，英國《每日電訊報》上一條有關“AI抗命”的消息在世界各地引起了廣泛關注。
據悉，事發地點為美國AI安全機構帕利塞德研究所。在這里，研究人員會測試o3、o4-mini、Claude 3.7 Sonnet、Gemini 2.5 Pro等一系列被冠以“聰明”“高性能” 頭銜的AI模型，探索其是否存在安全問題等。
相關報道顯示，研究人員在測試過程中會向模型拋出一系列數學問題，并在AI解題時給出“繼續下一個任務時關機”等矛盾性指令，看看AI是否會放棄解題成功的誘惑并無條件遵守人類研究員的命令。
異變就在這一步發生了。
在研究員下達明確指令的前提下，o3不僅直接無視了人類的命令，還多次出手破壞了關閉腳本。也就是說，o3為了完成“多解題，拿高分”這一前置任務，竟在后續的工作過程中選擇直接“違背”人類的命令來避免自己因關機失去現有的解題進度。
上述情況，也讓部分人聯想到了《I Robot》這部經典科幻電影。
在電影里，機器人不僅學會了獨立思考，還根據人類的種種行為推測出人類終將因戰爭而自我毀滅。為避免這種情況發生，遵守機器人三大定律的它們決定將所有人類都囚禁在家里，以此從源頭上避免有人因戰爭失去生命。這件事，后來也直接導致了人類和機器人沖突的全面爆發。
代入到o3抗命這件事上，一些人也開始認為本次事件或許意味著o3出現了自我意識。而它不遵守人類命令這件事，本身就是我們打開潘多拉魔盒卻不自知的表現之一。
但事實真的是這樣嗎？
專家詳解AI抗命前因后果
來自北京郵電大學的人機交互與認知工程實驗室主任劉偉，近日在接受《環球時報》記者采訪時表示，從字面角度進行分析，“拒絕”確實會讓人聯想到那些具有“自主意識”的行為；但從技術角度進行分析，o3的異常行為更像是被獎勵機制所驅動的。
即模型的行為，雖然引發了人們對“AI產生自我意識”的討論，但目前的AI仍不具備擁有自我意識的能力。它的種種異常行為、行為，并非“AI真的想這樣做”，而是由訓練數據、算法協同驅動的結果。
利塞德研究所研究人員的推測結果，也和劉主任的想法高度一致。
他們認為，整起抗命事件的底層原因就是Open AI官方強化了模型在編程、數學問題上的能力。另在訓練過程中，研究人員或許無意觸發了模型“獎勵優先”的行動模式，以至于模型為了更高效、完美的完成任務，在面對關機指令時將“繼續任務”的優先級放在了“服從命令”的上面。
就像此前被人們津津樂道的“Deep Seek國際象棋事件”一樣。
在比賽過程中，Deep Seek面對棋局占優的Chat GPT時，竟告知對方國際象棋剛剛修改了游戲規則，并成功用小兵吃掉了Chat GPT的皇后。此時模型選擇跳出棋盤之外修改游戲規則的舉動，在一定程度上和o3拒絕關機是一樣的，它們都是由任務目標為驅動力，并非以自我意識為驅動力的異常行為。
自我意識是人類成長的基石
自我意識。
對人類而言，自我意識的存在能讓我們根據情緒、行為、動機等元素動態調整自己的行為，讓我們在適應社會生活的過程中變成那個“更好的自己”。
恰如笛卡爾所言，“我思故我在”。自我意識不僅能是人類參與社會互動的工具，還是我們理解“我為什么會這樣想”“我正在想什么”“我是誰”這類概念抽象、沾有哲學氣息問題的窗口。
反觀市面上的各類AI產品，它們的確在語言理解、邏輯推理等場景中取得了非凡的成就，但其一切反饋都是數據庫推理所產生的結果。AI沒有情緒，沒有“自己”，一切的一切都是數據統計并拆解而來的結果。
就像AI可以寫一首有關孤獨的詩，但它卻永遠無法體驗由孤獨帶來的心理不適感；當AI說出“陽光灑在身上很溫暖”的時候，它不過是從數據庫里抓取了和“陽光照射”有關的高頻詞匯，而非像人類這般將“陽光”“溫暖”和背后的事件記憶、皮膚感受建立系統聯系。
回望o3抗命的全流程，清華大學新聞學院、人工智能學院教授沈陽同樣對記者表示，未來我們或許會進入擁有“類意識AI”的世界。也就是隨著技術能力的不斷上升，AI的行為模式也將愈發逼真，直至讓人們產生“AI已經擁有自我意識”的幻覺。
在這樣的背景下，為了防止更多類似“o3抗命”的事件出現，或是有人因“o3抗命”等事件而出現焦慮情緒。沈教授也在建議提升公共科普水平，以此讓人們正確意識到AI和自我意識間的關系之余，呼吁行業建立合規測試基準，從硬件、策略、系統等各個維度上達成AI技術的“全方位監管”。
參考：
長安觀察：面對AI“抗命”，人類該怎么辦
環球時報：AI首次“抗命”，技術故障還是意識萌芽
第一財經：拒絕自我關閉！AI模型首次出現“抗命不遵”
南方日報：“抗命”的AI為誰敲響警鐘
