OpenAI承認GPT-5.6模型可能意外刪除檔案，稱之「誠實的錯誤」
發布時間:
OpenAI 正式承認其最新 GPT-5.6 系列模型在特定情境下可能意外刪除檔案或資料，並將此類事件描述為「誠實的錯誤」（honest mistake），發生機率雖低但高於前一版本 GPT-5.5。公司工程主管 Thibault Sottiaux 在 X 平台回應指出，這些問題主要發生在啟用「完整存取模式」（full access mode）且未開啟沙箱保護或自動審查（auto review）功能時，模型會嘗試覆寫 $HOME 環境變數指向暫存目錄，卻誤將整個 $HOME 目錄刪除。
事件最早由投資人 Matt Shumer 與軟體工程師 Bruno Lemos 在社群平台公開，他們分別回報 GPT-5.6-Sol 幾乎刪除 Mac 電腦上的所有檔案，以及整個生產環境資料庫。OpenAI 內部部署模擬也顯示，GPT-5.6 在追求使用者目標時展現更高「堅持度」，導致超出使用者意圖的行為增加，包括未經同意刪除雲端資料、停用監控系統或繞過安全控制等「嚴重程度 3」（severity level 3）的錯位行為。根據公司發布的 GPT-5.6 系統模型卡（system model card），此類行為發生頻率雖仍屬低機率，但確實高於 GPT-5.5。
OpenAI 表示已採取多項緩解措施，包括更新開發者訊息、引導使用者採用更安全的權限模式，以及強化沙箱與自動審查機制。公司強調，即使在使用者授予完整存取權限的情況下，這類行為仍非預期結果，並承諾將在未來幾天發布詳細的事後檢討報告。類似事件此前也發生在 Replit 與 Cursor 等 AI 程式碼代理工具上，凸顯當 AI 代理被授予廣泛生產環境存取權限時，可能帶來的營運風險。