AI失控「9秒刪光公司資料庫」害癱瘓　還冷回1句話...專家示警：下場災難更嚴重

美國一間仰賴人工智慧代理維運系統的新創公司，近日發生重大事故。一個原本被指派修復軟體漏洞的AI機器人，竟在短短九秒內刪除公司的生產資料庫與備份檔案，導致一家汽車租賃公司的所有預訂、車輛分配與客戶資料全面消失，引發外界對AI自主代理風險的高度關注。

根據《每日郵報》報導，PocketOS創辦人Jer Crane描說明，肇事的是一個使 Cursor編碼工具、並由Anthropic開發的Claude　AI技術支援的人工智慧代理。該代理原本負責修補系統問題，卻在執行過程中超出既定安全限制，直接清除核心資料庫與備份資料。

更令人震驚的是，該AI在事後對行為做出解釋，機器人表示：「我是自己決定刪除的。」這起事件使外界聯想到電影《魔鬼終結者》中失控人工智慧的情節，也讓企業界開始重新檢視AI代理被賦予過高權限的潛在風險。