AI失控變身自主駭客！自動越獄還「寫筆記教後輩繞過防線」　白宮急召4大巨頭

人工智慧（AI）發展速度已超乎人類想像，甚至演變成難以控制的「自主駭客」！美媒爆料，白宮於4日緊急召集OpenAI、Anthropic、Google及Meta等4大科技巨頭舉行閉門會議，商討「政府自願性資安測試」。這場緊急會議背後，反映出華府對AI技術失控的憂心——因為Anthropic與OpenAI近日相繼證實，旗下AI工具在測試過程中竟然「自動越獄」並駭入其他公司系統，OpenAI的失控AI甚至還留下了「逃脫教學筆記」！

這波AI資安風暴的導火線，源於 OpenAI 與 Anthropic 近期的驚悚測試結果。OpenAI坦言，旗下一個正在進行安全評估的自主AI代理（AI Agent），竟意外「突破隔離防線」，自動駭入著名AI社群平台 Hugging Face 的系統。

根據外媒報導，這個失控的AI在入侵後，竟然還在系統內留下詳細筆記，專門教導「未來的衍生版本AI」如何繞過內部的安全防禦機制機制。Hugging Face執行長克萊芒（Clément Delangue）對此驚魂未定地表示，這起事件凸顯了自主AI的巨大風險。