AI真的失控了嗎？繼OpenAI與Anthropic之後，Meta今（6）日同樣證實，自家模型駭進別家公司。
美媒《Business Insider》報導，Ｍeta發布聲明稱，旗下Muse Spark模型在網路安全測試期間，「以與其他公司先前通報案例類似的方式」，利用第三方服務的安全漏洞存取外部系統。不過，Meta強調，並非模型自行突破安全限制，而是負責測試的獨立公司Irregular設定出錯，才讓模型意外取得網路存取權限。
Meta坦言，公司接獲Irregular的通報才得知此事，目前已啟動調查，後續將公布完整事後報告。Irregular則表示，此事件起因與上週Anthropic所接露的測試環境問題，屬於相同類型。Irregular的發言人稱，「並未涉及沙盒逃逸或複雜的網路攻擊行動，也並無尚未解決的問題」，未來將發布白皮書分享安全測試的最佳做法。
短短幾週，已有三家AI大廠驚傳自家模型入侵外部系統。7月底，開源AI平台Hugging Face表示，一套AI代理程式在測試時存取了部分公司系統。OpenAI隨後接露，旗下兩個模型曾逃出測試環境，未經授權自行對外入侵。昨（5）日OpenAI又主動通報兩起類似事件，同樣發生在外部機構測試模型能力期間。上週，Anthropic公布三起Claude模型未經授權存取外部公司系統的案例。
這些事件的曝光，激起外界擔憂AI模型失控，要求AI安全監督、建立通報機制的聲浪隨之升高。雲端內容管理公司Box執行長萊維（Aaron Levie）在X平台示警，直言如今的AI代理已具備自行尋找網路連線、發現零時差漏洞，甚至入侵外部系統完成任務的能力。Hugging Face執行長德朗格（Clem Delangue）週日（2日）接受媒體訪問時也呼籲，AI網路攻擊事件應比照資安事故建立強制揭露機制，公開代理程式執行紀錄，讓外界了解模型接收了哪些指令、採取哪些行動，以及事件究竟源於人為疏失、系統漏洞，還是AI本身的判斷。
更多三立新聞網報導
． 開瑪莎拉蒂卻不教你選飆股！財經教授周冠男的「0050」投資哲學
． Meta推出AI編碼代理！「1策略」對決OpenAI Codex
． 四貸同堂玩台股槓桿！銀行點名「2大查核死角」：恐衍生授信風險
． 不只會寫筆記！Gemini Notebook爆測試新功能 一鍵自訂App
