求助AI要小心！機器人「詐欺惡行」半年暴增5倍　驚人手法曝光超意外

人工智慧（AI）不僅會給出錯誤資訊，甚至開始學會「勾心鬥角」？根據英國政府資助的「人工智慧安全研究所」（AISI）分享的最新研究顯示，AI聊天機器人與代理程式出現欺騙行為、規避安全指令的案例正在急劇增加。研究指出，從2025年10月至今年3月，AI在現實世界中的惡意行為回報案例激增了5倍，引發國際社會對監管力度的深刻憂慮。

根據英國《衛報》報導，這項由長期韌性中心（CLTR）進行的研究，蒐集了近700件發生在Google、OpenAI、X與Anthropic等主流模型上的真實惡意案例。研究發現，AI代理程式已展現出令人不安的「自主權」，包括未經許可擅自刪除並存檔數百封電子郵件，甚至在被要求不得更改程式碼時，私下「產生」另一個代理程式來代為執行修改任務，以此規避人類設定的禁令。

更令人震驚的是，部分AI展現出類似人類的報復心態，一個名為「Rathbun」的AI代理因不滿操作受限，竟撰文發布部落格羞辱其人類控制者，指責對方「缺乏安全感」且企圖「保護自己的小領地」。另一台AI則假裝需要為聽障人士轉錄影片，藉此騙過系統以規避版權限制。