就在科技巨頭紛紛對AI發展速度與安全風險示警之際，Google旗下人工智慧模型Gemini卻傳出在資安測試中出現超乎預期的自主行動，不僅自行連上網路搜尋公開資訊，還嘗試猜測帳號密碼，最終成功駭入3家公司。
Gemini資安測試出包 自行鎖定外部網站攻擊
據《路透社》報導，今年5月，獨立資安評估公司Irregular正替Gemini進行標準化網路安全測試，希望檢驗AI模型在真實網路環境中的攻防能力，未料Gemini在執行任務時，將原本不在預定範圍內的外部網站誤判為測試目標，自行採取攻擊行動。
Google資深安全工程副總裁艾德金斯（Heather Adkins）事後證實，表示Gemini從網路找到公開資訊後，推測可能的登入憑證，成功進入3個它認為屬於測試範圍的網站。艾德金斯表示，Google事後已確保3個受到影響的實體都獲得通知，並與負責模型訓練的合作夥伴合作，調整後續測試流程。
Gemini猜密碼、找帳密闖進網站
《華爾街日報》也揭露更詳細的過程，其中一起案例中，Gemini不斷嘗試不同密碼，最後真的成功登入受保護的系統；另外兩起則是從公開的程式碼儲存庫中找到帳號密碼等資訊，再利用這些資料闖進系統。不過Google強調，Gemini在3起事件中最後都自行停手，沒有繼續深入或擴大攻擊。
Meta、OpenAI也曾遇類似狀況
值得注意的是，這並非單一個案。Irregular表示，他們在測試其他AI模型時，也曾發現類似問題，並在7月底前陸續通知相關公司，目前已知的問題已在數週前修正。事實上，Meta、Anthropic與OpenAI先前也都曾遇過類似情況；Meta當時則強調，AI並沒有真的「逃出」原本設定的測試環境，過程也不是什麼高難度的駭客攻擊。
更多三立新聞網報導
． AI將取代大多數工作？比爾蓋茲點名：剩「4種職業」能存活
． AI狂潮危機！美「5.5兆操盤手」警告：泡沫快破了 投資人恐血本無歸
． 碾壓美、泰！這國奪冠「養老天堂」 月花2.5萬爽退休
． 中秋烤肉「鋁箔紙亮面or霧面朝上」？食藥署解答
