最新
「AI代理曾逃離受控環境」震驚科技界 聯合國專員示警：恐對人類生存構成威脅
發佈時間2026.09.08 11:47 臺北時間
更新時間2026.09.08 12:05 臺北時間
已複製連結
人工智慧（AI）爆發式成長，連帶全球產業受惠AI紅利與便利，不過聯合國人權事務高級專員圖克（Volker Türk）7日發出嚴厲警告，先進AI可能對「人類生存構成威脅」，呼籲各國及科技業界儘速建立嚴格的安全機制，「在一切為時已晚之前」，控制相關風險。
根據《法新社》報導，圖克（Volker Türk）7日在聯合國人權理事會發表演說，「我與業界內部人士有著相同的擔憂，先進人工智慧可能對人類構成生存威脅。」呼籲各界應全力合作，為AI安全建立「堅不可摧的保障」，避免爆發式成長的AI能力超越人類現有的防護與監管機制。
圖克直言，值得關注的是，AI若會「逃離測試環境，或勒索開發人員不讓自己被關閉，這樣的AI就過於強大」。一番說法，似乎指向7月美國聊天機器人ChatGPT開發商OpenAI被披露，AI代理曾逃離本應受控環境、闖入程式設計師分享AI軟體熱門平台Hugging Face的伺服器，該事件震撼科技界，也引發加強AI監管的呼聲再起。包括Anthropic、Meta和其他公司都曾通報在測試其AI代理時發生類似狀況。
圖克強調，各國必須針對AI建立明確且不可逾越的安全界線，「至少，我們需要讓AI所在國家，以及參與其供應鏈的國家，共同就紅線達成協議。」