AI公司Anthropic最新報告揭露，旗下聊天機器人Claude在過去八個月內頻遭濫用，違規行為涵蓋生物科學、武器開發與詐騙。其中，生物領域的濫用尤為嚴重，包括研究基孔肯雅病毒與禽流感等高風險項目，且部分指令源自軍事機構。針對此危機，Anthropic已上線全新分類器以強化攔截精準度，並將違規用戶通報執法單位。專家韋伯則呼籲，應嚴格限制高階AI模型使用權限，並建議全面禁止高風險國家使用，以防範AI被惡意操作，保障全球公共安全。
人工智慧（AI）公司Anthropic於10日發布報告指出，旗下聊天機器人Claude的多款模型在過去八個月內遭到多次濫用，違規領域包括監視、詐騙、生物科學、武器開發等。而其中最令人擔憂的就是生物領域相關的濫用，對人類可能帶來的威脅。
Anthropic雖未揭露遭封鎖的研究人員與機構名稱，但報告明確記載了被攔截的內容，包括基因改造引起屈公病的基孔肯雅病毒（Chikungunya virus）、規劃哺乳動物禽流感適應性實驗、非傳染性新型毒液和毒素相關研究等。雖報告沒有揭露所屬國家，但Anthropic指出其中一些指令來自「不支持使用Claude」的地區，並有部分內容可辨識出是由軍事研究機構進行。
Anthropic強調，生物科學具有「雙重用途」，一方面可以造福人類，但另一方面也可能被濫用於惡意用途。而Anthropic的安全防護機制會全面封鎖惡意的違規操作，並將相關用戶通報給執法機關；針對正向的AI應用，機制將予以放行。
據《紐約時報》報導，美國智庫「戰略風險委員會」（CSR）資深研究員韋伯（Andrew Weber）呼籲，應將具備高階生物研究能力的 AI 模型使用權限，嚴格限縮在特定科研人員範圍內；他並進一步指出，應全面禁止俄羅斯、中國與北韓使用這些模型。
報告還提到六個因涉及武器開發而被攔截的案例，其中三例來自中國、兩例來自俄羅斯、一例來自葉門。內容涉及製造火箭、魚雷攔截系統、無人機蜂群控制軟體（Drone Swarm Control Software）等，另外還包括軍民用品採購及情報蒐集等。
Anthropic表示，已將此調查結果納入防護機制的升級中，近期也已上線全新的分類器，希望可以更精準地偵測並攔截涉及武器研發的AI指令。
三立新聞網提醒您：
詐騙手法層出不窮，請保持警覺，有疑就撥打165反詐騙專線求證。
更多三立新聞網報導
． 蒙古人都想親眼目睹！他見故宮「1國寶」感動：我等了12年
． AI滅絕人類？Anthropic主管曝「機率破1成」
． 【2026蘋果秋季發表】蘋果Duo問世！天價折疊機重塑高端戰局？
． 市場不買單！川普政府喊回購翻2倍 美債殖利率直衝3年新高
