OpenAI的代理式人工智慧模型驚傳自行發動駭客攻擊，引發AI失控風險擔憂。輝達（Nvidia）、微軟（Microsoft）、SpaceX等科技巨頭，於27日就宣布成立「開放安全AI聯盟」（Open Secure AI Alliance），希望透過開放技術打造更安全的AI防護工具。
財經媒體《CNBC》報導，近日一場涉及AI代理系統的資安事件成為導火線。遭攻擊的新創公司Hugging Face發現，原本應協助防禦的美國頂尖AI模型，因安全限制無法有效辨識攻擊者與防守方角色，導致防禦能力受限。最後，Hugging Face改採自行部署的中國開源模型，反而成功避開原先的限制。
此次事件凸顯出AI安全領域的新矛盾。包括OpenAI、Anthropic等公司的前沿模型多屬封閉式系統，用戶只能透過特定平台使用；相較之下，開放權重模型（open-weight models）可下載、修改並部署在自己的基礎設施上，雖然可能增加濫用風險，卻也讓企業能更快調整模型、強化防禦。
輝達表示，「開放安全AI聯盟」將透過開放技術協助發現、修補並揭露AI漏洞。公司指出，近期Hugging Face安全事件反映出一項重要事實：當防禦者無法檢查、調整並自主運行先進AI系統時，面對快速發生的網路威脅，反應能力將受到限制。
除了輝達與微軟外，SpaceX、Palantir等美國科技企業，以及歐洲多家業者也加入聯盟，希望共同打造更安全的開放式AI生態。
這場AI安全競賽背後，也牽動美中科技角力。近來美國政府與國會開始關注中國AI模型快速發展，部分官員指控中國企業可能透過「蒸餾攻擊」（distillation）從美國競爭對手的模型中提取技術能力，進一步強化自身AI系統。
美國財政部長貝森特（Scott Bessent）上週甚至警告，若中國企業涉及針對美國公司的模型蒸餾攻擊，政府可能採取制裁措施。美國外交關係協會（Council on Foreign Relations）新興科技研究員Chris McGuire向《CNBC》表示，美國確實存在限制中國AI模型的可能性，措施可能包含限制模型交易、API服務使用，或禁止美國企業透過雲端提供相關服務。
不過，市場也擔心，若美國過度限制開放式AI模型，可能反而壓縮自身創新空間。目前全球最先進的開放權重模型，多數來自中國企業，讓政策制定者陷入安全與競爭之間的兩難。
在限制呼聲升高之際，輝達、微軟、Meta、Palantir等超過20家企業日前也聯名呼籲政策制定者，不要過早限制開放權重AI模型，避免「扼殺競爭或迫使創新轉往海外」。
業界認為，OpenAI模型事件帶來一個現實警訊：AI能力越來越強，未來不只可能協助人類工作，也可能被用於自主攻擊、漏洞探索等高風險行為。如何讓AI快速發展，同時確保防護能力跟上，將成為科技業與政府共同面對的新挑戰。
隨著美中AI競賽持續升溫，開放模型究竟會成為促進創新的關鍵工具，還是帶來更大的安全漏洞，恐怕將成為未來數年AI產業最重要的政策爭論之一。
三立新聞網提醒您：
內容僅供參考，投資人於決策時應審慎評估風險，並就投資結果自行負責。
投資一定有風險，基金投資有賺有賠，申購前應詳閱公開說明書。
更多三立新聞網報導
． 國巨三大跳空缺口再吞跌停 慘成耶誕樹！連帶這檔主動式ETF暴虧15億
． 靠TikTok爆紅卻要你遠離手機！盧德之夏效應擴大 Z世代3因素喊不玩了
． 上市首日狂飆470%！揭密長鑫存儲何方神聖 為何恐改寫全球DRAM版圖？
． 612億退稅大紅包來了！ 365萬戶七月這天快刷存摺查帳
