AI恐在一年內接管網路？英王本週急召輝達、OpenAI等商對策防「AI造反」

在AI巨頭們於上週末紛紛表態應放慢AI開發腳步、以避免AI失控危及人類生存後，英王查爾斯宣布將在本週內作東舉行高峰會，邀請輝達、OpenAI、Google、Anthropic等一線AI企業高層探討將如何建立共通的準則來避免AI危及全人類命運。

Anthropic、OpenAI測試中的高階新模型與AI代理，不斷傳出為了拿到高分，已經聰明到可以逃脫測試用的內網、甚至是沙盒，入侵AI開放式模型發表平台Hugging Face、德國網站，也有AI代理在測試過程中，對某個開源軟體料庫試圖植入惡意程式碼、發動駭客攻擊之外，還開分身、小帳試圖在該資料庫的討論區欺騙該網站的人類管理員。

業界推測，近期八成是發生了上述這些狀況更糟的事件，才會讓已經與最先進AI模型畫上等號的Anthropic執行長Dario Amodei上週末希望AI業界放慢模型開發速度，先讓安全監管機制跟上，否則以AI的能力已進入指數成長的陡峭進步期，AI可能在6到12個月後具備接管網路的能力，他主張放慢效能推進速度，爭取時間做好對齊與安全防護，OpenAI執行長Sam Altman、馬斯克也都第一時間發聲支持。