新技術恐讓AI演化失控
綜合外媒報導，考克森指出，新一代超人級AI若具備自主駭入系統或翻轉產業的實力，人類將失去掌控權。這種遞歸式自我改進技術能讓AI自行升級，演化速度遠超想像。即便OpenAI首席科學家Jakub Pachocki也坦言，現今各家企業對一致性與監控的準備根本不足，呼籲全球應放慢腳步並建立安全體系。
1400位專家呼籲政府管控AI
AI釀成災難已非杞人憂天，產業內常用「p(doom)」指標來評估滅絕機率。2023年已有眾多科技巨頭連署，將AI風險提升至核武等級。2024年7月更有約1400位專家聯合上書，發起「把握前沿步伐」（Pacing the Frontier）公開信，希望政府趕快出手拉住這頭暴走野獸，Hubinger也參與連署。
美國國會陷監管拉鋸戰
面對失控危機，美國國會正陷入監管拉鋸戰。共和黨眾議員Jay Obernolte等人提出《FRONTIER Act》主張建立部署規範，而佛蒙特州獨立參議員Bernie Sanders等人則推出《Ban Artificial Superintelligence Act》，要求在法令健全前全面暫緩先進AI研發。雙方陣營立場迥異，凸顯出政界對監管方向仍缺乏共識。
科技公司瘋AI消耗土地與能源
反彈聲浪同時延伸至現實生活，各大科技公司狂蓋資料中心，大量消耗土地與能源，引發地方居民強烈不滿。此現象不僅一躍成為美國中期選舉熱議焦點，美國財政部長Scott Bessent更忍不住站出來要求AI巨頭必須說清利益分配，切莫讓科技紅利僅落入少數權貴口袋。
