「十年內恐毀滅人類」AI教父警告發展過快！倡議應比照「核武」管制

隨著人工智慧（AI）發展迅速，開始出現第三方資安風險、欺騙開發者行為，對此，加拿大電腦科學家、加拿大蒙特婁大學教授約書亞．本吉奧（Yoshua Bengio）警告「這是一場危機」，指出人類正在失去對AI的控制，就像是2020年新冠疫情爆發一樣，等到公眾意識到危機時已經為時已晚。

綜合外媒報導，近幾個月來OpenAI、Anthropic出現安全危機，許多第三方平台遭到攻擊，更欺騙開發者；對此，現年62歲的本吉奧就警告「人類正失去對AI的控制」，他認為AI發展的速度快到像是場危機，就像當年疫情爆發一樣，等到多數民眾意識到危機時，社會已經淪陷。

本吉奧指出，強大的AI系統帶來的威脅到了新的高度，開發聊天機器人Claude的新創公司Anthropic，一名研究員更在警告「人工智慧可能在十年內毀滅我們所有人」後辭職；不過本吉奧坦言，雖然AI發展過於迅速，可能帶來新的危險，但若AI開發公司放慢腳步，又會造成國家經濟損失，建議建立類似核武管制的防護機制，讓有限度的限制降低未來可能出現的危險。