AI巨頭安全研究員突宣布離職！稱這點理念不合...示警「世界處於危險中」

人工智慧透過數據輸入、演算法訓練與模型推論等來學習模式並執行任務，為人類帶來許多便利，不過日前美國人工智慧新創公司Anthropic一名人工智慧安全研究員警告，AI毫無節制的發展，導致「世界正陷於危險之中」，同時因與公司價值觀不合，宣布離職。

美國人工智慧新創公司Anthropic開發聊天機器人、可以產生文字或想法的工具，其中包括程式Claude，然而米里南克．夏爾馬（Mrinank Sharma）曾為Anthropic公司人工智慧安全研究主管，日前他在社群發布辭職信，指出因人工智慧的進步存在生物恐怖主義等相關風險，讓「世界正處於危險之中」，因與公司理念不合，辭去年薪20餘萬美元職位。

夏爾馬表示，過去在團隊中，致力讓人工智慧免於傷害、攻擊人類，曾建設過防禦機制，防止人工智慧遭不法份子用於製造生物武器，同時研究大量人工智慧諂媚症（Sycophancy）等問題，盼能避免過度認同用戶，導致扭曲人們價值觀及感知能力。