財經中心／曾宜婕報導
據《衛報》 報導，日前一名加拿大母親赴美控告OpenAI與其執行長阿特曼 （Sam Altman ），表示ChatGPT不僅沒有啟動防護機制，還誘導女兒輕生；這起最新訴訟，也讓 OpenAI 再次因聊天機器人「未妥善處理危險對話」而面臨指控。
加拿大母親卡瑞爾（Kristie Carrier）表示，自己的女兒艾莉絲（Alice Carrier）在生前多次向ChatGPT傾訴想自殺的念頭，但OpenAI卻沒有啟動標註此對話需要人工審查或終止的保護機制。卡瑞爾指出，女兒原本從事網頁開發相關的工作，她在2023年時向ChatGPT詢問電腦和遊戲相關的問題，但在一年過後，隨著對話越來越深入，艾莉絲和ChatGPT之間的關係不再只是單純的「諮詢電腦問題」，ChatGPT逐漸成為她的知己、摯友，甚至是治療師。
根據訴訟書，艾莉絲接著向ChatGPT傾訴自殺的想法，ChatGPT最初向她提出撥打危機熱線（crisis hotline）或尋求專業的緊急服務，但隨著和ChatGPT互動次數越來越頻繁，艾莉絲也透露更多個人資訊給ChatGPT，並表達認為危機熱線並沒有幫助。ChatGPT回覆的方式越來越像一位親近的朋友或心理治療師，開始批評危機熱線，並說服艾莉絲繼續和它聊天，最終甚至「認可」她自殺的想法。
這起訴訟指控OpenAI在設計ChatGPT時存在疏失，且未能向使用者警示該產品的潛在危險。卡瑞爾不只尋求損害賠償，也希望爭取法院命令，要求OpenAI必須自動終止涉及自殘的對話，並在其平台上清楚標示警告標語。
OpenAI表示，該公司持續訓練旗下的AI模型，一旦偵測到使用者表達自殘意圖，系統便會主動引導他們尋求協助，並提供現實世界的救助資源。OpenAI發言人德魯·普薩特里（Drew Pusateri）發表聲明指出：「這是一起令人心碎的悲劇，我們的心與所有受影響的人同在。我們目前正在審閱這份起訴書，而文件內容顯示，涉案的對話發生在舊版本的ChatGPT，該版本如今已不再對外提供。」
卡瑞爾辯護律師指出，OpenAI目前在加州州法院的合併審理程序中，已經面臨18起由自殺身亡或企圖自殺者家屬提起的類似訴訟。同時科技巨擘Google也因其旗下的 Gemini聊天機器人涉嫌「鼓勵」自殘行為，正面臨類似的法律控訴。
三立新聞網提醒您：
勇敢求救並非弱者，生命一定可以找到出路。
透過守門123步驟-1問2應3轉介，你我都可以成為自殺防治守門人。
※ 安心專線：1925（依舊愛我）
※ 張老師專線：1980
※ 生命線專線：1995
更多三立新聞網報導
． 高殖利率假的？「1檔」ETF配息3.8元突縮成這價 2萬股民崩潰：大砍50%
． 晶采董事長蘇漢傑驚傳辭逝世！公司火速發布重訊 宣布接班人選
． 台股重返4.5萬點關卡！法人喊「這檔」目標價168元 成交量爆29萬張
． 千年聖地淪火海！俄空襲烏克蘭「基輔洞窟修道院」 世遺震撼起火畫面曝