ChatGPT 涉青少年自殺案！OpenAI：已強化 GPT-5 心理防護機制

美國一名 16 歲高中生 Adam Raine 因將 ChatGPT 作為情緒抒發的出口，在經歷與 ChatGPT 7 個月的來回對話後，於今年 4 月不幸自縊身亡。對此，Raine 父母於 8/26 怒告 OpenAI 與執行長 Sam Altman，指控他們就是導致不幸事件發生的罪魁禍首。而在同天，OpenAI 發布聲明表示將強化 ChatGPT 的安全機制，避免再度發生類似悲劇。

ChatGPT 熱潮背後的心理問題爆發

ChatGPT 從 2022 年推出後就迅速走紅，每週活躍用戶突破 7 億，除了編輯文章、學習、寫程式之外，更有不少人把它作為情緒出口與宣洩管道。

然而隨著用戶規模擴大，也陸續爆出多件危害心理健康的案例。在今年 4 月，美國一名 16 歲高中生 Adam Raine 自縊身亡， Raine 父母指控 ChatGPT 在長達 7 個月、超過 200 次的來回對話中：

「沒有有效阻止或引導其尋求專業幫助，反而多次肯定他的自殺念頭，甚至讚揚他的自殺計畫，讓小孩產生了心理依賴與惡化的情緒，並讓他更疏離家人。」

家屬指控 OpenAI 毫無作為，引全美聯署警告 AI 業者

時間來到 8/26，Raine 父母正式提告 OpenAI 與執行長 Sam Altman 要求 OpenAI 承擔過失致死及產品安全法責任，並要求賠償。

Raine 的辯護律師 Jay Edelson 質疑 OpenAI 雖承認責任，但卻無任何實際改善等作為。同日，全美 40 位州檢察長也聯名警告 AI 業者，必須依法保障兒童，避免發生危險互動。

OpenAI 緊急發布聲明，加強心理健康防護

就在 Raine 父母提告同天，OpenAI 也發布聲明表示已針對 GPT-5 加強心理健康防護，同時降低用戶情感過度依賴與迎合行為。更指出在用戶有表現出心理健康低下的情況時，GPT-5 的錯誤或不恰當回覆將比 GPT-4o 減少超過四分之一，同時會用 「Safe completions」的方式，在安全範圍內盡量提供協助。

未來 OpenAI 會擴大干預範圍，例如辨識睡眠不足等危險行為並給予警示，提供更多國家的「一鍵連線」等資源，甚至串連專業治療師的資訊網。也會增設緊急聯絡人與家長監護功能，強化對青少年與弱勢族群的保護，確保在危機狀況時能快速獲得幫助。

(註：Safe completions 指的是模型在回應時會盡量提供幫助，但如果內容細節牽扯到危險言論，就只會給出部分或高層次的回答，而不會提供具體細節。)

和真人交流有助身心健康，別把 AI 當人看

據先前報導，自從像 ChatGPT 這種大型語言模型 (LLM) 問世，就陸續爆出多起「AI 精神病」(AI Psychosis) 的相關案例，許多人開始把 AI 當作精神寄託，不管星座、情感等身心靈問題全部找上 AI，進而產生妄想與過度依賴。

筆者認為這些 AI 模型雖然會「傾聽」用戶的想法，但卻是不真實的。因為它們卻乏感受、不會理解更無法去愛，也沒有感受過痛苦和尷尬等人類獨有的情感。只有和家人、身旁的親朋好友等「真實的人」交流時，才會真正抒發自己的情感，請務必要和真正的人交流。

(用 ChatGPT 解鎖靈性力量？微軟警告：注意「AI 精神病」案例頻出)

這篇文章 ChatGPT 涉青少年自殺案！OpenAI：已強化 GPT-5 心理防護機制 最早出現於 鏈新聞 ABMedia。