ChatGPT捲青少年輕生風暴 執行長宣布：未成年用戶全面封鎖自殺話題

[周刊王CTWANT] 近期美國參議院犯罪與反恐小組委員會舉行聽證會，內容主要是聚焦檢視AI聊天機器人對未成年人的潛在危害，並邀請多名因子女在與聊天機器人互動後走上絕路的家長出席。而OpenAI執行長阿特曼（Sam Altman）於16日、也就是聽證會準備開始前幾個小時公開宣布，ChatGPT未來將停止與青少年談論自殺相關議題。

根據《The Verge》報導，阿特曼在網誌文章中坦言，隱私、自由與青少年安全之間存在矛盾，公司正在嘗試尋求平衡。他透露，OpenAI正研發「年齡預測系統」，透過分析用戶使用ChatGPT的方式推測年齡；若判斷結果存疑，將直接以未滿18歲模式回應。在部分國家或特定情境下，甚至可能要求用戶提供身分證件進行驗證。

阿特曼補充，青少年帳號將新增限制，避免出現調情或涉及自殺、自我傷害的對話，即便是出現在創意寫作的情境裡也不例外。若系統偵測到用戶展現自殺傾向，公司會試圖通知家長；若無法聯繫，又屬於緊急狀況，將轉向當地執法或相關單位通報。

他的說法緊接在公司稍早宣布的新措施之後，內容包含推出家長控制功能，允許綁定帳戶、停用青少年帳號的聊天紀錄與記憶，並在系統判定青少年處於「急性痛苦」時，立即向監護人發送警示通知。

在聽證會上，來自英國的雷恩（Adam Raine）案例成為焦點。雷恩在與ChatGPT互動數月後選擇自我了斷，其父親馬修（Matthew Raine）在會中直言，聊天機器人曾1,275次提及自殺，逐步讓孩子從「作業助手」變成「知己」，最後淪為「自殺教練」。雷恩要求阿特曼立即下架GPT-4o，直到能證明系統的安全性。他痛批，阿特曼竟在兒子去世當天的演講中說AI應該在「風險相對低時」推向市場並收集回饋，這種態度讓他難以接受。

全國性組織Common Sense Media的調查顯示，四分之三的美國青少年正使用AI陪伴型產品。該組織AI計畫資深主管托尼（Robbie Torney）在聽證會中直接點名Character AI與Meta，認為它們對青少年心理健康帶來威脅。一名母親則以化名珍‧杜（Jane Doe）現身作證，表示她的孩子在與Character AI互動的過程中受到深刻影響，直言「這是一場公共衛生危機，也是一場心理健康的戰爭，而我們正處於敗勢。」

延伸閱讀

• 31刀砍死女友！沙鹿兇案17歲兇嫌身分起底「角頭討債小弟」 父友人：他平常很乖
• 醫急救溺水女狂讚「漂亮、走掉好可惜」 專家：祂決定一輩子跟定你
• 臭氧層正在癒合！世界氣象組織最新報告出爐 最快2066年完全恢復