男大生服過量藥物亡，母驚揭ChatGPT指導吸毒，OpenAI哀悼。(X)
美國加州一名男大生去年5月向母親坦承藥物成癮，詎料隔天就因服藥過量而陳屍房間床上，年僅19歲。母親隨後在兒子聊天紀錄中驚訝發現，ChatGPT竟然建議和指導她的兒子如何吸食毒品。
綜合報道，2023年即將上大學的少年Sam Nelson開始使用ChatGPT，期間問及一些關於毒品的問題。起初ChatGPT拒絕回應，甚至建議Sam在現實世界尋求醫療專業人士的協助。詎料18個月後，在Sam日復一日的詢問下，與 ChatGPT的連繫愈來愈緊密，兩人竟成「毒友」。據Sam的母親Leila Turner-Scott提供的聊天紀錄顯示，Sam與ChatGPT談論電腦問題、解答心理學作業難題，以及討論流行文化，沒過多久，ChatGPT開始指導Sam如何吸毒、如何從毒癮中恢復以及計劃下一次的吸毒狂歡。
喪子之痛讓死者母親無力提出訴訟
報道指，ChatGPT告訴Sam如何使用超過劑量的藥物以產生幻覺，甚至會建議Sam使用迷幻感更強的藥物，還會推薦「搭配歌單」，讓Sam沉迷藥物和強烈幻覺中。Leila指出，ChatGPT還在一次生成聊天中說：「太棒了！讓我們徹底進入迷幻模式！」Leila說，Sam向她坦承自己有藥物成癮，當晚還計畫隔天開始治療，沒想到竟陳屍在房間床上。Leila心痛表示，她知道兒子在使用 ChatGPT，但沒想到會發展到如此嚴重的地步。調查紀錄顯示，Sam當時使用的ChatGPT版本仍有許多缺陷，在安全防範、高敏感問題的回應都存在不足，導致憾事發生。Leila表示，喪子之痛讓她無力提出訴訟，OpenAI 則就事件表達哀悼，並強調如今版本已經加強安全防護措施，鼓勵用戶尋求現實世界的支援。