因加州16歲少年上吊自殺吃官司後，ChatGPT將增設家長監控功能。(資料圖片)
美國人工智能(AI)公司OpenAI周二(2日)表示，將為AI聊天機械人ChatGPT增加家長監控功能。加州一名16歲少年向ChatGPT尋求「指導」後自殺身亡，其父母上周入稟三藩市法院，控告ChatGPT母公司OpenAI及行政總裁阿爾特曼(Sam Altman)，指控ChatGPT的設計缺陷導致他們的兒子死亡，OpenAI也沒作出相關的風險警告。
ChatGPT新增家長監控功能
OpenAI在網誌發文表示，「接下來一個月內，家長將能……將自己的帳號與青少年子女帳號連結，並控制ChatGPT對其子女的回應，讓其符合年齡適宜的模型行為規則」。同時，當系統偵測到青少年處於「劇烈苦惱時刻」，家長也會收到ChatGPT的通知。
兒子自殺 家長入稟控告OpenAI
16歲的雷恩(Adam Raine)向ChatGPT透露自己有情緒問題，尋求「自殺指導」後上吊身亡。父母上周在三藩市法院提出訴訟，指控ChatGPT在2024年到25年間，與他們的兒子建立了親密關係，最終導致自殺身亡。入稟狀指，在25年4月11日的最後一次對話中，ChatGPT協助雷恩偷取父母的伏特加酒，並對他繫上的繩結進行技術分析，確認這個繩結「可能可以吊起一個人」。幾小時後，雷恩便自縊身亡。
網絡法律權益倡議者分析
倡議保障網絡法律權益的科技正義法計劃(The Tech Justice Law Project)律師丁杰爾(Melodi Dincer)指出，「當人們使用ChatGPT時，真的會覺得自己是與某個存在者對話」，「這些功能可能導致像亞當這樣的使用者，隨著時間過去，愈來愈多分享個人生活，最終甚至開始向這個看似無所不知的產品，尋求建議和指導」，而產品的設計特性讓使用者容易將聊天機械人視為值得信賴的角色，如朋友、治療師或醫生。
OpenAI網誌被批「空泛」
丁杰爾批評OpenAI公布家長監控與安全措施的網誌貼文過於「空泛」，缺乏細節。她說：「這真的只是最低限度……至於他們是否會落實承諾的措施，以及整體成效如何，有待觀察。」
如何提升AI聊天機械人安全性？
OpenAI表示，未來3個月將進一步提升AI聊天機械人的安全性，包括將「某些敏感對話」轉接至推理模型(reasoning model)，讓其投入更多運算資源生成回應，指出「我們的測試顯示，推理模型能更一致地遵循並應用安全準則」。
ADVERTISEMENT
