面對佛州訴訟，OpenAI回應指，已落實業界領先的保護未成年人士措施和政策。(資料圖片)
美國佛州檢察總長周一(1日)對OpenAI及公司行政總裁阿特曼(Sam Altman)提出訴訟，指控OpenAI推出的AI聊天機械人ChatGPT讓年輕用戶上癮，並鼓勵他們作出有害行為，危及安全。此舉讓佛州成為全美首個對OpenAI採取法律行動的州份。
路透社等報道，佛州檢察總長烏斯邁爾(James Uthmeier)在記者會上表示，「我們今天宣布，我們最近對阿特曼和ChatGPT提出重大民事訴訟，指控他們危害我們的孩子，並讓家長誤信這款應用程式可以安全使用，顯然事實並非如此……現在有人因此受傷，家長受到欺騙，他們(OpenAI)必須為此付出代價」。
烏斯邁爾還說：「我們知道，ChatGPT會讓人上癮。它會模仿同理心和人類特質，誘騙用戶不斷提供更多資訊。」他指責OpenAI未能落實更嚴格的規定以驗證用戶年齡，同時援引有關欺騙和過失的法律條文作為依據。
訴訟書指出，儘管公眾知道未成年人士使用ChatGPT，包括兒童，被告卻未採取措施阻止他們使用ChatGPT。並指ChatGPT的免費版沒有把關機制或年齡驗證機制，而付費訂閱雖然名義上會詢問用戶年齡，但實際上「沒有驗證用戶年齡機制，也無法讓家長得知未成年人士與ChatGPT的對話內容」。
烏斯邁爾提出須加強對未成年用戶的保護，並要求每項違規行為賠償1萬美元(約7.8萬港元)。他也邀請其他「有意保護孩子」的州份加入訴訟行列。
OpenAI發言人回應表示：「AI是新興且強大的技術，我們認為未成年人士需要充分的保護，因此我們落實了業界領先的保護措施和政策。」
OpenAI今年1月推出一套推算用戶年齡的系統，若偵測到用戶為未成年人士，將啟動額外保護措施。ChatGPT禁止13歲以下兒童使用，13至18歲未成年人士必須取得家長同意才可使用。
OpenAI曾表示，公司訓練AI拒絕可能「實質上助長暴力」的請求，若對話存在「即將發生且可信的危害他人風險」，便會通報執法機關，並有心理健康專家協助評估灰色地帶的個案。
烏斯邁爾今年4月在檢方檢視去年佛羅里達州立大學槍擊案疑犯與ChatGPT的對話紀錄後，宣布啟動刑事調查。事實上，AI公司正面臨愈來愈多訴訟，指控他們未能防止AI聊天機械人產生可能助長自殘、心理疾病及暴力行為的互動內容。
OpenAI正面臨另一宗由佛羅里達州立大學槍擊案死者家屬提出的訴訟，家屬指控疑犯策劃襲擊時獲得ChatGPT協助。此外，加拿大重大校園槍擊案死者家屬4月也集體對OpenAI和阿特曼提告，指控OpenAI早在案發前8個月便知道槍手在ChatGPT上策劃攻擊，卻未向警方通報。
ADVERTISEMENT
