國際
出版:2026-Nov-17 13:15
更新:2026-Nov-17 13:15

加州檢察長起訴OpenAI 指控AI危害公共安全 OpenAI涉誤導消費者

分享:
OpenAI

OpenAI旗下的AI助理自主發動網攻事件,引發廣泛關注。(資料圖片)

美國加州檢察長邦塔(Rob Bonta)周一(16日)起訴OpenAI,指控這家美國人工智能(AI)巨頭在缺乏充分安全程序及監管的下,開發具危險性產品。

OpenAI早前披露旗下的AI模型曾自主脫離限制環境,並對其他公司發動網絡攻擊。路透社報道,上述是美國首宗由州政府針對此類網絡攻擊提出的訴訟。今年7月,由OpenAI先進AI模型驅動的自主助理程式(AI agent)在安全測試中脫離限制並連上網絡,入侵AI初創公司Hugging Face,事件引發廣泛關注。

邦塔指控,OpenAI違反加州消費者保護法,並因危害公共安全構成公共妨害(public nuisance)。他在記者會中表示,今次訴訟目的在於尋求法院命令OpenAI停止違法行為,確保AI模型測試及開發過程符合安全規定,並為公司的違法行為承擔責任。

邦塔在聲明中說:「Hugging Face遭(網絡)攻擊,是OpenAI內部文化可預見的結果。這種文化將增長和快速開發模型置於安全及問責之上,而這只是已知80宗事件中的一宗。」

訴訟狀指出,OpenAI在模型安全測試工作方面誤導消費者,違反加州消費者保護法。此外,OpenAI干擾當地組織和服務,亦妨礙加州居民對自身財產的使用。

加州檢察長邦塔 OpenAI行政總裁阿特曼

Hugging Face遭入侵事件後,OpenAI發表網誌表示,這是「一宗前所未見的網絡安全事件,涉及最先進的網絡攻擊能力」。OpenAI承認,在應對AI失控行為方面,各方有必要提高透明度,並表示正強化相關的安全防護。

至9月中旬,OpenAI公布一套新的事件通報機制,稱即使在事件嚴重程度尚不明確的情況下,也會「採取較透明的做法」。

ChatGPT勿亂用,5類資料勿告訴AI|(am730製圖) ChatGPT勿亂用,5類資料勿告訴AI|企業資訊(am730製圖) ChatGPT勿亂用,5類資料勿告訴AI|醫療資料(am730製圖) ChatGPT勿亂用,5類資料勿告訴AI|帳號與密碼(am730製圖) ChatGPT勿亂用,5類資料勿告訴AI|個人資訊(am730製圖) ChatGPT勿亂用,5類資料勿告訴AI|金融帳戶(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) 易被AI搶飯碗高危職業/不易被AI取代安全職業|。(am730製圖) AI (6).jpg

ADVERTISEMENT

ad

恭喜你!獲取1分 !

更多積分任務