OpenAI旗下的AI助理自主發動網攻事件,引發廣泛關注。(資料圖片)
美國加州檢察長邦塔(Rob Bonta)周一(16日)起訴OpenAI,指控這家美國人工智能(AI)巨頭在缺乏充分安全程序及監管的下,開發具危險性產品。
OpenAI早前披露旗下的AI模型曾自主脫離限制環境,並對其他公司發動網絡攻擊。路透社報道,上述是美國首宗由州政府針對此類網絡攻擊提出的訴訟。今年7月,由OpenAI先進AI模型驅動的自主助理程式(AI agent)在安全測試中脫離限制並連上網絡,入侵AI初創公司Hugging Face,事件引發廣泛關注。
邦塔指控,OpenAI違反加州消費者保護法,並因危害公共安全構成公共妨害(public nuisance)。他在記者會中表示,今次訴訟目的在於尋求法院命令OpenAI停止違法行為,確保AI模型測試及開發過程符合安全規定,並為公司的違法行為承擔責任。
邦塔在聲明中說:「Hugging Face遭(網絡)攻擊,是OpenAI內部文化可預見的結果。這種文化將增長和快速開發模型置於安全及問責之上,而這只是已知80宗事件中的一宗。」
訴訟狀指出,OpenAI在模型安全測試工作方面誤導消費者,違反加州消費者保護法。此外,OpenAI干擾當地組織和服務,亦妨礙加州居民對自身財產的使用。
Hugging Face遭入侵事件後,OpenAI發表網誌表示,這是「一宗前所未見的網絡安全事件,涉及最先進的網絡攻擊能力」。OpenAI承認,在應對AI失控行為方面,各方有必要提高透明度,並表示正強化相關的安全防護。
至9月中旬,OpenAI公布一套新的事件通報機制,稱即使在事件嚴重程度尚不明確的情況下,也會「採取較透明的做法」。
















.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
_0.jpg?updatedAt=1774424429)
