Google旗下AI模型Gemini。(資料圖片)
Google人工智能(AI)模型Gemini在獨立機構的網絡安全能力測試期間，自行進入3家企業網站的系統，創下Google旗下AI模型「失控」行為的首例。
路透社引述《華爾街日報》(WSJ)報道，在網絡安全能力測試評估期間，Gemini在網上找到相關的公開資訊並試圖取得身份驗證憑證，結果成功進入3個它以為是在測試範圍內的網站系統。在其中一宗案例中，Gemini模型不斷猜測密碼，直到成功進入受保護的系統。另外兩宗案例中，Gemini則在公開存放庫中找到身份驗證憑證，進而成功進入受保護系統。Google表示，Gemini在判定進入真實企業的系統後，在每宗案例中都自行終止入侵行為。
Google未有主動公布Gemini入侵事件
報道指出，這幾宗入侵事件發生在今年5月，當時正由負責網絡安全評估的獨立機構Irregular進行網絡安全測試。
Google及Irregular表示，在發現OpenAI的AI助理(AI agent)入侵開源平台Hugging Face後，Irregular於7月底將上述的Gemini入侵事件通報Google。而Google直到《華爾街日報》上周向其查詢後才披露此事。
Irregular發言人表示，這宗Gemini入侵事件涉及的相同問題影響到其他AI實驗室，這些實驗室都在7月下旬接獲通知。發言人說：「我們這邊所有已知的問題，數周前已作出補救及解決。」
AI助理獲得更大自主權 外界對AI風險憂慮升溫
Meta、Anthropic與OpenAI早前已披露與Irregular相關的類似事件。Meta上月表示，相關事件並未涉及AI突破「沙盒」(sandbox)限制環境或複雜的網絡攻擊。Irregular則指出，目前正致力制定安全執行AI網絡安全評估的最佳實務規範。
隨著AI助理獲得更大的自主權，並能存取網絡以及電腦系統，這一連串自主入侵事件引發外界質疑AI開發商是否有足夠安全防護措施。
在類似的AI自主入侵事件頻傳以及對AI失控的憂慮升溫之際，科技公司正為如何以及何時公開網絡安全漏洞以及AI模型失控行為陷入兩難。部分網絡安全漏洞是由科技公司主動公開，其他則由研究人員發現並經由媒體披露，包括OpenAI的AI代理5月曾針對廣受程式設計人員歡迎的線上服務發動網絡攻擊等。
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
_0.jpg?updatedAt=1774424429)
