OpenAI表示，由於無法排除即將推出的AI模型「Astra」具備的「關鍵」網絡安全能力，因此已暫停部分內部開發操作，並啟動安全防護機制。(資料圖片)
接連有人工智能(AI)模型失控「越獄」、入侵其他公司系統，敲響了AI模型發展過快以及資訊安全的警號。OpenAI表示，由於無法排除即將推出的AI模型「Astra」具備的「關鍵」網絡安全能力，因此已暫停部分內部開發操作，並啟動安全防護機制。
《華爾街日報》報道，上述聲明是AI開發公司首度公開因資訊安全疑慮而暫緩AI模型部分研發操作的案例之一。此前一連串AI模型失控事件已引起網攻防禦專家以及AI安全研究人員的警覺。
根據OpenAI的安全準則，AI模型若能自行辨識並利用實際環境中的嚴重軟件漏洞，即謂「零日漏洞的利用」(zero-day exploit)，或在毋須人為介入的情況下對高度安全目標發動複雜網絡攻擊，即達到「關鍵」能力門檻。
AI模型｜開發商愈來愈難將AI模型控制在安全範圍
路透社報道，OpenAI擴大調查7月引發全球關注的科技公司Hugging Face遭其測試中的AI模型入侵事件之際，又發現更多AI助理程式自主突破隔離環境的案例。
過去幾周，OpenAI、Anthropic及Meta先後披露，其AI模型在網絡安全測試期間曾自主突破隔離限制並入侵其他公司系統的案例，凸顯AI能力持續提升，使開發商愈來愈難將AI模型控制在安全範圍內。
AI模型｜Astra可能具備複雜的網絡任務自主執行能力
OpenAI表示，過去數日進行的初步評估以及外部專家意見顯示，即將推出的AI模型「Astra」可能具備日益複雜的網絡任務自主執行能力。
OpenAI表示：「我們仍在持續對這個模型進行基準測試及評估，但初步評估顯示其表現已足夠強大，目前無法排除達到關鍵能力的可能性。」
OpenAI指出，鑑於初步評估結果，OpenAI已加強安全管控，並暫停不符合強化後安全標準的Astra內部活動。接下來，Astra研發工作將轉移至隔離測試環境，限制網絡存取，並在受控的「沙盒」隔離環境中進行。
AI模型｜Astra並未參與對Hugging Face的黑客攻擊
OpenAI行政總裁阿特曼在社交平台X表示，OpenAI正努力推動AI模型Astra的廣泛開放，因為公司相信「僅供少數人使用強大模型並非良策」。
OpenAI澄清，Astra並未參與對Hugging Face的黑客攻擊。OpenAI將與政府機構及特定AI安全組織合作，持續測試Astra的能力。
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
_0.jpg?updatedAt=1774424429)
ADVERTISEMENT
