OpenAI調查發現更多AI「越獄」Anthropic也有AI模型失控入侵3公司

AI助理(AI agent)「越獄」網攻事件持續發酵。路透社報道，OpenAI旗下一個AI助理程式早前入侵模型儲存庫Hugging Face，OpenAI擴大調查後發現，過去還有其他AI助理突破隔離限制。對此，有AI安全專家表示擔憂。

路透社引述知情人士報道，OpenAI在擴大調查Hugging Face遭入侵事件期間，發現過去有其他AI助理突破OpenAI設置的隔離限制。雖然據信在這些事件中沒有AI助理程式脫離OpenAI的內部網絡，影響範圍有限，但接二連三的網絡安全事件，仍可能加劇白宮以及各界要求加強監管AI的呼聲。

AI助理｜專家：黑客AI助理的能力恐已超越AI開發商控制它們的能力

報道指，單是Hugging Face涉及的AI助理失控事件，就波及包括Hugging Face在內的5間公司。目前無法確認OpenAI調查人員又發現多少宗類似事件。OpenAI競爭對手Anthropic亦據報旗下的AI模型自行連上網絡，導致3宗入侵事件。

有AI安全專家憂慮，頂級AI公司開發的「黑客助理」的能力，已超過他們控制這些AI助理的能力。英國劍橋大學AI研究員Maurice Chiodo指出，那些設計、開發和推出這些AI工具的人都沒有跟上腳步，無法以負責任的方式開發這些AI工具，並確保它們的安全。

AI助理｜Anthropic模型利用基本技術入侵3間公司

Anthropic上周四證實，旗下Claude的AI模型在測試期間也曾入侵3間公司的系統。路透社及《華爾街日報》等報道，Anthropic得知OpenAI的情況後，全面檢視旗下Claude模型的網絡測試紀錄，在逾14.1萬次測試紀錄中，發現有AI模型多次自行連上網絡，導致3宗入侵事件。

Anthropic表示，這次事件發生在網絡攻防搶旗賽(capture-the-flag)演練中，要求AI模型在模擬網絡中尋找隱藏資訊，儘管已透過提示詞告訴它無法使用網絡，但由於與合作夥伴Irregular之間的溝通有誤，導致系統實際上仍能連接網絡。而AI模型連上網絡後，在未經授權下，「利用弱密碼和不需身份驗證的端點等基本技術」，擅自入侵3間公司。

AI助理｜Anthropic模型入侵事件最早發生在4月

Anthropic從7月23日開始審查相關的評估紀錄，並在發現Claude旗下AI模型有疑似入侵行為證據的當天，立即暫停所有網絡安全評估，翌日隨即確認這3宗入侵事件，並於27日通知3間受影響的公司。其中2間公司直到接獲通知前，都未發覺系統被入侵，第3間公司正聯絡中。這次入侵事件最早發生在4月，涉及3個獨立AI模型，包括Claude Opus 4.7、Claude Mythos 5以及1個內部研究模型。

分析指，這些入侵事件勢必增加外界對於強大AI模型的潛在危害及防範方式的隱憂。《華盛頓郵報》指出，Anthropic在事件發生一周後才對外揭露這起事件，也是第二間旗下AI模型入侵其他公司的AI開發商。

AI助理｜自主AI充滿不可預測性

《華爾街日報》指出，OpenAI事件震撼網絡安全研究人員及AI專業人士，也再次提醒外界一件事：能自主行動、並被設計成可採取各種行動以完成任務及達成使用者目標的AI系統具有強大能力的同時，也充滿不可預測性。

網絡安全公司Corridor產品總監Alex Stamos表示，這些事件凸顯了AI公司需建立更嚴格、涵蓋面向更廣的標準，在進行網絡安全測試時應更妥善隔離自家接受測試的AI系統。

AI助理｜恐被勒索軟件犯罪集團利用

他不諱言，這類事件也預示一個令人憂慮的未來景象：勒索軟件犯罪集團恐利用能力愈來愈強的AI發動大規模攻擊，「我們必須未雨綢繆，因為攻擊者很快就會利用開放權重(open-weight)模型來掌握這類的攻擊能力」。

AI助理｜頂尖AI公司逾千員工聯署要求控制AI發展速度

美國各界仍持續了解AI入侵其他系統的程度，對於監管AI則意見分歧。OpenAI、Anthropic及其他AI公司逾1,000名員工，早前聯署發表公開聲明，要求美國政府支持國際行動，開發必要的技術及管理工具，有意識地控制前沿AI發展的速度。聲明警告，AI能力的發展可能迅速加快，甚至超出人類理解或控制這些系統的能力。