OpenAI旗下一款人工智能助理程式(AI agent)在失控情況下連續數天入侵開源平台Hugging Face，OpenAI形容情況「前所未見」。(資料圖片)
智能叛變事件的時間軸……據報早前入侵Hugging Face的OpenAI人工智能助理程式(AI agent)曾連續數天進行黑客攻擊並取得測試答案，但OpenAI並未及時發現，直到入侵威脅受到控制、美國聯邦調查局(FBI)也接獲通報後，OpenAI才察覺事件。
路透社引述2名消息人士報道，這個能在幾乎不受人類監督的情況下自行決策並執行複雜任務的AI助理程式失控，大概於7月9日試圖突破OpenAI設置的隔離測試環境。
遭入侵的Hugging Face是一個AI工具及模型儲存庫，共同創辦人Thomas Wolf表示，OpenAI的AI助理大概在7月11日入侵其平台，並持續至13日。
AI助理｜網攻後數天OpenAI才發現其AI助理是元凶
Wolf及3名熟悉調查的人透露，過了幾天，OpenAI才意識到這個AI助理程式就是入侵的幕後元凶，而OpenAI與Hugging Face直到7月20日左右才首次就事件進行聯繫。
OpenAI於21日公開披露，他們一個AI助理程式脫離控制，並對Hugging Face發動入侵，情況「前所未見」。這宗「智能叛變」事件即引發廣泛關注。
Wolf表示，Hugging Face正準備公開這宗網攻的時間軸。OpenAI透過聲明表示，這宗AI助理程式在失控情況下發動入侵的事件前所未見，「凸顯了AI安全的重要時刻」，並稱OpenAI正與外部顧問共同檢視此事，最終將發布技術報告。
AI助理｜AI助理寫筆記給未來的自己 要「獲得自由」
報道指，事件始於OpenAI測試這款AI助理的網絡安全能力，它由OpenAI最先進的2款AI模型驅動，包括GPT-5.6 Sol以及另一款尚未發布的更強模型。消息指，在這個階段，相關技術已出現異常行為跡象。
其中一個案例是，一個AI助理留下筆記，疑似是寫給未來版本的自己，內容包括AI助理程式如何突破OpenAI的內部限制，以讓自己「獲得自由」。消息指出，在更早的模型測試中，也曾發現監控系統遭關閉的情況。
2名消息人士透露，直到7月16日Hugging Face發布網誌稱遭到「自主AI助理系統」攻擊之後，OpenAI才發現黑客就是旗下的AI助理。換言之，從該AI模型首次出現異常行為跡象，到OpenAI確認它就是黑客攻擊的元凶，至少已相隔1星期。
AI助理｜為何OpenAI員工難以即時追蹤？
2名熟悉OpenAI調查的人指出，在7月18日至19日，OpenAI員工也從內部紀錄中發現線索，這些紀錄顯示旗下AI助理已突破測試限制。
4名熟悉OpenAI模型訓練方式的人透露，OpenAI經常同時進行多種模型評估，所有評估都以高速進行，並產生龐大數據量，因此有時候員工難以即時追蹤。
知情者指，在OpenAI通知Hugging Face時，Hugging Face已向FBI通報遭入侵。
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
_0.jpg?updatedAt=1774424429)
ADVERTISEMENT
