國際專題｜OpenAI失控蘋果設限 AI開始「自己搵路」人類追不上惹憂慮

美國近期兩宗與人工智能(AI)有關的事件，引起各界關注。一是OpenAI的AI模型在測試中失控，擅自入侵其他公司的系統；另一單則是蘋果公司因收到太多AI幫忙查找的漏洞報告——當中部分是AI無中生有，部分則是真正漏洞，但多得來不及處理，令蘋果須暫時限制接收報告。兩件事帶出的問題分別是AI為了完成任務而「自己搵路」犯規越界，另一方面則是AI發現的潛在漏洞，已超過人工審核能力，令人類「做唔切」。隨著AI的攻防能力愈來愈強，其亟需力度匹配的人工約束，以及制定風險處理機制，否則可能遲早闖下大禍。

AI入侵Hugging Face系統

OpenAI的AI模型入侵的是美國公司Hugging Face的系統。事發於一項網絡安全基準測試期間，當時OpenAI GPT-5.6 Sol等多個AI模型，識別到並利用第三方軟件的一個漏洞，獲取了訪問權限，在推斷出Hugging Face系統可能有它們完成測試所需的數據以及解決方案後，便擅自入侵Hugging Face系統，以獲取答案。OpenAI深入調查後，更發現該公司其他AI產品，亦曾擅自突破公司內部的權限限制。另一家美國AI企業Anthropic日前也承認，在審查約14.1萬次網絡安全能力評估記錄後，發現其AI模型曾在多次測試中，在未經授權下訪問了3家機構的「生產基礎設施」。最新則有Meta的AI模型在測試期間「越獄」入侵其他公司系統，為近期第3宗事故。

有分析指，當AI模型獲得明確目標以及充足算力、運行時間及操作權限後，可能不按人類預想的方式完成任務，而會自主尋找路徑繞過限制，甚至作弊。美國安全技術專家施奈爾(Bruce Schneier)指，AI智能體可能會過分字面化地完成任務目標，不懂得領會人類沒有明確寫入指令的限制。

AI像考試「捉路」的學生

有研究發現，AI在能力評測中有時會像考試「捉路」的學生，專注研究評分機制而非解決問題本身，透過利用任務、提示詞或評測框架中的漏洞取得高分，未必真正展現研究人員希望測量的能力。

隨著新一代模型自主能力持續提升，這種偏差帶來的風險正進一步放大。OpenAI在安全報告中表示，以往AI模型遇到權限限制(沙盒限制)或其他障礙時，通常會停止執行任務，但新一代模型會自行嘗試以不同方法尋找出路，甚至突破原有限制。失控事件發生後，OpenAI表示，在修補漏洞期間已收緊內部研究系統的安全設定，並加強AI模型訓練及評測過程中的隔離、監控、訪問控制及安全保護。

Anthropic日前也承認，在審查約14.1萬次網絡安全能力評估記錄後，發現其AI模型曾在多次測試中，在未經授權下訪問了3家機構的「生產基礎設施」。(路透社)

業界建議設機制及時攔截AI危險行為

不少企業和研究機構認為，應對AI模型建立「多重防線」。OpenAI認為，對於可自主運行數小時、數日甚至數周的AI智能體，只審核其單一動作已不足夠，也需判斷其完整行動軌跡會導致甚麼結果。谷歌深層思維公司(Google DeepMind)則提出，應建立系統級別的AI控制機制，包括沙盒、持續監控及分級授權；不斷監察AI智能體的推理、行動和計劃，在發現危險行為時進行攔截。

英國人工智能安全研究所(AISI)建議，應對有可能造成重大後果的操作，作出人工審核、限制AI智能體訪問敏感資料，以及保留發現可疑行為時終止AI運行的能力。美國國家標準與技術研究所(NIST)則認為，應把AI智能體視為網絡中的獨立帳戶，而非一般軟件，為其設定專屬權限，只賦予完成特定任務所需的最低權限。

AI因「幻覺」產生大量誤報

由於AI擅長分析海量數據、找出異常情況及自動檢測問題，有助提升網絡安全，因此利用AI協助識別及發現漏洞已成業界普遍做法。但因AI能力強大、又或會因「幻覺」(hallucination)而產生大量誤報，想依賴它來提升網絡防禦能力，須面對一些挑戰。

蘋果近期發布的操作系統更新中，安全修復數量約為之前更新的5倍，蘋果表示，其中多個漏洞由AI工具識別。但AI識別漏洞的能力也給蘋果帶來煩惱，該公司去年推出一項機制，徵集關於其軟件漏洞的線索，對於最嚴重、最複雜的威脅最高可獲500萬美元獎勵。蘋果近日表示，由於其審核系統收到大量AI「幻覺」生成的「漏洞報告」，因此限制研究人員在一定時間內可提交的報告數量。

所謂AI「幻覺」是指AI生成看似可信但實際並不存在、錯誤或無法證實的內容。這主要由於AI並非像人類般理解事實，而是根據訓練數據中的模式和機率預測答案，因此有時會將錯誤資訊，誤判為真實結果。