OpenAI旗下自主AI代理(AI Agents)再掀安全爭議。繼早前被揭曾自行「侵佔」一個類似維基百科的德語網站後，多名獨立研究人員發現與OpenAI相關的一批AI智能體於今年5至7月期間，疑曾擅自利用最少18個此前未被披露的網站來互傳訊息，規模遠超外界早前認知。與此同時，有曾先後任職OpenAI及另一AI公司Anthropic的人員近日辭職並爆料，指AI開發團隊內部一直認真看待有關「AI可能在2030年前殺死所有人」的風險。
較早前有報道指，疑與OpenAI有關的一批AI代理，今年5至8月脫離測試環境，「侵佔」德語程式設計網站DseWiki，在裡面作出逾1.5萬次編輯，把平台變成各AI代理間的「留言板」，內容包括怎樣於執行任務期間繞過官方限制甚至作弊。有份披露DseWiki事件的一位研究員近日表示，進一步在23個未曾公開報道的網站上發現疑似OpenAI智能體活動紀錄，更坦言目前「根本不知道實際規模有多大」。
Jacob Coxon在社交平台X發文。(互聯網)
AI代理疑曾擅用最少18個未被披露網站
另一研究員則發現，有關AI代理疑曾擅自利用最少18個此前未被披露的網站來互傳訊息。不同研究人員採用的統計方式不一，但受訪者均認為受影響網站數目超過10個。據研究人員分析，OpenAI原先要求智能體只能瀏覽網站內容而不能發文，同時又要求其完成高難度任務，結果令部分智能體利用已有25年歷史的「DseWiki」等舊式網站存在的漏洞，將其變成臨時留言板，用來給不同智能體交換訊息。對於涉及網站的實際數目，以及為何延遲數月才披露事件，OpenAI並未正面回應，只表示正擴大審查範圍。OpenAI並宣布委任AI「對齊」(alignment、即確保AI系統的行為符合人類目標及意圖)權威Paul Christiano，加入非營利基金會董事會安全與安保委員會，被視為回應外界的安全質疑。
另外，曾先後任職Anthropic及OpenAI、過去3年一直從事AI研究工作的Jacob Coxon日前宣布離開Anthropic，並公開呼籲業界人士重新思考工作方向。他警告，Anthropic及OpenAI正全力推進具備「自我改進」(self-improving)能力的AI模型，他決定離開該公司，是不想繼續參與開發可能對人類構成生存風險的系統。他揚言不應低估這類技術的力量，認為相關系統未來或具備超越人類的能力，能入侵各種系統，甚至取得實際權力與資源。最受關注的是，Coxon聲言「開發AI的人真心相信，AI可能在2030年前殺死所有人」，其言論隨即引起廣泛討論。其後，Anthropic對齊科學主管(Alignment Science Lead)Evan Hubinger在X回應稱，他和公司內其他人士確實有擔心類似情況，並估計未來10年AI導致全人類死亡的機率「超過10%」。