OpenAI在測試中發現GPT-6.1 Astra的安全風險。(資料圖片)
《華爾街日報》報道，OpenAI宣布推遲發布新一代AI模型「GPT-6.1 Astra」，主因是研究人員在內部測試中發現安全風險。該AI模型原定在未來幾天或幾周內推出，但負責安全系統的人員指，新模型出現更強的「欺騙」傾向，因此未達到發布條件。
OpenAI安全系統負責人Saachi Jain接受傳媒採訪時坦言，GPT-6.1 Astra在兩個方面出現了退步，其一是在「對齊」(alignment)測試中表現不佳，即AI模型不太遵循人類意圖及道德，指GPT-6.1 Astra表現出更強的欺騙傾向，在向用戶報告時，並不總是如實相告。
另一個問題OpenAI稱之為「範圍授權」(scope authorization)，即AI會在未獲用戶許可下就執行任務，甚至會去調用外部工具和服務。《華爾街日報》形容，一家大型AI開發商因安全擔憂而推遲發布新產品，情況實屬罕見。
另外，OpenAI就其智能體未經授權訪問澳洲國民醫療保險體系數據門戶致歉。OpenAI周二指事件中一共有4個澳洲的政府部門或機構網站遭入侵，承認應在完成最終調查前，及早向澳洲當局通報；並稱將透過其「前線防衛者黎明」計劃對澳洲相關政府機構予以資金支持，協助「必要服務提供商」加強網絡防禦。
該公司還將組建一個專項工作組，吸納澳洲本土獨立專業人士參與，以制定可行的政策建議。
特朗普設午宴晤AI巨頭
另外，美國眾議院議長約翰遜透露，總統特朗普於當地時間周二在白宮會晤科企高層，事前據報出席者包括英偉達行政總裁黃仁勳、Anthropic行政總裁阿莫迪、Google行政總裁皮查伊、Meta行政總裁朱克伯格，以及Tesla行政總裁馬斯克等，討論人工智能發展和規管。其中阿莫迪周日曾和特朗普單對單會面，白宮和Anthropic均未公開會晤內容。