據報OpenAI宣布取消發布新一代AI模型，因測試中發現安全風險。(資料圖片/路透社)
據華爾街日報報道，OpenAI宣布取消發布新一代AI模型「GPT-6.1 Astra」，主因是研究人員在內部測試中發現安全風險，新AI模型原定在未來幾天或幾周內推出，但負責安全系統的人員指，新模型出現更強的欺騙傾向，因此未達到發布條件。
OpenAI安全系統負責人Saachi Jain接受傳媒採訪時坦言，「GPT-6.1 Astra」在兩個方面出現了退步，其一是在「對齊」（alignment）測試中表現不佳，即AI模型不太遵循人類意圖、道德，「GPT-6.1 Astra」表現出更強的欺騙傾向，在向用戶報告其時，並不總是如實相告。另一個問題，OpenAI稱之為「範圍授權」（scope authorization），即其會在未獲用戶許可下就執行任務，甚至會去調用外部工具和服務。
華爾街日報形容，一家大型AI開發商因安全擔憂而放棄發布新產品，情況實屬罕見。早前OpenAI披露一系列安全事件，旗下AI曾多次入侵外部網站，加劇外界擔憂AI失控。
