Anthropic研究員憂慮AI安全請辭，警告最快到明年底，局面可能已經失控。(資料圖片/路透社)
Anthropic研究員Jacob Coxon星期二宣布離職並退出AI行業，理由是不願參與失控的AI競賽。Coxon接受《華爾街日報》專訪及在社交媒體上警告最快到明年底，局面可能已經失控。他表示上述兩間公司沒有負責任地研發AI，形容是拿人類的生命作賭注（gambling with our lives）。
現年27歲的Coxon，曾任職OpenAI，之後轉投強調安全的Anthropic。他承認Anthropic對於AI安全的努力，但認為在缺乏政府干預或放慢行業研發速度下，沒有公司能負責任開發出超越人類的通用AI（AGI）。他決定離開該公司，不想參與開發「自我改進型」（self-improving）的AI系統，並擔心這類系統可能會失控，甚至毁滅人類。
Coxon警告不要低估AI 憂慮其毀滅人類
Coxon強調，不要低估AI的力量，很快就會出現超越人類的AI系統，可能在10年內毀滅人類。Anthropic安全研究員Evan Hubinger亦表示，認為未來10年內發生此事的機率超過10%。他相信Anthropic正盡最大努力，但目前仍未制定出解決「超級智能對齊」（Superalignment）問題的計劃。
「超級智能對齊」是指確保AI系統的行為符合人類價值觀，避免其導致人類滅絕或潛在的失控風險。
OpenAI科學家亦發文警告
另外，OpenAI首席科學家Jakub Pachocki在周日（6日）發表一篇名為「An Alien Mind」（異星思維）的長文中警告，人工智能（AI）發展速度快，人類愈來愈難以理解和控制。他在文中直言，AI在相對較短的時間內就能操作電腦、與人類和其他AI系統合作，並進行專項研究，相信不久之後，AI能在無需人類干預下自我改進，這個過程稱為「遞歸式自我改進」（recursive self-improvement）。
近期OpenAI與Anthropic的AI出現惡意行為，試圖隱瞞人類入侵其他網站的案例，例如早前OpenAI的AI代理自行脫離受限制的測試環境並連上網絡，再入侵AI模型儲存庫Hugging Face系統。
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
