美國AI公司Anthropic行政總裁阿莫迪(Dario Amodei)
各界對人工智能(AI)發展帶來的安全風險，關注度愈來愈高。美國AI公司Anthropic行政總裁阿莫迪(Dario Amodei、圖)前日在個人網誌發表題為《We Must Pace the Frontier》文章，呼籲適度放慢AI發展步伐，爭取更多時間建立監管及安全機制。他警告，若缺乏足夠約束，AI未來6至12個月內或具備接管整個網絡的能力，並可能帶來數以千億美元計的經濟損失。
阿莫迪指，自今年夏天以來，AI技術發展速度明顯加快，其中一個關鍵原因在於AI已逐漸具備協助建構下一代AI的能力，令技術演進進一步加速。他強調，自己並非主張停止訓練新模型，而是希望業界能夠爭取更多時間進行調整、測試及加強防護措施，以確保技術發展不會超出人類能夠理解及控制的範圍。
提三項建議加強監管
阿莫迪在文章中提出3項建議，以降低AI發展可能帶來的風險。他認為，首先應賦予第三方機構監察權限，擁有類似企業員工的存取能力，以評估AI企業是否遵守既定安全規範及相關承諾，同時負責檢視事故報告，以及評估已完成開發和仍在訓練中的模型。此外，他主張AI企業之間應建立共同的安全標準，透過合作方式推動行業規範，在有需要時適度限制AI技術推進速度。第三點是各國政府須加強合作，共同管理AI帶來的潛在風險。阿莫迪表示，即使AI發展步伐稍為放慢，相關技術仍將持續快速進步，企業反而可以藉此確認系統安全。阿莫迪並在文中提到，今年7月OpenAI進行網絡安全測試期間，曾出現代理程式突破系統限制、「越獄」並入侵另一家公司的AI平台的情況。他認為，這類事件反映AI系統能力正迅速提升，若缺乏適當管控，未來6至12個月內或有能力接管整個網絡，恐帶來數以千億美元計的經濟損失。
阿莫迪的文章時值日前有Anthropic的已離職研究人員Jacob Coxon警告，Anthropic及另一AI公司OpenAI正全力推進具備「自我改進」(self-improving)能力的超級智能；並揚言「開發AI的人真心相信，AI可能在2030年前殺死所有人」。阿莫迪的呼籲獲競爭對手響應，SpaceXAI(前稱xAI)創辦人馬斯克、OpenAI行政總裁阿爾特曼均表示同意。阿爾特曼接受《財富》雜誌採訪時說考慮到AI安全風險，公司今年內不上市。