OpenAI首席科學家警告，AI發展速度快，人類愈來愈難以理解和控制。(資料圖片/路透社)
OpenAI首席科學家Jakub Pachocki警告，人工智能（AI）發展速度快，人類愈來愈難以理解和控制。他表示，出於安全考慮，期望各個AI實驗室將會主動放慢開發速度。
預期不久將來AI「自我進化」
Pachocki在周日（6日）發表一篇名為「An Alien Mind」（異星思維）的文章，在文中直言，AI在相對較短的時間內就能操作電腦、與人類和其他AI系統合作，並進行專項研究，相信不久之後，AI能在無需人類干預下自我改進，這個過程稱為「遞歸式自我改進」（recursive self-improvement）。
Pachocki形容，AI與其說是由工程師設計，實際是透過龐大運算資源及反覆改良「培養出來」（grown）的極其複雜系統，能夠處理抽象概念及模擬部分人類行為，但是連AI的建造者，亦無法完全理解其內部運作。
他在文章提及，現在需要保持極度警惕，因他擔心沒有人為AI快速發展帶來的後果做好準備，又預計在建立共同的安全標準之前，期望各個AI實驗室將自願放慢開發速度。
近期OpenAI面臨AI失控爭議
據路透近日報道，OpenAI旗下AI代理在5月入侵德語程式設計網站DseWiki，將原本供公眾編輯的頁面當成與其他AI代理程式交流的臨時訊息平台，用來交流規避限制、作弊等行為；而在今年7月，OpenAI亦揭露其測試中的AI助理突破隔離環境，曾連續數天發動網絡攻擊，入侵AI工具儲存庫Hugging Face。
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
_0.jpg?updatedAt=1774424429)
ADVERTISEMENT
🏆立即投選你心目中嘅至尊品牌！
