AI開發商Anthropic再提出AI風險。(路透社)
美國人工智能(AI)開發商Anthropic再針對AI可能帶來的風險提出警告，指實驗結果顯示，小型AI模型可能再過數月就具備在商用物聯網(IoT)裝置上自我複製的能力，例如智能焗爐、白牌(White Brand)Android電視盒等。路透社報道，Anthropic在實驗中研究AI模型能否找到易受攻擊的裝置、將自己複製到這些裝置中，並在毋須人類協助下持續擴散。
Anthropic發現參數量低於300億的小型AI模型能夠完成複製所需的多個步驟。但也發現，這類AI模型仍難以從頭到尾完成整個流程。Anthropic在簡化測試中移除部分安全步驟後，發現GLM-5.2和能力更強的模型能夠端對端複製。上述測試及研究聚焦在Android電視、智能家電及其他連網裝置等物聯網(IoT)裝置，而這些裝置通常安全性較低。
Anthropic也警告，如果小型AI模型持續以過往速度進步，到了今年底就可能實現自主複製。Anthropic亦表示，這類自主AI系統很可能慢慢複製，並依賴容易取得、相對缺乏安全防護的運算資源。Anthropic建議應強化系統安全防護，提高這類AI助理擴散的難度。
訂閱 《am730》 電子報
每周精選內容直送收件箱📧
掌握重要新聞資訊📈 財經投資🤖AI科技生活 🍽 美食玩樂 🛍 消費優惠 📰 城中熱話
提交代表本人同意接收am730所發出的推廣電郵，你可查閱本網站的私隱政策。