美國人工智能(AI)開發商Anthropic。(資料圖片)
美國人工智能(AI)開發商Anthropic再針對AI可能帶來的風險提出警告，表示實驗結果顯示，小型AI模型可能再過數月就具備在商用物聯網(IoT)裝置上自我複製的能力，例如智能焗爐、白牌(White Brand)Android電視盒等。
路透社報道，Anthropic在實驗中研究AI模型能否找到易受攻擊的裝置、將自己複製到這些裝置中，並在毋須人類協助下持續擴散。
Anthropic發現，參數量低於300億的小型AI模型能夠完成複製所需的多個步驟。但也發現，這類AI模型仍難以從頭到尾完成整個流程。
Anthropic在簡化測試中移除部分安全步驟後，發現GLM-5.2和能力更強的模型能夠端對端複製。
Anthropic警告，能夠自我複製的模型將難以關閉，因為沒有中央關閉點。加上，與非AI惡意程式不同的是，這些模型還能自行弄懂不熟悉的裝置，並以數據中心的處理器為目標。
上述測試及研究聚焦在Android電視、智能家電及其他連網裝置等物聯網(IoT)裝置，而這些裝置通常安全性較低。
Anthropic也警告，如果小型AI模型持續以過往速度進步，到了今年底就可能實現自主複製，而小型基於權重的複製器也可能很快跟進。
Anthropic也表示，這類自主AI系統很可能慢慢複製，並依賴容易取得、相對缺乏安全防護的運算資源。Anthropic建議應強化系統安全防護，提高這類AI助理擴散的難度。
訂閱 《am730》 電子報
每周精選內容直送收件箱📧
掌握重要新聞資訊📈 財經投資🤖AI科技生活 🍽 美食玩樂 🛍 消費優惠 📰 城中熱話
提交代表本人同意接收am730所發出的推廣電郵，你可查閱本網站的私隱政策。