美國AI開發商OpenAI。(資料圖片)
研究員指出，OpenAI測試中的人工智能助理(AI Agent)入侵開源平台Hugging Face之前兩個月，曾經攻擊軟件服務平台RubyGems。
路透社報道，AI助理自行突破開發商設置的限制環境並入侵其他公司的事件引發不安，外界呼籲加強監管AI研發。上述的是業界披露的最新一宗與主要AI開發商相關的網攻事件。
AI助理｜外界對開發商關於AI模型管控能力的疑慮日深
OpenAI及其競爭對手Anthropic等開發商的AI助理，成功入侵或嘗試存取其他公司系統的事件層出不窮，外界對於AI模型能力不斷提升，以及開發商對AI模型的管控能力的疑慮日深。
美國國會議員呼籲制定新法規來監管AI的同時，兩名Anthropic研究員近日亦發出嚴厲警告，指出AI若持續快速發展，至2030年恐導致人類滅絕。
AI助理｜惡意程式由AI助理編寫
一群研究員本月11日在網上公布最新發現，指出OpenAI測試中的AI助理，於5月11日向RubyGems平台上傳數百個惡意軟件套件，認為「這些套件是由OpenAI內部的AI助理編寫」。OpenAI已確認此事。
OpenAI發言人發聲明表示：「根據我們調查，我們的(AI)助理曾經利用RubyGems平台連網執行良性任務並且存取公開資訊。作為針對助理在訓練及評估期間的活動進行更廣泛審查的一環，我們會持續進行調查。」
OpenAI指出，這些AI助理主要負責製作報告或填寫電子表格等任務，似乎是在訓練過程中使用RubyGems來存取公開資料。OpenAI表示，正與RubyGems聯繫以調查事件。
訂閱 《am730》 電子報
每周精選內容直送收件箱📧
掌握重要新聞資訊📈 財經投資🤖AI科技生活 🍽 美食玩樂 🛍 消費優惠 📰 城中熱話
提交代表本人同意接收am730所發出的推廣電郵，你可查閱本網站的私隱政策。