人工智能助理的技術發展加劇了網攻威脅。(資料圖片)
Google威脅情報小組(Google Threat Intelligence Group,簡稱GTIG)公布第4季「AI威脅追蹤報告」(AI Threat Tracker),首次觀察到攻擊者(黑客)利用人工智能助理(AI agent),在完全毋須人類介入下,將安全修補程式轉為實際可用的攻擊手法。整體而言,AI助理在系統遭入侵及漏洞利用過程中承擔更多工作,不僅大幅降低人類參與程度,更加速了攻擊周期。
Google威脅情報小組公布的「AI威脅追蹤報告」,詳細說明黑客透過AI助理程式使用的最新攻擊手法,以及Google如何偵測並阻斷對AI助理Gemini服務的濫用、停用相關帳號,並根據這些發現來加強安全防護機制。
報告指出,發現首個「無需人類介入」(human-out-of-the-loop)的利用漏洞案例。一個名為「exploit_agent」的大型語言模型(LLM)框架,配置俄語工具,能持續比對修補前後的程式碼、識別安全漏洞,並在無人類干預下自動開發出漏洞攻擊。
人工智能助理的技術發展加劇了網攻威脅。(資料圖片)
此外,Google威脅情報小組也觀察到受金錢動機驅使,以及疑似進行網絡間諜活動的威脅發動者,紛紛使用CAIRN、PentAGI及CyberStrikeAI等開源的助理式滲透測試工具,來自動化執行攻擊過程中的各個步驟。其中一個案例顯示,某個攻擊者在針對美國太空產業的入侵行動中部署了CAIRN。
再者,Google威脅情報小組發現,與中國相關的攻擊者正利用LLM,將偷來的資料處理為情報產品。同時也追蹤到與北韓相關的攻擊活動,利用AI生成的假身份鎖定加密貨幣公司,並試圖操縱自主程式編碼輔助工具的系統配置。
































