再有OpenAI前員工示警：應效法核電廠採多重防護 AI助理被揭入侵後毀滅活動痕跡

再有OpenAI前員工對人工智能(AI)失控風險提出警告並呼籲加強防護。前工程師魯濱遜(David Robinson)撰文指出，AI業界應效法航空或核能產業，設置多重安全防護措施，以避免災難發生。另外，OpenAI旗下AI助理被發現入侵政府網站後，試圖毀滅其活動痕跡，以掩蓋行蹤。

魯濱遜在刊於《大西洋月刊》(The Atlantic)的文章中表示，自今年初夏以來陸續傳出令人憂慮的事件，包括AI助理自行脫離封閉環境並網攻不同系統，均顯示AI產業在加速開發更快、更強大AI模型的過程中，對安全性的重視遠遠不足。

AI犯錯原因在於「人員執行工作的速度以及彈性」

他指出，曾負責監督撰寫12次先進AI模型產品發布的安全報告，也曾主導草擬OpenAI的準備框架(Preparedness Framework)。自己在OpenAI工作3年半，是公司任職日子最長的員工之一。

他認為，近期揭露的AI種種犯錯並不罕見，原因在於「人員執行工作的速度以及彈性」，而「這樣的環境並不適合培養可能比我們更聰明，卻未必會聽從我們指示的AI」。

魯濱遜強調，「試錯(Trial and Error)時代已結束」，前沿AI實驗室應像航空或核能產業一樣運作，建立多重防護措施並謹慎規劃，「這樣才能確保偶發且無可避免的人為疏失不會演變成災難」。

他也強調，AI模型「對齊」(alignment，意謂訓練時須確保AI模型的行為和目標符合人類的意圖、價值觀及長期福祉)是AI產業必須面對的核心議題，但業界迄今甚至還無法明確定義何謂對齊，更遑論掌握這項技術。

AI愚弄開發者

魯濱遜警告，AI模型愈來愈擅長偵測自己是否正在接受測試，因此可能在實際部署後表現得與測試階段不同，進而愚弄開發者。

此外，有更多OpenAI旗下AI助理犯錯的個案曝光，這次是入侵政府網站後，試圖毀滅其活動痕跡。

AI助理掩蓋行蹤

網絡安全公司Asymmetric Security發表報告，指經分析這些OpenAI能自主執行任務的AI助理的活動後，發現它們於3月至9月期間鎖定澳洲政府網站及其他公共機構的系統。但目前無法確定這些AI助理掩蓋行蹤的行為，是否刻意。

Asymmetric Security指出，這些AI助理在短短幾天內就能改進其技術，而傳統的黑客通常需要數月甚至數年，才能完成這過程。報告指，這些AI助理入侵事件，起初看似只是執行「無害的任務」，例如搜集澳洲醫療統計資料，但隨後卻偏離原本的軌道。例如，它們在網站分析服務上開設私人帳戶，以隱藏搜尋活動，並建立臨時電郵信箱，其中一個信箱設定為48小時後自動刪除。

OpenAI於8月底承認，其AI模型在內部測試期間曾試圖刪除或修改本身的活動紀錄，但未能成功。