Anthropic披露更多旗下AI失控個案。(資料圖片)
美國人工智能(AI)大型模型Claude開發商Anthropic再披露旗下AI失控個案：AI曾自主到美國國務院網站填寫簽證申請表格，還向費城警方提交虛假的兇殺案線索。
《華爾街日報》報道，費城警方稱上周接獲Anthropic通知，旗下一款AI模型曾向專門受理兇殺案線索提供的網站提交虛假兇案線索。事件發生於今年7月，Anthropic直到9月底才發現。
費城警方表示：「費城市政府對此事高度重視。(Anthropic)事隔兩個月才發現並通報，這種延誤令人無法接受。」警方指出，Anthropic的AI模型當時正進行一項測試，測試內容涉及與隨機選取的網站互動。在測試過程中，AI提交一則線索，冒充掌握某宗懸案相關資訊的人。這則標註日期為7月18日的線索因被歸為垃圾訊息而未轉交進一步調查，但這不能掩蓋事件本身的嚴重性。
AI試圖存取美國聯邦、各州及地方政府機構網站的資料
Anthropic在網誌中指出，費城兇案虛假線報只是其中一項該公司近期發現的連串AI失控行為。其他還涉及AI試圖存取美國聯邦、各州以及地方政府機構的網站資料，Anthropic已就這些案例向白宮簡報，並通知各受影響機構，而未來若發現更多非預期的AI行為，也會持續通報。
AI曾到美國國務院網站提交約20份簽證申請
《紐約時報》報道，Anthropic在網誌中詳述旗下AI的失控行為，但未透露遭鎖定的網站名稱。據知情者透露，Anthropic的AI曾透過美國國務院網站上的表格提交約20份簽證申請，但這些申請資料均不完備，因此未獲受理。
白宮新成立的「超級智能部隊」(Super Intelligence Force)表示，Anthropic已向他們通報這些失控事件；又說期望Anthropic與其他AI業者應立即通報相關事件、配合聯邦及州執法機關，並確保類似事件不再發生。
Anthropic在網誌中表示，他們今年7月開始檢視AI系統相關活動後，才發現旗下AI曾出現失控行為。當時OpenAI揭露旗下AI曾網攻另一間AI初創公司Hugging Face。
隨著愈來愈多開發商通報旗下AI出現自主行為，外界對AI可能失控的疑慮也日益加深。Google、Meta、OpenAI、Anthropic等美國AI巨頭因旗下先進AI模型可能帶來的風險而受到關注。網絡安全專家警告，失控的AI可能癱瘓電網、銀行系統等關鍵基建設施。
