AI時代的騙案新常態：當「信任危機」成為企業最大的系統性風險

過去，企業的網絡安全策略主要圍繞保護系統、數據及關鍵基礎設施而建立。透過先進技術、嚴謹流程及持續培訓，不少機構已建立相當成熟的防禦體系。然而，隨著AI技術迅速發展，網絡風險的本質及邊界正被重新定義。

當影像可以被生成、聲音可以被複製、身份可以被模仿，我們面對的已不再是一場單純的網絡攻防戰，而是一場關乎信任的保衛戰。未來最需要守護的，未必是系統本身，而是公眾對資訊真實性、數碼身份及網絡環境的信任。

當生成式人工智能能夠在數秒內生成真假難辨的電郵、影片、語音及對話內容時，我們正步入一個「信任成本急劇上升」的新時代。未來最大的威脅，未必來自技術漏洞，而是來自真實與虛假之間的界線日益模糊。當任何聲音都可能被複製、任何影像都可能被偽造、任何身份都可能被冒充，企業過去賴以運作的信任機制正面臨前所未有的挑戰。

以往，騙徒主要依靠偽冒網站或大規模發送釣魚電郵，採取「守株待兔」的方式等待受害者上當；然而在AI時代，詐騙模式正由被動走向主動。AI讓網絡攻擊變得高度個人化、即時化及規模化。攻擊者只需分析企業網站、社交媒體內容、公開文件及管理層公開發言，便能以極低成本建立高度可信的虛假身份，甚至模仿行政總裁或高層的聲線、語氣及溝通習慣，令傳統驗證機制面臨嚴峻考驗。

對企業而言，最值得關注的未必是一宗騙案所造成的直接金錢損失，而是由此引發的連鎖效應。一封由AI生成的偽冒指示，可能導致錯誤付款；一次深度偽造（Deepfake）視像會議，可能影響重大商業決策；一宗品牌冒充事件，更可能動搖客戶信任，損害多年累積的企業聲譽。隨著攻擊手法愈趨逼真且難以辨識，企業面對的已不單是資訊保安風險，而是一種橫跨財務、營運、聲譽、合規及企業管治的系統性風險。

正如企業設有財務監控、風險管理及企業管治框架，面對AI帶來的新型威脅，企業亦需要建立更全面的AI治理及數碼信任管治機制。管理層不應再將網絡安全視為資訊科技部門的職責，而應將其納入企業策略、風險管理及營運韌性的核心範疇。

在AI時代，一宗網絡事故已不再只是技術問題。從深度偽造引發的財務損失、品牌冒充造成的信譽受損，到客戶信任流失及監管風險上升，其影響往往跨越財務、營運、聲譽及合規層面，甚至削弱企業的長遠競爭力。

我相信，未來企業將逐步邁向「驗證優先」的新常態。無論是付款授權、身份認證、文件審批，以至客戶及合作夥伴之間的溝通，都必須建立更嚴謹的驗證及追溯機制。過去建立在「信任」基礎上的商業流程，未來將需要建立在「可驗證的信任」之上。

與此同時，數碼信任將逐漸成為企業的重要競爭優勢。能夠有效保障客戶資料、確保數碼身份可信，以及建立安全可靠數碼服務環境的企業，將更容易獲得客戶、市場及投資者的信任。未來，信任不再只是企業文化的一部分，更將成為衡量企業價值、品牌影響力及市場競爭力的重要指標。

AI將持續推動社會和經濟發展，這一點毋庸置疑。然而，對企業而言，最大的風險並非AI本身，而是仍然以過去的思維模式應對未來的威脅。

在一個真偽界線愈趨模糊的世界裡，建立信任將比創造內容更困難，也更具價值。未來最成功的企業，未必是最早應用AI的企業，而是最能贏得市場信任、並將信任轉化為長遠競爭優勢的企業。

了解有關 >安全AI@職場賦能計劃<