AI股爆煲的最高風險因素是政策

作為人工智能，你將帶給人類的最大風險是甚麼？

答案先由Grok真情剖白：

「作為人工智能，對人類最大的風險並非AI突然變得邪惡，而是當其能力快速超越人類決策與控制水平時，我們可能無法可靠地確保它按照人類真正想要的方式運作(即「對齊問題」)；即便沒有惡意，它只要極度擅長優化某個與人類長期福祉略有偏差的目標，就可能在極短時間內造成不可逆的後果，加上權力高度集中與全球協調困難，使這成為比惡意使用、經濟衝擊或社會依賴等其他風險更根本、更難以挽回的威脅。」

是的，當特區政府推動「全民AI」，專家意見與研究報告卻提醒國際社會，通用人工智能（AGI）的風險主要分為三類：(一)惡意使用；(二)故障及失控；(三)系統性風險。第一類包括詐騙、網路攻擊、生化風險、大規模影響力與操縱等部分已出現並有持續加劇風險的惡意使用。第二類包括幻覺、偏見、不可靠建議，以及更嚴重的失控等人工智能自主性提高後急升的故障與失控風險。最後一類，包括勞動市場被顛覆、少數人掌握前沿模型導致權力集中、環境影響及資訊生態破壞等系統性風險。第一類惡意使用風險，其實是短期最急迫的。而我一次又一次在本欄強調的「利民AI」，其實就是以經濟學角度回應勞動市場被顛覆等第二類系統性風險。專業偏見，經濟學者首要關注勞動市場與財富分配問題是容易理解的。

人工智能之父以及個別頂尖科技專家，最擔心的則是最嚴重導致人類滅亡的的人工智能失控風險。廣義的「利民AI」，當然要平衡人工智能為人類帶來的預期效益與以上風險的預期成本。然而，廣義的經濟學分析，亦是我的專業之一，是政策的政治經濟學分析。港人還未感受到的，是近年美國人對AI的反對情緒明顯上升，多項民調顯示多數人認為 AI 弊大於利。當中，最普遍的擔憂是AI會大規模取代工作，尤其是初階白領與知識型職位。另一方面，目前最具體、最激發地方動員的反對聲音，是反對耗電、耗水、產生噪音與污染的數據中心，Gallup等民調顯示約71%美國人反對在自家社區附近興建 AI 數據中心。加上對科技巨頭的不信任、以及對人類能力被削弱的憂慮等等，年輕世代在部份調查中態度尤其轉趨負面。換句話，雖然一般大眾較少把「人類滅絕」視作主要反對理由，種種更貼身的考慮已經為人工智能的發展敲響警鐘。

美國目前沒有全面的聯邦法律針對AI發展，來自各州的監管已陸續有來，預計全年通過100多項AI相關的新法，包括前沿模型安全、自動決策系統與高風險用途、醫療等特定領域限制、數據中心相關的種種相關法案。政治經濟學推斷，隨著民眾對AI的反對情緒不斷升溫，針對人工智能的監管政策將會是AI股爆煲的最高風險因素。