在2022年落成的上海臨港AIDC經已是中國智算中心建設的模楷。
「人工智能(AI)與數據科學」被香港特區政府列為三大新型工業發展產業之一，而隨著全球對AI需求日益增加的大趨勢下，在國家十四五規劃框架下，香港要進一步落實香港創新科技藍圖發展，到底人工智能超級運算在香港推動的市場潛力如何；相比鄰近地區，發展AI超算如何惠及香港，甚至與國內產生協同效應？商湯科技香港業務總經理馮愈接受專訪時表示，現時本港算力建設的水平不足以支撐大規模的AI項目需求。「基於我們建設商湯AIDC及SenseCore商湯大裝置這些AI超算基礎的經驗，期望能將在國內的經驗貢獻香港，進一步推動香港成為人工智能技術發展樞紐及國際創科中心。」
從政府、企業與科技層面 香港推動AI超算潛力巨大
AI應用早已滲透在香港各行各業，馮愈同意香港在推動建立AI超算中心的潛力巨大，將有助於將香港打造成為數字經濟世代的科技領先者，顯著提升香港在鄰近城市間的區域競爭力。他從政府、企業和科技3個層面加以分析，「政府大力支持本港AI產業的建設，算力正是AI技術發展的關鍵基石。今年特區政府發表的財政預算案中，便決定撥款30億港元推行一項為期三年的人工智能資助計劃，此舉正好彰顯政府對發展本地AI產業的決心。」
至於商業層面，他認為企業數碼轉型盛行，而強大的算力能滿足以大模型為主的應用場景落地，AI超算中心正好幫助企業降本增效。惟科技現實層面，他坦言香港算力現狀不足以支撐大規模的AI項目需求。如德勤近期發布的報告指出，雖然本港大學和研究中心總體上提供了約60 PFlops(每秒浮點運算次數)的算力。然而這些算力資源分散，不足以應付大型AI項目需求，突顯有必要建立一個整合的算力基礎設施。他強調香港背靠祖國，是粵港澳大灣區的重要一員，「立足灣區，面向世界」。加上內地多元的行業生態、豐富的落地場景、與產業鏈的密切融合，可以為香港提供豐富的時間經驗。「因此香港可透過超算中心加強與大灣區的合作，推動AI及數據產業鏈的發展，並與地區及國際的AI生態圈建立更緊密的夥伴關係。」
商湯科技香港業務總經理馮愈接受專訪時表示，現時本港算力建設的水平不足以支撐大規模的AI項目需求。(資料圖片)
香港在金融與教育等關鍵行業 AI應用已具有實例
AI應用場景廣泛，生產力局曾有報告指出，41%香港企業正在或將會應用AI；32%企業更已在市場行銷、營運等多個層面使用AI。馮愈引述該報告數據，「從算力來看，44%企業表示正面臨算力不足的挑戰。而提升香港自身的算力基礎設施的建設，將有助大大緩解這些企業面對的痛點。」
具體來說，他指出AI是本港金融行業最重要的應用場景之一，包括利用聊天機械人提升客戶服務體驗及效率，等。「譬如在智能客服中心，AI技術包含的自然語言處理(NLP)和機器學習算法融入傳統客戶服務，及時處理客戶查詢和申請請求，對銀行與保險公司尤其有用。」這些智能客服甚至能提供個性化的回覆方式，既增強了客戶滿意度，還能加強答案的準確性。「我們上月與海通證券聯合發布金融行業多模態全棧式大模型，雙方在智能客服、合規風控、代碼輔助、展業辦公助手等領域助推業務落地，共同研發智能投資顧問、輿情監控等行業前沿場景，打通證券行業大模型落地的全棧式能力。」他舉例。
至於另一AI應用頻繁的教育行業，他舉出如建設「智慧校園」、分擔教師的重複性工作、利用人工智能分析學生學習問題可引導和改善學習能力等。「AI應用在自動批改學生功課、根據功課給予建議和評語、功課發放與測驗評分等，節省教師大量時間和精力，轉而將精力聚焦於教學質素上。」他續指有些AI分析更可引導和改善學生學習能力，協助學生找到符合其特質與性格的學習方式。
商湯AI領域10年 前瞻性布局「大裝置+大模型」
當提到AI算力領域，商湯擁有中國首屈一指的相關技術，這基於商湯在人工智能領域經過10年深耕，積累了豐富的經驗和資源，前瞻性地布局「大裝置+大模型」。由最初研發軟硬件結合的通用人工智能(AGI)基礎設施大裝置「SenseCore」，及後在此基礎上構建「商湯日日新SenseNova」大模型體系，推進自身AGI發展戰略的同時，也為行業提供大模型演算法服務、訓練和推理優化以及資料服務。
馮愈概述商湯的里程碑，「商湯是中國首批高性能GPU的持有者，第一個千卡集群的建設者，以致我們的大裝置能夠以最低成本生產出大量的模型，進而賦能百業。」如商湯SenseCore打造AGI時代的基礎設施，在模型的反覆運算速度及處理問題的能力上日日更新，不斷釋放AGI的更多可能。「商湯SenseCore大裝置是國內訓練大模型最為先進的基礎設施，早在2022年落成的上海臨港AIDC經已是中國智算中心建設的模楷。在2023年，大裝置實現了對於萬億參數大模型的生產支援，商湯管理的算力實現了全國聯網的統一調度，在上海、深圳、廣州、福州、濟南、重慶等地都拓展了新的計算節點，總運營算力高達12,000 PFlops、上線GPU數量達到45,000張。」
自去年起，已有逾千個參數量為數十億至上千億的大模型，在商湯SenseCore完成訓練，當中不乏京東、小米、閱文、金山辦公等龍頭客戶。另外一些金融機構及醫院，也正調用商湯模型，或依靠商湯大裝置能力，訓練其自身垂直類模型。「例如我們積極與銀行、券商、互聯網企業、醫院、手機品牌等行業夥伴開展合作，逐漸探索出清晰的、符合市場發展階段的多種商業模式。」他補充。
商湯科技參與前海深港人工智能算力中心成立儀式。
AI超算中心落戶數碼港 商湯冀強強聯手
隨著特區政府宣布將超算中心落戶本港科技重鎮的數碼港，可以預期AI算力在港未來將高速發展。馮愈指，「一份政府顧問報告指出，預計未來2至3年本港對AI算力需求達3,000 PFlops，7年後更增至15,000 PFlops。建立超算中心，對政府來說是在本港AI發展方面及時提供適切的動力。預期未來可以支撐大學、科研機構、政府部門及相關行業的強大算力需求，提升香港在不同科研及應用領域的研發能力，推動產業發展。」
他還指建設及適時擴充自身的超算中心，亦可以跟鄰近地區的其他算力資源產生協同效應。「例如早前深圳前海與商湯科技等機構合作啟動的『前海深港人工智能算力中心』，其基於SenseCore商湯大裝置，將會為大灣區AI產業提供高效、優質的算力服務。我們又大力支持福建省大數據集團建設AI基礎設施平台，並已快速落地，推動閩港兩地的數字經濟展。」他認為香港可參考其他地區在AI基礎建設方面的經驗，結合香港自身的優勢，如健全的法律制度、國際化特質和策略性位置優勢，透過AI超算中心來確立並鞏固香港在人工智能發展領域的地位。此外，推出能吸引其他國家或地區的企業及專才到港發展或進行AI研發的政策，同時進一步完善監管政策、數據產業鏈等，在提供算力之餘，也讓香港成為中國AI發展的「必然目的地」。
配合香港智慧城市及智慧政府的發展願景，商湯期望與業界、商界加強合作，發掘新應用場景，幫助傳統行業升級轉型，共同探索更多商機。「今年是商湯科技在香港成立10周年，立足於此，成長於此，我們非常樂意利用在算力方面的技術優勢及經驗，為香港的AI進程貢獻一分力。」馮愈總結。