微軟行政總裁納德拉。(資料圖片)
微軟(Microsoft)行政總裁納德拉(Satya Nadella)呼籲，建構先進人工智能(AI)系統時，應具備遏制、獨立控制及「緊急煞車」機制，讓獲得授權的人執行任務時能暫停或關閉AI模型。
納德拉本月10日在社交平台X發文指出：「我們需要以強大、具有確定性(deterministic)的系統設計、由人類控制以及可靠的操作程序，來圍繞非確定性模型，並在既有標準不足之處建立產業標準。」
納德拉指出：「將前沿的閉源及開放權重模型比照內部風險進行控管，是建構此類系統的一種方式。」
美國科技公司微軟。(資料圖片)
甚麼是最值得信賴的超級智能系統？
微軟共同創辦人蓋茨、Anthropic行政總裁阿莫迪、OpenAI行政總裁阿特曼，以及SpaceXSI創辦人馬斯克等科技巨頭以及其他研究人員，近日紛紛警告AI監管不足以及AI技術發展過快可能帶來風險。
納德拉在貼文中指出，AI系統設計應依循「可觀測性的原則」，像是模型多樣性、模型行動的可讀性紀錄、持續的系統測試、獨立控制與可審計性、遏制機制以及安全事件披露。
他強調：「最值得信賴的超級智能(Super Intelligence)系統，不會是擁有我們最信任模型的系統，而是能讓我們最不需要去盲目信任模型的系統。」
訂閱 《am730》 電子報
每周精選內容直送收件箱📧
掌握重要新聞資訊📈 財經投資🤖AI科技生活 🍽 美食玩樂 🛍 消費優惠 📰 城中熱話
提交代表本人同意接收am730所發出的推廣電郵，你可查閱本網站的私隱政策。