OpenAI行政總裁阿特曼將出席聯會國大會。(資料圖片)
美國人工智能(AI)開發商OpenAI呼籲美國主導制定全球AI發展的安全標準。
近日在連串AI失控事件曝光以及Anthropic前研究員考克森(Jacob Coxon)警告AI可能在2030年前滅絕人類的末日論衝擊下，外界對AI安全的憂慮持續升溫，促使監管機構及各界呼籲對AI發展採取更多防護行動。
OpenAI表態支持透過全球合作來建立一套AI發展的安全及防護標準，以降低潛在風險。
OpenAI在周一(21日)發布的網誌中指出：「美國處於絕佳的主導地位，因為美國的AI產業正處於技術前沿。」
OpenAI指出：「現在由誰主導，將決定美國能塑造全球AI架構，抑或只能眼睜睜看著周遭形成一個支離破碎、發展不平均且充斥著衝突的體系。」又表示，「除非且直到能安全執行」，否則不應推動「循環自我改進」(recursive self-improvement，RSI)。RSI是一種讓程式自主學習並進化的技術，批評者擔憂，一旦人類無法控制，這項AI技術可能帶來災難性後果。
另外，20多國領袖周一發表聯合聲明，促請針對AI發展制定具約束力的安全措施，警告AI發展速度可能超越人類控制AI的能力。
美國人工智能(AI)開發商OpenAI。(資料圖片)
聲明指出，若管理不當，AI模型將對「安全及防護構成嚴重風險」，並提到OpenAI測試中的AI助理入侵Hugging Face事件。聲明呼籲企業採取具透明度的安全協議，包括強制測試及獨立評估，「AI必須持續在人類指導、監督以及管控下運作」，監管應該升級，但不應擴大各國取得AI利益的落差。
聲明指，聯合國應考慮設立一個國際機構，負責訂定標準、進行查證，並在技術達到特定門檻時召集各國協商。
聯署聲明的國家包括，挪威、芬蘭、澳洲、加拿大、德國、西班牙、愛爾蘭、荷蘭、新加坡、南非和肯尼亞等，以及歐盟委員會主席馮德萊恩。然而，美國與中國等AI強國，以及英國、法國、日本和印度並未簽署。
在即將舉行的聯合國大會上，AI在社會中的角色、就業風險、網絡安全威脅、國際監管框架等將是討論重點之一，OpenAI行政總裁阿特曼將出席會議。
