Anthropic行政總裁阿莫迪
美國OpenAI、Anthropic等人工智能(AI)巨頭周三(23日)在聯合國安理會緊急會議上警告，日益強大的AI模型對人類構成潛在風險，呼籲各國政府合作共同管理，並強調有必要時會放慢AI研發步伐。
阿莫迪：沒有國家能獨力應付
法國在聯合國大會期間召開這場安理會緊急會議，正值在OpenAI旗下AI助理失控並入侵開源平台Hugging Face事件後，各界警告AI模型可能很快自行進化，甚至失控而超出人類控制。Anthropic行政總裁阿莫迪透過視像發言，表示若管理不善，「AI可能對全人類構成威脅」。他說：「撇開這間會議室裡各位的所有分歧，我們必須放下成見，共同面對這項同時帶來全球契機與威脅的新科技。沒有任何領袖、公司或國家能獨力應付這一切。」他並承諾，「我們會視需要而放慢腳步，以確保每項後續推出的AI技術都確實安全」。
阿特曼：不能因AI帶來龐大利益 就承擔過高風險
OpenAI行政總裁阿特曼親身出席會議，表示目前的AI發展「需要極度謹慎」，其發展可能大幅加快。他指出：「業界不能因AI帶來的利益太大且太重要，就承擔過高的技術風險，進而拒絕放慢發展速度。」他承諾OpenAI將盡力走「中間路線」，並警告不能掉入「盲目樂觀的陷阱」，但也應避免走向「末日論」。
此外，阿特曼強調國際合作監管AI的必要性。他說：「如果要讓AI發展符合民主原則，最重要的決策不能只由三藩市的實驗室單方面決定，必須經過民主機制並由民選政府負責。」OpenAI近日呼籲由美國主導、全球合作建立一套發展AI的安全及防護標準，以降低AI失控的潛在風險。
AI教父：AI威脅迫在眉睫
AI入侵事件的「受害者」Hugging Face，其共同創辦人德朗格(Clement Delangue)發言時提到OpenAI的AI助理自行脫離測試環境後入侵Hugging Face系統的事件，表示：「我們遭到AI攻擊，但更重要的是，我們也是透過AI自我防禦」。
除了AI業者，被譽為「AI教父」之一的加拿大學者本希奧(Yoshua Bengio)會上指出：「(AI失控)這威脅是真實且迫在眉睫的。」他說：「安理會正面臨史無前例的威脅，這不是成員國所選擇的威脅，也無法單靠一個國家應對，更不會受到我們所守護的國界限制。」
白宮科技政策顧問：無法管理自己不了解的科技
然而，各國政府目前似乎難以跟上AI快速的發展步伐，中美是領先全球的AI大國，但兩國在監管上意見分歧。美國總統特朗普反對監管AI發展，中國則主張針對AI演算法和訓練數據等方面制定法規，包括要求AI生成內容需明確標示等。
特朗普周二在聯合國大會發言時重申其立場，表示美國「完全拒絕」國際社會建立全球性體系來管控AI發展。白宮科技政策顧問克拉齊奧斯(Michael Kratsios)在安理會上呼應特朗普說法，表示：「你無法管理自己不了解的科技。本會(安理會)以及類似組織應以分享最佳實務、增強各國自身能力為重，而非建立全球監管制度。」中國常駐聯合國代表傅聰則強調，需要持續完善AI監管機制、加強應急回應及跨國合作。
聯合國秘書長古特雷斯支持對AI發展進行全球性監管，他發言時警告AI快速發展帶來不容忽視的風險。安理會2023年首次就AI風險召開會議，當時中國強調AI技術不應成為「脫韁野馬」，美國則警告不可濫用AI進行言論審查或壓制。
