Ad Block Ad Block
國際
2024-06-05 19:24:38

OpenAI員工發公開信 指公司缺透明度無法因應AI風險 警告:AI失控可能造成人類滅絕

分享:
AI聊天機械人ChatGPT開發商OpenAI。(資料圖片)

AI聊天機械人ChatGPT開發商OpenAI。(資料圖片)

AI聊天機械人ChatGPT開發商OpenAI的現任和前任員工周二(4)發表公開信警告,世界領先的人工智能公司缺乏必要的透明度和問責制,無法因應AI潛在風險。

對人類滅絕的擔憂

這封公開信提出對AI安全風險的擔憂,「從進一步加深現有的不平等,到操控和假消息,再到自主AI系統失控可能造成的人類滅絕」。

16名聯署人包括Google DeepMind的員工,他們警告,AI公司「有強烈的財務動機來避免有效的監督」,又指公司的自我監管其實沒有太大幫助。

警告AI公司有大量非公開資訊

信中寫道:「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型損害風險的非公開資訊。但他們目前沒甚麼義務與政府分享其中一些資訊,也完全沒有和民間社會分享這些訊息,我們認為不能完全指望他們自願分享這些訊息。」

Ad Block

公開信還說,這一事實意味AI公司的內部員工是唯一可以通知公眾的人,並呼籲制定更廣泛的「吹哨者」法律來保護他們。

AI聊天機械人ChatGPT開發商OpenAI。(資料圖片)

AI聊天機械人ChatGPT開發商OpenAI。(資料圖片)

OpenAI回應

OpenAI回應指,公司對一直以來提供最具效能及最安全AI系統感到自豪,也信賴公司處理風險所用的科學方法,但公司也同意基於AI科技的重要性,嚴謹的討論至為重要。OpenAI並強調,公司並沒出售個人資料、建立用戶檔案或使用相關數據來針對任何人或出售任何東西。

聯署人包括AI教父

《紐約時報》報道,OpenAI4名現任員工匿名聯署,因為擔心遭到公司報復。聯署人還包括AI研究先驅Yoshua BengioGeoffrey HintonStuart Russell,他們被稱為「AI教父」,曾批評公眾對AI風險沒做準備。

Ad Block
WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖) WhatsApp騙案|私隱署7招防中伏(am730製圖)
請接受以下私隱政策及免責聲明,以示你同意am730內之私隱政策及免責聲明。了解更多
接受