AI聊天機械人ChatGPT開發商OpenAI。(資料圖片)
AI聊天機械人ChatGPT開發商OpenAI的現任和前任員工周二(4日)發表公開信警告，世界領先的人工智能公司缺乏必要的透明度和問責制，無法因應AI潛在風險。
對人類滅絕的擔憂
這封公開信提出對AI安全風險的擔憂，「從進一步加深現有的不平等，到操控和假消息，再到自主AI系統失控可能造成的人類滅絕」。
16名聯署人包括Google DeepMind的員工，他們警告，AI公司「有強烈的財務動機來避免有效的監督」，又指公司的自我監管其實沒有太大幫助。
警告AI公司有大量非公開資訊
信中寫道：「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型損害風險的非公開資訊。但他們目前沒甚麼義務與政府分享其中一些資訊，也完全沒有和民間社會分享這些訊息，我們認為不能完全指望他們自願分享這些訊息。」
公開信還說，這一事實意味AI公司的內部員工是唯一可以通知公眾的人，並呼籲制定更廣泛的「吹哨者」法律來保護他們。
AI聊天機械人ChatGPT開發商OpenAI。(資料圖片)
OpenAI回應
OpenAI回應指，公司對一直以來提供最具效能及最安全AI系統感到自豪，也信賴公司處理風險所用的科學方法，但公司也同意基於AI科技的重要性，嚴謹的討論至為重要。OpenAI並強調，公司並沒出售個人資料、建立用戶檔案或使用相關數據來針對任何人或出售任何東西。
聯署人包括AI教父
《紐約時報》報道，OpenAI的4名現任員工匿名聯署，因為擔心遭到公司報復。聯署人還包括AI研究先驅Yoshua Bengio、Geoffrey Hinton、Stuart Russell，他們被稱為「AI教父」，曾批評公眾對AI風險沒做準備。
