據《CNN》報導，AI風險管理公司「Gladstone AI」發布的這份報告斷然指出，最先進的人工智慧系統在最壞的情況下可能「對人類構成滅絕等級的威脅」。這項調查結果是基於一年多來對200多人的採訪，其中包括人工智慧公司的高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員。
根據美國國務院委託民間公司進行的一份新研究報告指出，快速發展的人工智慧將會為人類帶來的「災難性」的國家安全風險，並警告美國聯邦政府避免災難的時間已經不多了。
人工智慧系統最壞情況下可能「對人類構成滅絕等級的威脅」
據《CNN》報導，AI風險管理公司「Gladstone AI」發布的這份報告斷然指出，最先進的人工智慧系統在最壞的情況下可能「對人類構成滅絕等級的威脅」。這項調查結果是基於一年多來對200多人的採訪，其中包括人工智慧公司的高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員。
報告中警告，儘管人工智慧的潛力繼續吸引投資者和公眾，但也存在真正的危險。
Gladstone AI 執行長兼聯合創始人哈里斯（Jeremie Harris）表示，「人工智慧已經是一項經濟變革技術，它可以讓我們治癒疾病、做出科學發現並克服我們曾經認為無法克服的挑戰。但它也可能帶來嚴重的風險，包括我們需要意識到的災難性風險。越來越多的證據表明，超過一定的能力閾值，人工智慧可能會變得不可控。」
Gladstone AI研究人員警告人工智慧普遍帶來的兩個主要危險。
首先，最先進的人工智慧系統可以武器化，造成潛在的不可逆轉的傷害。 其次，報告稱，人工智慧實驗室內部存在一些擔憂，他們擔心在某個時候他們可能會「對他們正在開發的系統失去控制」，從而可能對全球安全造成毀滅性後果。
Gladstone AI 的報告呼籲採取重大新措施來應對這一威脅，包括成立一個新的人工智慧機構、實施「緊急」監管保障措施以及限制可用於訓練人工智慧模型的電腦能力。
報告中還提到，美國政府顯然迫切需要對此進行干預，以避免災難發生。
文章授權轉載自《中天新聞網》，按此查看原始文章
