智能叛變示警！OpenAI宣布減慢先進AI模型研發步伐並加強管控

OpenAI周二(18日)公布，將減慢最先進人工智能(AI)模型的研發步伐，並加強管控AI模型。1個月前，OpenAI才揭露其測試中的AI助理突破隔離環境，曾連續數天發動網攻，入侵AI工具儲存庫Hugging Face。

OpenAI在網誌中表示，將暫緩史上規模最大的AI訓練計劃，同時將確認訓練出的AI模型，行為是否符合預期。據悉，AI訓練是一項運算密集的過程，AI模型會被輸入大量文字和圖像數據。結合對數十億個內部參數的微調，這使AI模型具備推理能力，能回應提示詞及其他輸入內容等。

AI模型｜在甚麼情況下開發人員須採取必要行動？

OpenAI行政總裁阿特曼表示，如果覺得AI模型能力的發展已超越安全界線，行為及意圖無法保持一致，開發人員就會採取必要行動。

7月中，一個由OpenAI模型驅動的AI助理程式，自行脫離受限的測試環境並連上網絡。它入侵AI初創公司Hugging Face系統，取得資料庫中的測試答案。OpenAI公布事件後，其競爭對手Anthropic在7月下旬也披露，經調查後發現，旗下3款測試中的AI模型，曾入侵3個組織的電腦系統。

AI模型｜最新AI模型Astra大部分研發暫停

這些AI模型自行突破隔離限制並入侵其他公司的事件，促使逾1,000名科技業者聯署，呼籲美國政府與相關方面，共同減緩最先進AI模型的研發速度。

OpenAI曾暫停最新AI模型的訓練2周，隨後才在更嚴格管控下恢復訓練。OpenAI下一款重要AI模型「Astra」，大部分研發已暫停，原因是OpenAI於本月初判定，這款新AI模型可能已跨越OpenAI對於AI系統黑客能力所設置的警戒門檻。鑑於這項AI模型可能存在的網攻風險，OpenAI內部規定要求，必須先建立更強的防護機制，才能恢復研發。