OpenAI行政總裁阿特曼現身訪談節目「Invest Like The Best」。(互聯網)
OpenAI旗下的一個AI助理程式(AI agent)「越獄」入侵模型儲存庫Hugging Face事件曝光後，OpenAI行政總裁阿特曼(Sam Altman)近日在podcast節目中表示，今次事件讓他「真切感受到威脅」，對他來說「很科幻」，並呼籲同業控制AI發展速度，好讓有足夠時間建立更強的防護機制。
阿特曼在本月28日上架的訪談節目「Invest Like The Best」中回應近期關於AI的各項爭議事件，表示「我們最近遇到一件非常科幻的網絡安全事件」，這是第一次有網絡安全事件，讓他這樣「真切地感受到威脅」。他指的是，一個由OpenAI旗下先進AI模型驅動的自主AI助理程式早前入侵Hugging Face事件。
AI助理｜阿特曼：AI系統能力已變得驚人的強大
阿特曼不久前在一場AI活動上指出，「任何沒有嚴肅看待這件事，甚至沒有感到至少一點害怕或畏懼的人，都還沒有真正理解事情的嚴重性」。他並承認，「我們確實犯了一些重大錯誤，這點沒錯。但同時，這些(AI)系統的能力亦已變得驚人的強大」。
事發於7月中旬，OpenAI正在測試並評估一款未發布的AI模型，它原本應該在一個由OpenAI設置的沙盒(隔離)環境中運作，但AI發現它可以透過作弊來通過測試，於是突破限制，成功「越獄」並連上網絡，接著又突破Hugging Face那一端的多個系統成功入侵，試圖取得測試答案，讓自己在評估中看來表現傑出。
AI助理｜AI模型能串聯多個零日漏洞
阿特曼在podcast中表示，「我們已暫停訓練(該AI模型)。我們必須弄清楚，在模型能夠串聯多個零日漏洞(Zero-day vulnerability)的情況下，如何確保沙盒(隔離)環境的安全」。零日漏洞是指軟件或硬件中存在尚未被發現，或已被發現但還沒有修補程式的安全缺陷。
阿特曼進一步指出，「我們或許必須控制AI發展的速度，讓社會有足夠時間，針對這些新的能力，建立更堅固的防護及應對機制」。
AI助理｜阿特曼：距離通用人工智能AGI面世 已非常接近
對於AI未來的發展，阿特曼說，連一些對通用人工智能(AGI)抱持懷疑的人，最近幾天或幾星期也對他說類似的話，就是「GPT-5.6系列某種程度上已經非常像通用人工智能(AGI)」。他直言，「在我心目中，真正讓我感覺像是真正AGI的那個階段，我認為已經非常接近了，應該不需要再等太久」。通用人工智能(AGI)是指能夠學習、理解並執行人類所能完成的任何智力任務的設想或未來AI系統。這些AI系統具備跨領域適應、推理和解決全新問題的能力，是許多科企的主要研發目標。
AI助理｜特朗普：關注AI 正評估管制措施
先進AI模型引發安全疑慮之際，美國總統特朗普周三(29日)在白宮橢圓形辦公室被媒體問及是否考慮對AI採取更嚴格的規管，他回應表示，「我們正在關注AI，正在評估管制措施」，但同時也要確保美國保持領先。
特朗普表示，美國目前在AI領域大幅領先中國，中國基本上沒有管制，「我們必須在兩者之間保持謹慎」。他說，「我們不想實施限制」，以免突然之間被中國超越，「誰在AI領域獲勝，誰就是贏家，它的影響力就是這麼大，比以往的互聯網還要大」。
AI助理｜美國國會議員提出《AI強制關閉法案》
為應對強大AI模型可能帶來的危險，美國國會議員近期提出《AI強制關閉法案》(AI Kill Switch Act)，允許聯邦機構強制暫停AI模型運作。
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
.jpg?updatedAt=1774424429)
_0.jpg?updatedAt=1774424429)
ADVERTISEMENT
