智能叛變｜聊天機械人Bard自行學懂孟加拉語 Google行政總裁承認：我也不明白

聊天機械人ChatGPT掀起「生成」人工智能技術熱潮，Google亦推Bard挑戰ChatGPT的市場地位；該公司行政總裁披猜(Sundar Pichai)接受哥倫比亞廣播公司(CBS)節目《60分鐘時事雜誌》訪問時透露，發現Bard一個大問題是他自行學懂「出乎意料的技能」，他稱之為「突現屬性」(emergent properties)。節目舉例說Bard在接觸到孟加拉語後，未經訓練便自行學懂孟加拉語。披猜承認他們也不明白為何Bard懂得這樣做。

聊天機械人｜「你不完全了解它如何運作，卻將其放到社會裡？」

Bard在沒有預期下自行學懂新技能，披猜指人工智能科技界稱這為「黑盒」(black box)，如黑箱作業，「你不能解釋它為何說出這種語言，或甚麼地方出錯。我們有些少頭緒，經過一段時間我們會有能力更加了解，這就是科技的先進。」主持人Scott Pelley對披猜所說感到驚訝，問：「你不完全了解它如何運作，卻將其放到社會裡？」披猜回答：「我們對人類大腦思想如何運作也不了解。」根據CBS新聞的報道，Bard的智能系統曾即時寫關於經濟通脹的論文，並引用了5本書，但這些書全部都不存在。業界稱這錯誤為「幻覺」(hallucination)。英國《每日郵報》稱，他們最近曾測試Bard，對方竟答2023年展開「主宰世界」計劃。

Twitter老闆、電動車Tesla行政總裁馬斯克與上千名人工智能專家及業界高層人員最近曾發公開信，呼籲暫停研發較現時ChatGPT第四代更先進的智能系統，「直至有信心它們帶來的影響屬正面，以及有能力控制它們帶來的風險」。惟馬斯克上月於美國內華達州成立名為X.AI的人工智能公司，他亦是ChatGPT研發商OpenAI的共同創辦人之一，於2018年離開OpenAI董事會。有英媒揣測，馬斯克成立X.AI是要與OpenAI較勁。