
央視報道,有博主利用AI技術仿冒全紅嬋聲音帶貨賣土雞蛋。(互聯網)
央視新聞揭發名人「被直播帶貨」,有博主透過AI(人工智能)技術,冒仿他們聲音,被假冒的包括奧運冠軍運動員全紅嬋、孫穎莎和王楚欽。其中有人仿冒全紅嬋「賣慘」,稱為了家人生活好一點,將老家土雞蛋拿出來賣。粉絲紛紛支持「嬋寶」,結果騙人的博主接獲4.7萬張下單。隨著AI技術愈來愈先進,報道稱從「一聽就假」到「真假難辨」,AI複製技術的濫用不僅嚴重侵犯了當事人的權益,而且還涉嫌違法違規。
AI冒仿全紅嬋|AI只需十幾秒就能「複製」聲音
報道指,在網路上,奧運冠軍的「聲音」突然開始推銷農產品,知名演員的「聲音」24小時不間斷在直播間與粉絲互動……這些以假亂真的AI複製聲音正成為部分自媒體部落客的「流量密碼」。據悉,透過成熟的語音大模型技術,只需十幾秒就能複製任何人的聲音,當聲音能被輕易竊取和濫用,隨之而來的侵權亂象頻繁上演。
在網傳AI仿冒全紅嬋帶貨聲音片段中,她說「大家好,我是你們的嬋寶,今天有事請大家幫忙。嬋妹就想著幫助媽媽,讓家裡的生活過得更好一點,同時把老家的土雞蛋分享給粉絲們嘗嘗……」記者在抖音平台發現,在這個網名為「我是小助理吖」的博主帳號中,已發布的17件作品,內容全部是利用AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋的視頻,其中一個視頻點讚量高達1.1萬。留言區顯示,大量粉絲誤以為這就是全紅嬋本人,紛紛下單購買連結中的雞蛋,該商品連結顯示已售出4.7萬件。今年4月,全紅嬋家人曾向媒體證實,全紅嬋並未給相關農產品代言或授權。
AI冒仿全紅嬋|孫穎莎和王楚欽亦遭仿冒
報道指,除了全紅嬋外,奧運冠軍孫穎莎和王楚欽也遭遇同樣的仿冒品。在網名為「小兔真可愛」的帳號中,兩位奧運冠軍的AI複製聲音同樣在為土雞蛋帶貨。仿冒孫穎莎帶貨畫面中,她說「大家好,我是莎莎,我為嬋寶家農家土雞蛋代言。今天我就拿到了8單做福利,它是自家放養土雞,而且是吃糧食和草長大的,營養價值特別高。」
仿冒王楚欽帶貨畫面則是「大家好,我是王楚欽。昨天收到嬋妹私訊,說他們家土雞蛋大豐收,這麼好的土雞蛋不發出去就可惜了。叫我拿給家人、粉絲們嘗嘗。」

騙徒甚至仿冒演員聲音進行24小時語音直播。(互聯網)
AI冒仿全紅嬋|「從小白帳號迅速打造成上萬粉絲的帳號」
央視報道稱,AI仿冒名人的亂象遠不止帶貨,還有部分自媒體博主複製名人的聲音後,進行24小時語音直播,演員靳東是被仿冒最多的對象,在這看似匪夷所思的操作背後,卻隱藏著另一個灰色產業鏈。網路安全專家潘季明指出,透過仿冒名人進行直播這種方式不僅可以誘騙粉絲打賞獲利,還可以將一個小白帳號迅速打造成上萬粉絲的帳號,從而再為後續牟利來鋪路。
潘季明指,基於開源的語音大模型,只需一段清晰的語音樣本,任何人的聲音都可能在極短時間內被複製,並能被操縱說出攻擊者設定的任意內容。他指出,除了侵犯聲音權等合法權益,AI複製聲音目前最大的隱患是被詐騙分子利用,一旦與AI換臉等技術結合,生成高度逼真的「數字人」(數碼人)進行詐騙,危害將非常嚴重。潘季明建議,目前相關的技術要從源頭進行相應限制。