▲奧運(yùn)冠軍全紅嬋家人聲音被AI合成冒用帶貨，引發(fā)廣泛關(guān)注。圖/網(wǎng)絡(luò)視頻截圖
近日，奧運(yùn)冠軍全紅嬋家人聲音被AI合成冒用帶貨，引發(fā)廣泛關(guān)注。多個(gè)賬號(hào)在社交平臺(tái)使用AI合成的全紅嬋爸爸、哥哥聲音，用幾乎完全相同的文案介紹家里要蓋新房，并在視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品鏈接，由于聲音、畫(huà)面結(jié)合得惟妙惟肖，難辨真假，不少消費(fèi)者已經(jīng)在視頻鏈接中下單。而全紅嬋家是否真的承建新房，目前沒(méi)有任何官方回應(yīng)。
被AI合成假冒偽裝的不只全紅嬋家人。此前，明星劉曉慶、古天樂(lè)、張馨予等，都有聲音、視頻被AI合成，用于代言、帶貨。而前幾日，還出現(xiàn)了類(lèi)似AI造神醫(yī)事件，有賬號(hào)通過(guò)合成子虛烏有的“非遺傳承人”，為一款號(hào)稱“千年秘方”的膏藥帶貨，實(shí)際上該膏藥是貼牌貨，所謂的“非遺傳承人”也壓根不存在。
從全紅嬋家里建房、古天樂(lè)“被游戲代言”、張馨予“賣(mài)減肥藥”，再到AI神醫(yī)的千年秘方，這些事件背后，都是不法分子在利用AI技術(shù)，明目張膽地偽造公眾人物的形象和聲音，或者生造出來(lái)某個(gè)人物形象，蓄意欺騙消費(fèi)者，以謀取非法收益。
具體到“全紅嬋家人事件”，聲音作為具有個(gè)人標(biāo)識(shí)性特征的信息，未經(jīng)本人授權(quán)就被隨意用于商業(yè)行為，這已構(gòu)成對(duì)個(gè)人肖像權(quán)、名譽(yù)權(quán)以及聲音相關(guān)權(quán)益的侵犯，相關(guān)偽造者的行為涉嫌違法犯罪。
而消費(fèi)者在不知情的情況下，基于對(duì)全紅嬋及其家人的信任和支持下單購(gòu)買(mǎi)商品，結(jié)果卻發(fā)現(xiàn)自己上當(dāng)受騙，不僅蒙受經(jīng)濟(jì)損失，更會(huì)對(duì)類(lèi)似網(wǎng)絡(luò)信息的真實(shí)性產(chǎn)生懷疑。從長(zhǎng)遠(yuǎn)來(lái)看，此類(lèi)事件沖擊的將是整個(gè)短視頻平臺(tái)消費(fèi)市場(chǎng)的信任環(huán)境。
AI合成技術(shù)是一把雙刃劍。一方面，它極大提升了信息生產(chǎn)與傳播的效率；另一方面，技術(shù)濫用導(dǎo)致信息真假難辨，給監(jiān)管帶來(lái)巨大挑戰(zhàn)。AI合成信息易誤導(dǎo)公眾，干擾判斷與決策，還增加了監(jiān)管部門(mén)發(fā)現(xiàn)和查處虛假信息的難度，容易引發(fā)社會(huì)亂象。
同時(shí)，由于網(wǎng)絡(luò)信息傳播迅速且范圍廣泛，虛假信息一旦發(fā)布，難以有效控制，溯源和處理成本很高，這對(duì)傳統(tǒng)監(jiān)管模式和技術(shù)手段提出了新的更高要求。
面對(duì)AI合成技術(shù)被濫用這一新難題，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，定于2025年9月1日起正式施行。該辦法為AI生成內(nèi)容設(shè)定了明確的標(biāo)識(shí)規(guī)范，讓以往難以辨別的AI作品必須“持證上崗”，清晰標(biāo)注其AI生成身份，相當(dāng)于在源頭上為AI合成信息套上了“緊箍咒”。
在此基礎(chǔ)上，還要加大對(duì)侵權(quán)行為的懲罰力度，讓違法者付出高昂代價(jià)，才能讓他們畏于造假售假。
對(duì)平臺(tái)而言，當(dāng)務(wù)之急是提升技術(shù)手段，對(duì)AI合成內(nèi)容進(jìn)行識(shí)別和標(biāo)注，“用AI打敗AI”，及時(shí)清理虛假信息，對(duì)違規(guī)賬號(hào)進(jìn)行封禁處理。
而作為普通消費(fèi)者，在AI合成日益被濫用的趨勢(shì)下，尤其要提高辨別能力和防范意識(shí)，不要輕信、傳播未經(jīng)證實(shí)的消息，更不要輕易地“一鍵下單”。
總之，只有讓AI合成技術(shù)的應(yīng)用真正規(guī)范起來(lái)，才能避其短、揚(yáng)其長(zhǎng)，營(yíng)造健康、真實(shí)、可信的網(wǎng)絡(luò)環(huán)境和消費(fèi)市場(chǎng)，讓AI真正服務(wù)人，而不是成為騙子的工具。
撰稿 / 和生（媒體人）
編輯 / 遲道華
校對(duì) / 李立軍
