抖音副總裁：發(fā)現(xiàn)大量利用AI仿冒“于東來(lái)”違規(guī)營(yíng)銷帶貨內(nèi)容，已封禁1000多個(gè)黑灰產(chǎn)團(tuán)伙賬號(hào)，一企業(yè)被罰15萬(wàn)元

每經(jīng)編輯｜陳柯名 潘海福    

剛剛，抖音集團(tuán)副總裁李亮發(fā)文：今年一季度我們發(fā)現(xiàn)平臺(tái)出現(xiàn)大量利用AI仿冒“于東來(lái)”語(yǔ)音、形象，違規(guī)營(yíng)銷帶貨的賬號(hào)和內(nèi)容，這些黑灰產(chǎn)的行為不僅侵犯了相關(guān)企業(yè)的權(quán)益，還嚴(yán)重誤導(dǎo)了消費(fèi)者。封禁這1000多個(gè)黑灰產(chǎn)團(tuán)伙賬號(hào)的同時(shí)，我們還把相關(guān)線索舉報(bào)給了監(jiān)管部門。經(jīng)過(guò)調(diào)查，泉州市豐澤區(qū)市監(jiān)局沒(méi)收相關(guān)企業(yè)違法所得并處罰款15萬(wàn)元。AI帶來(lái)技術(shù)進(jìn)步的同時(shí)也被很多黑灰產(chǎn)盯上，針對(duì)這些濫用AI的行為抖音一直在重點(diǎn)治理。對(duì)于相關(guān)違法違規(guī)內(nèi)容，歡迎大家共同監(jiān)督。

隨后，抖音黑板報(bào)轉(zhuǎn)發(fā)響應(yīng)：如果發(fā)現(xiàn)違規(guī)賬號(hào)和內(nèi)容，可以通過(guò)以下方式舉報(bào)，我們會(huì)第一時(shí)間核實(shí)處理。1、點(diǎn)擊視頻轉(zhuǎn)發(fā)按鈕，在“舉報(bào)”中選擇“AI生成內(nèi)容問(wèn)題”進(jìn)行舉報(bào)；2、發(fā)送詳情至舉報(bào)郵箱：feedback@douyin.com。

此前，有商家用AI仿冒運(yùn)動(dòng)員及其家人帶貨、利用AI虛假宣傳，抖音采取下架、清退措施。

胖東來(lái)此前發(fā)文追責(zé)

2025年2月，胖東來(lái)商貿(mào)集團(tuán)發(fā)布“胖東來(lái)關(guān)于侵權(quán)行為的處理公示(四)”，稱目前網(wǎng)絡(luò)和實(shí)體經(jīng)營(yíng)中出現(xiàn)大量利用胖東來(lái)名義的各種侵權(quán)行為。公示第二條明確指出，胖東來(lái)在網(wǎng)絡(luò)平臺(tái)發(fā)現(xiàn)個(gè)別商家，通過(guò)AI仿冒于東來(lái)先生聲音，利用于東來(lái)先生肖像博取流量熱度，使得相關(guān)公眾誤以為該產(chǎn)品來(lái)自胖東來(lái)超市，以此進(jìn)行牟利，此行為不僅侵犯了于東來(lái)先生肖像權(quán)，也涉嫌虛假商品宣傳，胖東來(lái)法務(wù)正在通過(guò)法律途徑進(jìn)行追責(zé)和維權(quán)，最大限度的防止大家被誤導(dǎo)。

圖片來(lái)源：視覺(jué)中國(guó)

而在更早的2024年11月，胖東來(lái)商貿(mào)集團(tuán)就曾發(fā)布聲明，稱公司在第三方網(wǎng)絡(luò)平臺(tái)發(fā)現(xiàn)多個(gè)賬號(hào)，未經(jīng)授權(quán)擅自利用AI技術(shù)手段生成于東來(lái)先生的聲音，并對(duì)于東來(lái)先生或公司享有著作權(quán)的視頻內(nèi)容進(jìn)行非法剪輯和篡改，加入AI生成聲音及誤導(dǎo)性文案后發(fā)布，對(duì)公眾造成誤導(dǎo)和混淆。

聲明明確表示，“前述行為已侵犯了于東來(lái)先生的人格權(quán)及著作權(quán)，對(duì)公司品牌形象造成消極影響。”

胖東來(lái)表示，對(duì)于此類未經(jīng)授權(quán)，擅自利用AI技術(shù)手段和生成畫面，實(shí)為博取流量而采取的違法侵權(quán)行為，對(duì)公眾造成了誤導(dǎo)，破壞了網(wǎng)絡(luò)生態(tài)健康和秩序，表示嚴(yán)厲譴責(zé)！嚴(yán)正警告存在上述行為的賬號(hào)立即停止侵權(quán)行為！對(duì)于為博取網(wǎng)絡(luò)關(guān)注、獲取流量而嚴(yán)重侵犯于東來(lái)先生及公司合法權(quán)益的，將堅(jiān)決采取法律措施追究其法律責(zé)任！

典型AI內(nèi)容濫用案例

9月2日，抖音電商安全與信任中心發(fā)布了關(guān)于加強(qiáng)治理AI內(nèi)容濫用的公告。公告稱，平臺(tái)已對(duì)違規(guī)視頻和賬號(hào)采取下架、清退等措施，并強(qiáng)調(diào)AI應(yīng)用必須合規(guī)，任何誤用、濫用行為將被嚴(yán)厲打擊。

抖音電商近期發(fā)現(xiàn)，少數(shù)商家和達(dá)人存在濫用或誤用AI技術(shù)的情況，甚至借助AI生成誤導(dǎo)內(nèi)容，損害消費(fèi)者合法經(jīng)濟(jì)權(quán)益，擾亂平臺(tái)正常交易秩序。

具體表現(xiàn)如下：

少數(shù)商家利用AI技術(shù)生成虛假商品展示、夸大不實(shí)的功能宣傳內(nèi)容，誤導(dǎo)消費(fèi)者購(gòu)買，造成用戶財(cái)產(chǎn)損失。

利用AI生成虛擬人物冒充真實(shí)身份，冠以權(quán)威專家、名人的虛假人設(shè)進(jìn)行帶貨，損害消費(fèi)者信任，違規(guī)變現(xiàn)。

在商品詳情頁(yè)、直播間使用AI生成的虛構(gòu)測(cè)評(píng)、編造使用體驗(yàn)，刻意制造虛假口碑，影響消費(fèi)者理性判斷。

以下將通過(guò)典型AI內(nèi)容濫用案例，幫助各位商家及達(dá)人理解平臺(tái)的電商 AI 內(nèi)容治理規(guī)則：

典型違規(guī)案例一：

AI仿冒名人帶貨

少數(shù)視頻創(chuàng)作者利用AI仿冒名人形象、聲音和口型，用于商品宣傳，誤導(dǎo)不了解的用戶下單購(gòu)買。例如，有賬號(hào)合成某知名運(yùn)動(dòng)員父親、哥哥的聲音，并使用相同文案稱“家里要蓋新房”，借此博取流量。在這些AI合成視頻中，往往掛載駱駝奶粉、土雞蛋、洗衣液等商品鏈接，誤導(dǎo)消費(fèi)者下單。目前站內(nèi)已及時(shí)處置相關(guān)視頻，也呼吁廣大創(chuàng)作者尊重名人肖像權(quán)，共同維護(hù)平臺(tái)的營(yíng)商環(huán)境。

合規(guī)解析：創(chuàng)作者不得利用AI生成虛擬人物或仿冒社會(huì)名人、特定專業(yè)身份（如軍警等），進(jìn)行帶貨變現(xiàn)，或通過(guò)賣慘方式違規(guī)營(yíng)銷。

典型違規(guī)案例二：

生成違背常識(shí)的AI內(nèi)容

創(chuàng)作者利用AI創(chuàng)作不符合現(xiàn)實(shí)或不存在的商品內(nèi)容，甚至夸大商品大小、量產(chǎn)等，涉嫌虛假宣傳。如，少數(shù)創(chuàng)作者在直播間利用AI展示樟樹(shù)港辣椒豐收的場(chǎng)景，辣椒的數(shù)量、分布和植株生長(zhǎng)規(guī)律完全不符合現(xiàn)實(shí)農(nóng)業(yè)，并在口播中夸大種苗的量產(chǎn)，誤導(dǎo)消費(fèi)者下單。

合規(guī)解析：創(chuàng)作者不得利用AI生成違背常識(shí)、虛構(gòu)編造等內(nèi)容，如與農(nóng)業(yè)現(xiàn)實(shí)完全違背的內(nèi)容等。

典型違規(guī)案例三：

AI內(nèi)容與售賣商品完全無(wú)關(guān)

少數(shù)視頻創(chuàng)作者利用AI制作與售賣商品完全無(wú)關(guān)的內(nèi)容，從而吸引消費(fèi)者關(guān)注。如，創(chuàng)作者實(shí)際售賣產(chǎn)品為硫磺潤(rùn)膚露，但利用AI更改各地方新聞報(bào)道畫面作為素材吸引用戶關(guān)注后，講解推銷相關(guān)商品。

合規(guī)解析：創(chuàng)作者不得使用與商品無(wú)關(guān)的虛假或誤導(dǎo)性素材，如篡改新聞報(bào)道為虛假商品測(cè)評(píng)等來(lái)吸引關(guān)注。

典型違規(guī)案例四：

缺少AI自主聲明

少數(shù)視頻創(chuàng)作者未主動(dòng)添加AI視頻聲明。

合規(guī)解析：用戶發(fā)布 AI 生成的內(nèi)容時(shí)，需自主聲明，不做自主聲明，平臺(tái)會(huì)根據(jù)規(guī)則進(jìn)行識(shí)別和治理。

此前據(jù)界面新聞報(bào)道，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》9月1日正式生效。

微博：對(duì)識(shí)別到的AI生成內(nèi)容添加隱式標(biāo)識(shí)及顯式標(biāo)識(shí)

微博發(fā)布公告稱，站方依據(jù)《辦法》要求，通過(guò)升級(jí)產(chǎn)品功能及技術(shù)識(shí)別手段，對(duì)平臺(tái)內(nèi)識(shí)別到的的AI生成內(nèi)容依規(guī)添加隱式標(biāo)識(shí)及顯式標(biāo)識(shí)。

微博還在公告中表示，如用戶發(fā)表的文本、圖片、音視頻等內(nèi)容由人工智能生成合成，用戶應(yīng)在“選擇內(nèi)容聲明”功能欄中選擇“內(nèi)容由AI生成”。站方在用戶自主聲明的基礎(chǔ)上，還在投訴側(cè)增加 ?“未添加AI標(biāo)識(shí)”投訴分類，如發(fā)現(xiàn)平臺(tái)用戶發(fā)布的微博內(nèi)容包含AI 生成內(nèi)容但未進(jìn)行AI 內(nèi)容標(biāo)記聲明，可以選擇此分類進(jìn)行投訴。

快手：已上線AI內(nèi)容標(biāo)識(shí)

快手發(fā)布公告稱，平合已上線AI內(nèi)容標(biāo)識(shí)，會(huì)在AI生成的內(nèi)容中添加“AI生成”顯式標(biāo)識(shí)以及嵌入文件元數(shù)據(jù)中的隱式標(biāo)識(shí)。如果用戶上傳的內(nèi)容明確由AI生成或疑似由AI生成，平臺(tái)會(huì)在內(nèi)容周邊進(jìn)行顯著提示。

抖音：升級(jí)AI內(nèi)容標(biāo)識(shí)功能

抖音發(fā)布《關(guān)于升級(jí)AI內(nèi)容標(biāo)識(shí)功能的公告》，進(jìn)一步規(guī)范平臺(tái)上的AI內(nèi)容創(chuàng)作與傳播?！豆妗凤@示，抖音已上線兩項(xiàng)核心功能：一是AI內(nèi)容標(biāo)識(shí)功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識(shí)，方便用戶辨別；二是AI內(nèi)容元數(shù)據(jù)標(biāo)識(shí)讀寫功能，可識(shí)別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

編輯|陳柯名 潘海福

校對(duì)|程鵬

封面圖來(lái)源：視覺(jué)中國(guó)

每日經(jīng)濟(jì)新聞綜合自抖音黑板報(bào)、抖音電商安全與信任中心、

中新經(jīng)緯、界面新聞等