每經(jīng)熱評(píng)丨AI合成明星帶貨亂象頻現(xiàn) 平臺(tái)企業(yè)不可坐視不理

每經(jīng)評(píng)論員 陳婷

近期，多個(gè)賬號(hào)在社交平臺(tái)上偽造跳水運(yùn)動(dòng)員全紅嬋及其家人聲音合成AI（人工智能）視頻為商品帶貨，不少消費(fèi)者直呼上當(dāng)。

無(wú)獨(dú)有偶。今年2月，據(jù)《每日經(jīng)濟(jì)新聞》報(bào)道，只需花1280元，直播、視頻通話能實(shí)時(shí)換成娛樂(lè)圈明星劉亦菲、楊冪的臉。

隨著AI技術(shù)的快速發(fā)展，AI深度偽造技術(shù)在過(guò)去幾年經(jīng)歷了顯著的迭代升級(jí)，幾近以假亂真。在此背景下，違法違規(guī)運(yùn)用AI進(jìn)行牟利的事件屢見(jiàn)不鮮。

人民日?qǐng)?bào)近日發(fā)文稱，人們樂(lè)見(jiàn)AI技術(shù)助力網(wǎng)絡(luò)消費(fèi)，但絕不允許AI騙術(shù)“張牙舞爪”，侵蝕網(wǎng)絡(luò)消費(fèi)的信任與成色。

筆者認(rèn)為，AI騙術(shù)帶來(lái)的亂象和影響不容忽視，相關(guān)平臺(tái)企業(yè)不可坐視不理，必須主動(dòng)亮劍，將風(fēng)險(xiǎn)防控和倫理審查前置化。

事實(shí)上，面對(duì)AI技術(shù)潛藏的風(fēng)險(xiǎn)與挑戰(zhàn)，作為AI產(chǎn)品的研發(fā)者和推廣者，相關(guān)企業(yè)有機(jī)會(huì)將此類亂象盡可能扼殺在萌芽階段。

具體而言，筆者認(rèn)為，第一，技術(shù)企業(yè)可在技術(shù)研發(fā)環(huán)節(jié)就嵌入合規(guī)紅線。例如，對(duì)AI生成內(nèi)容設(shè)置明確的標(biāo)識(shí)機(jī)制，讓公眾能夠明確辨別真實(shí)信息與AI合成內(nèi)容，從源頭上避免虛假信息混淆視聽(tīng)。

第二，在商業(yè)合作中，應(yīng)建立嚴(yán)格的名人授權(quán)核查流程。對(duì)涉及名人形象、聲音等的AI應(yīng)用，應(yīng)當(dāng)獲得完整、合法的授權(quán)，杜絕未經(jīng)許可的AI合成營(yíng)銷行為，從流程上堵住漏洞。

第三，短視頻平臺(tái)在遏制AI虛假營(yíng)銷等亂象中應(yīng)扮演關(guān)鍵角色。比如，平臺(tái)可加強(qiáng)對(duì)創(chuàng)作者的行為規(guī)范，明確要求創(chuàng)作者在發(fā)布AI生成內(nèi)容時(shí)進(jìn)行顯著標(biāo)識(shí)，注明內(nèi)容的合成屬性，讓用戶能夠清晰區(qū)分真實(shí)信息與AI創(chuàng)作內(nèi)容。

長(zhǎng)期來(lái)看，短視頻平臺(tái)加大對(duì)AI內(nèi)容溯源、真?zhèn)舞b別等技術(shù)的研發(fā)投入，有機(jī)會(huì)在技術(shù)層面筑牢防線，這也是提升平臺(tái)自身安全和履行社會(huì)職責(zé)的現(xiàn)實(shí)需要。

第四，相關(guān)平臺(tái)企業(yè)可與同行、技術(shù)企業(yè)、監(jiān)管部門(mén)等加強(qiáng)合作，共同制定行業(yè)規(guī)范，合力規(guī)范AI應(yīng)用行為。

與此同時(shí)，監(jiān)管部門(mén)也應(yīng)強(qiáng)化相關(guān)黑產(chǎn)打擊力度和對(duì)平臺(tái)企業(yè)、技術(shù)企業(yè)的監(jiān)督力度。

總之，對(duì)于AI技術(shù)應(yīng)用普及帶來(lái)的負(fù)面效應(yīng)，企業(yè)的主動(dòng)擔(dān)當(dāng)與應(yīng)對(duì)至關(guān)重要。否則，一旦市面上出現(xiàn)大量AI違規(guī)內(nèi)容，不但治理難度大幅提升，對(duì)社會(huì)公眾造成的危害也將持續(xù)蔓延。當(dāng)下，公眾對(duì)AI違規(guī)內(nèi)容的容忍度已經(jīng)越來(lái)越低，對(duì)相關(guān)企業(yè)而言，誰(shuí)先完成前置治理，誰(shuí)就有望率先把合規(guī)成本轉(zhuǎn)化為護(hù)城河。

當(dāng)然，企業(yè)的主動(dòng)作為離不開(kāi)外部環(huán)境的支撐。相關(guān)部門(mén)應(yīng)加快完善相關(guān)法律法規(guī)，明確AI應(yīng)用的法律邊界和責(zé)任認(rèn)定標(biāo)準(zhǔn)，加大對(duì)違法違規(guī)行為的懲處力度，形成有力震懾。社會(huì)公眾也應(yīng)加強(qiáng)防范，提升自身對(duì)AI虛假信息的辨別能力。