“你是溫崢嶸，我是誰？”近日，演員溫崢嶸在直播間發(fā)出的質(zhì)問，揭開了AI換臉盜播亂象的荒誕一面。今年11月初，她發(fā)現(xiàn)自己被AI“分身”在多個直播間同時帶貨，質(zhì)問后竟遭拉黑。
此類事件并非孤例，從央視主持人李梓萌到奧運冠軍全紅嬋，公眾人物正成為AI仿冒的重災(zāi)區(qū)。
隨著《人工智能生成合成內(nèi)容標(biāo)識辦法》落地，平臺專項治理相繼啟動，但技術(shù)濫用形成的黑色產(chǎn)業(yè)鏈仍在侵蝕直播電商的信任基石。當(dāng)“證明我是我”成為維權(quán)難題，AI技術(shù)的倫理邊界與治理體系亟待重構(gòu)。
AI技術(shù)正將科幻敘事推向現(xiàn)實。《新聞女王2》中通過AI“復(fù)活”已故主播梁景仁的劇情尚在熱議，演員溫崢嶸已遭遇真實版的“數(shù)字分身”危機(jī)。
近日，演員溫崢嶸自爆遭AI盜播，曾在凌晨三四點拍完戲后，刷到有直播間出現(xiàn)她的帶貨形象，而彼時她并未開播，質(zhì)問后被對方立刻拉黑。
溫崢嶸在采訪中表示，“早在4月份之前，就說我出現(xiàn)在多個直播間，同一時段，妝發(fā)不同，不同的產(chǎn)品，說著同樣的話。”目前，多個直播間同時出現(xiàn)的“溫崢嶸”均非其本人出鏡，此類內(nèi)容都是AI合成的虛假直播及盜播、錄播的過往片段。
11月5日晚，平臺方發(fā)布了相關(guān)處置信息，通過專項治理，共處置下架溫崢嶸相關(guān)仿冒侵權(quán)的視頻1萬余條，其中帶貨類視頻6900余條，并對37個違規(guī)賬號予以處罰。
這些數(shù)字背后，是一條基于AI技術(shù)的黑灰產(chǎn)鏈條，正在悄然侵蝕直播電商的信任根基。這種“真假難辨”的荒誕感，折射出深度偽造技術(shù)普及后的身份認(rèn)知困境。有忠實粉絲曾一天內(nèi)舉報18個偽造直播間，仍陷入“封一個、冒一個”的拉鋸戰(zhàn)。
11月6日，針對近期“演員溫崢嶸被AI盜播帶貨”事件，抖音集團(tuán)副總裁李亮發(fā)文回應(yīng)稱，經(jīng)核查，“三個直播間同時開播”案例并非發(fā)生在抖音平臺。但他同時指出，平臺確實存在利用AI技術(shù)仿冒名人進(jìn)行帶貨的違規(guī)內(nèi)容。
李亮表示，這類AI侵權(quán)仿冒行為嚴(yán)重?fù)p害各方信譽，平臺已開展專項治理，嚴(yán)禁使用AI技術(shù)仿冒他人身份進(jìn)行營銷。據(jù)悉，抖音電商安全中心9月2日已發(fā)布公告，強(qiáng)調(diào)將嚴(yán)厲打擊AI內(nèi)容濫用行為，對違規(guī)視頻和賬號采取下架、清退等措施。
目前平臺發(fā)現(xiàn)的主要違規(guī)形式包括：利用AI生成虛假商品展示、冒充專家名人進(jìn)行帶貨、編造虛構(gòu)測評誤導(dǎo)消費者等。抖音方面承諾將持續(xù)加大技術(shù)投入，維護(hù)創(chuàng)作者、商家和消費者的合法權(quán)益。
近年來，利用AI換臉換聲生成虛假內(nèi)容的案件屢見不鮮。在二手平臺，甚至僅需不到20元即可購買AI換臉服務(wù)，不法商家通過截取公眾人物影像，利用各種技術(shù)規(guī)避平臺審核。
6月份，北京市海淀區(qū)市場監(jiān)管局查處了某公司利用AI技術(shù)冒用央視主持人李梓萌名義和形象的虛假廣告案，并對其進(jìn)行了行政處罰；8月份，在某社交平臺上，有博主利用AI仿冒奧運冠軍全紅嬋的聲音賣土雞蛋
消費者誤認(rèn)本尊推薦而下單。這種低成本、高收益的仿冒模式，已成為商家“蹭流量帶貨”的捷徑。
業(yè)內(nèi)觀點認(rèn)為，技術(shù)濫用不僅侵犯個體權(quán)益，更扭曲市場競爭秩序。當(dāng)AI盜播能夠批量生成且維權(quán)成本高昂時，合規(guī)商家面臨“劣幣驅(qū)逐良幣”的擠壓。直播電商的核心競爭力本應(yīng)建立在內(nèi)容創(chuàng)新與商品品質(zhì)上，但AI仿冒將行業(yè)拖入“拼噱頭”的畸形競爭。當(dāng)侵權(quán)成本遠(yuǎn)低于維權(quán)成本，造假收益遠(yuǎn)超合規(guī)收益，長此以往將損害行業(yè)創(chuàng)新活力。
更嚴(yán)重的是，這種亂象正在透支數(shù)字生態(tài)的信任基礎(chǔ)，當(dāng)“假臉”成為常態(tài)，正規(guī)直播與合法代言也會被質(zhì)疑。
抖音電商近期公布的典型案例顯示，溫崢嶸、董宇輝、李玫瑾、羅永浩等名人都成了被仿冒的重災(zāi)區(qū)。中國商業(yè)聯(lián)合會直播電商工作委員會副會長、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊指出，除直播帶貨外，也將應(yīng)用到各行各業(yè)。AI數(shù)字人播已是直播市場新型主播發(fā)展的重要方向之一，但數(shù)字人對替代真人主播非黃金時段起到了輔助作用，但還不能完全替代真人主播。至于這種仿冒的AI盜播，是嚴(yán)重影響直播帶貨營商環(huán)境的。
網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海漢盛律師事務(wù)所高級合伙人李旻從法律角度分析道，AI盜播的商家未經(jīng)過溫崢嶸的同意，使用溫崢嶸的形象直播、帶貨，違反了《中華人民共和國民法典》（以下簡稱《中華人民共和國民法典》）第一千零一十九條，侵犯了溫崢嶸的肖像權(quán)。如果盜播帶貨時，還明確以溫崢嶸的名義進(jìn)行，則違反《中華人民共和國民法典》第一千零一十四條和《中華人民共和國反不正當(dāng)競爭法》第七條，侵犯了溫崢嶸的姓名權(quán)，且存在不正當(dāng)競爭行為。此外，如果帶貨商品出現(xiàn)質(zhì)量問題或虛假宣傳等引發(fā)消費者投訴 【下載黑貓投訴客戶端】，由于直接使用了溫崢嶸的形象、姓名等，消費者可能誤將責(zé)任歸咎于溫崢嶸，這將違反《中華人民共和國民法典》第一千零二十四條，侵犯了溫崢嶸的名譽權(quán)。
他補(bǔ)充表示，AI盜播的這種誤導(dǎo)消費者的行為還涉嫌違反《中華人民共和國廣告法》第四條。如商家存在欺詐行為，且違反了《中華人民共和國消費者權(quán)益保護(hù)法》第五十五條，消費者可以要求三倍賠償。上述行為情節(jié)嚴(yán)重的，可能還會觸犯《中華人民共和國刑法》的虛假廣告罪、詐騙罪等，最高可能判處無期徒刑。
消費者成為技術(shù)濫用的最終受害者。基于對明星的信任，消費者可能購買到質(zhì)價不符的商品，而侵權(quán)賬號頻繁更換IP地址、使用虛擬定位等手段，導(dǎo)致責(zé)任主體難追溯。
溫崢嶸事件評論區(qū)中，網(wǎng)友互相詢問“哪個直播間是真的”“商品是否為正品”，凸顯出公眾的困惑與不安。一旦商品出現(xiàn)問題，消費者往往面臨售后無門的困境，而明星口碑也可能因虛假帶貨受損，形成雙輸局面。
面對AI濫用，各方都在行動。政策層面已邁出立法步伐。今年9月施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》明確要求AI生成內(nèi)容添加顯著標(biāo)識，為治理提供法律依據(jù)。
然而現(xiàn)實中，部分商家將標(biāo)識藏于角落或技術(shù)性遮擋，平臺審核滯后使侵權(quán)內(nèi)容有機(jī)可乘。李旻稱，依照《中華人民共和國民法典》第一千一百九十五條，電商平臺存在“通知——刪除”義務(wù)，在收到有關(guān)直播間的侵權(quán)通知后，電商平臺應(yīng)當(dāng)及時采取措施，阻止侵權(quán)行為。如果未能夠及時關(guān)停直播間防止損害擴(kuò)大，對于損害的擴(kuò)大部分，電商平臺也要承擔(dān)連帶責(zé)任。同時平臺對出現(xiàn)了名人等的直播，應(yīng)當(dāng)進(jìn)行巡查以盡到合理注意義務(wù)，否則可能因違反《中華人民共和國民法典》第一千一百九十七條而承擔(dān)連帶責(zé)任。而盜播直播間作為直接侵權(quán)人，應(yīng)當(dāng)根據(jù)《中華人民共和國民法典》等法律規(guī)定，停止侵權(quán)行為，消除對溫崢嶸的不利影響，賠禮道歉并主動澄清以有效地恢復(fù)其名譽。
李旻表示，從監(jiān)管部門的角度來說，針對如今發(fā)展愈發(fā)迅速的AI技術(shù)，應(yīng)當(dāng)推動相關(guān)立法，明確各方主體的權(quán)利和義務(wù)。雖然現(xiàn)在《人工智能生成合成內(nèi)容標(biāo)識辦法》已經(jīng)對AI生成內(nèi)容作出了要求，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，但是在現(xiàn)實執(zhí)行上還存在著技術(shù)手段等方面的諸多不完善。在執(zhí)法上，監(jiān)管部門應(yīng)當(dāng)加大執(zhí)法力度，重點打擊這種違法現(xiàn)象。
電商平臺作為提供者，也應(yīng)當(dāng)盡到相應(yīng)的監(jiān)管義務(wù)，作為最直接、第一線的監(jiān)管者，應(yīng)當(dāng)做到事前全面審查、事中有效監(jiān)督以及事后及時彌補(bǔ)。平臺應(yīng)當(dāng)事前通過對名人信息進(jìn)行核驗，事中使用技術(shù)手段監(jiān)管，事后有效地配合當(dāng)事人解決問題、化解糾紛。AI技術(shù)的發(fā)展，也為現(xiàn)有法律帶來了不小的沖擊，需要平臺作為行業(yè)領(lǐng)頭人配合政府監(jiān)管部門一同守護(hù)好人民的合法權(quán)益。李旻補(bǔ)充道。
來源：財經(jīng)網(wǎng)
掃一掃分享本頁
