近日，有網友發現演員溫崢嶸同時“現身”多個直播間，她身著不同服裝推廣各類產品，動作神態與本人高度相似，不知情的觀眾極易信以為真。但事實上，這是不法商家利用錄屏摳圖或盜用過往直播素材，用AI生成的虛假內容。
隨著人工智能技術逐漸成熟，AI換臉門檻降低，這一原本用于影視等領域的技術，如今卻成為不法商家炮制AI“李鬼”、謀取私利的工具。此前主持人李梓萌的AI形象被用于推銷“深海多烯魚油”，結果被查出產品僅是普通糖果。奧運冠軍、專家教授等各界名人也屢遭AI換臉帶貨。而帶貨視頻中的商品多是山寨貨，與宣傳相差甚遠。這種行為不僅侵犯名人肖像權、聲音權，還可能損害消費者權益、誤導公眾。
今年9月1日，《人工智能生成合成內容標識辦法》正式施行，要求所有AI生成的文字、圖片、視頻等，都要添加標識以明確來源和真實性。新規的出臺為治理AI造假亂象提供了制度保障，有助于推動人工智能規范發展。
然而現實中，不少造假者將標識藏在視頻、直播簡介的角落，用極小的字體顯示，消費者很難注意到。有的商家利用技術手段對AI生成內容進行去標識化處理，或將AI合成內容拆分、在多個賬號碎片化發布，讓AI造假內容混跡在正常信息流中，難以被精準識別。
部分平臺在內容審核方面也存在不足，有的平臺尚未建立起“事前預防、事中監控”的全流程治理體系。更值得警惕的是，由于AI仿冒名人的直播自帶“名人效應”，能快速吸引消費者點擊購買、提升商品轉化率，部分平臺的推薦算法也有可能在沒有識別出此類侵權內容的情況下，助長其傳播擴散。
對于被侵權者來說，即便發現疑似侵權內容，要想固定證據、證明相關內容由AI生成，過程復雜且技術門檻高。而立案訴訟往往耗時數月，在此期間，侵權內容可能已廣泛傳播。違法成本低、維權成本高的現實，使不法商家有恃無恐，助長了其囂張氣焰。
AI技術本應更好地服務于人，而非成為侵權造假的工具。破解AI造假困境，需要監管部門進一步規范AI技術應用標準，加大對違法商家、失職平臺的處罰力度，強化制度建設、筑牢監管防線；平臺也應主動承擔主體責任，加大技術投入，優化AI內容識別系統，完善審核機制與追責體系。唯有以技術賦能創新，以規則護航發展，才能讓AI真正成為推動社會進步的力量。
（稿件來源：新華每日電訊）
掃一掃分享本頁
