AI技術為社會消費帶來極大便利，與此同時，應用場景中出現(xiàn)的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設營銷，既需法律震懾與技術攔截，也依賴平臺自律與社會監(jiān)督。積極構建源頭審核、過程監(jiān)控、事后追責的全鏈條社會監(jiān)督機制，才能遏制技術濫用，營造健康放心的消費環(huán)境。

借助AI技術魔改文案和視頻資料，偽造虛假公眾人物形象、虛構“精英人設”，在短視頻平臺推銷保健品，近一段時間以來，這股AI魔改之風在網(wǎng)絡平臺甚囂塵上。從“老板娘楊麗華”到冒用張文宏等名人形象，屢禁不止的AI造假視頻不僅挑戰(zhàn)了消費者的辨別能力，更暴露出技術濫用下的監(jiān)管漏洞。應該說，AI技術在短視頻領域的營銷應用亂象，是流量經(jīng)濟下借助公眾健康焦慮的一次“合謀”，亟待法律、技術與社會的系統(tǒng)性治理。(據(jù)2月11日《中國消費者報》報道)

虛構人設與AI技術結(jié)合，打造“信任背書”，是AI魔改視頻的顯著特點。商家通過AI技術生成虛假人物形象并盜用公眾人物肖像，利用其社會影響力誘導消費者，同時還常用夸大功效與擦邊宣傳。

AI魔改短視頻營銷中，眾多賬號與店鋪有頻繁更換名稱躲避監(jiān)管嫌疑。同一產(chǎn)品鏈接跳轉(zhuǎn)至不同網(wǎng)店，經(jīng)營主體多為注冊時間短、資質(zhì)存疑的小微企業(yè)。加之AI技術極大降低虛假視頻制作成本，讓批量生產(chǎn)、快速傳播、收割變現(xiàn)、注銷換殼的欺詐營銷閉環(huán)快速形成。

虛假宣傳導致消費者誤購高價低效產(chǎn)品，甚至延誤正規(guī)治療。虛構人設營銷擾亂保健品行業(yè)競爭生態(tài)，網(wǎng)絡平臺若放任此類行為，將削弱消費者信任，最終損害自身商業(yè)信譽。同時，AI技術被濫用于造假，消解了“眼見為實”的認知基礎，一些公眾人物遭AI換臉帶貨，不僅侵犯其肖像權，更可能引發(fā)社會對權威信息的普遍懷疑。

《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確，AI生成內(nèi)容應當進行明確標識并由相關方承擔侵權責任。網(wǎng)絡平臺應當加強審查制度，落實主體責任，對未標注的AI視頻強制下架，強化平臺管理約束機制。針對保健品宣傳，嚴格執(zhí)行《廣告法》《食品安全法》等法律法規(guī)，嚴懲虛假療效宣傳行為，并將屢犯者納入失信名單，發(fā)揮信用懲戒作用。

道高一尺，魔高一丈。首先，短視頻平臺可以利用AI識別技術篩查虛假人設賬號，對利用虛擬人設、虛假精英形象的賬號采取封禁與粉絲清零等措施。其次，建立溯源機制，對頻繁更換主體的店鋪實施流量限制，并公開違規(guī)案例以警示教育廣大消費者。同時，針對易受騙的老年群體，開展反詐宣傳，揭露所謂“養(yǎng)生大師”話術陷阱。社會應當關注老年人消費動態(tài)，有關機構要及時介入異常購物行為，阻斷欺詐鏈條。

AI技術為社會消費帶來極大便利，與此同時，應用場景中出現(xiàn)的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設營銷，既需法律震懾與技術攔截，也依賴平臺自律與社會監(jiān)督。積極構建源頭審核、過程監(jiān)控、事后追責的全鏈條社會監(jiān)督機制，才能遏制技術濫用，營造健康放心的消費環(huán)境。