“知名主持人親自推薦，說(shuō)是能改善記憶和視覺功能，結(jié)果竟然是AI生成的虛假帶貨視頻！”近日，江東街道居民吳美珍手機(jī)里播放的短視頻，引發(fā)了鄰里間的熱議。當(dāng)AI換臉、AI生成內(nèi)容技術(shù)門檻降低，幾分鐘即可炮制虛假信息，“眼見為實(shí)”的底線正被多元AI騙局持續(xù)沖擊。那么在義烏，市民碰到AI騙局的情況是否多見？實(shí)際情況如何呢？記者就此實(shí)地走訪調(diào)查了一番。

孰真孰假，難辨AI騙局

“群里的‘視頻’是AI偽造的，求大家別傳播！”今年8月，市民樓鑫（化名）在孩子培訓(xùn)機(jī)構(gòu)的家長(zhǎng)群里急得直跺腳。記者見到他時(shí)，他仍難掩疲憊：“7月初收到陌生郵件，附件是AI換臉偽造的不真視頻，對(duì)方要5萬(wàn)元封口費(fèi)，說(shuō)不給就發(fā)去單位和社交圈。”“我沒給錢，視頻果然被發(fā)到了家長(zhǎng)群，客戶也打電話來(lái)核實(shí)，那段時(shí)間我天天失眠�！敝钡綀�(bào)警后，樓先生虛假視頻的傳播才停了下來(lái)，但名譽(yù)受損的影響持續(xù)了很久。

記者在義烏街頭走訪30位市民，19人表示刷到過(guò)疑似AI生成內(nèi)容，其中包括AI換臉短視頻，也有AI數(shù)字人帶貨視頻，12人坦言差點(diǎn)被騙。北苑街道一家藥店的店主陳喬翻出手機(jī)里的視頻：“畫面里是形象光鮮的AI數(shù)字人，自稱‘健康顧問(wèn)’推薦保健品，說(shuō)能增強(qiáng)免疫力，顧客想批量采購(gòu)做促銷。我看著內(nèi)容專業(yè)又逼真，差點(diǎn)就聯(lián)系供貨商了，幸好女兒提醒現(xiàn)在AI生成的帶貨視頻特別多，勸我悠著點(diǎn)�！�

AI虛假宣傳的形式遠(yuǎn)超單一“換臉”。記者走訪義烏40余家商戶，有26家表示收到過(guò)各類AI生成的推廣內(nèi)容，既有明星“數(shù)字分身”代言，也有AI批量生成的虛假爆款測(cè)評(píng)。商戶樓偉民向記者展示了一段視頻：奧運(yùn)冠軍全紅嬋的“數(shù)字分身”正在代言土雞蛋，說(shuō)著和冠軍口音一致的推薦語(yǔ)，而這是騙子未經(jīng)授權(quán)用AI合成的�！安簧倏蛻舨铧c(diǎn)信以為真，和我聊天時(shí)都在感慨‘防不勝防’。”

經(jīng)營(yíng)美妝的王芳芳則遭遇了AI“偽原創(chuàng)”帶貨陷阱：“收到一條‘爆款口紅實(shí)測(cè)’視頻，畫面里的試色效果、使用反饋看起來(lái)特別真實(shí)，后面附了供貨鏈接，說(shuō)‘廠家直供、日銷千單’。我差點(diǎn)下單進(jìn)貨，結(jié)果發(fā)現(xiàn)視頻里的產(chǎn)品細(xì)節(jié)模糊，而且多個(gè)不同賬號(hào)發(fā)了同款視頻，只是換了背景音樂(lè)。后來(lái)我才知道是AI批量生成的虛假測(cè)評(píng)，產(chǎn)品就是‘三無(wú)’產(chǎn)品�！�

老年群體是各類AI騙局的主要目標(biāo)。東洲社區(qū)居民李敏阿姨說(shuō)，她老伴就曾經(jīng)被騙：“視頻里‘專家’穿白大褂，說(shuō)有治高血壓的特效藥，還出示了逼真的‘檢測(cè)報(bào)告’，背景和講解邏輯都像正規(guī)科普。我老伴買了三個(gè)療程，吃了沒效果，賣家也失聯(lián)了，后來(lái)才知道‘專家’是AI合成形象，相關(guān)資質(zhì)證明都是AI生成的�！�

從事電商運(yùn)營(yíng)的周文強(qiáng)則遭遇了AI生成虛假訂單騙局：“‘客戶’發(fā)來(lái)視頻說(shuō)要大批量訂貨，需先付定金，視頻里的人跟之前對(duì)接的工作人員長(zhǎng)得一樣，還附上了估計(jì)是AI生成的公司資質(zhì)和訂單合同。幸好同事提醒核對(duì)賬號(hào)和公章細(xì)節(jié)，才發(fā)現(xiàn)這個(gè)賬號(hào)是陌生的，合同上的公司信息有明顯拼接痕跡，避免了損失。”

“以前‘眼見為實(shí)’，現(xiàn)在視頻、文案都可能是AI造假。”商戶劉寧的感慨道出許多人的心聲。記者走訪發(fā)現(xiàn)，超七成受訪者對(duì)網(wǎng)絡(luò)信息產(chǎn)生不信任感，涉及轉(zhuǎn)賬、進(jìn)貨、消費(fèi)時(shí)都會(huì)反復(fù)核實(shí)，擔(dān)心遭遇各類AI騙局。

多方共治，聯(lián)手筑牢防線

面對(duì)AI換臉、AI虛假帶貨等多元亂象，記者調(diào)查發(fā)現(xiàn)，我市正自發(fā)形成合力，用各種方式守護(hù)“真實(shí)”。

平臺(tái)技術(shù)防控不斷升級(jí)，針對(duì)多元AI生成內(nèi)容精準(zhǔn)施策。記者聯(lián)系到抖音App工作人員，據(jù)他透露，平臺(tái)已上線多維度AI內(nèi)容識(shí)別系統(tǒng)，該系統(tǒng)不僅能識(shí)別AI換臉的面部邊緣模糊、眼神呆滯等破綻，還能檢測(cè)AI數(shù)字人帶貨的動(dòng)作僵硬、背景違和等特征，識(shí)別后會(huì)添加“疑似合成內(nèi)容”標(biāo)識(shí)。市民郭子銘說(shuō)：“現(xiàn)在刷短視頻�？吹竭@種標(biāo)識(shí)，遇到AI批量生成的相似帶貨視頻，平臺(tái)還會(huì)彈窗提醒‘內(nèi)容可能重復(fù)或AI生成，請(qǐng)注意甄別’，同時(shí)增設(shè)了AI內(nèi)容舉報(bào)通道，反饋很快�！�

社區(qū)宣傳教育精準(zhǔn)覆蓋多元騙局。記者在北苑街道丹溪社區(qū)、江東街道東洲社區(qū)等地看到，社區(qū)宣傳欄都貼著AI騙局識(shí)別指南，既包含換臉詐騙特征，也有AI虛假帶貨、AI生成虛假資質(zhì)的辨別方法。不少社區(qū)組建了由社區(qū)工作者、退休教師、志愿者組成的反詐宣傳隊(duì)。在丹溪社區(qū)，志愿者孫建發(fā)正在演示：“大家看，AI合成的人臉沒有微表情，AI數(shù)字人帶貨沒有自然互動(dòng)，AI生成的檢測(cè)報(bào)告往往細(xì)節(jié)模糊，還可以用反向搜索來(lái)核實(shí)產(chǎn)品信息�！�

公安、司法等部門也會(huì)定期走進(jìn)企業(yè)、工地、老年大學(xué)等地，開展針對(duì)性宣傳活動(dòng)�，F(xiàn)場(chǎng)老人們認(rèn)真記錄，市民張大爺說(shuō)：“我們樓棟居民自發(fā)組建了反詐微信群，分享各種AI騙局案例，上次我看到AI數(shù)字人推薦理財(cái)?shù)囊曨l，發(fā)到群里被提醒是虛假宣傳，避開了坑�！蔽⑿湃豪镞�開展了“反詐達(dá)人”評(píng)選活動(dòng)，鼓勵(lì)居民分享防騙經(jīng)驗(yàn)，不少人總結(jié)的“三看原則”（看標(biāo)識(shí)、看細(xì)節(jié)、看渠道），在鄰里間廣泛傳播。

商戶們也抱團(tuán)防范多元AI騙局。不少商戶組建行業(yè)交流群，遇到可疑AI宣傳視頻、批量生成的測(cè)評(píng)內(nèi)容就互相提醒�！拔覀兗s定，明星代言要查授權(quán)，數(shù)字人帶貨要核資質(zhì)，大額訂單必須通過(guò)官方渠道核實(shí)身份，簽訂正式合同，絕不私下轉(zhuǎn)賬�！鄙虘魳莻ッ裾f(shuō)，現(xiàn)在商戶們還會(huì)共享AI生成內(nèi)容的識(shí)別技巧，比如AI批量生成的帶貨視頻往往配樂(lè)、話術(shù)高度相似，很容易甄別。

市民防范意識(shí)也明顯提升。福建客商林阿豪告訴記者：“進(jìn)貨時(shí)遇到AI數(shù)字人帶貨或虛假測(cè)評(píng)視頻，我會(huì)要求其出示品牌授權(quán)證明和真實(shí)供貨憑證，沒有的一律不考慮�！背�市收銀員也會(huì)提醒老年顧客：“掃碼買保健品、理財(cái)，遇到AI推薦的，先跟兒女商量，別被虛假內(nèi)容騙了�！�

法律護(hù)航，讓AI“向善”而行

“AI技術(shù)就像一把手術(shù)刀，可救人亦會(huì)傷人，關(guān)鍵在握刀者的選擇和使用邊界�！闭憬瓥|邦律師事務(wù)所律師樓璟倩在接受采訪時(shí)表示，AI換臉濫用、AI生成虛假帶貨內(nèi)容等行為，可能侵犯肖像權(quán)、名譽(yù)權(quán)，甚至構(gòu)成刑事犯罪，受害者要學(xué)會(huì)依法維權(quán)。

樓璟倩介紹：“未經(jīng)授權(quán)使用他人肖像進(jìn)行AI換臉，或用AI生成虛假內(nèi)容進(jìn)行商業(yè)宣傳，都是侵權(quán)行為，受害者可要求停止侵害、消除影響、賠償損失。像AI數(shù)字人虛假帶貨、AI生成虛假測(cè)評(píng)誤導(dǎo)消費(fèi)的，還構(gòu)成虛假宣傳，涉事方需承擔(dān)相應(yīng)法律責(zé)任�！�

對(duì)于AI換臉詐騙、AI生成虛假訂單實(shí)施詐騙等行為，樓璟倩指出：“這已觸犯刑法，詐騙金額較大的構(gòu)成詐騙罪，會(huì)面臨刑事處罰。受害者要第一時(shí)間截屏、錄屏固定證據(jù)，不僅要保存虛假內(nèi)容本身，還要記錄發(fā)布平臺(tái)、賬號(hào)、傳播范圍等信息，及時(shí)向平臺(tái)投訴、報(bào)警�！�

樓璟倩呼吁：“技術(shù)開發(fā)者要堅(jiān)守倫理，不開發(fā)傳播非法AI生成工具；平臺(tái)要加強(qiáng)全品類AI內(nèi)容審核，不讓虛假帶貨、虛假宣傳等內(nèi)容傳播；市民要提高警惕，發(fā)現(xiàn)各類AI虛假內(nèi)容及時(shí)舉報(bào)。只有多方合力，才能讓AI回歸服務(wù)人類的本質(zhì)。”

從社區(qū)反詐講座到商戶抱團(tuán)防騙，從平臺(tái)技術(shù)防控到法律護(hù)航，一場(chǎng)守護(hù)真實(shí)的行動(dòng)在義烏持續(xù)推進(jìn)。AI技術(shù)本無(wú)善惡，無(wú)論是換臉還是內(nèi)容生成，只要全社會(huì)堅(jiān)守法律和倫理底線，就能遏制亂象蔓延，讓“眼見為實(shí)”的信任重回生活，讓AI成為賦能商貿(mào)發(fā)展、便利市民生活的正能量。