烤肉店被顧客用AI偽造的病歷和發(fā)票惡意索賠,漢堡店因一張“漢堡里有毛發(fā)”的照片,被平臺強(qiáng)制退款……近年來,一些人利用AI工具偽造醫(yī)院診斷證明、收費(fèi)單據(jù),甚至憑空生成餐品中的異物,索要賠償或退款。面對這些真假難辨的證據(jù),商家往往難以自證,常常只能自認(rèn)倒霉。
近日,多家平臺推出治理工具,用技術(shù)對抗AI造假,能否遏制惡意索賠行為?
一頓烤肉讓店家賠了2000元
假診斷書露出馬腳
今年上半年,上海楊浦區(qū)一家烤肉店店長向警方報(bào)案。一名姓楊的顧客稱在店內(nèi)用餐后身體不適,出示了就診記錄和醫(yī)療發(fā)票,要求賠償2000元醫(yī)療費(fèi),并威脅如果不賠付就持續(xù)投訴、曝光,店家迫于壓力進(jìn)行了賠付。
隨后,該烤肉店店長與另一家飯店的店長閑聊時(shí)發(fā)現(xiàn),兩人遭遇的套路高度相似——投訴人都姓楊,提交的材料除了日期不同,其他內(nèi)容幾乎一模一樣,兩人隨即報(bào)警。

△楊某某使用AI工具生成虛假維權(quán)圖片
上海市公安局楊浦分局民警調(diào)取餐廳公共視頻發(fā)現(xiàn),楊某某確實(shí)曾在店內(nèi)消費(fèi),但過程并無異常。民警又聯(lián)系了當(dāng)天同時(shí)在店就餐的其他顧客,均反饋沒有出現(xiàn)腹瀉、腹痛等癥狀。警方將楊某某提交的材料與醫(yī)院真實(shí)的電子票據(jù)進(jìn)行比對,發(fā)現(xiàn)明顯疑點(diǎn),偽造的診斷證明上寫有“食用未熟透牛肉細(xì)菌感染”字樣,而醫(yī)生不會這樣描述;偽造的電子發(fā)票蓋有上海市稅務(wù)局的公章,醫(yī)院根本沒有這種印章。

△楊某某利用AI軟件偽造醫(yī)院診斷證明、收費(fèi)單據(jù)和投訴材料。
經(jīng)醫(yī)院證實(shí),楊某某從未有過相關(guān)就醫(yī)記錄。審訊中楊某某供述,他偶然在網(wǎng)上看到有人發(fā)布利用“急性腸胃炎”診斷證明獲得賠償?shù)奶?,于是用手機(jī)AI工具生成了虛假材料,向12345和市場監(jiān)管部門多次投訴舉報(bào),逼迫商家賠付。去年11月第一次索賠成功后,一個(gè)月內(nèi)他又以同樣方式對四家餐廳提出索賠,索要金額一次比一次高。

△第一次索賠成功后,楊某某以同樣的方式向四家餐廳提出索賠。
上海市楊浦區(qū)人民法院審理認(rèn)定,楊某某犯敲詐勒索罪,判處拘役四個(gè)月、緩刑四個(gè)月,并處罰金2000元。
漢堡里的“毛發(fā)”一塵不染
僅退款商品圖片竟有AI水印
類似的“AI索賠”并非個(gè)案,河北一家餐廳的老板韓先生也中過招。不久前有顧客發(fā)來一張照片,聲稱漢堡中有一根毛發(fā),要求賠償。韓先生表示,照片看起來比較真實(shí),但他對自家產(chǎn)品的質(zhì)量控制有信心?!懊l(fā)經(jīng)過高溫油炸會變形,而且肯定會沾上沙拉醬,不可能那么干凈?!比欢?,顧客通過平臺客服投訴后,平臺判定商家責(zé)任,強(qiáng)制退了款。

電商平臺手機(jī)殼賣家“橘子”的遭遇更離譜。一位買家發(fā)來圖片,稱產(chǎn)品上有污漬,要求退款。橘子仔細(xì)查看圖片后發(fā)現(xiàn),圖片右下角清晰標(biāo)注了AI生成軟件的水印。盡管她提供了發(fā)貨全程錄像并最終申訴成功,但損失已經(jīng)產(chǎn)生,來回運(yùn)費(fèi)和包裝費(fèi)超過十元,更重要的是,“質(zhì)量問題退款”的記錄影響了店鋪評分和平臺流量。為了防范此類風(fēng)險(xiǎn),她不得不增加錄像設(shè)備和人力檢查成本。

△手機(jī)殼賣家收到的AI造假索賠圖片
據(jù)某外賣平臺監(jiān)測,高頻惡意行為中,故意投放異物、差評威脅、AI敲詐、謊稱未收到餐、職業(yè)索賠是五種最常見的類型。對于中小商家而言,面對技術(shù)偽造的證據(jù),往往缺乏鑒別能力和舉證精力,幾乎沒有“還手之力”。
平臺引入AI風(fēng)控模型
自動(dòng)識別假圖、標(biāo)記高風(fēng)險(xiǎn)賬號
針對AI技術(shù)被濫用的問題,多家互聯(lián)網(wǎng)平臺正在采取“技術(shù)識別+風(fēng)控規(guī)則+法律威懾”的組合防御策略。
某外賣平臺惡意騙賠治理相關(guān)負(fù)責(zé)人介紹,平臺已上線一套基于億級真實(shí)訂單和評價(jià)數(shù)據(jù)訓(xùn)練的AI風(fēng)控模型。該系統(tǒng)整合用戶行為、訂單特征、評價(jià)語義等多維度信息,能夠自動(dòng)識別AI偽造的食安憑證、反復(fù)使用的同一張索賠圖片、真假難辨的醫(yī)療票據(jù)。對于異常高頻的差評、退賠金額嚴(yán)重不符的訂單,系統(tǒng)可實(shí)現(xiàn)秒級標(biāo)記。高頻風(fēng)險(xiǎn)賬號將觸發(fā)審核,向商家預(yù)警。
另一家電商平臺則在商家端增加了快捷反饋功能。商家發(fā)現(xiàn)已售商品的圖片疑似經(jīng)AI處理或存在明顯失真時(shí),可右鍵點(diǎn)擊圖片選擇“反饋虛假售后憑證”,一鍵提交對應(yīng)訂單和場景信息。一旦系統(tǒng)判定為AI假圖,將直接影響售后判決結(jié)果,同時(shí)向商家發(fā)出風(fēng)險(xiǎn)提示。
河北餐廳經(jīng)營者韓先生表示,依托平臺的技術(shù)防控手段,商家的處境已有改善?!艾F(xiàn)在有些顧客會被平臺標(biāo)記,商家端會收到提示,這個(gè)用戶有過歷史不良行為,他想申請退款、保險(xiǎn)理賠,或惡意差評,會被系統(tǒng)攔截?!?/p>
專家提醒:
單次金額小,跨平臺也能累計(jì)定罪
中國政法大學(xué)知識產(chǎn)權(quán)中心特約研究員趙占領(lǐng)指出,利用AI生成虛假圖片索賠,本質(zhì)就是虛構(gòu)事實(shí),非法占有財(cái)物。即便單次金額小,只要多次實(shí)施、累計(jì)達(dá)到當(dāng)?shù)卦p騙罪數(shù)額較大標(biāo)準(zhǔn)——通常3000元以上,就構(gòu)成詐騙罪。如果行為人同時(shí)用“曝光”“投訴”來要挾,則涉嫌敲詐勒索罪。
中國人民大學(xué)法學(xué)院副教授黃尹旭則表示,AI工具大大降低了造假成本,違規(guī)成本極低,公安、市場監(jiān)管等部門和網(wǎng)絡(luò)平臺要建立更立體的治理體系,增加對AI造假索賠的懲罰機(jī)制。
編輯:陳琦