Imagini generate de AI, noua armă a escrocilor pentru rambursări pe platformele de comerț online din China

Platformele de comerț online s-au bazat ani la rând pe fotografiile trimise de clienți pentru a verifica rapid cererile de rambursare atunci când produsele ajung deteriorate. Accesibilitatea tot mai mare a instrumentelor de generare și editare a imaginilor schimbă însă regulile jocului: imagini false tot mai convingătoare subminează acest mecanism de încredere, iar comercianții raportează o creștere vizibilă a tentativelor de fraudă sprijinite de inteligența artificială.

Pe aplicația chineză RedNote, au fost identificate cel puțin o duzină de postări ale vânzătorilor și reprezentanților de suport clienți care se plâng de presupuse cereri de rambursare bazate pe imagini manipulate de AI. Exemplele variază de la poze cu etichete de transport pe care caracterele chinezești par a fi scrijelite fără sens, până la „fisuri” pe obiecte care arată mai degrabă ca niște rupturi în hârtie decât ca deteriorări reale. Într-un caz, un vânzător a replicat revoltat: „Este o cană din ceramică, nu una din carton. Cine ar putea dezveli o cană de ceramică în straturi, așa?” Contextul confirmă un fenomen în creștere, alimentat de accesul extrem de facil la instrumente generative și de presiunea logistică a gestionării milioanelor de tranzacții zilnice.

Acest tip de abuz se concentrează mai ales în anumite categorii de produse unde returnarea fizică nu este frecvent solicitată înaintea rambursării: produse alimentare proaspete, produse de înfrumusețare low-cost și obiecte fragile precum căni din ceramică. Lipsa obligației de a expedia înapoi bunurile, pentru a evita costurile sau pierderile suplimentare, face ca aceste segmente să fie o țintă preferată pentru escroci.

Fenomenul nu se limitează la China. O companie de detecție a fraudei cu sediul în New York, Forter, estimează că imaginile alterate cu AI folosite în cererile de rambursare au crescut cu mai mult de 15 la sută de la începutul anului, tendință care se accentuează la nivel global. „Acest trend a început la mijlocul lui 2024, dar s-a accelerat în ultimul an, pe măsură ce instrumentele de generare de imagini au devenit larg accesibile și incredibil de ușor de folosit”, spune Michael Reitblat, CEO și cofondator al Forter. El adaugă că AI-ul nici măcar nu trebuie să fie perfect, pentru că angajații din retail și echipele care verifică rambursările nu au întotdeauna timp să examineze în detaliu fiecare fotografie.

Pentru a înțelege amploarea și metodele folosite, merită privit și contextul de pe rețelele sociale chineze. RedNote, o platformă cunoscută pentru conținutul său vizual și comercial, a devenit un loc unde atât cumpărătorii, cât și vânzătorii semnalează public nereguli, iar povestirile despre imagini trucate circulă rapid. Despre această platformă au fost publicate analize detaliate privind rolul ei în ecosistemul digital asiatic, inclusiv legături cu trenduri vizuale și comerciale care o apropie de aplicații globale de social media precum TikTok. Pentru un cadru suplimentar despre RedNote, vedeți această analiză.

O suspiciune prea evidentă

Relatările vânzătorilor descriu scenarii repetitive: fotografii ale unor produse „rupte” sau „crăpate” ce prezintă artefacte vizuale nefirești, etichete scrise cu „caractere” care nu corespund limbii chineze sau detalii fizice imposibile. Dincolo de exemplele individuale, comercianții subliniază că pagubele se concentrează în trei zone sensibile: produse alimentare proaspete, produse de înfrumusețare low-cost și articole fragile precum ceștile sau cănile din ceramică. În aceste categorii, cerința de a returna marfa înainte de rambursare este deseori relaxată, ceea ce le face vulnerabile la abuzuri.

Un caz din noiembrie a atras atenția publică: un comerciant de pe Douyin, versiunea chineză a platformei TikTok, care vinde crabi vii, a primit de la o clientă fotografii din care reieșea că majoritatea crustaceelor ajunseseră deja moarte, iar altele ar fi scăpat din recipient. Cumpărătoarea a trimis chiar și clipuri video în care „crabii morți” erau împunși cu degetul. Totuși, pentru vânzătoare, ceva nu se lega.

„Familia mea crește crabi de peste 30 de ani. Nu am văzut niciodată un crab mort cu picioarele îndreptate în sus”, a spus Gao Jing într-un video încărcat ulterior pe Douyin. Discrepanțele au devenit evidente când s-au comparat cadrele: în primul video apăreau doi masculi și patru femele, în timp ce în al doilea erau trei masculi și trei femele. Ba mai mult, unul dintre crabii din imagini părea să aibă nouă picioare în loc de opt. Această succesiune de detalii imposibile a indicat o fabricație, nu un incident real de transport.

Gao a raportat cazul la poliție, iar autoritățile au stabilit că materialele video erau într-adevăr fabricate, reținând cumpărătoarea pentru opt zile, potrivit unei informări distribuite online de vânzătoare. Incidentul a stârnit un val de reacții în social media chinezească, în parte pentru că a reprezentat primul caz cunoscut de acest fel – o presupusă fraudă de rambursare cu ajutorul AI – care a generat un răspuns direct din partea autorităților.

Aceste episoade evidențiază o problemă de fond: comerțul electronic funcționează pe baza încrederii că majoritatea actorilor sunt de bună-credință, iar verificarea prin imagini trimise de clienți era, până recent, o soluție suficientă în multe situații. Atunci când imaginile pot fi inventate sau alterate la minut, chiar și elementele care păreau greu de „falsificat” – cum ar fi poziția membrelor unui animal sau consistența materialului unei căni – devin discutabile.

Scăderea barierelor

Fenomenul nu are frontiere. Forter estimează că imaginile modificate cu AI folosite în cererile de rambursare au urcat cu mai mult de 15 la sută de la începutul anului, iar creșterea continuă. „Acest trend a început la mijlocul lui 2024, dar s-a accelerat în ultimul an, pe măsură ce instrumentele de generare de imagini au devenit larg accesibile și incredibil de ușor de folosit”, afirmă Michael Reitblat. Potrivit acestuia, AI-ul „nu trebuie să nimerească totul”, pentru că echipele din retail care verifică rambursările rareori au timpul necesar să analizeze cu lupa fiecare fotografie.

Reitblat arată că grupările de crimă organizată folosesc aceleași tactici ca indivizii, dar la scară mare. Într-un caz, escrocii au depus cereri de rambursare în valoare totală de peste un milion de dolari, folosind imagini alterate de AI care arătau „crăpături” sau „îndoituri” pe diverse produse pentru casă. Solicitările au fost trimise într-o fereastră de timp strânsă, aparent pentru a copleși sistemele de verificare, iar atacatorii și-au rotit adresele IP pentru a-și ascunde identitatea.

Pe de altă parte, unii vânzători au început să întoarcă tehnologia împotriva fraudatorilor. Un comerciant chinez de jucării a demonstrat cum își alimentează cererile de rambursare într-un chatbot de AI pentru a evalua dacă fotografiile au fost manipulate. Deocamdată, astfel de instrumente sunt departe de a fi perfecte. Chiar și când o unealtă oferă o „confirmare” că imaginile ar fi false, platformele de ecommerce nu sunt obligate să dea dreptate vânzătorului în mod automat. Reitblat avertizează că retailerii ar putea, în final, să-și înăsprească politicile de retur, măsură menită să descurajeze abuzurile, dar care ar afecta inevitabil experiența clienților de bună-credință.

Contextul actual reînvie și o altă nemulțumire, apărută anterior pe marketplace-urile digitale din China: atunci, vânzătorii au fost criticați pentru folosirea unor imagini de produs generate de AI care nu reflectau realitatea. Numeroși cumpărători s-au plâns că achiziția online semăna tot mai mult cu un joc de noroc, fără garanția că produsul ce ajunge la ușă arată ca în poze. Din această perspectivă, fraudele de rambursare bazate pe imagini false și prezentările de produs „înfrumusețate” cu AI sunt două fețe ale aceleiași probleme: erodarea încrederii.

În prezent, mecanismele de protecție existente, precum watermark-urile pentru conținut generat de AI, se dovedesc adesea ușor de eliminat. Discuțiile despre standarde de marcare a conținutului sau semnături digitale continuă, dar eficiența lor este încă limitată. Pentru o privire asupra eforturilor de reglementare și standardizare a „urmelor” lăsate de AI, consultați inițiativele privind watermark-urile AI.

În lipsa unui control tehnic robust, responsabilitatea se mută pe regulile de joc ale platformelor: revizuirea procedurilor de verificare a fotografiilor, schimbarea politicilor de rambursare, introducerea unor verificări suplimentare pentru categoriile cele mai vulnerabile și consacrarea unor mecanisme clare de responsabilizare în cazurile de escrocherie asistată de AI. Mai multe publicații au documentat fenomenul cumpărătorilor care modifică imaginile pentru a-și spori șansele de a primi banii înapoi pentru produsele „deteriorate”, inclusiv în segmentele cele mai expuse din comerțul chinez. Detalii despre aceste practici pot fi găsite și în relatări privind folosirea AI pentru a schimba fotografiile produselor în vederea obținerii de rambursări, cum ar fi acest material despre cumpărătorii din China care „retușează” imaginile pentru a simula defecte: exemplu documentat.

În ansamblu, tabloul care se conturează este cel al unei curse de adaptare: instrumente generative din ce în ce mai capabile sunt folosite de escroci pentru a crea dovezi vizuale convingătoare, în timp ce comercianții și platformele caută soluții pentru a filtra conținutul manipulat fără a penaliza clienții onești. În joc nu sunt doar sume semnificative – în unele cazuri, peste un milion de dolari în cereri – ci și încrederea care face posibilă economia digitală de masă. Din ce în ce mai mult, viitorul comerțului online depinde de găsirea unui echilibru între verificări eficiente, politici de retur echitabile și o responsabilizare clară a celor care folosesc AI pentru a frauda.

Pentru o prezentare amplă a modului în care escrocii folosesc imagini generate de AI pentru a solicita rambursări, citiți materialul dedicat: analiza completă.

Sursa foto: Imagine generată AI iAceastă imagine a fost generată automat de AI pe baza rezumatului articolului și nu reprezintă un moment real fotografiat.