Ett nytt cyberbedrägeri baserat på AI försvårar avkastning inom digital handel

Spridningen av allt kraftfullare verktyg för att skapa bilder med artificiell intelligens, som de av den kontroversiella Grok, av Elon Musk, eller den nyligen släppta Nano Banana, av Gemini, har börjat eskalera en oroande effekt för e-handel. Och möjligheten att enkelt skapa hyperrealistiska reproduktioner på några sekunder har multiplicerat påståenden baserade på fotografier manipulerade med AI.

Alltså kan man hitta fler och fler fall av småsäljare på Amazon och eBay som berättar i forumen hur deras kunder skickar dem bilder som visar produkter som påstås ha skadats efter frakt när varan faktiskt kom i perfekt skick.

Kombinationen av denna tillgänglighet för att förfalska bevis tillsammans med allt mer automatiserade processer för att hantera returer underblåser en våg av bedrägerier som tvingar oss att ompröva kundservice och återbetalningspolicyer. Speciellt bland de små e-handel och butiker online av frilansare, som ofta baserar sina returpolicyer på enkla visuella tester och automatiserade processer.

1. Bedrägeri innebär att använda AI för att simulera skada och kräva ersättning
2. Det är så bedragare använder AI för att förfalska bilder
3. Fall av viral manipulation
4. Inverkan på småföretag
5. Varningsskyltar och förebyggande mot bedrägeri

Bedrägeri innebär att använda AI för att simulera skada och kräva ersättning

Företaget specialiserat på bedrägeriupptäckt Forter har redan placerat detta fenomen bland de prioriterade frågorna för framtiden för e-handel. Enligt deras analys, användandet av manipulerade eller AI-genererade bilder för att motivera avkastning har vuxit med mer än 15 % de senaste månaderna och är en del av ett bredare mönster av bedrägerier organiserad som kombinerar avancerad digital teknik.

Företagets VD, Michael Reitblat, lyfte fram att det finns grupper som utnyttjar flexibla returpolicyer för att genomföra storskaliga anspråkoch påpekar att masstillgång till de tidigare nämnda skapande verktygen har sänkt den tekniska barriären för denna typ av bedrägeri.

Ett av huvudproblemen är att mekanismen att följa är enkel och effektiv; består av Köparen rapporterar att ha mottagit en defekt varaoch presenterar som bevis en AI-skapad eller förändrad bild som visar uppenbara skador (från revor och mögel till fläckar och brännskador). Således försöker du behålla den köpta produkten och få en återbetalning.

Med tanke på den realism som uppnås med generativa AI-modeller, är dessa fotografier lyckas ofta undvika ytlig granskning och aktivera de automatiska processerna som används för returer.

Forter framhåller att problemet inte bara är bildens falskhet, utan kombinationen av dessa godkännandeprocesser, höga kostnader för att returnera beställningar med lågt värde och bristen på tekniska kontroller som kan skilja förfalskat innehåll från autentiska fotografier.

Det är så bedragare använder AI för att förfalska bilder

I praktiken kan AI-verktyg redan redigera ett riktigt foto av produkten för att lägga till en defekt. De vanligaste teknikerna som upptäcks är genereringen av texturer som simulera någon typ av försämring (såsom oxidation), replikering av brottmönster på plast- eller glasytor och förändringar av färger för att framstå som fläckar.

I de mest sofistikerade fallen, bedragare De kombinerar till och med dessa bilder med modifierad metadata i filerna, att låtsas att de togs på leveransdatumet.

Fall av viral manipulation

De mest utbredda och dokumenterade exemplen hittills på bedräglig användning av bilder kommer från Asien, särskilt Kina, där den massiva adoptionen av e-handel och sociala medier har förstärkt uppkomsten av bedrägerier.

Ett fall som blev viralt på TikTok involverade en krabbaförsäljare som inte bara fick foton utan också videor som fick det att se ut som att varorna hade kommit fram i dåligt skick. Den efterföljande utredningen avslöjade inkonsekvenser i bilderna och ledde till polisingripande.

En annan episod med återverkningar på Internet gällde samma kunds köp av sportartiklar för samlare, såsom signerade handelskort, små eBay-försäljare i USA. Olika handlare rapporterade i X att de hade fått fotografier som, Vid första anblicken verkade de legitima, men de visade sig vara AI-genererade bilder.

Dessa inlägg cirkulerade på plattformen, där andra Användare och säljare varnade tillsammans bedragaren.

Inverkan på småföretag

Effekten av detta bedrägeri på de små och medelstora företag och egenföretagare som baserar sina företag i butik online Det är särskilt skadligt. Mindre företag arbetar ofta med snäva marginaler och mindre kundserviceprocesser; många gånger fortsätter de till göra återbetalningar för att behålla tillfredsställelsen och undvik dåliga recensioner. Den där flexibiliteten, som under normala förhållanden är en konkurrensfördel, blir plötsligt en sårbarhet.

Inte förgäves, förutom den direkta kostnaden för återbetalning, finns det säkerhetsrisker: förlust av rykte på grund av negativa recensioner som följer med det bedrägliga anspråket, tillfällig spärrning av konton marknadsplatser på grund av ackumulering av tvister och avledning av mänskliga resurser till utredning av anspråk.

På mycket konkurrensutsatta marknader kan behovet av att reagera snabbt leda till att köparens version accepteras utan att ytterligare bevis krävs, vilket underlättar spridningen av detta bedrägeri.

Varningsskyltar och förebyggande mot bedrägerier

Följande praktiska åtgärder kan vara användbara åtgärder för att förebygga i småföretag för att minska risken för bedrägerier med AI-genererade bilder:

• Kräv ytterligare bevis. Till exempel, videor längre än sex sekunder (gränsen för vad AI-verktyg nu kan generera) där defekten i fråga visas.
• Utveckla en stegvis verifiering. Detta inkluderar aktivering mer omfattande recensioner för fordringar som uppfyller vissa kriterier, till exempel sådana som överstiger en ekonomisk tröskel.
• Begär fysisk retur när det finns rimliga tvivel. Det viktiga är fördröja återbetalningen tills kontroll mottagandet av artikeln.
• Använd verktyg mot bedrägeri. Det finns fler och fler verktyg för upptäckt av förfalskat innehåll och till och med analys av köparnas beteendemönster.
• Granska returpolicyer. Registrera bevis för varje fall. Det vill säga behålla fångar och kommunikationer för att underlätta ev rättsliga åtgärder eller tvister med plattformar.

Utöver allt ovan, och möjligen det första du ska göra, är att vara uppmärksam på vissa karaktäristiska tecken som fortfarande vanligtvis finns i bilder som genereras av AI:

• Fotografier med ett enda format eller med alltför homogen kvalitet.
• Bilder med osammanhängande skuggor eller reflektioner angående produktens form.
• Deformerad text eller logotyper i områden nära defekten.
• Närvaro av artefakter i pixlar (onaturligt utseende områden).