4 Minuter
Någon klickade på en länk som såg officiell ut. Priset var för bra för att vara sant. Paketet kom aldrig fram. Bankkontot blev tömt. Detta är ingen teknothriller. Det är ett mönster som säkerhetsforskare nu ser där konverserande AI möter nätbedrägeri.
Färska utredningar av bedrägerikontrolltjänsten Ask Silver visade att ChatGPT kan visa övertygande men falska nätbutiker när användare frågar om produkter från välkända brittiska varumärken som Russell & Bromley eller Dunelm. Lockande rabatter. Trovärdiga butiksytor. Länkar som leder köpare till klonade webbplatser byggda för att stjäla pengar och betalningsuppgifter.
När träningsdata blir en svag länk
Angripare lägger ut skadliga sidor över webben. Dessa sidor genomsöks, indexeras och, när tiden är rätt, tas upp i källorna som matar stora språkmodeller. Resultatet är vad experter kallar 'dataförgiftning': modellen lär sig från bedrägliga sidor och återger sedan samma felaktiga råd till vanliga användare.
Anna Jones från Ask Silver säger att kriminella ibland utnyttjar udda ögonblick i ett varumärkes livscykel, som en ägarförändring eller att den officiella sajten ligger nere, för att mata AI:n med falska referenser och få sina sajter att verka legitima. Tricket är enkelt. Skapa en trovärdig sida. Få den att se ut som den riktiga butiken. Låt sedan modellen plocka upp den och rekommendera den.
Lewis Baxter, som leder bedrägeriteamet på Storbritanniens National Trading Standards, varnar för att en webbplats närvaro i ett AI-svar inte är ett tecken på autenticitet. Folk vänder sig till chattbotar för snabba köpråd. Bedragare har anpassat sig lika snabbt. Att se en övertygande länk i ett chattbotsvar kan få en köpare att hoppa över grundläggande kontroller.
De falska butiksytorna som beskrivs i rapporterna är ofta oroande välpolerade. De använder domännamn som ligger nära äkta varumärken, och lägger till ord som onlineuk eller official bredvid ett bekant namn, och annonserar kraftiga rabatter, ibland upp till 80 procent, för att få köpare att agera utan att tänka. Många av dessa sajter accepterar endast banköverföringar, en annan varningssignal.
Verifiera alltid säljaren direkt: sök efter butiken med namn, kontrollera den officiella sajten och betala aldrig via banköverföring om du inte är säker på att säljaren är legitim.
Så vad kan användare göra just nu? Sakta ner. Läs URL:en noggrant. Håll utkik efter extra ord, konstiga suffix och stavfel. Föredra kort eller betalningsmetoder som erbjuder köparskydd. Om en sajt insisterar på banköverföring, se det som en stark signal att dra sig ur. När det är möjligt, skriv in återförsäljarens namn i en sökmotor eller gå dit via ett betrott bokmärke istället för att klicka på en länk från en chattbot.
- Kontrollera domänen noga efter extra ord eller okända ändelser.
- Sök efter kontaktuppgifter och verifierbara sociala bevis.
- Undvik betalningsalternativ som endast tillåter banköverföring.
- Använd kreditkort eller betalningstjänster med köparskydd.
OpenAI säger att de har tagit bort identifierade bedrägliga sajter från modellens sökresultat och erbjuder ett sätt för användare att rapportera problematiska länkar. Hjälpsamt. Nödvändigt. Men inte en fullständig lösning. Modeller lär sig från stora delar av webben, och angripare behöver bara skapa några få övertygande sidor för att orsaka skada.
Slutligen är ansvaret delat. Teknikteam måste förstärka modellernas pipelines och upptäcka dataförgiftning. Plattformar måste förbättra granskningen av länkar. Och köpare måste betrakta AI-förslag som utgångspunkter, inte rekommendationer. Var nyfiken. Var försiktigare.
Källa: smarti
Lämna en kommentar