Bedrageri og kynisme på internett

Nettbasert svindel er overalt, men det vet dere allerede. Nye former for digitalt bedrageri blir avslørt nesten ukentlig, om ikke daglig. Russiske programvareagenter, eller «bots», utgir seg for å være amerikanske mennesker. Amerikanske bots utgir seg for å være menneskelige nettroll. Til og med mennesker utgir seg for å være bots.

Jepp, det viser ser at noen tilfeller av «intelligente assistenter», promotert som avansert kommunikativ kunstig intelligens, har vært lite mer enn digitale marionetter styrt av underbetalte mennesker.

Internett skulle ikke bare gjøre informasjonsspredning mer demokratisk, men også mer rasjonell – den skulle skape markeder hvor upartiske beregninger automatisk løftet fram de sanneste ideene og beste produktene på en global skala som ikke lot seg kunne korrumpere. Men nå har vi måttet innse at bedrageri og korrupsjon også skjer på tilsvarende stor skala.

Denne reklamemodellen er i bunn og grunn det økonomiske premisset for det moderne internett.

Ifølge ReviewMeta, en uavhengig nettside som gransker påliteligheten i tilbakemeldinger på nett, har det nylig vært en enorm økning i anmeldelser på Amazon av brukere som ikke har utført et verifisert kjøp av produktet de anmelder.

Og som om det var en overraskelse: Nesten alle av disse uverifiserte kundene (98,2 prosent), gir produktet fem stjerner. Påstander om forfalskninger kan også være falske. På Amazon kan du knapt søke etter en solkrem uten å komme over anmeldelser som påstår at produktet er en falsk kopi. Du klikker deg kanskje videre, lettet over å ha blitt advart. Men har du tenkt på at den anmeldelsen kan ha vært falsk, plantet på siden av en konkurrent?

Store plattformer som Google og Facebook tjener først og fremst formuen sin på annonseinntekter, som plattformene i sin tur forsyner med et publikum med nettbaserte reklamemeglere som mellomledd. Ideen er at disse annonsene rettes presist mot bestemte brukere og lar seg presist måle, slik at en merkevare kun betaler for de øynene den ønsker å fange, og kan til og med overvåke publikumet sitt for å se nøyaktig hvor lenge de ser på annonsene.

Så hvem vet hvor mange ekte mennesker faktisk har sett en video? Reklameselskapene kan bare gjette.

Denne reklamemodellen er i bunn og grunn det økonomiske premisset for det moderne internett. Men det er et premiss som har vist seg å være svært utsatt for bedrageri, i et marked som floreres av falske visninger, falske klikk og falske øyne.

I 2016 innrømte Facebook at de i to år hadde grovt overrapportert gjennomsnittstiden folk så på videoer på medieplattformen. Selskapet omtalte dette som en «error» som ikke hadde påvirket inntektene. Men i 2018 gikk flere små reklameselskap sammen i et gruppesøksmål og hevdet at det sosiale nettverket hadde jekket opp tallene enda mer enn det de selv hadde erkjent, og at selskapet hadde vært klar over det mye lengre enn det de selv påsto.

I mellomtiden har genereringen av falske visninger blitt en blomstrende forretningsmodell. I fjor ble det avslørt at enkelte apper på Google Play, inkludert et bilderedigeringsprogram og noen spill, var trojanske hester for skadelig programvare, såkalt «malware», i form av botnetter som klikket i vei på annonser i bakgrunnen av telefonen for å øke annonsemålinger og -inntekter for app-utvikleren.

Det er vanskeligere for markeder å fungere og økonomien å utvikle seg i lavtillitsamfunn.

Så hvem vet hvor mange ekte mennesker faktisk har sett en video? Reklameselskapene kan bare gjette.

Medieplattformene kan også ha bli snyltet for inntekter. I 2017 skal en operasjon i Bulgaria angivelig ha svindlet Spotify for så mye som 1 million dollar ved å generere sanger på noen-og-tretti sekunder (tiden som skal til for at det regnes som en lytting), for så å lage gyldig betalte, men falske, automatiserte kontoer som spilte av låtene, hvorpå juksemakerne som lå bak cashet inn differansen mellom royaltyene og summen de betalte Spotify for å høre på sine egne låter.

Når man når et visst punkt, blir den typiske responsen til denne frammarsjen av bedrageri på nett å si: «Lol, ingenting betyr noe». Men når såpass mange av oss begynner å tenke sånn, begynner det faktisk å bety noe. Samfunnsforskere skiller mellom samfunn med høy grad av tillit (samfunn hvor man kan forvente at de fleste interaksjoner fungerer) og samfunn med lav grad av tillit (samfunn hvor man hele tiden må være på vakt).

Folk bryter så klart regler i høytillitsamfunn, men lover, reguleringer og normer bidrar til å holde de fleste overtrampene i sjakk; hvis du må i retten, kan du forvente deg en anstendig prosess. I lavtillitsamfunn kan du aldri være helt sikker. Man forventer heller å bli lurt, ofte uten følger. Man forventer at ting ikke er det de utgir seg for å være, at løfter vil bli brutt, og man forventer ikke en anstendig og åpen prosess for beskyttelse og kompensasjon når og om det skjer.

Hvis du uskyldig havner i unåde hos dem, kan du forvente liten eller ingen beskyttelse.

Det er vanskeligere for markeder å fungere og økonomien å utvikle seg i lavtillitsamfunn. Det er vanskeligere å låne penger, og det er risikofylt å betalte på forskudd.

Internett har i økende grad blitt et lavtillitsamfunn hvor man nærmest tar for gitt at vidstrakt bedrageri er bygd inn i hvordan nettet fungerer.

Folk justerer seg så klart i lavtillitsamfunn. Muntlige anbefalinger fra kjente kilder blir viktigere. Å gjøre forretninger med familie og lokale nettverk blir mer vanlig, ettersom gjensidige og livslange bånd gir en viss grad av forutsigbarhet. Mafia-liknende organisasjoner dukker også opp og stiller folk til ansvar på brutalt vis.

I ytterste konsekvens kan folk i lavtillitsamfunn omfavne autoritære ledere – en leder som påfører orden og konsekvenser fra oven. Riktignok er tyrannen også korrupt og ondsinnet, men alternativet er et utmattende, fortærende fravær av trygghet og sikkerhet i hverdagen. Under Kublai-khans styre ble det sagt at en jomfru som bar et stykke gull på hodet, kunne gå trygt gjennom keiserriket. Den store militærlederen krevde total underkastelse, men til og med undertrykkelse har tilsynelatende sine fordeler.

I den digitale verden spiller de store plattformene – Apple, Facebook, Google – en Khan-liknende rolle når det kommer til innføringen av orden i keiserrikene sine. Google slår ned på innholdsprodusenter; Apple styrer app-butikken sin med jerngrep; Amazons bytteregler – som er rause mot kundene, men strenge mot selgerne – skal bekjempe bedrageri; Facebook og Twitter har blitt presset til å utestenge de farligste sprederne av konspirasjonskilder og falske nyheter. Og når de demonstrerer makten sin, jubler offentligheten.

Det er vanskelig å tro at vi har latt det gå så langt, men det har vi.

Men vi burde være skeptiske til å gi makt til gigantselskaper som i høy grad er uetterrettelige. Hvis du uskyldig havner i unåde hos dem, kan du forvente liten eller ingen beskyttelse. En utestenging fra Facebook kan kutte kontakten din med venner, allierte og publikum; å miste tilgangen til Amazon eller App Store kan ødelegge levebrødet ditt.

Stort sett er det eneste en feilaktig utestengt person kan gjøre er å fylle ut skjema og søke desperat etter en personlig kontakt i selskapet – ikke ulikt hvordan folk i fattige land søker til familiemedlemmer i statsbyråkratiet for å løse problemer. Slik fungerer et lavtillitsamfunn.

Men det finnes bedre metoder for å holde bedrageri i sjakk. Blant annet må vi bygge opp liknende institusjoner og praksiser på nett som historisk sett har ført til rettferdige, velstående og åpne samfunn i den fysiske verden. Bedre regler og teknologi som autentifiserer transaksjoner på nett; en annen form for infrastruktur for annonseteknologi som er rustet mot bedrageri og som ivaretar private opplysninger; reguleringer som institusjonaliserer disse endringene til lover – dette kan være en start.

Det er vanskelig å tro at vi har latt det gå så langt, men det har vi. Alle vet at vi er fanget i et falskt internett. Problemet er at, lol, det betyr faktisk noe.

 

Teksten ble opprinnelig publisert i magasinet Wired 24. juni 2019. Oversatt fra engelsk av Sigrid E. Strømmen