Når 11-åringen sitter klistret til Youtube i timevis, er det som om hun er på et kasino i Las Vegas. Det trengs reguleringer for å gjøre teknologien trygg, sier teknososiolog Zeynep Tufekci.
– Jeg ville aldri latt min elleveåring sitte alene på Youtube.
Zunep Tufekci har studert det hun snakker om. Hun er født i Istanbul i Tyrkia og begynte sitt yrkesliv som dataprogrammerer. Så tok hun en doktorgrad i sosiologi, og er nå en kjent teknososiolog som er tilknyttet både University of South Carolina og Harvard. I dag er hun kjent for sine analyser av de samfunnsmessige konsekvensene av ny teknologi.
De som er foreldre, vil kjenne igjen hverdagssituasjonen: Du kommer hjem fra jobb og finner sønnen eller datteren bøyd over telefonen eller nettbrettet sitt. Over halvparten av norske jenter i ungdomsskolen sitter foran en skjerm mer enn tre timer daglig utenom skoletiden, viser de siste tallene fra ungdataundersøkelsen, og skjermbruken er økende. Ofte er det Youtube som går uavbrutt på skjermen. Da er det lett å få dårlig samvittighet, føle seg som en dårlig mor eller far og tenke at man må bli strengere og lage bedre regler.
Men den første feilen vi gjør, er å tenke på dette som et individuelt problem, mener Tufekci.
– Vi trenger ikke en selvhjelpsguide til hvordan hver og en av oss kan håndtere det bedre. Det er ikke det det er snakk om, sa teknososiologen da Agenda Magasin intervjuet henne under konferansen Big challenge hos NTNU i Trondheim i juni. 25. oktober holder hun foredrag for en fulltegnet Universitetets aula i Oslo.
Når vi er på nettet, er vi i et miljø som ikke er laget for at vi skal bli bedre utgaver av oss selv.
– Tenk på en by der det er umulig å bevege seg uten å bruke bil. Du kan anbefale folk å trimme hjemme, få seg en tredemølle og så videre. Men problemet er egentlig at byen ikke er tilrettelagt for at folk skal gå. Hvis du har laget en by der folk ikke kan gå til fots, og så lurer du på hvorfor folk er i dårlig form? Da må du gjøre noe med byen.
Metaforen er direkte overførbar til nettet, sier hun:
– Når vi er på nettet, er vi i et miljø som ikke er laget for at vi skal bli bedre utgaver av oss selv. Tvert imot er det designet til å manipulere oss. Da er det dette miljøet vi må gjøre noe med.
Les også: Hvem tør temme teknologien?
Som et casino i Las Vegas
Hver av oss har i utgangspunktet 24 timer i døgnet til disposisjon, akkurat det er helt likt fordelt. Det som bekymrer Zunep Tufekci, er at teknologiselskaper som Facebook og Youtube tjener penger på oppmerksomheten vår. Og de gjør det på måter som er designet til å manipulere oss.
Tufekci har skrevet mye også om teknologiens frigjørende kraft, blant annet i boken Twitter and Tear Gas- the power and fragility of networked protest om hvordan sosiale protestbevegelser bruker sosiale medier. De første som begynte å bruke teknologien i internetts spede begynnelse, var også opprørske og alternative. Det som skjedde var nyskapende og demokratisk, og det var et ekte ønske fra teknologer og brukere om å skape et fritt og åpent internett for alle.
Jeg tror ikke det er noen løsning å forby elleveåringer å være på internett. Da vil man bare flytte problemet.
Men etter hvert ble teknologien kontrollert av personer og selskaper med penger og makt til å utnytte og bruke teknologien til sin fordel. Selskaper som Youtube har som forretningsidé å dirigere oppmerksomheten vår dit det er mest penger å tjene på den. Dermed er verken Facebook eller Youtube eller lignende nettsider trygge og gode steder for hverken barn eller voksne, ifølge Tufekci.
Hun trekker parallellen til et kasino i Las Vegas. Alle som har besøkt et kasino har gått gjennom de digre hallene med enarmede banditter. Det er enkle spill, du drar i en spake og håper å få for eksempel tre bjeller på rad. Disse maskinene er satt opp på en måte som skal få deg til å tape i lengden. Men for å holde på oppmerksomheten, gir de små gevinster underveis. Du vinner litt, og så taper du litt igjen. Her sitter det masse mennesker time etter time, stive i blikket, og fullstendig oppslukt. Alle vet at maskinene er laget slik at du skal tape i lengden, og det kan virke kjedelig og intetsigende å sitte der. Men akkurat når man tenker at «dette er så dumt» så skjer det noe som får en til å sitte litt lenger.
Noe av det samme skjer når når man blir sittende klistret til mobilen eller skjermen, forklarer Tufekci.
– Jeg tror ikke det er noen løsning å forby elleveåringer å være på internett. Da vil man bare flytte problemet. Som 12-åringer vil de ikke ha noen erfaringer med nettbruk. Jeg mener heller ikke at alle barn burde sitte og lese leksikon. Men problemet i dag er at de må takle et miljø på steder som Youtube som er designet til at de skal se mer, mer, mer.
Så hva kan man gjøre?
Dult og regulering
– En del ting burde være ganske enkelt. Hvorfor kan jeg ikke skru av automatiske anbefalinger på Youtube? Det ville tatt programmererne et par dager å gjøre det mulig. Klikk, klikk, klikk. Jeg vil ha slutt på auto-play, sier Tufecki.
Hun snakker om funksjonen som gjør at en ny filmsnutt automatisk starter når den forrige er ferdig – som nå er standard i nesten alle apper. Et lovforslag som vil forby denne funksjonen er nå til behandling i den amerikanske kongressen. Tufecki vil ha flere endringer:
– Jeg vil kunne blokkere enkelte kanaler. Dette er ting som burde være veldig lett å gjøre noe med. Og så vil jeg ha noen flere muligheter til selv å velge innstillinger. Jeg vil for eksempel kunne velge en algoritme som er satt opp til å overraske meg. Jeg vil være kunden.
Tufekci vil at teknologien skal gjøre oss til bedre utgaver av oss selv. Adferdsøkonomene Richard Thaler og Cass Sunstein har skrevet mye om dette, blant annet i boken Nudge. Ved for eksempel å spise av mindre tallerkener, forsyner man seg meg med mindre mat. Ved å opplyse om farene ved røyking, er det færre som røyker. Gjennom små tiltak kan man påvirke folks valg uten å bruke tvang eller straff. Et morsomt eksempel er fra Schiphol flyplass i Amsterdam der man hadde sett seg lei på at menn sølte så mye utenfor når de tisset. Bildet av en liten sort plastflue ble montert i urinalet der det var best at strålen traff. Resultatet var at mennene siktet seg inn på å treffe flua, og dermed sølte mye mindre.
Vi må stille flere krav som forbrukere slik at teknologiselskapene tjener penger på å gjøre oss til trygge brukere.
Problemet med internett er at dultene vi får er forferdelige, ifølge Tufekci. De gjør oss til dårligere utgaver av oss selv, ikke bedre. Vi må få mer av de gode dultene og vi må skape et trygt miljø å bevege seg i. Det tror hun er fullt mulig, og viser til hva som har skjedd med matsikkerhet. Gjennom historien har det vært mange skandaler med kjemisk mat og med mat som har vært skadelig eller forgiftet. Så kom reguleringene. I dag kan du være relativt sikker på at maten du kjøper i butikken er trygg. Det er ikke minst fordi vi har gode offentlige institusjoner som tar seg av matsikkerhet. I USA sørger Food and Drugs Administration for regulering og overvåking av mat, legemidler, kosthold og kosmetikk. I Norge har vi Legemiddeltilsynet, Mattilsynet og Forbrukerrådet.
Nå trenger vi tilsvarende institusjoner for teknologi, mener Tufecki. Og vi må stille flere krav som forbrukere slik at teknologiselskapene tjener penger på å gjøre oss til trygge brukere, ikke på å gjøre oss avhengige. De samme mekanismene som gjør at en 11-åring sitter klistret til Youtube, kan få en 21-åring til å sitte klistret til langt mørkere nettsteder.
Fra nett til terror
Lørdag 10. august skjøt og drepte 21 år gamle Philip Manshaus stesøsteren på 17 år i deres felles hjem. Etterpå avfyrte han flere skudd mot al-Noor moskeen i Bærum. I tiden før var han aktiv på flere nettforum. Det er umulig å si hvilken innflytelse deltakelsen på forum som Endchan og 8chan hadde på gjerningsmannen, og hvordan det kan ha påvirket ham til å gjøre det han gjorde den kvelden. Men det er et faktum at nettforum som EndChan, 4chan og 8chan lenge har spredt hatretorikk, rasisme og ekstreme holdninger. Debatten om regulering av disse nettstedene har tiltatt den siste tiden.
5. august ble 8chan utestengt av nettserviceleverandøren Cloudflare. Begrunnelsen var at nettforumet hadde inspirert terrorangrep som skytingene i El Paso i Texas, og Christchurch i New Zealand. Cloudfare-sjefen Matthew Prince skrev da i en bloggpost at han «fortsatt føler det ekstremt ukomfortabelt å skulle gjøre seg til dommer i slike saker». «Cloudflare er ikke myndighetene. Selv om vi har lykkes som selskap, gir det oss ingen politisk legitimitet til å ta avgjørelser om hva slags innhold som er bra eller dårlig. Det ville heller ikke være riktig. Spørsmål om innhold er reelle samfunnsmessige spørsmål som trenger politisk legitime løsninger».
Han våknet opp en dag og hadde fått nok, og med et tastetrykk tok han dem av internett og utestengte bloggen.
– Disse selskapene opptrer som kvasi-myndigheter. De er på et tog, dette toget tjener penger på denne spesielle måten, og det går veldig fort. Jeg tror en del ansatte i disse selskapene ville ønske seg mer reguleringer fra myndighetene, sier Tufekci.
Hun viser til en tidligere avgjørelse fra Cloudflare for å illustrere poenget: Da Matthew Prince i 2017 bestemte seg for å utestenge den ny-nazistiske bloggen the Daily Stormer fra servertjeneste Princes selskap kontrollerer.
– Han våknet opp en dag og hadde fått nok, og med et tastetrykk tok han dem av internett og utestengte bloggen. På en måte var det en god og riktig avgjørelse. I Europa ville denne bloggen til og med være forbudt ved lov, sier hun.
– Jeg kan anerkjenne at spørsmålet om forbud eller ikke forbud er en vanskelig diskusjon, fordi det er uenighet om hvordan man mest effektivt bekjemper nazisme. Men selv om jeg kan kjenne det samme sinnet som han, og selv om jeg kan være enig, så er ikke dette avgjørelser et selskap kan ta på vegne av oss alle. Og det sier jeg selv om det skulle vise seg at han var en helgen, og selv om alle beslutningene hans hadde vært gode og riktige. Denne type avgjørelser kan ikke avhenge av om en person våkner opp en morgen og er sint. Det må være del av en felles offentlig samtale.
Denne samtalen er i gang verden over. I Norge kan den bli nedfestet i en kommisjon.
Ytringsfrihetens framtid
På 90-tallet hadde vi en ytringsfrihetskommisjon i Norge. Det var før nettet, og før vi kjente til fenomener som hatprat, falske nyheter, og chatbots på sosiale medier. Nå kan en ny kommisjon være på trappene. Hva bør den gripe fatt i?
– Noen av de viktigste spørsmålene dreier seg egentlig ikke om ytringsfrihet, men om hva slags ytringer som gis oppmerksomhet og hva som skal til for å skape en mer faktabasert og opplyst samtale på nettet. Istedenfor å se oss blind på ytringene, må vi se på hvordan vi presenteres for informasjon og hvordan algoritmene forsterker følelser og holdninger, sier hun.
Tufekci mener vi snakker for lite om at oppmerksomheten vår dirigeres dit utfallene er størst- til det som likes og hates mest. Algoritmene leter etter det som engasjerer. Forsterkningseffekter kalles det gjerne. På den måten gis ekstremt innhold større plass, enten det går i den ene eller den andre retningen. Da gir det også uttelling å bruke ekstra sterke ord for å bli hørt.
Det er behov for å ta tak i hvilke metoder som brukes til å forsterke visse type innhold og gi det oppmerksomhet, sier Tufekci. Det er ikke sånn at noe bare presenteres for oss på Facebook, det ligger algoritmer bak som gjør en utvelgelse – det må vi forstå og regulere bedre.
Hvis du starter med et sett rimelige spørsmål, ender du veldig raskt med disse inhumane, aggressive og forvrengte standpunktene.
Når alle kan være sine egne nyhetsformidlere skulle man tro at det var gode kår for ytringsfriheten. Slik er det ikke nødvendigvis. Om noen får med seg budskapet ditt, avhenger av om du blir sett, lest eller lyttet til. Slik Twitter, Facebook og Youtube fungerer i dag, blir det som skaper sterke reaksjoner belønnet, enten det er sterkt hat eller sterk støtte. Dette avgjør tilgjengelighet, og tilgjengelighet har noe å si: Det er mer problematisk dersom en grusom nettside er lett tilgjengelig og presenteres for mange, enn dersom man må lete både lenge og vel for å finne den.
– Hvis du starter med et sett rimelige spørsmål, ender du veldig raskt med disse inhumane, aggressive og forvrengte standpunktene. Ta et område som innvandring. Jeg er fra Tyrkia, så greit, jeg kan forstå behovet for å diskutere hva slags konsekvenser det har at mange migranter kommer til landet ditt. Det er kompliserte spørsmål som vi må diskutere. Det er ikke så enkelt som at vi bare kan klemme hverandre og så er alle lykkelige. Men det er heller ikke en bølge av vold som skyldes innvandring, som man får inntrykk av på internett. Vi må kunne ha disse diskusjonene på en fornuftig måte, sier Tufekci.
Dette henger sammen med et annet område hun mener ikke får nok oppmerksomhet: behovet for å verifisere fakta. Vi trenger sårt et bedre grunnlag for faktabasert kommunikasjon, sier Tufekci. I dag er det veldig vanskelig å delta i faktabaserte og rimelige diskusjoner på sosiale medier.
– Her mener jeg vi spørre oss hva som er våre samfunnsforpliktelser. Etter Andre verdenskrig ble det opprettet en rekke institusjoner med sikte på å motarbeide propaganda og desinformasjon, og gi et faktabasert og riktig bilde av nazismen, jødeutryddelsen og det som skjedde under krigen. Nå trenger vi digitale utgaver av disse institusjonene.
Kommentarer