Algoritmene tar kontroll over oss

Nylig avdekket NRK at 15 unge norske jenter i et nettverk på Instagram har tatt livet sitt. Jeg hevdet i den sammenheng at algoritmer på Instagram i verste fall kan drepe. Algoritmene, oppskriften for hvordan Instagram fungerer, fremmer innhold og interaksjon med likesinnede, uten tanke på mottagerne, som i dette tilfelle var suicidale. Algoritmer instruerer brukerne i hva de skal se og hva de skal engasjere seg i gjennom anbefalinger i nettjenesten. Og når Instagram løfter frem innhold og nettverk relatert til selvskading og selvmord til de som absolutt ikke trenger det, er det svært problematisk.

Samtidig vil ikke Instagram ta på seg ansvar for tragedien, men Karina Newton, sjef for Instagrams retningslinjer, medgir likevel at systemet ikke er godt nok. Newton påpeker i en kronikk i Aftenposten at Instagram har introdusert ny teknologi for å fjerne innlegg som promoterer selvskading og selvmord.

Maskinen lever sitt eget liv

En gammel lov, kalt Ashbys lov, forteller at kontrollsystemet skal være like komplisert som systemet det kontrollerer. Dessverre har verken Facebook eller Instagram et bedre kontrollsystem enn det kompliserte systemet de har utviklet. Det er millioner av innlegg på Instagram som handler om selvmord. Ikke alt dette er negativt, men algoritmene alene ville ikke skjønne hva som er hva. Hva som hjelper, hva som er destruktivt, hva som er tull, hva som er alvor.

Et annet problem er at algoritmene til Instagram og andre teknogiganter mer eller mindre lever sitt eget liv, gjennom maskinlæring som produserer kunstig intelligente algoritmer. Instagram og Facebook har derfor ikke full kontroll over hvordan algoritmene utvikler seg, utover at det at de skal booste brukerengasjementet. På nettplattformer som Instagram er derfor brukerne er nærmest kontinuerlige betatestere i uferdige systemer, under kontinuerlig utvikling.

Enkelte ser på algoritmer som en gud – de ønsker at algoritmer skal styre samfunnet og verden, ikke mennesker.

Algoritmenes makt gjelder ikke bare på Instagram. Algoritmer sniker seg for alvor inn i hverdagen, og påvirker både enkeltmennesker og samfunnsutviklingen. At algoritmene i økende grad får makt, er ikke uproblematisk. Enkelte ser på algoritmer som en gud – de ønsker at algoritmer skal styre samfunnet og verden, ikke mennesker.  Og vi er på god vei – stadig flere tjenester, innen alt fra helse, reiser, Facebook og Netflix, er algoritmestyrte. Algoritmer kan tilsynelatende løse alle problemene våre, inkludert de vi ikke var klar over at vi hadde, raskere og billigere enn noe menneske kan.

Men hva skjer med oss om systemene og tjenestene vi omgir oss fjerner seg mer og mer fra menneskelig kontroll, og fysiske kontekster?

Les også Bente Kalsnes: Kampen om politiske annonser i sosiale medier

Intelligens uten fornuft

Mye er sagt om kunstig intelligens, men den mangler sunn fornuft. Algoritmer er ikke mennesker. Mennesker kan resonnere, det kan ikke maskiner eller algoritmer. En annen sentral problemstilling er at algoritmer mangler transparens i hvordan de de kommer frem til viktige avgjørelser, sortering og kategoriseringer. Utfordringen er også en enorm skjevhet i maktforholdet. Algoritmene vet masse om oss, men vi vet ingen ting om dem.

Derfor må vi begynne å stille helt nye og eksistensielle spørsmål: Hva gjør algoritmene med oss og samfunnet? Dette er kanskje særlig viktig for oss i Norge å ta en debatt på det. Norge er blant verdens meste digitaliserte land, og vi er i økende grad styrt og påvirket av algoritmer laget i Silicon Valley. Hvordan vil det påvirke samfunnsutviklingen her hjemme?

De har tjent seg rike på bekostningen av vårt personvern, på grunn av manglende reguleringer.

Det har skjedd en datafisering av verden på kort tid. De største selskapene i verden, som Amazon, Facebook, Google og Apple, lever av data om oss. De kapitaliserer på data om deg og meg. De har tjent seg rike på bekostningen av vårt personvern, på grunn av manglende reguleringer. Data er vår tids olje, og amerikanske teknoselselskaper sitter på detaljdata om folks atferd og preferanser i hele verden, inkludert oss i Norge. Jo mer data, jo bedre algoritmer.

Bare Facebook alene har 2,3 milliarder brukere. For å få økt oppmerksomhet og økt annonsesalg, analyserer algoritmene i de store teknoselskapene hva vi gjør på nett. De identifiserer hvor vi er, hvem vi kommuniserer med, hvilke venner vi har, hva vi kjøper, hva vi poster av bilder og kommentarer og hva vi ser på. I tillegg vet de hvem vi er og hvor vi ferdes, samtidig som de hele tiden øker datatilfanget om oss. Facebook er ikke bare et sosialt nettverk, det er også sjekketjeneste (Facebook dating), jobbplattform (Facebook Work) og nå snart en personlig helsetjeneste (Facebook Helse). Jo mer data, jo mer lærer algoritmene om oss.

The Big Other

Algoritmestyringen av internett har gjort plattformer som Facebook og Google mindre frie for nettbrukerne, gjennom rigide og mekaniske anbefalinger. Algoritmer kan gi en følelse at alt innhold er tilgjengelig, men faktumet er at det begrenser og innskrenker innholdet. Grensene for uttrykk snevres inn av algoritmene, og brukerfriheten kodifiseres og disiplineres av noen utenfor oss selv. Vårt engasjement styres av skjulte algoritmer.

Mens vi før bekymret oss for “Big Brother”, bør vi nå heller bekymre oss for “the Big Other”, ifølge professor emerita Shoshana Zuboff ved Harvard Business School. Med the Big Other menes det at vi i økende grad ikke vet hvem som har dataene våre, hvilke data de har og hva de blir brukt til, hvordan vi og vår atferd blir katalogisert og kategorisert. At noen umerkelig styrer hva vi skal tenke eller føle.

Sosiale medier kan, gjennom å sammenstille analyser av atferdsmønster fra milliarder av mennesker, vite om du er gravid eller deprimert før du vet det selv.

Associated Press rapporterte at Google lagrer posisjonsdata fra smarttelefonbrukere selv for de som prøver å velge dette bort. Og hvis du bruker internett, konstruerer likevel Facebook en profil om din atferd og dine preferanser – selv om du ikke er en Facebookbruker. En fersk studie fra Pew Internet avslørte også at majoriteten av Facebookbrukerne vet relativt lite om hva Facebook vet om dem og hva Facebook bruker dataene til.

Som Zuboff, mener også internettguruen Jaron Lanier at teknoselskapenes algoritmer har ødelagt menneskers betingelser for fri vilje, og at vi nærmest er laboratorierotter i et gigantisk sosialt eksperiment. Sosiale medier kan, gjennom å sammenstille analyser av atferdsmønster fra milliarder av mennesker, vite om du er gravid eller deprimert før du vet det selv. Med denne enorme forbrukerinnsikten kan de manipulere og endre atferden vår. Vi er underkastet en kynisk forretningsmodell som fokuserer på manipulativ atferdsendring, ifølge Lanier, i boken “Ti argumenter for å slette sosiale medier nå”.

Vi trenger reguleringer

Algoritmene gjør utvilsomt at vi får mer relevant informasjon tilpasset egne behov. Det kan være hensiktsmessig i en verden som blir stadig mer kompleks, overfylt med informasjon. Problemet oppstår når vi får persontilpasset informasjon som kan eskalere destruktiv atferd, som selvskading og selvmord. Universitetet i Oslo (UiO) og Tankesmien Agenda inviterer nylig til foredrag med teknososiologen Zeynep Tufekci. Tufekci, forklarte hvordan algoritmer kan skape ekkokamre og øke polariseringen i samfunnet. Algoritmene er nemlig konstruert for at vi skal bli hektet, og at vi presenteres for stadig mer ekstremt innhold.

Utfordringen vi nå står overfor er at vi, både individer og samfunn, bruker systemer som baserer seg på skjulte algoritmer vi ikke kjenner konsekvensene av og heller ikke har kontrollen over.

Vi henger etter både i utviklingen av kunstig intelligens og forskningen på betydningen av den.

Store internasjonale selskaper som Google, Amazon, Facebook og Apple, og i økende grad kinesiske selskaper som Alibaba og Tencent, har en dominerende posisjon både innen forskning, utvikling og anvendelse av algoritmer. Norge har ikke og kan ikke ha en tilsvarende satsing. Vi henger etter både i utviklingen av kunstig intelligens og forskningen på betydningen av den. I en tid der Kina ønsker å rangere og påvirke sine innbyggere automatisk, blant annet basert på deres sosiale medieaktivitet, er det viktig å spørre hvor stor tillit vi skal ha til algoritmiske dataprogrammer og hvilke data vi ønsker å gi dem. Hvordan skal vi så løse dette?

Zeynep Tufekci mener teknoselskapene må reguleres på linje med matindustrien, her må i så fall Norge og EU ta en mer aktiv rolle. Utviklingen innen kunstig intelligente algoritmer raser fremover. Om ikke reguleringer kommer på plass raskt, vil vi i Norge og EU bli stadig mer algoritmestyrt fra USA, og snart også Kina på måter som kan få uheldige konsekvenser, noe kanskje Instagramsaken med de 15 jentene er et forvarsel om.