Er sosiale medier avhengighetsskapende og skadelige for barn?

Teksten er skrevet sammen med Ilan Strauss.

LONDON: I et nytt søksmål mot Meta, hevder 41 amerikanske delstater og District of Columbia at to av selskapets sosiale medieprodukter – Instagram og Facebook – ikke bare er avhengighetsskapende, men også skadelige for barn. Meta blir beskyldt for bevisst å «utnytte unge brukere for egen vinning», blant annet ved å vise skadelig innhold som gjør at barn forblir klistret til skjermen.

De store teknologiselskapene søker å maksimere aksjonærverdiene ved hjelp av algoritmer.

Ifølge en nylig gjennomført spørreundersøkelse, bruker 17 år gamle amerikanere i snitt 5,8 timer per dag på sosiale medier. Hvordan er dette mulig? Svaret er «engasjement».

De store teknologiselskapene søker å maksimere aksjonærverdiene ved hjelp av algoritmer som maksimerer brukerengasjementet. På denne måten overstyrer hensynet til kortsiktig profitt både egne langsiktige virksomhetsmål og hensynet til samfunnets ve og vel. Som dataforskeren Greg Linden sier, bidrar algoritmer basert på «dårlige parametere» til å skape «dårlige insentiver» og legge forholdene til rette for «dårlige aktører».

Selv om Facebook startet som en enkel tjeneste som koblet venner og bekjente sammen på nett, har utformingen av dette sosiale mediet gradvis utviklet seg, ikke for å dekke brukernes behov og ønsker, men for å holde dem på plattformen og borte fra andre plattformer.

Med dette som formål, har selskapet jevnlig sett bort fra klart uttrykte forbrukerpreferanser knyttet til personvern, datadeling og hva slags innhold brukerne ønsker å se.

Søksmålet mot Meta dreier seg i siste instans om selskapets bruk av algoritmer.

Prioritering av kortsiktig profitt innebærer å lede brukere i retning av «klikk», selv om denne tilnærmingen som regel favoriserer sensasjonelt innhold av dårligere kvalitet, framfor å belønne brukere (slik de fortjener) på tvers av et bredere økosystem av innholdsprodusenter, brukere og annonsører.

Vi kaller denne formen for profitt «algoritmisk oppmerksomhetsrente». (Mazzucato bruker her det engelske begrepet «rents» som kan forstås som en form for superprofitt, oversetters anm.)

Dette fordi den skapes gjennom passivt eierskap (i likhet med grunnrente) framfor reell entreprenøriell virksomhet, der nye produkter tilfredsstiller forbrukeres behov.

Å kartlegge denne formen for profitt i dagens økonomi krever at man forstår hvordan dominerende plattformer utnytter sin algoritmiske kontroll over brukere. Når en algoritme reduserer kvaliteten på innholdet den fremmer, utnytter den brukernes tillit og den dominerende posisjonen som nettverkseffektene forsterker.

Det er derfor Facebook, Twitter og Instagram kan slippe unna med å fylle opp nyhetsstrømmen med annonser og «anbefalt» avhengighetsskapende innhold. Som teknologiskribenten Cory Doctorow så fargerikt har beskrevet det: «skittifisering» av plattformer «kommer ut av munningen på en algoritme» (som i sin tur kan være basert på ulovlig innsamling og deling av data).

Søksmålet mot Meta dreier seg i siste instans om selskapets bruk av algoritmer, som er nøye utformet for å maksimere brukernes «engasjement». Målet med dette er å holde brukerne på plattformen lenger og få dem til å gi flere kommentarer og likerklikk – og dele innhold.

Heldigvis er politikere og byråkrater fullt i stand til å forme disse markedene på en bedre måte.

En effektiv måte å gjøre dette på er gjerne ved å vise skadelig innhold og innhold som er på grensen til det ulovlige og i tillegg omgjøre tiden brukt på plattformen til en vanedannende aktivitet – med funksjoner som «uendelig skrolling» og kontinuerlige varslinger. (Mange av de samme teknikkene blir effektivt brukt av spillindustrien.)

Nå som ny og bedre kunstig intelligens allerede har bidratt til å forsterke de algoritmiske anbefalingene og gjøre dem enda mer avhengighetsskapende, er det et presserende behov for nye styringsstrukturer som sikter mot det «felles beste» (framfor en snevert definert tanke om verdiskapning på vegne av aksjonærene) og symbiotiske partnerskap mellom næringsliv, myndigheter og sivilsamfunn.

Heldigvis er politikere og byråkrater fullt i stand til å forme disse markedene på en bedre måte.

For det første: Framfor å basere seg kun på konkurranse- og antitrustlovgivning, bør politiske beslutningstakere ta i bruk teknologiske redskaper for å sørge for at plattformer ikke urettmessig kan «innlåse» brukere og utviklere.

En måte å forhindre konkurransehemmende «innhegninger» på, er å påby overførbarhet av data og interoperabilitet på tvers av digitale tjenester, slik at brukere kan bevege seg mer sømløst mellom plattformer, avhengig av hvor deres behov og preferanser blir best ivaretatt.

Brukere bør få større innflytelse over den algoritmiske prioriteringen av informasjonen de blir eksponert for.

For det andre: Reformer av eierstyring og selskapsledelse er avgjørende, fordi maksimering av aksjonærverdi er det som i utgangspunktet har fått plattformer til å utnytte sine brukere algoritmisk. Med tanke på de velkjente sosiale kostnadene knyttet til denne forretningsmodellen – forsøk på å få mange klikk betyr ofte å forsterke svindel, feilinformasjon og politisk polariserende innhold – krever slike selskapsreformer også reformer av hvordan algoritmer utformes og brukes.

Et første steg i retning av å skape et bedre utgangspunkt er å kreve at plattformer offentliggjør (i de årlige 10-K-rapportene som sendes inn til det amerikanske verdipapirtilsynet SEC) hva algoritmene deres forsøker å oppnå samt hvordan de forsøker å tjene penger på sine brukere.

I en verden der ledere for teknologiselskaper årlig dukker opp i Davos for å snakke om virksomhetenes «formål», vil behørig offentliggjøring presse dem til å gjøre det de sier. Og det vil hjelpe politiske beslutningstakere, regulerende myndigheter og investorer å skille mellom rettmessig fortjeneste og urettmessig superprofitt.

Flere annonser i nyhetsstrømmen vil virke positivt inn på profitten på kort sikt.

For det tredje: Brukere bør få større innflytelse over den algoritmiske prioriteringen av informasjonen de blir eksponert for. Dersom man fortsetter å se bort fra brukernes preferanser, vil skadene bli stadig større. Dette fordi algoritmer skaper sine egne tilbakekoblingssløyfer og presser manipulative klikkagn på brukere – for så feilaktig å trekke den konklusjon at det er nettopp det de ønsker.

For det fjerde: Bransjestandarden, såkalt «A/B-testing», bør erstattes av mer omfattende langsiktige effektvurderinger. Dårlig datavitenskap fører til kortsiktig algoritmisk tenkning.

For eksempel kan A/B-testing vise følgende:

Flere annonser i nyhetsstrømmen vil virke positivt inn på profitten på kort sikt, uten å gå altfor mye ut over evnen til å beholde brukerne. Men da ser man bort at det kan ha negativ innvirkning på evnen til å tiltrekke seg nye brukere, for ikke å snakke om de fleste andre potensielt skadelige langsiktige virkningene.

God datativenskap viser at dersom man optimaliserer anbefalingssystemer med tanke på hva som er gunstig på lang sikt, vil utsatte belønninger (som forbrukertilfredsstillelse, evnen til å holde på brukere og at nye brukere tar i bruk plattformen eller tjenesten) være den beste måten en bedrift kan drive fram langsiktig vekst og lønnsomhet på – forutsatt at den kan slutte primært å fokusere på neste kvartalsrapport.

Metas forestående rettssak kan ikke rette opp i tidligere feil.

I 2020 fastslo et team hos Meta at færre forstyrrende varslinger vil være bedre både for app-bruk og brukertilfredsstillelse over en lenger tidsperiode (ett år). De langsiktige virkningene skilte seg markant fra de kortsiktige virkningene.

For det femte: Offentlig KI bør anvendes for å evaluere kvaliteten på algoritmisk output, spesielt knyttet til annonsering. Med tanke på den betydelige skaden som kommer som følge av at plattformer senker standarden for hva som er akseptable annonser, vil den selvregulerende organisasjonen for reklamebransjen i Storbritannia (ACA) nå anvende KI-redskaper for å gå annonser nøye etter i sømmene og identifisere annonser som kommer med «tvilsomme påstander». Andre myndigheter bør gjøre det samme.

Like viktig: KI-evalueringsmekanismer bør være en funksjon på plattformer for å legge til rette for ekstern granskning av algoritmisk output.

Å skape et digitalt miljø som belønner reell verdiskapning fra innovasjon og som straffer verditapping fra urettmessig profitt («rents») (spesielt i viktige digitale markeder), er den grunnleggende økonomiske utfordringen vi står overfor i dag.

Vi kan ikke tillate oss å gjøre dette feil.

Å verne om brukerne av de store teknologiselskapenes plattformer og tjenester – samt å verne om hele det digitale økosystemet – betyr at man må sørge for at algoritmene ikke er underlagt aksjonærenes kortsiktige profittbehov.

Hvis bedriftsledere virkelig mener at de skal skape verdier på vegne av bedriftens interessenter («stakeholder value»), må de innse behovet for å skape verdier på en helt annen måte – basert på de fem ovennevnte prinsippene.

Metas forestående rettssak kan ikke rette opp i tidligere feil. Men ettersom vi forbereder oss på neste generasjon av KI-produkter, må vi opprette egnede organer og mekanismer for å holde tilsyn med algoritmene. KI-støttede algoritmer vil påvirke ikke bare hva vi forbruker, men også hvordan vi produserer og skaper; ikke bare hva vi velger, men hva vi tenker.

Vi kan ikke tillate oss å gjøre dette feil.

Ilan Strauss er tilknyttet UCL Institute for Innovation and Public Purpose.

Oversatt av Marius Gustavson

Copyright: Project Syndicate, 2024.
www.project-syndicate.org