I en tid der alle kan direktesende og poste meningene sine på sosiale medier, skulle man tro vi levde i en gullalder for det offentlige ordskiftet. Det gjør vi ikke.
I mesteparten av nyere historie har den enkleste måten å hindre spredningen av en idé på, vært å hindre den i å bli fysisk spredt. Legg ned avisa, press kringkastingssjefen, sett inn en sensor på forlaget. Eller hvis du ser deg nødt til det, rett en ladet pistol mot fotballkommentatorens hode.
Det siste skjedde faktisk i Tyrkia. Det var våren 1960, og en gruppe militære offiserer hadde akkurat tatt kontroll over regjeringen og nasjonale medier. For å kneble koordineringen av trusler mot statskuppet, tvang de gjennom en informasjonsblokade. Men ubeleilig nok for dem skulle det spilles en mye omtalt fotballkamp mellom Tyrkia og Skottland i hovedstaden to uker etter kuppet. Kamper som denne ble direktesendt på riksdekkende radio med en fotballkommentator til stede. Folk fra over hele Tyrkia ville benke seg foran radioene sine for å heie på landslaget.
Hvem skal du ta strupetak på når hvem som helst kan lage seg en twitterkonto på få sekunder?
Å avlyse kampen var for risikabelt for juntaen; det kunne vekke store protester. Men hva om kommentatoren kom med politiske ytringer på direktesendt radio? En enkel bemerkning kunne kaste landet inn i kaotiske tilstander. Offiserene kom derfor fram til den åpenbare løsningen å sikte flere pistoler på kommentatoren i de to timene og 45 minuttene direktesendingen varte. Det fantes fortsatt en risiko, men det var en risiko de holdt i sjakk, så å si. Det var jo bare et spørsmål om å true én kommentator – én enkel flaskehals for å kontrollere radiobølgene.
Denne formen for sensur – finn et godt strupetak og klem i vei – var før i tiden normen verden over. Det er fordi kringkasting og utgivelser inntil nylig var krevende og kostbare affærer, med infrastrukturer som var fulle av flaskehalser og konsentrert på et fåtalls hender.
I dag er denne taktikken så å si ubrukelig. Hvem skal du ta strupetak på når hvem som helst kan lage seg en twitterkonto på få sekunder, og når nesten alle arrangementer dokumenteres av innbyggerne med hver sin smarttelefon? Da protester brøt ut i Ferguson, Missouri i august 2014, hadde én enkelt live-strømmer ved navn Mustafa Hussein på et tidspunkt angivelig et like stort publikum som CNN. Når en bosnisk-kroatisk krigsforbryter drikker gift i en rettssal, vet alle på Twitter om det i løpet av få minutter.
Hvem bestilte 100 pizzaer?
I dagens teknologiske nettverk, hvor hvem som helst kan ha direktesendinger eller poste meningene sine i et sosialt medium, skulle man tro at sensur var umulig. Vår tid burde være ytringsfrihetens gullalder.
Og riktignok er dette en gullalder for ytringsfriheten – hvis du kan tro på løgnene øynene dine serverer deg. Er videoen du ser på ekte? Ble den faktisk filmet der og da den sier den ble filmet? Blir den delt av troll fra det såkalte alt-right eller en sverm av russiske programvareagenter? Ble den kanskje til og med generert ved hjelp av kunstig intelligens? (Ja, det finnes systemer som kan skape stadig mer overbevisende falske videoer.)
Grattis: Du har fått deg et publikum.
Eller la oss si at det var du som postet den videoen. Er det i hele tatt noen som ser på den? Eller har den forsvunnet i et hav av poster fra hundrevis av millioner av innholdsprodusenter? Kommer den godt ut i Facebooks algoritmer? Anbefales den av Youtube?
Kanskje du er heldig og har vunnet jackpot i dagens algoritmiske offentlige rom: et publikum som enten elsker eller hater deg. Blir posten din likt og delt av mange? Eller høster den en annen type oppmerksomhet: Har du mottatt tusenvis av meldinger, referanser, varsler og eposter som truer og hetser deg? Har du blitt doxet for det du har gjort (fått dine personlige opplysninger spredt på nettet)? Har usynlige, sinte horder bestilt 100 pizzaer til huset ditt? Ringte de politiet, som kom med en spesialenhet av svartkledde og fullt bevæpnede menn hjem til deg midt under middagen?
Og når du står der med hendene over hodet, føler du kanskje at du har konfrontert statens ukrenkelige makt ved å gi uttrykk for meningene dine. Men i virkeligheten har du bare hisset på deg 4chan. Eller moret dem litt. Uansett, grattis: Du har fått deg et publikum.
“Optimalisert for engasjement”
Det er slik denne ytringens gullalder faktisk fungerer: I det 21. århundre er muligheten til å spre ideer og nå ut til et publikum uten å være begrenset av tilgangen til en kostbar, sentralisert kringkastingsinfrastruktur. I stedet begrenses den av den enkeltes evne til å få og spre oppmerksomhet. Og i skrivende stund styres verdens oppmerksomhet i overveldende grad av noen få digitale plattformer: Facebook, Google (som eier Youtube) og, i mindre grad, Twitter.
Disse selskapene – som elsker å framheve seg selv som bastioner for det frie ordskiftet – har vokst til dimensjoner ulikt noe annet verden har sett; de har begynt å dominere mediedistribusjonen, og i økende grad erstatter de til og med det offentlige rom. Men kjernen i arbeidet deres er enkel: De er i reklamebransjen. Til så å si hvem som helst som vil betale, selger de muligheten til å sikte seg rett inn i øynene våre. De benytter seg av en massiv overvåkning av atferden vår, både når vi er på- og avlogget, for å generere stadig mer presise automatiserte forutsigelser om hvilke reklamer som lokker oss, og hvilket innhold som får oss til klikke, tappe og scrolle videre nedover en bunnløs strøm.
Så hva er det dette algoritmiske offentlige rommet stort sett forer oss med? For å bruke teknologiens språk, er Facebook og Youtube «optimized for engagement» – optimalisert for engasjement, som forsvarerne av selskapene vil si betyr at de rett og slett gir oss det vi vil ha. Men det er ingenting naturlig eller uunngåelig med de konkrete måtene Facebook og Youtube fanger oppmerksomheten vår på. Mønstrene er nå godt kjente. Som Buzzfeed rapporterte i november 2016, «genererte de største falske nyhetssakene om valg mer aktivitet på Facebook enn de største valgsakene fra 19 store nyhetskilder til sammen».
En personlig post ser nesten identisk ut som en reklame, som er nesten identisk med en New York Times-artikkel.
Alt et menneske vil ha
Mennesker er sosiale vesener og er rustet med noen evolusjonære forsvarsmekanismer utover evnen vår til å erverve kunnskap og jobbe sammen i grupper. Vi er særlig mottakelige for alt som er nytt, utsagn som gir bekreftelse og tilhørighet, og utsagn som uttrykker raseri mot det vi anser som fiender. Denne typen utsagn er for menneskesamfunn det salt, sukker og fett er for appetitten vår. Og Facebook fullstapper oss med dem – med det selskapets første president, Sean Parker, har kalt «en feedback-loop av sosial validering».
Det finnes dessuten ingen ernæringsmerking i denne kafeteriaen. For Facebook, Youtube og Twitter er alle ytringer – om det så er snakk om en aktuell nyhetssak, en dødssøt dyrevideo, en antisemittisk meme eller en smart reklame for barberblad – kun «innhold», hver post er bare nok et kakestykke på buffetens rullebånd. En personlig post ser nesten identisk ut som en reklame, som er nesten identisk med en New York Times-artikkel, som er til forveksling lik en falsk avis man får laget i løpet av en ettermiddag.
Dessuten er alle disse ytringene på nett ikke lenger offentlige i noen tradisjonell forstand. Facebook og Twitter framstår kanskje som arenaer der store menneskemengder opplever ting sammen og samtidig. Men i virkeligheten blir poster rettet mot og sendt til hver og en av oss som private brukere, skjerm for skjerm for skjerm. Dagens liksom-offentlige rom har blitt delt opp i småbiter og sendes ut i det skjulte via milliarder av individuelle kapillarer. Det stemmer at store offentlige samtaler har blitt langt lettere for alle å delta i – men det offentlige ordskiftet har samtidig blitt et sett av private samtaler som pågår bak ryggen på deg. Bak ryggene på oss alle.
For å si det rett ut, er dette stikk i strid med det vi anser som det sentrale i ytringsfriheten – både konseptuelt, lovlig og etisk sett.
Glem John Stuart Mill
De mest effektive formene for sensur i dag medfører å tukle med tilliten og oppmerksomheten vår, ikke å kneble ytringene i seg selv. Dermed likner de ikke på de gamle sensurformene i det hele tatt. De kommer i form av virale eller koordinerte mobbekampanjer, som utnytter dynamikken i viralt raseri for å innføre en utålelig og uproporsjonal kostnad på å uttrykke meningene sine. De kommer i form av epidemier av feilinformasjon som har til hensikt å svekke troverdigheten til legitime informasjonskilder. De kommer i form av kampanjer drevet av programvareagenter som framprovoserer trolling og avsporing, eller fragmenterte lekkasjer av hakket informasjon, som skal drukne oppmerksomheten til tradisjonelle medier.
Disse taktikkene bryter vanligvis ingen lover eller utløser ingen alarmer om brudd på lover om ytringsfrihet. Men de tjener den samme hensikten som de gamle formene for sensur gjorde, nemlig å hindre ideer fra å bli spredt og få støtte. De kan også gjøre de store plattformene til et håpløst sted å interagere med andre mennesker.
Mange av de mest høyverdige ideene om ytringsfrihet er ganske enkelt ikke overførbare i de sosiale medienes tidsalder.
Til og med når de store plattformene selv suspenderer eller sparker noen fra nettverkene sine for å brudd mot «community standards» – en handling som for mange kan likne på god gammeldags sensur – er det ikke teknisk sett en innskrenkning av ytringsfriheten, om det så er en demonstrasjon av den betydelige makten plattformen har. Hvem som helst i verden kan fortsatt lese ytringene til det høyreekstreme nett-trollet Tim «Baked Alaska» Gionet på nettet. Det Twitter har fratatt ham, ved å utestenge ham, er oppmerksomhet.
Mange andre av de mest høyverdige ideene om ytringsfrihet fra gammelt av er ganske enkelt ikke overførbare i de sosiale medienes tidsalder. John Stuart Mills idé om at en «ideenes markedsplass» vil løfte fram sannheten, blir plent motbevist av den virale spredningen av falske nyheter. Og det kjente amerikanske uttrykket «the best cure for bad speech is more speech» – et parafrasert sitat fra høyesterettsdommeren Louis Brandeis – mister all mening når ytringer er tilgjengelig for alle, men samtidig ikke offentlig. Hvordan reagerer du på noe du ikke kan se? Hvordan kan du helbrede effektene av «dårlige» ytringer med flere ytringer hvis du ikke har noen midler til å nå ut til det samme publikum som mottok det opprinnelige budskapet?
Trump, en superbruker
Dette er ikke en nostalgisk klagesang. Før i tiden slet marginaliserte stemmer med å i det hele tatt nå ut til et større publikum. De kom seg nesten aldri fordi portvokterne som kringkastet kveldsnyhetene, som jobbet og bodde i samme strøk i Manhattan eller Washington, DC. Det beste dissidentene kunne gjøre, var å organisere selvoppofrende offentlige aksjoner som det ville være nesten umulig for medias portvoktere å ignorere – slik amerikanske borgerrettighetsledere gjorde da de sendte ut skolebarn til å marsjere på gatene i Birmingham, Alabama, og avslørte de råeste formene for politivold i sørstatene for kameraene.
Hvem bryr seg om hvor ytringene kommer fra eller hva de gjør, så lenge folk ser reklamene?
Men den gang kunne enhver politisk aktør i det minste få med seg mer eller mindre det samme som alle andre. I dag kan ofte ikke selv de mest innflytelsesrike elitene effektivt mønstre det riktige utsnittet av offentligheten for å motarbeide virale budskap. Under presidentvalget i 2016 brukte Trump-kampanjen såkalte «mørke poster» – ikke-offentlige poster rettet mot et konkret publikum – for å demotivere afroamerikanske velgere fra å stemme i de kritiske statene, som Joshua Green og Sasha Issenberg har beskrevet for Bloomberg. Clinton-kampanjen fikk knapt med seg disse budskapene, da kunne de heller ikke bekjempe dem. Selv om Hillary Clinton personlig viste seg på kveldsnyhetene, var ikke det måten å nå ut til de rammede velgerne på – fordi det var ingen andre enn Trump-kampanjen og Facebook som visste hvem de var.
Det er viktig å innse at Trumps valgkampteam ved å bruke disse mørke postene ikke gjorde et uskyldig redskap om til et våpen. De brukte ganske enkelt Facebook nøyaktig til det plattformen ble skapt til å gjøre. Og valgkamptemaet gjorde det med lave utgifter, med behjelpelige Facebook-ansatte ved deres side, slik teknologiselskapet også gjør for de fleste store reklameselskapene og politiske kampanjene. Hvem bryr seg om hvor ytringene kommer fra eller hva de gjør, så lenge folk ser reklamene? Alt det andre er ikke Facebooks anliggende.
Flere ytringer er ikke svaret
Mark Zuckerberg framhever Facebooks mål om å «koble verden sammen» og «bringe verden nærmere» som bevis på selskapets samfunnsverdi. «I 2016 hadde mennesker milliarder av møter og åpne diskusjoner på Facebook», sa han stolt i en video postet på nettet som så tilbake på presidentvalget i USA. «Kandidater hadde direkte kanaler for å kommunisere med flere titalls millioner av innbyggere.»
Ytringsfriheten er en viktig demokratisk verdi, men den er ikke den eneste verdien vi har.
Denne ideen om at flere ytringer – mer deltakelse, flere koblinger – er det største, mest ubestridte godet er en vanlig påstand i teknologiverden. Men en historiker vil gjenkjenne dette som en feilslutning. Facebook kobler ikke bare sammen demokratielskende egyptiske dissidenter og tilhengere av videospillet Civilisation; de åpner for at høyreekstreme rasister kan samle seg mye mer effektivt. De gjør det mulig for de radikale buddhistiske munkene i Myanmar å koordinere seg, og gir dem mer effektive verktøy til å oppfordre til etnisk rensing – noe som har ført til en av de hurtigst voksende flyktningkrisene i verden.
Ytringsfriheten er en viktig demokratisk verdi, men den er ikke den eneste verdien vi har. I den liberale tradisjonen blir ytringsfrihet vanligvis forstått som et middel – en nødvendig forutsetning for å oppnå visse andre idealer i samfunnet: å skape en kunnskapsrik befolkning; å stimulere til en balansert, rasjonell og faktabasert debatt; å holde mennesker og institusjoner med makt ansvarlige; å holde samfunn aktive og levende. De vi nå ser er at når ytringsfrihet behandles som et mål og ikke et middel, blir det altfor enkelt å ødelegge og forvrenge alt ytringsfriheten skal sikre for.
Dagens algoritmer fremmer ingen idealer om et velfungerende offentlig rom.
Å skape en kunnskapsrik befolkning krever i det minste noen tydelige signaler som skiller sannhet fra falskhet. Å stimulere til en balansert, rasjonell og faktabasert debatt i samfunnet krever mekanismer som løfter fram motstridende synspunkt, fortrinnsvis de beste utgavene av dem. For å si det tydelig, har ingen samfunn noensinne fullt og helt klart å oppnå disse ideelle forutsetningene, men det fantes i det minste idealer å leve opp til. Dagens algoritmer, derimot, fremmer ingen idealer om et velfungerende offentlig rom.
De kjente svarene holder ikke
Noen forskere anslår at antallet barn som sliter med overvekt vil forbigå antallet som lider av sult i løpet av de neste par årene. Hvorfor det? Da mennesker var preget av sult og hungersnød, ga det fullstendig mening å lengte etter kaloririk mat og salt. Nå lever vi et samfunn med et overflod av mat, og vi har få genetiske, kulturelle eller psykiske forsvarsmekanismer mot denne nye trusselen mot helsen vår. På samme måte har vi få forsvarsmekanismer mot disse nye truslene mot idealene i demokratisk ytringsfrihet, selv om vi drukner i flere ytringer enn noensinne før.
Det står ikke lite på spill her. Før i tiden har det tatt flere generasjoner for mennesker å utvikle politiske, kulturelle og institusjonelle antistoffer til nyhetsverdien og omveltningen i tidligere informasjonsrevolusjoner. Hvis filmene The Birth of a Nation og Triumph of the Will kom ut i dag, ville de vært en flopp, men begge kom ut da filmkunsten fortsatt var ny, og deres innovative bruk av mediet bidro til å gjenopplive Ku Klux Klan og nazismens framvekst.
Nå har vi allerede sett nok til å vite at kjernen i forretningsmodellen bak de store teknologiplattformene – å høste oppmerksomhet ved hjelp av en massiv infrastruktur av overvåkning for å tilrettelegge for en personlig rettet og for det meste automatisert storskalaspredning av reklame – er altfor kompatibelt med autoritære regimer, propaganda, feilinformasjon og polarisering. De institusjonelle antistoffene som mennesker har utviklet for å beskytte seg mot sensur og propaganda til nå – lover, etniske retningslinjer for journalister, uavhengige vaktbikkjer, offentlig utdanning – ble utviklet for en verden der det å ta strupetak på et par mediaskikkelser eller enkeltindivider var en effektiv måte å kneble ytringer på. De er ikke lenger tilstrekkelige.
Dette er dypt politiske valg.
Diskusjonen må begynne nå
Men vi behøver ikke å godta tingenes tilstand. Facebook er bare 13 år gammelT, Twitter elleve og til og med Google er ikke eldre enn 19 år. Da bilindustrien var like gammel som dette, hadde vi fortsatt ikke setebelter, airbager, utslippsbegrensninger eller pålagte standarder for hvor mye biler skal tåle i en kollisjon.
Reglene og insentivene som ligger bak hvordan oppmerksomhet og overvåkning utnyttes på internett er nødt til å endre seg. Men for å være rettferdig: Selv om det er mye Facebook, Google og Twitter kan gjøre bedre, er det offentlige kravet om at det er de som skal løse alle disse problemene fullstendig feilslått. De fleste løsninger til problemene med det digitale ordskiftet medfører store avveininger – og disse er ikke beslutninger som Mark Zuckerberg alene skal ta.
Dette er dypt politiske valg. På 1900-tallet innførte USA lover som forbød bly i maling og bensin, som definerte hvor mye privatliv en utleier må gi leietakerne sine, og som bestemte til hvor stor grad telefonselskap kan overvåke kundene sine. Vi kan bestemme hvordan vi vil håndtere digital overvåkning, oppmerksomhetskanalisering, datainnsamling og algoritmisk beslutningstaking. Vi må bare begynne diskusjonen. Nå.
Artikkelen ble opprinnelig publisert i magasinet Wireds februarutgave i 2018. Oversatt fra engelsk av Sigrid E. Strømmen
Kommentarer