40 mennesker skal sette grensen for hva 2,5 milliarder mennesker får lov å ytre

Menn er avskum! Det kunne du ikke skrive på Facebook høsten 2017. Nå er det lov. Tommy Robinson bør få politisk asyl i Norge! Det kunne du skrive høsten 2017. Nå er det ikke lov.

Da Facebook i fjor høst fjernet et innlegg fra Frps Per-Willy Amundsen der han ba om politisk asyl for den britiske høyreekstremisten Tommy Robinson, ropte Amundsen ut om at ytringsfriheten er truet, og at Stortinget bør vurdere nye lover «for å beskytte lovlige ytringer på Facebook».

Slettingen var utslag av en ganske ny retningslinje fra Facebook om ikke å tillate støtte til «hvit nasjonalisme». Posten «menn er avskum» var en kommentar fra en amerikansk kvinnelig komiker i kjølvannet av metoo-opprullingen. Kommentaren ble slettet fordi den brøt med retningslinjen om hatytringer rettet mot kjønn. Da ble det bråk, og Facebook måtte gjøre om retningslinjene sine nok en gang.

Hele verdens høyesterett

Dette er bare to eksempler fra en endeløs rekke av kontroverser rundt Facebooks redaksjonelle vurderinger. Nå er det feilinformasjon og konspirasjonsteorier rundt koronaviruset det handler om. Facebook får kjeft uansett. Enten de tillater for lite, som da Erna Solberg fikk slettet det ikoniske napalmbildet fra Vietnam. Eller for mye: Som da massedrapene på rohingyabefolkningen i Myanmar i 2018 ifølge flere kritikere ble initiert og pisket fram via Facebook, uten at selskapet gjorde noe for å stoppe det.

Alt dette er det som kalles redaksjonelle avgjørelser: Hva skal settes på trykk, hva skal avvises. Det er slikt en redaktør driver med. Mark Zuckerberg er verdens desidert viktigste redaktør. Men han har hele tiden insistert på at han driver et teknologisk utviklingsselskap, ikke et medieselskap. Det er nå i ferd med å forandres, og det er en endring som kan få store konsekvenser.

Nyttårsaften alene ble det sendt 149 milliarder meldinger gjennom Facebooks ulike tjenester

I denne artikkelserien har vi undersøkt hvordan flere land i Europa lager lover som pålegger selskap som Facebook å bekjempe hets og ekstremisme på nett. Den kanskje viktigste reguleringen er det Facebook selv som gjør.

2,5 milliarder mennesker bruker Facebook månedlig, 1,5 milliarder er pålogget hver dag. Facebook er blitt verdens viktigste arena for offentlig debatt. Så stor er plattformen blitt at selskapets redaksjonelle vurderinger for mange er synonymt med ytringsfriheten.

Snart blir tre mennesker utnevnt av Facebook til å ta avgjørelsene om hva som skal være lov å skrive og ikke på plattformen. Mark Zuckerberg har ikke lyst til å ha ansvaret lenger. Istedenfor å vente på lovreguleringer fra stater, har han laget sin egen domstol.

Bli kjent med Facebook Oversight Board, som snart er hele verdens høyesterett for ytringsfrihet.

Med lov skal hets bekjempes? Om bakgrunnen for denne artikkelserien, og oversikt over alle artiklene

149 milliarder meldinger på én dag

Enten det skyldes at Mark Zuckerberg og resten av Facebook-ledelsen har skiftet syn, eller de har inntatt en ny PR-strategi – antakelig er det litt av begge deler: Fra slutten av 2018 begynte selskapet uansett å argumentere for at det trengs regulering av teknologiselskaper som dem selv.

Snuoperasjonen kom ikke av seg selv. Cambridge Analytica-skandalen og avsløringene om russisk påvirkning av presidentvalget i USA sendte selskapet inn i PR-krise og selvransakelse. Sent på høsten 2018 publiserte Mark Zuckerberg flere åpne brev, blant dem ett der han skisserte hvordan han ser for seg hvordan Facebooks innhold bør reguleres.

Brevet er et fascinerende innblikk i hva slags selskap Zuckerberg driver. Én ting er selve volumet av ytringer. Selskapet sier det nå har 30 000 ansatte i ulike underselskaper som vurderer hva som skal slettes og ikke. De vurderer to millioner poster hver eneste dag. Bare i løpet av seks måneder i fjor ble 1,5 milliarder falske kontoer fjernet.

Kunstig intelligens fjerner nå 99 prosent av alle oppfordringer til terror, og 52 prosent av all hatprat.

Eller, for å ta et ferskere eksempel som gjør det hele enda mer svimlende: Nyttårsaften alene ble det sendt 149 milliarder meldinger gjennom Facebooks ulike tjenester (det tilsvarer at alle de 2,5 milliarder brukerne poster 60 meldinger hver).

Brevet illustrerer også teknologioptimismen som gjennomsyrer alt Zuckerberg driver med. Kunstig intelligens fjerner nå 99 prosent av alle oppfordringer til terror, og 52 prosent av all hatprat, skriver han. Visjonen er at maskinene skal fjerne det meste, så skal menneskene bale med tilfellene der maskinene ikke skjønner hva som er greit og ikke. Her kommer Facebook Oversight Board inn.

Et slags PFU

Det er ikke riktig at Facebook selv skal sette grensen for hva som er lov å dele og ikke, skrev Zuckerberg i sitt åpne brev, og foreslo å opprette en uavhengig instans. Det er denne som nå er etablert. Amerikanske medier sammenlikner den med en høyesterett. Når en leser hvordan den faktisk skal fungere, er minner den om en blanding mellom en domstol og Pressens faglige utvalg (PFU) i Norge. Med makt over 2,5 milliarder mennesker.

Rådet skal bestå av rundt 40 personer som skal behandle publisering av poster der Facebook selv synes det er vanskelig å vite hvor grensa skal gå, eller der brukere har klaget på sletting av poster. De 40 skal plukkes ut av tre ledere, som Facebook selv er i ferd med å plukke ut i disse dager.

Så, når Per-Willy Amundsen er misfornøyd med at han ikke får støtte Tommy Robinson, kan han først klage til Facebooks egne moderatorer. Hvis han er misfornøyd med svaret deres, kan han klage videre til rådet. Der vil klagen behandles av et sekretariat, som kan innstille på at den skal behandles av selve rådet. Hvis rådet bestemmer at posten ikke burde vært slettet, vil det anbefale Facebook å omgjøre slettingen. Mark Zuckerberg sier selv at Facebook vil følge anbefalingene, men – det er et stort men: Rådet kan bare uttale seg om enkeltavgjørelser, ikke Facebooks retningslinjer, systemer eller forretningsmodell.

Josh Constine: Rådets makt blir latterlig liten.

Dette minner om måten PFU fungerer på i Norge: Om noen er misfornøyd med noe pressen har skrevet, kan de klage, få klagen behandlet og pressen er pålagt å trykke utvalgets avgjørelse. Dette er ingen domstol, men en såkalt selvdømmeordning. Det er ikke lovbrudd PFU vurderer, men brudd på pressens egne etiske kjøreregler – Vær varsom-plakaten. På samme måte skal Facebooks råd vurdere publiseringer opp mot selskapets egne retningslinjer for publisering, et dokument som stadig vokser og nå har 25 kapitler med detaljerte beskrivelser av hva som er tillatt og ikke.

Så, betyr dette at Facebook omsider tar sitt eget ansvar på alvor? Eller er dette en smart PR-operasjon for å møte kritikk og stadig sterkere krav om regulering? Her er meningene svært delte.

«Latterlig» og «tannløst»

Det nye rådet er «tannløst», fastslår spaltist Josh Constine i nettavisen Techcrunch. Kritikken hans oppsummerer det meste som kan innvendes mot måten rådet er utformet på:

• Rådet kan i første omgang bare vurdere enkeltposter som Facebook allerede har slettet, og der brukere ønsker å omgjøre slettingen. Det er altså ikke mulig å klage inn innhold som Facebook har valgt ikke å slette. Facebook har sagt at også dette skal bli mulig, men sier ikke når.
• Rådet har bare myndighet til å omgjøre enkeltavgjørelser, og vil bare rekke over noen ganske få saker. Om disse avgjørelsene vil påvirke Facebooks retningslinjer generelt, er helt opp til Facebook.
• Det er Facebook som selv skal utnevne de tre lederne som igjen skal utnevne resten av rådet. Dermed kan selskapet forme hva slags type folk som skal utgjøre dette uavhengige rådet.
• Rådet kan ikke endre de viktigste delene av statuttene som styrer rådets arbeid, det kan bare Facebook.
• Fristen for å avgjøre saker er satt til 90 dager, dermed kan ikke rådet brukes til å håndtere akutte saker med stor spredning.
• Og det er bare innhold i selve nyhetsstrømmen i Facebook som kan vurderes, ikke innhold i Whatsapp, Oculus, Messenger eller andre av selskapets tjenester.

Rådet gjør at «Facebook kan peke på en ekstern beslutningstaker når selskapet får kritikk», skriver Constine. Han mener rådets makt blir «latterlig liten». Men at dette tross alt «er bedre enn ingenting».

Andre bransjekjennere er langt mer positive.

Les også: Svensk løsning for bedre ytringsklima: Straff de som styrer Facebook-grupper

Zuck mener alvor

Facebook er nå ett steg nærmere å ha en høyesterett som kan overstyre selv Mark Zuckerberg, fastslår teknologijournalisten Steven Levy i Wired. Han mener innsatsen viser at Facebook mener alvor, og at dette derfor vil bli et mektig råd når det først får satt seg:

2200 personer i 88 land er konsultert i prosessen med å lage reglene for rådet. Facebook har satt av 130 millioner dollar – 1,2 milliarder kroner – over seks år, gjennom en uavhengig stiftelse. Et stort sekretariat skal bemannes, ledet av den kjente britiske ytringsfrihets- og menneskerettighetsaktivisten Thomas Hughes.

Levy har intervjuet Zuckerberg selv en rekke ganger (og har nettopp gitt ut boka Facebook: The Inside Story). Han mener Zuckerberg oppriktig ønsker å gjøre Facebook mer gjennomsiktig og ansvarlig i redaksjonelle avgjørelser, og ønsker ikke å ha ansvaret selv.

Rådet har potensial, men jeg er skeptisk.

Dette er viktig. Mark Zuckerberg er administrerende direktør, hovedeier og styreleder i Facebook. Han bestemmer. At hans personlige oppfatninger kan få dramatiske konsekvenser, vises tydelig gjennom striden om politiske annonser på Facebook. I motsetning til for eksempel Twitter, har Zuckerberg bestemt at politikere kan få si hva de vil når de reklamerer på Facebook, selv om de lyver.

Debatten dro seg til da Donald Trumps gjenvalgkampanje kjørte en annonse med falske påstander om Joe Biden i fjor høst. CNN nektet å vise reklamen. Facebook sa ja. Ansatte skal ha tryglet Zuckerberg om å ombestemme seg, politikere truet med reguleringer, Hillary Clinton kalte ham autoritær. Levy tror rådet er organet som med tid og stunder kan få innflytelse nok til å få Zuckerberg til å skifte kurs.

Over til Storbritannia

– Rådet har potensial, men jeg er skeptisk. Mye kommer til å avhenge av hvor uavhengige de vil være, folkene som skal ta avgjørelsene.

Det sier Stefan Theil, jurist og postdoktor ved Oxford University. Han har deltatt i Facebooks interne diskusjoner om hvordan rådet skal utformes, og skrevet om det. Theil hadde håpet rådet skulle få større formell makt til å kreve endringer på systemnivå hos Facebook. Han mener det trengs nye lover for å få Facebook til å gjøre noe med skadene selskapene påfører samfunnet – selvregulering er ikke nok.

– Vi ba ikke kjemiindustrien om å vurdere å slutte å bruke kjemikalier som ødelegger ozonlaget, sier han.

Slike lover er Storbritannia i ferd med å vedta. De tar vi for oss i neste artikkel i denne artikkelserien.