“Det er ikke noe spesielt ved ytringsfriheten som bør gi den absolutt beskyttelse”

OXFORD (Agenda Magasin): Hva kan gjøres for å hindre at konspirasjonsteorier om koronaviruset spres på nettet? At valg påvirkes gjennom desinformasjon? At samfunnsdebattanter hetses til stillhet? Slike spørsmål er utgangspunktet for lovarbeid i en rekke land om dagen. I artikkelserien Med lov skal hets bekjempes? undersøker og diskuterer vi tiltakene.

Stefan Theil er jurist og forsker ved Bonvaro-instituttet for menneskerettigheter ved Oxford University. Jobben hans er å dykke ned i disse spørsmålene til daglig. Han har blant annet publisert fagartikler om den tyske loven som pålegger sosiale medier ansvar for å fjerne lovstridig innhold, og det enda mer ambisiøse britiske lovforslaget mot skadelig innhold på nettet.

Agenda Magasin møtte Theil i Oxford, og han er kilde i artiklene om den britiske Online Harms-loven og Facebooks egen domstol i denne serien. Her er hele intervjuet med ham. Det er rett og slett en utskrift av en timeslang samtale, for de som vil dykke mer inn i problemstillingene og dilemmaene. De som vil lese en mer vanlig, journalistisk framstilling, kan med fordel begynne med artiklene om de tre stormaktene Tyskland, Storbritannia og Facebook.

I intervjuet argumenterer Theil blant annet for hvordan menneskerettighetene må balanseres mot andre rettigheter når lover om ytringer på nett utformes. Om hvorvidt slike lover virker. Om den britiske måten å lovregulere på egentlig er så nyskapende som tilhengerne hevder. Og om Facebooks egen selvregulering, den nye domstolen for sletting av innhold. God lesing!

 

 

– Det skjer mye rundt lovregulering av nettet rundt om i verden nå. Hvorfor?

– Vi må være nyanserte her, det er ulike årsaker ulike steder. Det er en grunnleggende forskjell mellom et autoritært regime som oppdager gleden ved å regulere nettet fordi de vil bevare statens makt, slik vi ser i Kina i dag; og mer liberale land. Der er fokus mer rettet mot hvorfor det er slik at man kan gjøre andre ting på nettet enn man kan offline, ansikt til ansikt?  Hvorfor virker det som vi behandler det annerledes både når vi følger opp lovverket og ellers?

Når du begynner å regulere ytringer, må du være forsiktig.

Det er også en interessant forskjell mellom land som er opptatt av det de kaller fake news, og ser på regulering i det perspektivet, og de som er mer opptatt av hatprat – hva det gjør med det virkelige livet hvis vi lar folk si antisemittiske ting eller få lov til å si at fargede mennesker er underlegne andre.

 

– Hva er spesielt med den britiske tilnærmingen her?

– Vel, de har egentlig vært sent ute. Andre har tenkt på dette lenger, den tyske loven har eksistert et par år for eksempel. Tilnærmingen er ikke nødvendigvis så radikalt annerledes, men måten den er rammet inn er annerledes: De snakker om en duty of care, en aktsomhetsplikt, det gir ekko til sivilrett og kontraktsrett, hvis man skal være juridisk teknisk her.

Men når du ser på loven, så er den ganske lik den tyske, som unektelig er regulering ovenfra og ned. Aktsomhetsplikten vil ha den samme effekten, selv om det brukes andre begreper.

 

– La oss dykke ned i aktsomhetsplikten etterpå. Først bekymringene for ytringsfriheten, som flere har kommet med. Ser du en fare for ytringsfriheten i den britiske loven?

– Ja, åpenbart: Når du begynner å regulere ytringer, må du være forsiktig. Vi har gode historiske grunner og empiriske data som viser at det er farlige å regulere ytringer for tungt. Dette faktumet bør være et felles utgangspunkt i alle demokratiske samfunn.

Samtidig er det forskjell mellom å være veldig hands off, som grunnloven i USA er et uttrykk for, og å akseptere at ytringsfrihet er en rettighet, men det er en rettighet blant flere, som må balanseres. Jeg er definitivt mer i denne siste leiren. Jeg mener ikke det er noe spesielt ved ytringsfriheten som bør gi den absolutt beskyttelse, den må balanseres mot andre menneskerettigheter. Du kan ikke skille mellom menneskerettigheter, de må alle harmoniseres. Så jeg har ikke noe problem med å regulere ytringer i prinsippet, selv om det kan gå galt.

 

– Her er det vel også en filosofisk eller ideologisk uenighet: Noen vil ta utgangspunkt i at ytringsfriheten er annerledes fra andre menneskerettigheter, at den er den rettigheten som de andre hviler på, inkludert demokratiet.

– Jeg vil ikke akseptere den påstanden. Jeg er enig i at ytringsfriheten har vært viktig historisk. Hvis du ser på utviklingen av borgerrettighetene, så er hovedtrekket at rettighetene som ble vunnet i samfunnet som regel har fulgt middelklassens behov og ønsker. Det middelklassen hadde på 18- og 1900-tallet sammenliknet med Middelalderen, var økonomisk makt. De ville oversette det til politisk makt. Ytringsfriheten er viktig i det perspektivet, for hvis du gjennom sensur forhindres fra å si hva du ønsker, kan du ikke skape politisk endring. Men for mange handlet og handler det ikke om dette, men om å overleve. Så økonomiske rettigheter er like viktige. Jeg kan forhindres i å spille en meningsfylt rolle i det demokratiske samfunnet gjennom økonomisk undertrykkelse like mye som gjennom sensur, så jeg ser ikke den kategoriske forskjellen der.

 

– Likevel, det er mange som er veldig opprørt over disse nye lovene, og bruker ord som sensur eller advarer mot at ytringsfriheten er truet. Tar de feil?

– Så langt har vi ikke nok empiriske bevis til å kunne konkludere. En del av problemet er at vi ikke er veldig nyanserte når det gjelder trusselen vi ser. Jeg kan illustrere det med spekteret av hva som er problematisk og hva som ikke er det.

Det som ikke er problematisk, er at det er konsekvenser for private aktører for det folk sier. Du kan se for deg at jeg reiser meg i en forsamling og sier noe folk ikke liker. Det er ikke en trussel mot ytringsfriheten om folk ikke inviterer meg til fest etterpå, eller ikke vil at jeg skal være medlem av en klubb de er medlem i. Det er ikke et ytringsfrihetsproblem i utgangspunktet.

Du bruker mer tid på noe som opprører deg enn noe som er nyansert og nøytralt.

Det er selvsagt unntak. Vi har arbeidslover. Hvis jeg blir oppsagt for noe jeg har sagt, så kan det være et problem selv om arbeidsgiveren er en privat aktør. Men generelt sett kan private aktører velge vennene sine og hvem de samhandler med, basert på tilfeldige kriterier.

Der det blir politisk, er når jeg sier noe i en politisk sammenheng, og blir fengslet eller bøtelagt av staten. Det er ytterpunktene i dette spekteret.

Et sted imellom ligger det den tyske loven og disse andre initiativene prøver å gjøre noe med. Men noen ganger skiller vi ikke tydelig nok mellom en sosial sanksjon fra mine likemenn – at jeg sier noe folk ikke liker, og at de dermed nekter meg visse muligheter til å ytre meg, det er greit – og at staten slår ned på hva jeg sier.

 

– Innvendingen da er at den tyske og britiske loven gjør disse private aktørene, som Facebook, til kvasistatlige aktører – de får delegert ansvaret fra staten til å bestemme hva folk skal få lov til å si og ikke.

– Nettopp. La oss gå inn i den tyske loven. Problemet som gjorde at loven kom, var at sosiale medier generelt ikke gjorde noe med innhold som burde håndteres, heller ikke innhold som brøt med deres egne retningslinjer. Det kan være mange grunner til det, det er naturlig å tenke at det skyldes at dette innholdet er det som får brukerne til å engasjere seg. Du bruker mer tid på noe som opprører deg enn noe som er nyansert og nøytralt.

Det var dette som gjorde politikerne frustrerte. Det er noen problematiske ting med de tyske ytringslovene, de har for eksempel noe som heter kriminell fornærmelse. Dette er ikke testet mot grunnloven på en stund, men loven har uansett gjort en del type ytringer ulovlige. Det NetzDG gjør, er å liste opp disse, og pålegger selskapene å gjøre noe med ytringer som bryter med loven slik den er.

Så ja, den gir selskapene et ansvar for å sjekke om innholdet som klages inn faller under disse kategoriene. Men jeg vil hevde at dette ikke er veldig forskjellig fra det de gjorde fra før. For hvis du ser på retningslinjene selskapene selv har, så skulle de fjernet dette innholdet uansett. Så jeg er ikke så bekymret for det argumentet – at private selskaper plutselig håndhever strafferetten – det er ikke det de gjør i praksis.

 

– Motargumentet der vil være at det er en forskjell mellom å håndheve private retningslinjer og strafferetten.

– Det er sant, det er ulike ting. Men grunnen til at Facebook sletter innhold, er ikke først og fremst at NetzDG-loven sier de skal gjøre det, men retningslinjer de uansett har – et kontraktsforhold de har med brukerne, som har godtatt en masse regler de ikke har lest. Men essensen er uansett at Facebook kan slette masse innhold etter eget forgodtbefinnende.

Og staten har en interesse av å tydeliggjøre at det som er ulovlig offline også er ulovlig på nettet. Så jeg forstår at loven er blitt vedtatt. Dessuten, hvis du sammenlikner sanksjonene du får hvis du står på et torg og kommer antisemittisk grums, og det som skjer hvis du gjør det på nettet, så er det en mindre krass sanksjon å få innholdet ditt slettet fra nettet.

Så jeg er enig i at det er en kobling mellom straffeloven og det private her. Men å få innholdet ditt fjernet fra en plattform er ikke en strafferettslig reaksjon, der er det en kategorisk forskjell fra å bli fengslet eller bøtelagt.

 

– En ting jeg sliter med å finne ut av når det gjelder den tyske loven, er om den egentlig virker. Dører den til mindre hets og færre lovbrudd på nettet? Det er ikke lett å finne ut av.

– Ja, det er et godt spørsmål. Det er vanskelig å finne ut av. Problemet for kritikerne nå, er at argumentet deres hviler på antakelsen om at loven får selskaper til å fjerne innhold som er lovlig. For det første har vi ikke gode data på grunn av måten selskapene har satt opp rapporteringsmekanismene, der de leder folk mot å bruke deres egne klagemekanismer istedenfor skjemaet de er pålagt å ha gjennom NetzDG. For det andre viser tallene at Facebook har fjernet rundt 30 prosent av innholdet som klages inn, for Twitter er tallet enda mindre. Så det er ikke nok bevis for å hevde at for mye fjernes.

Vi kriminaliserer masse ting uten å vite hva straffen fører til.

Problemet for de som er mer positivt innstilt, som meg selv, er at jeg heller ikke kan peke på… det er vanskelig å gjøre en kobling mellom innhold som ble fjernet på grunn av loven, og hatkriminalitet som skjer eller eventuelt ikke skjer.

Så der jeg står nå, er at vi må la dette utspille seg og sørge for at selskapene leverer gode data så dette kan undersøkes og diskuteres. La oss ikke konkludere for tidlig.

 

– Men selv disse tallene du nevner kan du ikke konkludere ut ifra: Når Facebook sier de sletter 30 prosent av det som klages inn, så kan det jo tenkes at 100 prosent av det som klages inn, er lovlige ytringer og at de dermed fjerner ting som ikke burde være fjernet. Og motsatt: Det kan tenkes at alt er ulovlig, og at de fjerner for lite. Så jeg var egentlig overrasket over hvor lite man kan lese ut av disse rapportene, og hvor lite gjennomsiktighet det er.

– Ja, det er et stort problem. Det er noe som må forbedres. Jeg vet ikke nøyaktig hvordan det kan gjøres. Men det må være mulig å levere mer detaljert informasjon om hva slags innhold som fjernes, anonymt, og gjøre det tilgjengelig for forskere i det minste. Samtidig må jo innholdet fjernes om det er ulovlig, så man må finne en metode der.

 

– Er det ikke det den tyske regjeringen foreslår nå: At selskapene pålegges å spare på innholdet? Slik det er nå, sletter de jo bare bevis for mulig kriminalitet. Og at de også pålegges å rapportere det inn til politimyndighetene?

– Ja, det er det de foreslår nå. Og det har noen utfordringer når det gjelder datasikkerhet, men det må vurderes ja.

 

– Likevel, hvis du ser på utviklingen offline i Tyskland, så virker det som det er en økning i antisemittisme, i hatkriminalitet, i høyreekstremisme og i terrorangrep. Så det virker ikke akkurat som om loven har gjort ting noe bedre?

– Det er vanskelig å si noe om. Korrelasjon er ikke det samme som kausalitet, så vi må være forsiktige før vi trekker konklusjoner her. Vi kan ikke si at noe skjedde eller ikke skjedde, fordi vi gjorde akkurat dette.

Det jeg vil si, er at en del av begrunnelsen for denne loven, er at loven om hatefulle ytringer skal implementeres. Og begrunnelsen for den loven, er ikke bare at den skal forhindre fysisk kriminalitet. Vi håper for eksempel at å straffe overfall skal få noen til å la være å overfalle folk, men vi straffer også for å reagere på at det er gjort noe galt. Det samme gjelder hatytringer: Det er vurdert som galt i seg selv gjennom loven, så det handler om å straffe det i seg selv.

Vi kriminaliserer masse ting uten å vite hva straffen fører til. Jeg vet ikke, er det færre drap fordi det er straffbart å drepe? Jeg håper det. Men har vi empiriske data? Det er ikke så godt å si.

 

– Da kommer vi over i det virkelig store spørsmålet om hvorvidt lover faktisk forandrer folks atferd…

– Ja. Jeg håper det er slik! Lover former måten vi samhandler overfor hverandre i betydelig grad, i det minste. La meg ta utgangspunkt i sivilretten, for eksempel: Ja, folk begår lovbrudd, folk betaler ikke gjelden sin, eller bryter kontrakter. Men de fleste overholder forpliktelsene sine, hver eneste dag. Det samme gjelder internasjonal rett. Det finnes stater som bryter reglene. Men hvis du ser på EU, så har du 27 land som hver eneste dag oppfyller, la oss si, 90 prosent av de rettslige forpliktelsene de har overfor hverandre.

Loven vil ikke fikse alle problemene våre, men den er en del av løsningen.

Så kan du argumentere med at de hadde gjort det uansett, selv om lovverket ikke var der. Men jo mer komplisert et samfunn blir, jo mer sofistikert det juridiske systemet blir, jo mer trenger du ha kjøreregler som er uttrykt gjennom lovverk. Det bidrar. Jeg håper det bidrar mer generelt i samfunnet gjennom strafferetten, men jeg vet ikke om vi har data som kan bevise det.

 

– Mange av juristene jeg har snakket med til denne artikkelserien sier at vi generelt har for stor tiltro til å bruke lovgivning for å løse disse problemene. Kan du virkelig få folk til å oppføre seg på nett, og skape normendring, gjennom lovregulering?

– Ikke alene, det må være klart. Det er en plass for loven, den er et av de mektige instrumentene for å skape sosial orden vi har funnet opp som mennesker, men den er definitivt ikke det eneste. Hvis samfunnet skal endres, og særlig ting som vi ærlig talt har drevet med i hundrevis av år, som rasisme, hatytringer, kvinnehat, dette er ting som inntil ganske nylig har vært dypt inngrodd i alle kulturer, hvis du skal endre slike ting, så endres det bare gjennom folk.

Loven vil ikke fikse alle problemene våre, men den er en del av løsningen, og det vil være dumt ikke å bruke den, for å støtte og forsterke andre utviklingstrekk i samfunnet.

 

– La oss gå tilbake til det britiske lovforslaget. Det virker som mye vil avhenge av makten til Ofcom, tilsynsmyndigheten som får ansvaret for å følge opp overfor selskapene. Tror du de vil være i stand til å utøve nok makt?

– Ofcom er et veletablert tilsyn. Jeg kjenner dem ikke veldig godt, men de er godt etablert. Min hovedbekymring er at måten loven er skrevet på, gir dem oppgave som er massiv.

Hvis du tenker på formuleringen i lovforslaget – den er noe sånn som «plattformer som legger til rette for brukergenerert innhold»  – så er det på den ene siden sosiale medier, men det kan også være et forum for teknologientusiaster, alskens hobbyer eller alt mulig rart.

 

– Eller dataspill, eller hele nettet, egentlig…

– Nettopp. Det er vanskelig å tenke seg nettsteder som ikke har brukergenerert innhold. Kanskje nyhetsnettsider er unntaket, men selv der har du kommentarfelt. Så hvis det skal være ansvarsområdet for tilsynet, tror jeg de bli overveldet.

Løsningen på det kan enten være å øke tilskuddet til Ofcom massivt, men det tror jeg ikke vil skje. De andre mulighetene jeg ser, er at tilsynet enten sier de vil være veldig selektive og bare gå løs på de store selskapene og si at alle andre formelt skal følge loven, men de har vi egentlig ikke muligheten til å føre tilsyn med. Eller kan de gå andre veien, og si at vi bare skal følge opp regler som er så enkle at vi raskt kan undersøke dem og gjøre vurderinger.

Faren er at det enten blir veldig symbolsk eller på grensen til meningsløst. At det blir et minimumstilsyn som ikke vil gjøre noen forskjell. Det er bekymringen min. Men det er ikke sikkert det ender sånn.

 

– Jeg er også nysgjerrig på hvordan tilsynet skal være i stand til å presse selskapene til grunnleggende endringer i måten de operer på. I en av artiklene dine bruker du tjenesten Tumblr som eksempel: Med en gang de oppdaget at måten algoritmene deres promoterte ekstremt innhold på, var skadelig for forretningsgrunnlaget, at de mistet kunder, så endret de den raskt. Men så lenge ekstremisme er bra for business, hva kan Ofcom gjøre med det?

– En ting de kan gjøre, hvis de har ressurser, er å ta ideene fra den tyske loven, og kreve at selskapene har en plan for dette innholdet, gi dem tidsfrister for å gjøre noe, og hvis de systematisk bryter reglene, så vil de bli stilt for retten og få massive bøter.

Da vil det gå det inn i de økonomiske vurderingene til selskapet, denne muligheten for å få bøter. En måte å regulere effektivt på, er ved å pålegge kostnader.

De hadde alle muligheter til å fjerne dette innholdet, siden det bryter med retningslinjene.

Dette tallet må nok sjekkes, men jeg har hørt at hver åttende Facebook-moderator er tysktalende. Det er en massiv overrepresentasjon av tysktalende sammenliknet med både den globale befolkningen og Facebooks brukere totalt. Så loven har beviselig en effekt, nemlig at selskapet nå bryr seg om noe som før ble sett på som en eksternalitet (en uønsket effekt som ikke går ut over selskapet selv, red.anm.).

 

– Angående det tallet, Damian Collins fra toryene, har sagt at det var en av seks. Men ingen vet, er mitt inntrykk. Facebook sier for eksempel ofte at de har 30-35 000 mennesker som jobber med sikkerhet. Men det er tallet på alle ansatte totalt, som også gjør andre ting, det er ikke antall moderatorer, slik jeg har forstått det. Jeg har også spurt dem om hvor mange norsktalende moderatorer de har, men det vil de ikke oppgi.

– Nettopp. Et annet eksempel er det vi nå kan kalle folkemordet på rohingyaene i Myanmar (som langt på vei ble oppildnet til via Facebook, red.anm.). Det viste seg der at de hadde to innholdsmoderatorer som snakket burmesisk. Det er et symptom på en forretningsmodell som lenge kunne behandle slikt hatprat som en eksternalitet de ikke trengte å gjøre noe med.

De hadde alle muligheter til å fjerne dette innholdet, siden det bryter med retningslinjene. Men å legge penger i det, var noe annet. Det var ikke på radaren i det hele tatt, i lang tid.

 

– En annen svakhet du har påpekt ved det britiske forslaget, er definisjonen av skadelig innhold. Hva er problemet der?

– Måten det er formulert på i forslaget, inkluderer en lang rekke ting – fra ting alle kan være enige om er skadelige, som bilder som viser misbruk av barn, terrorisme, henrettelser og så videre – og helt til ting som skjermtid for barn. Der vet jeg ikke om det finnes solide bevis for at det er skadelig engang. Det er definitivt mye bekymring i samfunnet, men det er vanskelig å bevise at det er skadelig.

Jeg mener det heller ikke handler om innholdsmoderering, men om digital modning og håndtering av det i bredere forstand. Faren er at hvis vi gjør spekteret så vidt, med både skadelig og ikke så skadelig innhold, ting som er lette å definere og ting som er vanskelige – hva er trakassering for eksempel, der finnes det både enkle og vanskelige saker… jeg er bekymret for å stappe alt dette inn i en kategori og si at dette er skadelig innhold og ha samme intensitet i å regulere det.

 

– Så du ville gjort loven smalere både når det gjelder type innhold og hvilke medier som skal omfattes?

– Ja. Når det gjelder hvem som omfattes, så er det ingen vei utenom å gjøre det smalere. Hvis det står slik det gjør nå, vil det være umulig å håndtere for et tilsyn.

Når det gjelder hva som er skadelig, så er det greit å dekke mer enn det som er kriminelt. Men hvis du skal gjøre det, så må du være tydelig når det gjelder hvilke regimer som gjelder. Du kan ha toppstyrt regulering når det gjelder ting som barneporno, henrettelser og så videre, men du må være veldig forsiktig med å regulere det som ikke er beviselig skadelig. Det gir ikke mening å ha de samme stramme reglene for trakassering som du har for en henrettelsesvideo.

 

– La oss gå litt mer inn i denne ideen om aktsomhetsplikt (duty of care). Lorna Woods, som sto bak denne modellen, mener loven slik den er nå, ikke egentlig er en duty of care-modell. Men er en slik rettstenkning, altså en aktsomhetsplikt, den riktige måten å tilnærme seg dette?

– Det er et godt spørsmål. Det avhenger om hva du vil oppnå. Hvis det var aktsomhetsplikt slik det brukes i sivilretten, ville kravet sett omtrent slik ut: Jeg er i et kontraktsforhold med deg, Facebook, og fordi du ikke var aktsom, så fikk jeg se en henrettelsesvideo, eller noe slikt.

Det er ikke rettferdig å pålegge et enkeltmenneske å skulle tvinge Facebook til å endre seg.

Det er forskjellig fra å si til Facebook som tilsyn at dere må sørge for at dere har gode prosedyrer for å fjerne slikt innhold før mange får se det. Fordi måten jeg som enkeltperson kan følge opp, er ved å saksøke. Da er det den påståtte enkeltskaden ved å se innholdet, som skal følges opp. Da trenger ikke Facebook endre seg, utenom å prise inn et og annet sivilrettslig søksmål.

Og gitt at det ikke gis mye rettshjelp her i landet og at det er en stor belastning å saksøke noen, så synes jeg ikke det er rettferdig å pålegge et enkeltmenneske å skulle tvinge Facebook til å endre seg, særlig fordi problemet først og fremst ikke er individuelt, men på systemnivå. Problemet er ikke at jeg får se en henrettelsesvideo, men at Facebook ikke har noe system for å fjerne det.

 

– Men er det slik det er ment å fungere? Slik jeg har skjønt det, er modellen Health and Safety at Work Act fra 1970-tallet…

– Okei. Jeg kjenner ikke så godt til denne siden av det.

 

– Jeg har prøvd å oversette dette til norsk rettstenkning. Det finnes eksempler på aktsomhetsplikt i ulike lover, i naturmangfoldsloven for eksempel, eller i arbeidsmiljøloven, der arbeidsgiveren har en plikt til å gjøre arbeidsplassen trygg. Eller i produktutvikling. Ideen er å gi selskapene en plikt til å sørge for at produktet de leverer er trygt for brukerne, uten å komme med detaljerte krav.

– Hvis det er modellen, så ser jeg ikke en kategorisk forskjell i de ulike måtene å regulere på. Reguleringer kan være veldig spesifikke. Men de kan også være mer generelle, og det er opp til private aktører å følge opp. I Tyskland har du for eksempel naturbevaringslover der private aktører har en plikt til å ta vare på naturen. Men jeg ville ikke tenkt på det som duty of care.

Muligens er dette også bare et spørsmål om semantikk. Men det høres for meg ut som at modellen er at myndighetene bestemmer en regulering, som følges opp av et tilsyn. For meg er duty of care alltid private aktører som håndhever kontraktsforhold.

 

– Slik jeg har forstått det, så er Woods’ idé at istedenfor å ha detaljerte regler som sier at når det gjelder for eksempel trakassering, skal selskapet gjøre slik og sånn, så skal selskapet ha et generelt ansvar for å unngå skader som følge av produktene de lager. Det skal gjøre oppfølgingen mer fleksibel, så man ikke må regulere for alt mulig. Men gir en lovbestemt forpliktelse til å bry seg om brukernes trygghet.

– Jeg har ikke satt meg nøye inn i det forslaget. Men jeg vil nok si at det høres ut som at noen må avgjøre til slutt. Du kan ikke lage en generell regel om å unngå trakassering og si at resten er opp til deg som selskap. Til syvende og sist må noen avgjøre hvor grensa går. Når skal vi si at, okei trakassering pågår fortsatt, men du har gjort nok – du har laget alle disse boksene på nettsiden og systemet fungerer. Noen må lage en sjekkliste som sier når plikten er oppfylt.

Du kan selvsagt gi selskapene litt spillerom og si at dette er kriteriene de må oppfylle og at det er nok. Men det vil uansett være en konkretisering av reglene. Du kan si at det er resultatorientert – at ett tilfelle av trakassering er ett for mye og dermed et lovbrudd – det vil være altfor inngripende. Men hvis du baserer det på prosess, så må du ha en formening om hva som er best practice, hva kan du forvente av prosessen.

 

– Jeg tror det er det siste som er poenget, at det skal være systemisk. Selskapene må bevise at de tar hensyn til faren for skade på systemnivå.

– Det gir mening. Men et tilsyn må likevel gjøre en tolkning av hva som er en fornuftig måte å oppfylle kravene på. Så du kommer ikke unna at det må være en viss grad av konkretisering.

 

– En helt annen måte å tenke regulering på, er selvregulering – at bransjen selv lager regler for hvordan den skal følge opp innhold. Du skriver i en av artiklene dine at den tyske NetzDG-loven faktisk har et opplegg for dette. Det var jeg ikke klar over, det er lite omtalt også i Tyskland.

– Ja, det stemmer. Det er oversett av nesten alle. Min teori er at det er selvregulering justisdepartementet i Tyskland egentlig ønsker. De gir fordeler til selskapene hvis de etablerer et slikt organ, blant at de får lengre tidsfrist for å avgjøre saker.

Problemet, og det som trolig har gjort at det ikke er blitt noe av dette, er at Facebook neppe vil samarbeide med for eksempel Twitter om et slikt organ. For det må være flere selskaper som går sammen om det, og de må ha felles regler som alle følger.

Ingen bebreider selskap som Facebook eller Twitter for ikke å ha klart å oppfylle de globale forventningene til ytringsfrihet på nettet.

Det har fungert i videospillindustrien for eksempel, i Tyskland, og for filmindustrien.

 

– Ja, i Norge er dette også en vanlig måte å gjøre det på. Pressen har styrt seg selv i flere tiår, for eksempel.

– Det er veldig vanlig, ja.

 

– Og det virker som en god måte å balansere inngripen fra staten mot behovet for regler.

– Helt enig. Men dessverre er ikke slike ordninger så vanlige i den engelsktalende verden, og det er der de fleste teknologiselskapene kommer fra. Jeg skulle ønske de ville vurdere det, men tror ikke det kommer til å skje.

 

– Så det er grunnen til at ingen snakker om det, fordi det ikke skjer noe.

– Ingen plattformer jeg vet om, har vurdert dette. Og det er synd, for disse organene har en viktig rolle. De har en armlengdes fra staten, mer enn et tilsyn som Ofcom har. De kan gjøre mange av disse detaljerte reguleringene og vurderingene som du kanskje ikke vil at staten skal gjøre.

Men de må gå sammen om det, og bruke penger på det. Og akkurat nå bruker Facebook mye penger på sitt eget organ. Det har jeg også studert. For meg ser det ut som et veldig dyrt selvdømmeorgan, bare for Facebook.

 

– Ja, Facebooks Oversight Board, som det heter. Hva er ditt syn på det?

– Jeg har skrevet om det. Og, for å ha full åpenhet, jeg har også vært med på en workshop hos Facebook om det, på deres invitasjon.

Først: Ingen bebreider selskap som Facebook eller Twitter for ikke å ha klart å oppfylle de globale forventningene til ytringsfrihet på nettet. Det er ulike standarder og synspunkt, og når dette koker ned til enkeltsaker blir det ofte veldig komplisert og vanskelig å ta avgjørelser.

Rådet har potensial, men jeg er skeptisk. Mye kommer til å avhenge av hvor uavhengige de vil være, folkene som skal ta avgjørelsene. Det må være mer enn en armlengdes avstand fra Facebook. De må være uavhengige og ta avgjørelsene nesten som en domstol.

Hovedbekymringen min er at rådet ikke vil se på de systemiske sidene ved Facebook. De skal bare ta enkeltsaker. Problemet med det, er at det kan gi rettferdighet, eller noe slikt, i enkeltsaker, men du kommer ikke inn i systemproblemene som ligger under. Så vidt jeg vet, har ikke Facebook forpliktet seg til noe annet enn å følge avgjørelsene i enkeltsakene.

Så hvis rådet sier at «dere må omgjøre fjerningen av denne posten – og forresten, det er noe grunnleggende galt med systemet» – så vil Facebook bare ta det med i vurderingen. Da høres det ut for meg som Facebook vil veie det rådet sier opp mot økonomiske interesser som går andre veien. Og den motsetningen, vil jeg ydmykt hevde, er det som fikk oss ut i dette uføret i første omgang.

Facebook går ikke etter røttene til problemet. Røttene er ikke at enkeltbrukere benekter holocaust, eller noe sånt. Problemet er måten disse plattformene operer på systemnivå. Derfor har jeg vært en tilhenger av at dette rådet skal gjøre systemiske vurderinger av hvordan Facebook opererer, og så komme med bindende uttalelser om hva som må endres.

Denne individuelle tilnærmingen står i fare for å bli en ren PR-øvelse.

 

– Ja, reaksjonene på rådet har vært alt fra de som sier at dette er en ren PR-øvelse til de som sier at rådet, når det kommer i gang, vil få en egenvekt og en dynamikk som gjør at Facebook må endre seg.

– Det siste er mulig. Men vanligvis når vi skal regulere en industri som produserer noe vi anser som skadelige for samfunnet, så nøyer vi oss ikke med at de skal vurdere endringer. Vi ga ikke asbestindustrien tid til å vurdere om de trengte reguleringer. Det tok tid å lovregulere, men da reguleringene kom, så sa de ikke at vi oppfordrer dere til å gjøre noe. Det kom krav. Vi ba ikke kjemiindustrien om å vurdere å slutte å bruke kjemikalier som ødelegger ozonlaget.

Så det er samfunnets og myndighetenes ansvar å sette opp noen grenser. Og vi, med USA som et mulig unntak, har bestemt at det finnes grenser for ytringsfriheten. Så da bør det ikke være oppe til vurdering hvorvidt disse grensene skal følges.