Med lov skal hets bekjempes. Viser Tyskland vei i sin kamp mot nettgigantene?

BERLIN (Agenda Magasin): 19 år gamle Anas Modamani så et stort følge mennesker komme gjennom flyktningleiren han bodde i utenfor Berlin. Han gikk spontant fram til kvinnen i turkis buksedress i sentrum for oppstyret, grep armen rundt henne og tok en selfie med mobilen. Hun måtte være en viktig person, tenkte han, siden det var så mange pressefolk og livvakter rundt henne. «Etterpå skjønte jeg at hun var sjefen i Tyskland», har han senere fortalt om episoden i september 2015.

Bildet av Modamani og bundeskansler Angela Merkel ble raskt et ikonisk bilde for Tysklands håndtering av flyktningkrisen. Nesten like raskt begynte manipulerte versjoner av bildet å sirkulere på nettet, der Modamani ble beskyldt for å være en av terroristene bak angrepene i Brussel, ansvarlig for forsøket på selvmordsbombing i Tyskland og angrepet på et julemarked i Berlin, med mer.

I hele verden ser vi mer hat og en hardere tone på nettet. Noe måtte gjøres.

Modamani saksøkte til slutt Facebook fordi de ikke fjernet alle forfalskningene, men vant ikke fram i retten. Denne saken, og flere lignende, endret tyske politikeres holdning til sosiale medier. Regjeringen satte først ned en arbeidsgruppe som skulle jobbe fram frivillige tiltak fra Facebook og andre selskaper for å fjerne straffbare ytringer. Underveis i arbeidet ble Facebook innkalt til høring i parlamentet. De ble spurt hvor mange moderatorer de hadde ansatt i Tyskland for å ta seg av klager på innholdet. Svaret var at det kunne de ikke avsløre.

– Da ble vi som lovgivere veldig sinte, det er ikke måten du skal oppføre deg på i en høring. Vi kom til at det var nødvendig med en lov. I hele verden ser vi mer hat og en hardere tone på nettet. Noe måtte gjøres, sier Jens Zimmermann.

 

Tysk modell for Europa

Zimmermann er talsperson for nettpolitikk hos SPD, de tyske sosialdemokratene. Partiet hans har siden 2017 stått i spissen for et lovarbeid som både er omstridt og nyskapende – og går rett inn i intense og uavklarte debatter som også har nådd Norge: Hva skal en gjøre med all hetsen og hatet på sosiale medier? Kan og bør det reguleres ved lov?

– Nettet er et stort bidrag til demokratiseringen av samfunnet vårt. Men det har skjedd noe, det har blitt litt råttent. Det gjør Norge til et dårligere sted å vokse opp i, og det begrenser ytringsfriheten, sa for eksempel statsminister Erna Solberg da hun åpnet aksjonen «Rusken på nett» i fjor vår. En undersøkelse som ble lansert samtidig, viste at 20 prosent av lokalpolitikerne som var spurt, hadde trukket seg fra tillitsverv på grunn av netthets.

Er selskap som Facebook, Twitter og Youtube i praksis redaktører?

I Norge har debatten hittil bestått mest av problembeskrivelser og appeller om at «noe må gjøres». Nå har regjeringen vedtatt en ny ytringsfrihetskommisjon, som blant annet skal undersøke tiltak mot «hatefulle, diskriminerende og på andre måter krenkende ytringer». I sentrum står spørsmålet om sosiale mediers «rolle og rettslige ansvar».

Er selskap som Facebook, Twitter og Youtube i praksis redaktører? Eller er de tekniske leverandører som ikke kan holdes til ansvar for det folk skriver hos dem?

Det tyske lovarbeidet er det første konkrete svaret på denne problemstillingen. Og er nå blitt modell for enda mer ambisiøse reguleringsplaner i blant annet Frankrike og Storbritannia.

Så, for å forstå debatten om ytringsfrihetens rammer på nett – og hva man kan og bør, eller kanskje ikke bør gjøre, er det et svært nyttig utgangspunkt å forstå den tyske loven og debatten rundt den.

 

---

Om denne artikkelserien: Med lov skal hets bekjempes?

---

 

Loven kort forklart

Netsdurchsetzungsgesetz – eller NetzDG på folkemunne – det er et så tysk ord som det kan bli. Direkte oversatt betyr det «nettgjennomføringsloven». Det fulle navnet gir en bedre pekepinn om hva dette egentlig er: «Loven for å forbedre gjennomføringen av lovverket på sosiale medier». Den ble vedtatt av det tyske parlamentet høsten 2017 med støtte fra regjeringspartiene CDU og SPD, og trådte i kraft 1. januar 2018.

Kort oppsummert fastslår loven at alle selskaper som driver sosiale nettverk på nett med mer enn 2, 5 millioner brukere i Tyskland, har et juridisk ansvar for å fjerne ulovlige ytringer på egne plattformer. Ytringer som er ulovlige etter tysk lov, skal altså fjernes for tyske brukere, selv om selskapet er for eksempel amerikansk.

Såkalt «åpenbart ulovlige» ytringer skal fjernes innen 24 timer. «Ulovlige ytringer» skal fjernes innen sju dager. Fristen gjelder fra selskapene blir varslet av brukere – og selskapene har ansvar for å handle, uavhengig av om politiet ber dem om å fjerne innhold eller ikke.

Selskapene må også ha en ansvarlig representant i Tyskland og lage et system der brukere kan klage og få svar. I tillegg må de levere halvårlige rapporter til myndighetene over hvor mange klager de får, og hvor mye som fjernes. Hvis dette systemet ikke er godt nok, kan de ilegges bøter – selskapsstraff, ikke personlige straffer mot sjefene – på inntil 50 millioner euro.

Så er spørsmålet, to år etter: Har loven virket?

Slik lyder loven (hele lovteksten ligger her, på engelsk). Det er et par ting som er viktige å merke seg før vi dykker ned i kontroversene. For det første: Loven innfører ikke noen nye regler eller innskrenkninger av hva som er lov å skrive og ikke. Den viser til alle de eksisterende lovene for ytringer i Tyskland, og fastslår at selskapene selv har et ansvar for å følge opp disse.

For det andre: Selskapene kan ikke få bøter dersom de lar være å fjerne enkeltytringer som viser seg å være ulovlige. Det er systematiske svikt i systemene de er pålagt å innføre, som kan gi bøter.

Likevel, målet med loven er tydelig: Sosiale medier-selskapene skal få ekstra press på seg, for å bidra til at det blir mindre hatprat og hets på nettet. Så er spørsmålet, to år etter: Har loven virket?

 

Hundretusener av klager

– Det er et godt spørsmål. Det er vanskelig å si. Jeg vil si at vi fortsatt er i en fase med økende hat på nettet. Loven hjalp til en viss grad for å begrense veksten. Men den stopper ikke den trenden, sier Jens Zimmermann.

Rapportene selskapene offentliggjør, viser at en god del innhold blir slettet på grunn av loven. Youtube fikk for eksempel 260 000 krav om fjerning av innhold siste halvår i fjor. 80 000 av klagene ble merket med «hatsk innhold eller politisk ekstremisme». Drøyt 70 000 videoer eller kommentarer ble fjernet (rapportene er også oversatt til norsk og kan leses her). Twitter fikk rundt 500 000 klager første halvår i 2019, drøyt 45 000 tweets ble fjernet med henvisning til loven. Mens Facebook i samme periode bare fikk 1050 klager og fjernet 349 innlegg.

Betyr det at det ikke er hets på Facebook i Tyskland? Neppe. Facebook har prioritert sine egne klagemekanismer og retningslinjer, og gjemt klageknappen som fører til NetzDG-skjemaet. Derfor har selskapet også fått to millioner euro i bot av tyske myndigheter.

 

---

Les også: Svensk løsning for bedre ytringsklima: Straff de som styrer Facebook-grupper

---

 

– I de fleste tilfeller tar de ned innholdet uansett og trenger ikke å sjekke for brudd på tysk lov, siden deres retningslinjer er strengere enn loven. Jeg tror ikke denne loven var nødvendig for at brukerne skulle ha mulighet til å klage og få innhold fjernet, sier Marie Anne Nietan, som er ansvarlig for nettpolitikk i Bitkom, en interesseorganisasjon som representerer blant andre Facebook og Google.

Rapportene gir god oversikt over hvor mange klager selskapene får, hva slags type innhold det klages over og hvor mange innlegg som slettes. Men de sier ikke noe om hvor mange av innleggene som uansett ville blitt fjernet på grunn av selskapenes egne retningslinjer. Jens Zimmermann er overbevist om at loven har vært avgjørende for at selskapene nå legger mer kraft i redigeringen av eget innhold:

– Det aller beste med loven er at selskapene, spesielt Facebook og Youtube, nå har mange flere ansatte i Tyskland som håndterer klager. Det skyldes loven og trusselen om bøter.

Et tall flere viser til (men som ikke er bekreftet), er at hver sjette innholdsmoderator hos Facebook nå er tyskspråklige. Men har loven også ført til at fullt lovlige ytringer fjernes, og at ytringsfriheten dermed innskrenkes?

 

 

Problem 1: Overdreven sletting?

1. januar 2018, samme dag som loven trådte i kraft, fjernet Twitter en melding fra en av de mest profilerte politikerne fra høyrepopulistiske AfD. (Å forklare tweeten og kontroversen tar for mye plass. Hele saken er oppsummert her.) Det førte til stor oppstandelse i tyske medier: Nå var det bevist. Loven førte til politisk sensur av upopulære meninger. Twitter slettet like etter også en satirisk tweet om samme sak, men omgjorde avgjørelsene etterpå.

– Likevel, to år etter, er dette fortsatt det mest kjente eksempelet. Det viser for meg at loven virker ganske godt. Vi har ikke mange slike saker der vi ser eksempler på «overblokkering», sier Jens Zimmermann fra SPD (les hele intervjuet med ham her).

Men det er rett og slett umulig å vite om overblokkering skjer. Hva som sto i de 45 000 tweetene som ble slettet i løpet av seks måneder i fjor, vet ingen. Dessuten har de store sosiale medier-selskapene strammet til sine «community standards» i samme tidsperiode. På Facebook er det for eksempel nå ikke lov å poste innhold som støtter «hvit nasjonalisme», ytringer som ikke er forbudt ved lov verken i Tyskland eller Norge.

Er det ikke et framskritt at sosiale medier tvinges til å oppføre seg mer som tradisjonelle medier?

Loven møter likevel fortsatt sterk kritikk for indirekte å oppfordre selskapene til overdreven fjerning av innhold. Det er ikke nødvendigvis så enkelt for dem å avgjøre hva som er «åpenbart ulovlig» innhold innen 24 timer, eller «ulovlig innhold» innen sju dager.

– Med den tidsrammen selskapene har, er sletting den lette løsningen for dem, sier Wolfgang Schulz, som er jurist, medieforsker og forskningsdirektør ved Humboldt Institut für Internet und Gesellschaft.

– Det er vanskelig å bevise empirisk og vi kan ikke se det fra rapportene, men min magefølelse er at spesielt i saker om ærekrenkelser, der selv tyske domstoler ofte er internt uenige – der er ikke selskapene i stand til å gjøre informerte valg.

Men er dette egentlig et problem? Hva taper offentligheten på at ytringer som kanskje er lovstridige ærekrenkelser eller hets mot folkegrupper, eller kanskje er innenfor lovens rammer, blir borte fra Twitter eller Facebook? Er det ikke et framskritt at sosiale medier tvinges til å oppføre seg mer som tradisjonelle medier – der prioriteringer gjøres, ytringer avvises og alt ikke nødvendigvis må publiseres?

 

---

Les intervju med Jens Zimmermann: «Det må være et ansvar for disse selskapene»

---

 

Det sosiale i sosiale medier

– Det der er et narrativ jeg finner problematisk. Jeg hører det ofte i paneldebatter og så videre: Når media tar dette ansvaret, hvorfor skal ikke andre gjøre det? Svaret er enkelt: De er ikke media. Hvis du vil ha den spesielle verdien sosiale media skaper, så kan den ikke være redaksjonell og redigert, sier Schulz.

– Hva mister du egentlig da?

– Du mister muligheten til å se noe rart – mer personlige syn som har muligheten til å påvirke folkemeningen når andre ser det. Du mister noe ufiltrert i synet på samfunnet, som er grunnen til at sosiale medier er så suksessfulle.

– Men hva med den ufiltrerte hetsen? Er ikke den en trussel for offentligheten?

– Jeg ser ikke mye empirisk bevis for det. Vi ser at debattene er blitt mindre siviliserte, og det er åpenbart at vi har et problem med sosiale normer. Mange argumenterer med at det bare er ett steg fra radikal prat til fysiske lovbrudd, til og med drap. Men det er to ting som bekymrer meg med en løsning som NetzDG, sier Schulz.

Vi kommer fort i en modus for kommunikasjonskontroll istedenfor å løse sosiale problemer, for å si det rett ut.

– Det viktigste er at vi har en tendens til å anta at vi kan løse problemet hvis vi gjør kommunikasjonen usynlig. I Tyskland har vi for eksempel et representasjonsproblem. Det er en del av samfunnet som ikke føler seg representert i systemet lenger. De er til en viss grad blitt radikalisert. Når du ser på begrunnelsen regjeringen gir for NetzDG, inneholder den ting som å gjøre samtalen mer sivilisert. Da må vi være forsiktige, dette er ikke myndighetenes oppgave.

Schulz’ andre bekymring er at problemet blåses opp: Tradisjonelle medier skriver hele tiden om hvor ille ting er på sosiale medier. Dermed framstår dette som et samfunnsproblem.

– Jeg har ikke personlig hatt noen opplevelser med hat på nettet, for eksempel. Vi kommer fort i en modus for kommunikasjonskontroll istedenfor å løse sosiale problemer, for å si det rett ut. Og vi akselererer dette problemet gjennom mediedekningen.

– Men du og jeg er hvite, voksne menn. Hva med minoriteter som forteller at de ikke orker å delta i offentlige debatter lenger på grunn av all hetsen?

– Jeg er enig i at det gjør argumentet mitt svakere. Men mener likevel problemet blåses opp av media.

 

Problem 2: Privatisering av loven?

Så langt, så komplisert. Loven er også kritisert for å bryte med grunnloven. Heller ikke her har vi noen fasit – ingen har klaget den inn så langt, og det ser ikke ut til at noen selskaper kommer til å gjøre det. Blant de mange kritikerne under debatten i 2017 var Human Rights Watch, det tyske journalistforbundet– og FNs spesialrapportør for ytringsfrihet David Kaye. Loven privatiserer lovverket, var et av hans argumenter: Den gjør private selskaper til sensurmyndigheter på vegne av staten.

– Jeg skjønner kritikken, sier Jens Zimmermann. Som likevel mener dette er riktig måte å gjøre det på. Han mener det ikke hadde vært praktisk håndterbart om hver enkelt klage på en kommentar på sosiale medier skulle vurderes i retten. Dessuten:

– Det finnes mange andre områder der staten gir et visst ansvar til tjenestetilbydere. Hvis du for eksempel går til en bank for å sette inn mer enn 10 000 euro i kontakter, så må banken gjøre undersøkelser om hvitvasking. Der kan du argumentere for hvorvidt det er bankens oppgave å undersøke dette, uten at det er noe tegn til kriminell aktivitet.

Dette spørsmålet blir satt enda mer på spissen nå som regjeringen foreslår å stramme til loven ytterligere. Skal nettselskapene ikke bare være etterforskere, men også angivere?

 

 

Ny lov: Slett, men tips også politiet

Dødstruslene begynte å komme i 2015, da Walter Lübcke forsvarte regjeringens flyktningpolitikk for velgerne sine i småbyene i hjemdistriktet. Lokalpolitikeren fra CDU fikk hatefulle eposter. Navnet hans dukket opp på en drapsliste på en nynazistisk nettside. Privatadressen hans ble offentliggjort i en blogg. En video av ham, med gevær- og galge-emojier, ble delt flere hundre tusen ganger. «Skyt ham nå, den drittsekken», skrev folk i kommentarfeltet.

Så gjorde noen det.

Slik skildrer New York Times opptakten til drapet som rystet Tyskland i fjor sommer. Mannen som skjøt Lübcke i hodet utenfor hjemmet hans, hadde lagt ut trusler på sin Youtube-kanal i forkant av drapet, og var tilknyttet høyreradikale miljøer på nett.

Hvis du bare sletter innholdet, så sletter du også bevis.

Drapet, og hatet som dukket opp på nett også i etterkant, utløste en ny debatt om regulering av sosiale medier i Tyskland. I fjor høst la den tyske regjeringen fram et lovforslag som vil stramme til tiltakene i NetzDG-loven ytterligere. Det skal ikke lenger være nok å fjerne ulovlig innhold. Sosiale medier-selskapene må også lagre innholdet, og sende dette, samt IP-adressen til den som postet det, til politiet.

– Dette er i utgangspunktet fornuftig. Hvis du bare sletter innholdet, så sletter du også bevis. Problemet er at med denne løsningen, så bestemmer også selskapene i praksis hvem som skal etterforskes. Vanligvis går det andre veien: Politiet ser noe ulovlig, og ber selskapene utlevere informasjonen. Det er riktig rekkefølge, sier Marie Anne Nietan i Bitkom.

Hun sier det tyske politiet ikke har mer enn fem til ti etterforskere som er spesialisert på hatefullt innhold og ytringsrett, og tror politiet vil bli fullstendig oversvømt dersom de får oversendt alt innhold som slettes på sosiale medier. Myndighetene sier de skal opprette en egen enhet for å håndtere disse sakene.

 

Pendelen svinger

Et annet forslag har skapt enda større oppstuss: At selskapene ikke bare skal overlevere innholdet i postene, men også brukernavn og passord til de som har postet det.

– Dette gir ikke mening. Hvis du driver et forsvarlig IT-selskap, så lagrer du passord så verken du selv eller myndighetene kan få tilgang til dem, sier Nietan. SPDs Zimmermann sier det neppe blir snakk om å kreve automatisk overlevering av denne informasjonen – det må en domstolskjennelse til.

– Vi går helt klart i retning av mer overvåking, konstaterer forsker Wolfgang Schulz, og legger til:

– Jeg skjønner det ikke helt. Pendelen svinger alltid mellom frihet og sikkerhet, det har den gjort i flere tiår. At det nå svinger mot mer sikkerhet nå, uten noe 11. september i forkant, er merkelig.

Jens Zimmermann mener det ikke er noen vei utenom å stille strengere krav til Facebook og andre plattformselskaper.

– Vi trenger å utfordre disse store multinasjonale nettselskapene, og spesielt Facebook og Mark Zuckerberg. De oppfører seg som om de kan gjøre hva de vil. Loven var et sterkt signal fra Tyskland og parlamentet om at vi sa nei, det må være regler og reguleringer som dere som selskap må adlyde.

Signalet har spredd seg. Storbritannia er nå i ferd med å utforme en lov inspirert av den tyske, men enda mer ambisiøs og inngripende. Senere i denne artikkelserien går reisen til Storbritannia. Men vi trenger ikke reise helt til dit for å finne lover som gjør folk ansvarlige på sosiale medier: Også i Sverige blir folk nå straffet for det andre skriver på nettet. Det er tema for neste artikkel.