Falske nyheter og konspirasjoner spres om koronaviruset. Finnes det en lov som kan bekjempe alt som er skadelig på nettet? Britiske politikere mener de har funnet svaret.
LONDON/ESSEX/OXFORD (Agenda Magasin): – Det var etter valget i USA i 2016, husker jeg.
Damian Collins tenker tilbake på spørsmålet han stilte, spørsmålet som startet det hele.
– Jeg spurte ledere i Facebook om det var noen beviser for at Russland gjorde det samme i Storbritannia som i USA – å prøve å påvirke valg gjennom plattformen. De svarte at «hvis du har beviser, så skal vi se etter. Men det er ikke vår jobb å finne bevis for deg».
Collins fnyser.
– Da ble jeg overbevist om at vi ikke kan overlate dette til selskapene selv. Vi kan ikke la dem være sitt eget politi.
Russerne bruker viruset
Denne historien kan begynne her, på det romslige parlamentarikerkontoret rett over veien for Big Ben i London. Her møtte jeg Damian Collins fra det konservative partiet i Storbritannia 27. februar. Det var en av de siste dagene i den gamle verden.
– Det virker som konspirasjonsteorier om koronaviruset er mest populære på nettet for tiden, nevnte Collins i forbifarten. Men det var påvirkning av valg og falske nyheter om Brexit, vaksiner og alt det andre vi snakket om for noen uker siden som var fremst i samtalen.
Nå spres desinformasjon om viruset med samme fart som selve viruset verden over. EUs overvåkingsbyrå for falske nyheter advarte nylig om at russiske statsmedier har satt i gang en større desinformasjonskampanje om viruset for å spre panikk og mistillit i Vesten.
Kan noe gjøres med dette? Damian Collins og britiske myndigheter mener de har et svar. Historien om løsningen som nå er i ferd med å bli britisk lov, begynte ikke med viruset, men en deprimert 14-åring.
Et mørkt kaninhull
Molly Russell tok livet sitt i 2017, seks dager før hun fylte 15. Da foreldrene gikk gjennom Instagram-profilen hennes i etterkant, fant de fullt av innhold om selvmord. Foreldrene ble profilerte aktivister som fikk politikere engasjert i å få selskap som Instagram til å ta ansvar for innholdet på egen plattform. Selskapet er delvis ansvarlige for datterens død, mener faren Ian Russell:
– Jeg tror Molly havnet i et mørkt kaninhull med depressivt selvmordsinnhold, har han uttalt.
Jakten på en løsning begynte også med denne Facebook-meldingen: «Dead girl walking. Håper du blir voldtatt. Vi har telefonnummeret ditt og alle detaljer» – én av mange trakasserende meldinger sendt til kvinnelige parlamentarikere i 2017. Én kvinne fikk 20 000 bare på én dag.
Det kan da ikke være så vanskelig? Dette er en industri som alle andre industrier.
Parlamentarikerne lette etter tiltak mot brottsjøene av hets, og kom i kontakt med Lorna Woods, en jussprofessor ved University of Essex. Sammen forsøkte de å finne ut hva de kunne gjøre for å få selskapene som formidler slikt innhold til å ta større ansvar. Woods tenkte som så:
– Det kan da ikke være så vanskelig? Dette er en industri som alle andre industrier. Og hvis virksomheten deres har negative konsekvenser for andre, hvorfor kan de ikke gjøre noe med det?
En modell for verden?
I kjølvannet etter disse tre hendelsene – valgpåvirkningen på Facebook, Molly Russells selvmord og trakasseringen av kvinnelige politikere – oppsto det mest omfattende, ambisiøse og inngripende lovverket i verden mot skadelig innhold på nettet.
Kan netthets bekjempes med lov? spør vi i denne artikkelserien. Britene sikter mye bredere enn bare å bekjempe hets. Håndtering av alt fra desinformasjon og falske nyheter til hevnporno, våpensalg og trollete oppførsel skal lovreguleres. Loven går også dypere enn bare å fjerne innhold: Den vil utfordre selve kjernen i teknologiselskapenes virksomhet: algoritmene og forretningsmodellen.
Er den britiske modellen framtiden for hvordan nettet skal styres politisk i demokratiske land?
Bøter på 1,5 milliarder euro
Online Harms White Paper heter dokumentet. Det kan oversettes med en stortingsmelding mot skadelig innhold på nettet. Planen ble lagt fram av regjeringen våren 2019, har nylig vært på høring og kan bli britisk lov allerede til høsten.
Loven er inspirert av den tyske NetzDG-loven, som vi har dykket inn i tidligere i denne serien. Tyskerne har i over to år krevd at alle sosiale medier-selskaper med mer enn 2,5 millioner brukere i Tyskland skal fjerne åpenbart ulovlig innhold fra sine plattformer innen 24 timer.
Britene går lenger, både i hvem som rammes av loven, og i definisjonen av skadelig innhold.
Alle selskaper som «legger til rette for brukergenerert innhold på nettet» er omfattet av lovforslaget. Det betyr i teorien alt på nettet, fra dataspill til blogger og sosiale medier.
Vi kan ikke lage lover for all slags innhold.
Hva er så skadelig innhold? Hele 22 innholdstyper er listet opp – alt fra innhold som oppfordrer til terrorisme og viser misbruk av barn til hevnporno, trakassering og våpensalg (se egen boks for hele lista). Noe av dette er forbudte ytringer etter britisk lov i dag. Noe er lovlig, men likevel definert som skadelig. Derfor skal selskapene etter den nye loven prøve å begrense spredning også av enkelte lovlige ytringer.
Også i strafferammene går britene mye lenger enn tyskerne. I Tyskland kan selskaper som Facebook og Google ilegges bøter på inntil 50 millioner euro dersom de ikke har gode nok systemer for å følge opp ulovlig innhold. Britene antyder bøter på inntil fem prosent av det globale overskuddet til selskapene. Det kan bety en bot på 1,5 milliarder – 1 500 millioner – euro for Google. Det kan også bli aktuelt med personlig straff for selskapenes ledere dersom de bryter loven.
Men det mest nyskapende med den britiske loven, er kanskje ordet og prinsippet duty of care.
Les også intervju med Damian Collins: Vi må stoppe spredningen av tankevirusene på nett
HMS for nettet
– Vi kan ikke lage lover for all slags innhold, fastslår parlamentariker Damian Collins fra regjeringspartiet De konservative.
Fra 2017 ledet han en 18 måneder lang parlamentsgranskning av desinformasjon, falske nyheter og valgpåvirkning. Arbeidet gjorde ham overbevist om at det må tenkes nytt rundt måten politikere lovregulerer teknologibedrifter som i praksis også er mediebedrifter.
Derfor er loven utformet etter prinsippet om selskapenes duty of care, som kan oversettes med aktsomhetsplikt. Professor Lorna Woods oppsummerer det slik:
– Loven er et rammeverk. Den gir en retning: «Vær så snill å redusere skader på plattformen». Men den spesifiserer ikke hvordan selskapene skal gjøre det. Det er ikke detaljstyring. Vi stoler ikke på selskapene, for vi har et tilsyn. Men de må selv velge måten de går fram for å komme til det riktige svaret.
Woods er sammen med den tidligere byråkraten Will Perrin arkitekten bak denne måten å tenke lovregulering på. I regi av stiftelsen Carnegie Trust har de utformet en egen liksom-lov, skrevet en rekke fagartikler og drevet lobbyarbeid som har påvirket den britiske regjeringen.
Du vil aldri komme helt bort fra krav om å fjerne ting. Men vi er nødt til å se på systemene rundt.
Ordet aktsomhetsplikt finnes også i det norske lovverket, for eksempel i naturmangfoldsloven. Der står det (i paragraf seks) at «enhver skal opptre aktsomt og gjøre det som er rimelig for å unngå skade på naturmangfoldet».
Kanskje er arbeidsmiljøloven en enda bedre sammenlikning. Den sier at arbeidsgiver har en plikt til at arbeidsmiljøet skal være trygt, og må utføre «systematisk HMS-arbeid på alle plan i virksomheten». Britene vil ha HMS også på nettet.
– Dette skal være basert på risikovurderinger, forklarer Woods.
Her er GDPR-reglene enda en sammenlikning. Da EUs nye regler for personvern kom, ble alle som lager meningsmålinger, nyhetsbrev eller andre tjenester som samler inn personlige opplysninger pålagt å tenke på datasikkerhet og personvern når de utvikler tjenestene. «Privacy by design» kalles det. Woods vil ha «safety by design» hos teknologiselskapene.
– Du vil aldri komme helt bort fra krav om å fjerne ting. Men vi er nødt til å se på systemene rundt, sier Woods.
– Som selskap må du se på den typen tjenester du tilbyr og hva slags brukere du har, og så legge inn sikkerhetsmekanismer.
Så langt teorien. Hvordan skal dette fungere i praksis?
Tilsynet som skal passe på gigantene
Ta Molly Russell, 14-åringen som hadde en Instagram-konto full av innhold om selvmord. Lovforslaget lister opp en rekke tiltak som myndighetene vil «forvente» at nettselskaper følger opp. Blant annet:
Sårbare brukere som søker etter slikt innhold skal bli tilbudt hjelp. Selskapene skal utvikle verktøy som gjør det mulig for brukerne å blokkere skadelig innhold. Og de skal ha prosesser som hindrer algoritmene i å anbefale selvmordsinnhold til brukere.
Lignende lister med tiltak er laget for all slags skadelig innhold. Så er det opp til det nye tilsynet å utforme detaljerte retningslinjer, og sørge for at selskapene følger dem opp. Tilsynet skal ikke gå inn og kreve at selskapene fjerner enkeltposter på nettet, men passe på at nettselskapene har systemer på plass som gjør brukerne trygge.
Tilsynet blir Ofcom, det britiske medietilsynet.
Faren er at det enten blir et veldig symbolsk tilsyn eller på grensen til meningsløst.
Så er spørsmålet: Hvordan skal ett enkelt britisk tilsyn skal få en gigant som Facebook (som eier Instagram) til å endre sine algoritmer? Algoritmer som er laget for å få folk til å bruke mest mulig tid på plattformen ved å fremme innhold som vekker mest mulig engasjement, på godt eller vondt.
– Den tyske loven viser at selskapene føyer seg etter lovene i landene der de er aktive, svarer Damian Collins. Han viser til at Facebook ansatte flere hundre nye tyskspråklige innholdsmoderatorer etter at de ble lovpålagt å følge opp klager på innholdet.
Lorna Woods formulerer svaret slik:
– Du kan ha en aktsomhetsplikt der selskapene inntar en defensiv holdning og sier at de bare vil gjøre det tilsynet eksplisitt ber dem om. Eller de kan innta en mer reflekterende holdning der de ser på måten de har designet systemene sine, inkludert forretningsmodellen. Og det er det siste som ligger i kortene med denne lovgivningen.
Ikke alle er overbevist om at et tilsyn kan endre teknologigigantenes makt.
Les også intervju med Lorna Woods: Slik skal teknologigantene tvinges til å endre oppførsel
De største skal tas først
– Faren er at det enten blir et veldig symbolsk tilsyn eller på grensen til meningsløst.
Det sier Stefan Theil, som forsker på lovregulering av sosiale medier ved University of Oxford. Han er redd det vil bli umulig å føre tilsyn med alle selskaper som omfattes av loven – som i praksis er alle som oppretter en nettside med brukerinnhold.
Men, om loven gjøres mer målrettet mot de største selskapene, har han tro på at denne måten å lovregulere nettet på.
Lovgiverne har forsøkt å ta høyde for Theils innvending ved å understreke at tilsynet skal prioritere selskapene med innhold som har størst skadepotensial – i praksis giganter som Facebook og Google/Youtube. Dette skal også sikre at mindre selskaper ikke blir overlesset med krav til prosedyrer, rapporter og klagemekanismer.
En annen, og mer alvorlig, innvending er hva en slik lov vil gjøre med britenes ytringsfrihet. Selv om tilsynet ikke skal pålegge selskapene å fjerne enkeltytringer, kan det tenkes at alle reglene likevel fører til at masse innhold fjernes og at det dermed skjer en nedkjøling av debatten – en chilling effect?
Rekkeviddeangst
– Hvis ytringer som er på grensen til rasisme – eller ren rasisme – nedkjøles, så synes jeg ikke det er et stort tap for samfunnet, konstaterer politikeren Damian Collins.
Han er mest opptatt av hvordan loven skal gjøre det vanskeligere å spre skadelig innhold, ikke nødvendigvis fjerne det: «Freedom of speech, not freedom of reach», som han liker å si.
– Hvis du sprer en historie som er basert på en løgn, og spredningen er skadelig fordi den brukes til å påvirke hvordan folk stemmer i et valg, så er det er skadelig for samfunnet. Da vil vi forvente at selskapene griper inn.
Hvis du er kvinne eller fra en minoritet, er det en risiko forbundet med å delta i den offentlige debatten.
Det har kommet kritikk fra ytringsfrihetsgrupper mot loven. Organisasjonen Article 19 mener for eksempel lovforslaget legger for mye vekt på innholdsregulering, og at det kan være «en betydelig trussel mot ytringsfriheten».
– Det er en risiko ved å innføre innholdsregulering, det kan åpenbart misbrukes. Men det er også en risiko ved ikke å gjøre noe, sier Lorna Woods.
– Hvis du er kvinne eller fra en minoritet, er det en risiko forbundet med å delta i den offentlige debatten. Det er i seg selv er en trussel mot ytringsfriheten og demokratiet. Så jeg anerkjenner at du må være forsiktig, men det er en silencing effect hvis vi ikke passer på.
Regjeringen jobber nå med et endelig utkast til lovteksten, etter å ha mottatt 2 400 høringssvar. Den britiske Online Harms-loven vil bli nøye studert og mye diskutert i tiden framover. Selv om tidsplan trolig vil ryke nå som verden er satt på vent.
Forslag til videre lesing
Denne artikkelen har skrapet i overflaten av noen av dilemmaene rundt loven. Vil du gå mer i dybden, kan du lese de fullstendige intervjuene med alle de tre muntlige kildene:
Tory-parlamentariker Damian Collins forteller blant annet mer om hvordan den britiske loven kan være en modell for andre land, og om samarbeidet med politikere fra åtte land som konkluderte med at Facebook er «digitale gangstere».
Lorna Woods forklarer hvordan hun mener aktsomhetsprinsippet kan brukes for å utfordre teknologiselskapenes makt og tenkemåte.
Og Stefan Theil ved Oxford sammenlikner den tyske loven med det britiske forslaget, og argumenterer for hvorfor ytringsfriheten må sees opp mot andre rettigheter når nettet skal lovreguleres.
Kommentarer