Kina eksporterer overvåkingsteknologi til andre diktaturer

Det er ingen nyhet at det kinesiske kommunistpartiet bruker AI-teknologi for å styrke grepet om befolkningen. Mindre kjent er det at Kina på denne måten øker sin innovative kapasitet og eksporterer overvåkingsteknologi til andre udemokratiske land.

Spørsmålet er hvilken rolle demokratiet skal spille i en verden der de ikke lenger framstår som de mest innovative.

Er demokratier mer innovative enn diktaturer? Hvis det var sant tidligere, er den sannheten nå i ferd med å bli utfordret.

Kina har så motbevist den tidligere dominerende tesen om autoritære staters teknologiske underlegenhet.

Det som taler for denne teorien er at udemokratiske stater på ulike måter hemmer ytringsfriheten og dermed kunnskapsutviklingen, har dårligere fungerende offentlig forvaltning og næringsliv, og ikke utnytter innbyggernes talenter fordi mange blir satt i fengsel eller tvunget i eksil.

Det som taler mot teorien er Kina.

Landet konkurrerer nå med USA om å være verdens ledende AI-nasjon. Noen av årsakene til det, er enorme statlige investeringer, raskt voksende teknologiselskaper, som i symbiose med kommunistpartiet gjennom storstilt overvåking av innbyggere har tilgang til mer data enn noe annet land, samt dyktige ingeniører og vitenskapsmenn.

Kina har så motbevist den tidligere dominerende tesen om autoritære staters teknologiske underlegenhet at forskere fra Harvard, MIT og London School of Economics har laget begrepet AI-tokrati. I en nylig publisert forskningsstudie finner forskerne støtte for en gjensidig forsterkende effekt mellom AI-teknologi og det kinesiske regimet.

Ved å bruke data om nesten tre millioner offentlige anskaffelser og nesten 10 000 offentlige protester det siste tiåret, utfører forskerne en fascinerende, men konseptuelt enkel tre-trinns analyse, som viser hvordan AI-selskapene og regimet forsterker hverandre:

Populære protester overvåkes av AI-teknologi for ansiktsgjenkjenning i områdene der protestene skjer og også i andre områder.

Økt utbredelse av AI-teknologi for ansiktsgjenkjenning fører til færre folkelige protester i områdene hvor overvåking foregår.

Studien går dermed på tvers av synet om at en autoritær stat ikke kan være høyteknologisk i forkant på lang sikt.

Selskapene som utvikler AI skaper flere innovasjoner både for det kommunistiske regimet og for det kommersielle markedet, og er også mer sannsynlig å eksportere teknologien sin. Samtidig er ikke selskapene som taper anskaffelsene dårligere stilt, snarere tvert imot.

Forskernes konklusjon er at Kina har lykkes i å skape en selvforsterkende spiral som kommer både regimet og AI-sektoren i landet til gode.

Studien går dermed på tvers av synet om at en autoritær stat ikke kan være høyteknologisk i forkant på lang sikt og ideen om at et demokratisk styresett er et konkurransefortrinn når det gjelder teknologi.

Tvert imot ser Kinas regime ut til å være på god vei til å skape en langsiktig bærekraftig infrastruktur ikke bare for sine egne totalitære maktbehov, men også for landets innovative kapasitet generelt.

Kina har dermed en komparativ fordel når det gjelder AI-systemer for ansiktsgjenkjenning.

I en annen studie tar den samme forskergruppen analysen et skritt videre og studerer kinesisk AI-eksport. Hypotesen, som de finner støtte for, er at Kina er i ferd med å eksportere sin overvåkingsstat, noe som også fremgår av studiens tittel: Exporting the Surveillance State via Trade in AI.

Igjen bruker forskerne omfattende empiriske data, denne gangen data om omtrent 1600 internasjonale handelsavtaler om AI-teknologi mellom 36 eksportland og 136 importerende land.

Det største eksportlandet er Kina med 250 avtaler i årene 2008-2021, etterfulgt av USA med 215 avtaler. Kinas eksport er mer preget av ansiktsgjenkjenningsteknologi enn andre lands (201 avtaler mot USAs 128) og går mer til autokratiske land og svake demokratier (45 prosent av Kinas eksport mot 28 prosent av USAs).

Utviklingen av kunstig intelligens i Kina er således ikke bare drevet av innenlandsk etterspørsel fra kommunistregimet.

Kina har dermed en komparativ fordel når det gjelder AI-systemer for ansiktsgjenkjenning, en uvanlig posisjon for diktaturer når det gjelder banebrytende teknologi.

Forskerne finner også at autokratiske land og svake demokratier som har en mindre innenlandsk AI-sektor, er mer sannsynlig til å importere ansiktsgjenkjenning fra Kina og gjør det mer i politisk turbulente perioder.

Utviklingen av kunstig intelligens i Kina er således ikke bare drevet av innenlandsk etterspørsel fra kommunistregimet, men også av autoritære ledere i andre land som kjøper teknologien for å kvele og kontrollere sin egen befolkning.

At AI har gagnet kapitalistiske interesser og ført til enorm maktkonsentrasjon i en håndfull store amerikanske selskaper, er selvsagt ingen nyhet. Nå vet vi at lignende akkumuleringseffekter også eksisterer i den andre enden av spekteret, i autoritære stater og svake demokratier som kan bli enda mer antidemokratiske av disse effektene.

Dessverre er nok konklusjonen at demokrati ikke lenger kan betraktes som et informasjonsteknologisk konkurransefortrinn.

I begge tilfeller – i USA så vel som i Kina – spiller markedskrefter og begrenset demokratisk regulering en avgjørende rolle. I begge tilfeller er landenes befolkning rammet.

Dessverre er nok konklusjonen at demokrati ikke lenger kan betraktes som et informasjonsteknologisk konkurransefortrinn. Men det betyr ikke at det har spilt ut sin rolle i den vidunderlige nye verdenen av AI, snarere tvert imot.

Demokratisk innflytelse, for eksempel regelverket som EU i dag prøver å utvikle i rekordfart, vil være avgjørende for at vi skal lykkes med å gjøre AI-teknologien mer human og sikre at den kommer flest mulig til gode.

(Teksten ble først publisert på dagensarena.se. Oversatt fra svensk av Agenda Magasin.)