Kunstig intelligens må kontrolleres nå

Hva og hvem vil forme utviklingen av kunstig intelligens?

Amy Webb er en av verdens ledende teknologieksperter, og aktuell med boken «The Big Nine». Der beskriver hun hvordan vi har lagt framtiden vår i hendene på 9 teknologigiganter – seks amerikanske og tre kinesiske selskaper. Jeg fikk en prat med henne da hun besøkte Trondheim under konferansen the Big Challenge.

Herfra kan utviklingen gå mot noe som vil forbedre systemene med en fart som raskt vil ta igjen menneskers yteevne.

Med sitt store krøllete hår minner hun mest om en rockestjerne. Så var hun også hovedtaler på USAs viktigste og største teknologifestival, South by South West, i våret.  I 2019 var det flere politikere til stede på festivalen enn tidligere år, et tegn på at politikken begynner å få øynene opp for hva som skjer. Selv om man kan lære mye om utviklingen av kunstig intelligens av å lese boka til Webb, handler den vel så mye om makt og politikk, og ikke minst: Geopolitikk.

 

Utviklingen går i rasende fart

Kunstig intelligens er allerede rundt oss overalt. Det brukes i ansikts- og talegjenkjenning, selvkjørende biler, i Apples Siri og Amazons Alexa, i mobiltelefonen, og når du leverer inn lånesøknad til lånekassen. Etter hvert kan kunstig intelligens brukes til mer avanserte ting, som å gjennomføre et medisinsk inngrep eller aktivt delta i et møte med en menneskelignende stemme og fremtoning.

Herfra kan utviklingen gå mot noe som vil forbedre systemene med en fart som raskt vil ta igjen menneskers yteevne.

Et tegn på det kom i 2017 da Googles «deep mind»-maskin AlphaGo Zero lærte seg selv å spille det kinesiske spillet GO. På kort tid var den i stand til å slå den tidligere maskinen AlphaGo i 90 prosent av spillene. Den var ikke bare i stand til å bruke alle strategier som tidligere stormestere i Go noen gang hadde brukt, den fant opp nye strategier som ingen mennesker hadde tenkt på før.

Langt mer alvorlig er det at kinesiske myndigheter bruker kunstig intelligens til å overvåke, undertrykke og internerer den muslimske minoriteten Uigurene.

9 teknologiselskaper leder an i utviklingen av kunstig intelligens. I tillegg til de amerikanske gigantene Facebook, Google, Amazon, Apple og IBM, tar hun i boka også med de kinesiske: Baidu (ligner på Google), Alibaba (ligner på Amazon) og Tencent (ligner på Facebook).

– Er det slik at vi har gitt fra oss all kontroll over utviklingen av kunstig intelligens til disse 9 selskapene?

– Disse ni selskapene har over mange år konsentrert sin makt. Det har de gjort ved å samle store mengder persondata, men også gjennom sine teknologiske nyvinninger. De har de fleste patentene. De har penger til å tiltrekke seg de beste folkene. De har databasen, de har teknologien. Disse selskapene opptrer på en måte som reflekterer hvor de kommer fra: De tre kinesiske er uavhengige selskaper, men de er veldig tett koblet til myndighetene. I USA reflekterer de 5 store både det beste og det verste ved en fri markedsøkonomi, svarer Webb.

 

Autoritære Kina

Kina har bestemt seg for å bli verdensledende innen kunstig intelligens innen 2030. Myndighetene samarbeider tett med de store kinesiske teknologiselskapene. I tillegg finansierer kinesiske myndigheter universiteter, forskning og utvikling for enorme summer. I boka skriver Webb også om hvordan Kina bruker AI til å kontrollere befolkningen.

En pilot av det mye omtalte sosial kreditt-systemet er allerede under utprøving i byen Rongcheng i Shangdong-provinsen. Dersom noen krysser gata på rødt lys, fanges de opp av et kamera, med teknologi som bruker ansiktsgjenkjenning, men også kan gjenkjenne ganglaget. Dermed vil en storskjerm ute på gaten identifisere deg med navn og bilde. Systemet kan også måle om regninger betales i tide, hvor sosialt aktiv man er, hva man søker etter på internett, og samlet skal det kunne gi en indikasjon på hvor veltilpasset samfunnsborger man er.

Langt mer alvorlig er det at kinesiske myndigheter bruker kunstig intelligens til å overvåke, undertrykke og internerer den muslimske minoriteten Uigurene, en situasjon som i den senere tiden har utviklet seg fra vondt det verre.

Fraværet av kontroll fra myndighetene har gjort at de har kunnet vokse fort og få enorm markedsmakt og kontroll.

Kinas middelklasse vokser med enorm fart. Samtidig er Kina god på langsiktig planlegging. Deres såkalte «Belt-and-Road Initiative» går ut på å bygge ut infrastrukturen, som veier og broer. Men det er også en digital versjon av dette. Her samarbeider Kina med mange andre land. Deres strategi for kunstig intelligens er derfor noe vi kan forvente at ikke bare vil endre Kina, men også verden.

De tre kinesiske storselskapene Baidu, Alibaba, og Tencent dukket opp på slutten av 90-tallet, og har siden samarbeidet tett med kinesiske myndigheter. Dette samarbeidet er sentralisert og koordinert, ifølge Webb.

– Selv om Alibaba er på Nasdaq-børsen, er de fortsatt helt avhengig av kinesiske myndigheter i alt de gjør, forklarer Webb.

 

Markedsstyrte USA

I USA er det seks ledende selskaper innen kunstig intelligens, og Webb gir dem navnet G-MAFIA: Google, Microsoft, Amazon, Facebook, IBM og Apple.

Disse selskapene har bygget seg store på en frimarkedsideologi og en armlengdes avstand til myndighetene. Det er en konkurranse om å være først ute med det store nye, og det lages produkter for det private markedet. Det fører til et kortsiktig perspektiv på innovasjon. Nye produkter slippes på markedet uten en grundig gjennomgang av om det er negative konsekvenser for samfunnet eller bryter med etiske standarder. Det er bedre å be om unnskyldning etterpå enn å be om tillatelse først.

Annonse

Fraværet av kontroll fra myndighetene har gjort at de har kunnet vokse fort og få enorm markedsmakt og kontroll. Amy Webb forklarer det slik:

– I USA har vi ingen nasjonal strategi, ingen regulering, ingen oversikt, og selv på gode dager er det bare informasjonsutveksling mellom selskapene og myndighetene. Nå om dagen ansetter disse selskapene masse lobbyister, og gjør seg klare for en stor kamp mot myndighetene som vil regulere dem strengere.

– Du beskriver to regimer: Kina (autoritær og statlig topptung) og USA (markedsstyrt og desentralisert). Kan EU representere et tredje regime, og ta rollen som et mer demokratisk og samtidig mer regulerende alternativ til de to andre? 

– Jeg er redd for at regulering skaper unødvendige hindringer for alle de fantastiske mulighetene. Ta helsevesenet. Kunstig intelligens kan hjelpe leger med å sette komplekse diagnoser raskere, men da trenger de gode helsedata fra ekte pasienter. Hvis slike prosjekter stoppes av personvernregulering, får de ikke gode nok data. Systemet lærer dårlige, og resultatene blir mindre brukbare.

Webb har mer tro på at kunstig intelligens burde reguleres som et kollektivt gode

– Så deler av problemet er at det er upraktisk å regulere kunstig intelligens. Men det er også det at AI utvikler seg så raskt. Hva gjør du for eksempel med avanserte former for maskinlæring som Generative Adversarial Networks? [to nett som optimaliserer ved å konkurrere med hverandre] Det dreier seg ikke om data, så EUs personvernregler GDPR dekker det ikke, men det er dette vi burde bry oss om. Derfor tror jeg ikke standard regulering er veien å gå.

– Hva med regulering, for eksempel ved å bryte opp de store selskapene?

– Disse selskapene dominerer og har enorm makt. Tjenestene henger sammen, og er avhengig av hverandre. For eksempel henger Amazon web services, som tilbyr datalagring, sammen med Amazon.com. Myndighetene bruker tjenestene til Amazon for å lagre sine data. Amazon web services er igjen avhengig av maskinlæring fra de andre selskapene. Faren ved å bryte opp disse selskapene er at alle disse integrerte delene som gir stordriftsfordeler, slutter å fungere.

 

GAIA

Webb har mer tro på at kunstig intelligens burde reguleres som et kollektivt gode:

– Det jeg ønsker meg, men som kan være vanskelig å få til, er å opprette et helt nytt internasjonalt organ. Det kunne ligne litt på det vi har gjort på atomvåpen og kjernekraft. Tenk bare på det internasjonale atomenergibyrået, IAEA, de har konvensjoner som alle land må signere, de har rutiner for overvåkning og kontroll, og de har sanksjoner om reglene ikke følges. Noe lignende kunne vi også se for oss for kunstig intelligens. Generelt mener jeg vi må være klar over at vi ikke har noen felles retningslinjer som passer. Vi har ikke noe som heter «reguleringer for kunstig intelligens», og da må vi finne opp noe nytt. Det gjør vi best ved å samarbeide om det på tvers av landegrensene, sier Webb.

Men de som lagde systemet har ikke tenkt på at den også må være laget for mennesker med metallbøyle i BHen og stort krøllete hår.

Forslaget hennes er at USA, EU, Canada og Japan og andre land kunne gå i bresjen for et globalt overvåkningsorgan for kunstig intelligens, det hun kaller en Global Alliance of Intelligence Augmentation (GAIA). Hun ser for seg at et slikt organ kunne bringe sammen en lang rekke ledere og eksperter, ikke bare innenfor teknologi, men også på områder som økonomi, sosiologi og statsvitenskap. Kina skulle selvsagt også kunne inviteres inn hvis de ville være med, men de måtte godta GAIAs grunnprinsipper, som ville være å sette mennesket i sentrum for utviklingen av AI.

– Er du bekymret for nye former for ulikhet?

– Ja, det er jeg absolutt. Hvis vi ikke endrer det sporet vi er på nå, er jeg redd for at de rikeste har mulighet til å være private og anonyme, mens de uten penger må betale for tilgang på andre måter: de vil se annen type informasjon, være gjenstand for mer reklame og målrettet markedsføring, alle disse «usynlige avgiftene» som vi betaler for at tjenester på nettet er gratis. Noen blir også lettere avhengig av teknologien, eller lar seg lettere manipulere, mens andre enklere kan håndtere det ved å skru av og skaffe seg kontroll. Det skaper nye type forskjeller og forsterker eksisterende. Jeg vet at det høres mørkt og dystopisk ut, men jeg tror det er den utviklingen vi ser.

– I din trendrapport for 2019 er en hovedkonklusjon at «Personvernet er dødt».  Men utfordringene når det gjelder kunstig intelligens handler vel ikke egentlig så mye om personvern?

– Nei, det tror jeg du har rett i. Det handler ikke om «privacy» det handler om «agency». Algoritmene tar avgjørelser på våre vegne. Det gjør de ved å bruke verktøy som optimaliserer. Systemene lærer, de fortsetter å lære, og vi gir fra oss kontroll. Disse systemene blir bygget av en liten gruppe mennesker. Jeg tror ikke disse utviklerne hverken er spesielt slemme, rasistiske eller dårlige mennesker, men det er for mye forlangt å kreve at de har fantasi og opplevelseshorisont til å kunne lage noe som passer for alle typer mennesker.

 

Tusen små papirklipp

Kunstig intelligens tas i bruk på stadig nye samfunnsområder som transport, bank, og helse. Smarte apper og ting vi omgir oss med vil være koblet til kunstig intelligente systemer. Samfunnsendringene som kommer med økt bruk av kunstig intelligens, begynner med at vi mister kontrollen over små ting, tror Webb. Hun gir et eksempel på noe hun selv opplever:

– Når man er på en flyplass må man gjennom en disse metalldetektorene, og så er det den store maskinen som skanner deg. Når jeg går inn i den, gir det utslag hver gang. Det er fordi jeg har et veldig stort, krøllete hår, og jeg har en metallbøyle i BHen min. Det er ikke noe spesielt med meg. Men de som lagde systemet har ikke tenkt på at den også må være laget for mennesker med metallbøyle i BHen og stort krøllete hår. Det er ikke så allverdens viktig, men det er irriterende nok.

Amy Webb tror det vil komme et punkt hvor maskinene lærer så raskt at vi ikke kan stoppe dem eller endre kurs.

Kunstig intelligens vil komme til å bryte inn i hverdagen vår på denne måten, og det vil skje gradvis, nesten uten at vi legger merke til det. Det som burde bekymre oss er de små, men nærmest umerkelige endringene.

Amy Webb tror det vil komme et punkt hvor maskinene lærer så raskt at vi ikke kan stoppe dem eller endre kurs. I boken spår hun at det vil kunne skje omkring 2070. Vi har derfor et lite vindu nå hvor vi kan bestemme hva kunstig intelligens skal kunne brukes til og hvordan. Vi har fortsatt muligheter til å ta kontroll og påvirke utviklingen i riktig retning, mener hun.