At tech-ledere frister med sosialisme, bør få oss til å skjelve i buksene.
Vi har vært her før. Når verden står overfor mulig totalødeleggende krefter, vil politisk ledelse på tvers av landegrensene kunne bli enige om å holde tilbake. Det skjedde under atomkappløpet. Og en gjengs oppfatning er at det samme vil skje med utviklingen av kunstig intelligens (KI) – at reguleringer som bremser utviklingen vil komme på plass før det er for sent.
Men det er en vesensforskjell som mange glemmer når de spekulerer i sannsynligheten for at KI skal utslette hele menneskeheten:
Atomkappløpet handlet om å etablere makt og dominans. KI handler om å maksimere profitt og skape monopol. Om man setter det helt på spissen.
Vi kan være forsiktige og bruke verktøyet med omhu.
Da jeg møtte professor emeritus Kalle Moene for et portrettintervju, sammenlignet han tech-selskapene med East India Company som for over 400 år siden kontrollerte handelsstasjoner, handelsruter og land. Det lå en tydelig advarsel i Moenes betraktninger.
Sammenligningen handler om konsentrasjon av makt og hvor verdensomspennende det er. Myndighetene som skal kontrollere tech-selskapene er i ferd med å bli avhengige av teknologien.
«Du kan ikke kontrollere en som du er avhengig av. Det er jo det samme prinsippet i begge de to tilfellene. 400 år imellom», sa Moene.
Det bør få alle varsellamper til å blinke. I dag kappes et knippe amerikanske og kinesiske tech-selskaper om å lage den beste modellen. Derfor er nå teknologi som kan gjøre oss supereffektive, gratis eller på billigsalg.
I retur gir vi bort data. Alt fra hverdagslige tanker, spørsmål om psykisk helse og matoppskrifter til bedriftssensitive opplysninger. Helt uskyldig, tenker mange. Hva kan det egentlig ha å si? Men i sum brukes dette til å bygge en intelligens som med tiden potensielt kan overgå vår egen. Vi kan være forsiktige og bruke verktøyet med omhu. Likevel er det utopi å tro at en samlet verdensbefolkning er i stand til det. Det blir for teknisk krevende og det er for fristende til å bare chatte i vei.
Elon Musk har uttalt at vi trolig ikke trenger å jobbe.
Når kappløpet er over og et knippe tech-selskaper har vunnet racet, vil prisene etter alt å dømme skyte i været. Innen den tid er vi fanget. Avhengig av en teknologi som vi har bidratt til å skape i vår evinnelige jakt etter effektivitet. Noen få aktører vil kontrollere informasjonsflyten og utviklingen. Vi andre må betale prisen. Det vil bli dyrt og det kan skape enorme klasseskiller. De som har råd. Og alle de andre. Det er i hvert fall nærliggende å tro.
Teknologien utvikler seg i en hastighet vi aldri har opplevd maken til. Det er en eksponentiell vekst uten sidestykke. Hockey stick-effekten kommer snart – og grafene som viser vekst vil skyte i været, advarer tidligere president Barack Obama. «All bets are off». Men det er kanskje ikke for sent å snu.
Alle våre individuelle sikkerhetstiltak vil være forgjeves om ikke verdensledere klarer å bli enige om å begrense teknologien. Da kan KI bli den største forskjellsmaskinen vi noensinne har sett. KI vil ikke nødvendigvis utslette verden, men den nye teknologien vil endre våre samfunn for alltid.
Vi er tvunget til å håpe på en sosialisme det er umulig å tro på.
For hvilken bedriftsleder vil ikke effektivisere, kutte kostnader og maksimere profitt? Om KI kan overta en oppgave, gjøre den billigere og like effektivt, hvorfor skal man da ha ha et menneske til å gjøre jobben? For all del, teknologien kan ha en oppside. Kanskje kan den bidra til å kurere kreft? KI kan gjøre oss mer effektive og frita oss fra automatiserte, kjedelige oppgaver. Det kan gi rom for mer kreativitet. Vi kan håpe at tech-selskapene er ansvarlige og begrenser seg selv. Men det er usannsynlig. Det er for mye penger i det.
Politiske ledere på tvers av landegrensene må forstå alvoret. De må forstå at måten vi lever på står på spill. At vi potensielt faktisk kan stå overfor en biologisk evolusjon, hvor som enkelte tech-ledere spår at vi må smelte sammen med maskinene for å overleve. Og at denne evolusjonen vil ta noen få tiår, ikke tusen.
Spørsmålet er om de våger å stole nok på hverandre til å gamble med å gå glipp av økonomisk verdensherredømme.
Spekulasjoner om skrekkscenarioer hører til store nyvinninger. Man kan også lure på om enkelte av de skumleste av uttalelsene egentlig er ment for å drive aksjekursen opp. KI vil uansett føre til store gjennomgripende endringer i samfunnet.
Elon Musk har uttalt at vi trolig ikke trenger å jobbe. At å ha en jobb kan bli litt som å ha en hobby. Hva skal vi leve av da? En svært høy borgerinntekt. Formålet med KI-utviklingen er altså sosialisme! Men aller først skal altså noen få mektige menn bli uhorvelige rike og mektige. Tygg litt på den.
Heldigvis er Stubb og Støre på saken.
Vi bør ta professor Kalle Moenes advarsel på alvor. KI er et for kraftfullt verktøy til å ikke være underlagt demokratisk kontroll.
Heldigvis er Stubb og Støre på saken. Statsminister Jonas Gahr Støre fronter sammen med sin finske kollega, president Alexander Stubb, et opprop om bedre internasjonal kontroll av KI. Oppropet har fått tilslutning av 30 land. Men uten Kina og USA på laget, kommer de ingen vei.
Spørsmålet er om de våger å stole nok på hverandre til å gamble med å gå glipp av økonomisk verdensherredømme. For kappløpet står mellom kinesiske og amerikanske tech-selskaper. Resten av oss er satt på tilskuerbenken. Overlatt i hendene til Musk og de andre tech-oligarkene. Vi er tvunget til å håpe på en sosialisme det er umulig å tro på.
Kommentarer