Paven burde ha gått lenger i spørsmålet om kunstig intelligens

BOSTON: Kunstig intelligens endrer måten vi kommuniserer på, hvordan vi får tilgang til informasjon, hvordan vi jobber, hvordan inntekt og status fordeles – og til og med hvordan vi fører krig.

Likevel er det offentlige ordskiftet fortsatt snevert fokusert på konkurransen mellom KI-laboratorier eller på abstrakte debatter om teknologiens muligheter.

Nesten ingen stiller spørsmålet om hva formålet med KI bør være eller om vi – gjennom måten vi tenker på og gjennom våre institusjoner og kontrollmekanismer – er i stand til å styre teknologien på en måte som fører til omfattende forbedringer i menneskelig velferd.

Teknologisk fremgang er ikke nødvendigvis moralsk fremgang.

Det var derfor forfriskende å se at pave Leo XIV tok stilling til spørsmålet i sin første encyklika, der han beskriver KI-teknologiens nåværende utvikling som en alvorlig trussel mot menneskeverdet. Som økonom – og en som lenge har hevdet at resultatene av den teknologiske utviklingen ikke er forutbestemt, men formes av våre valg – er jeg positiv til hans innspill.

Leo ligger foran de fleste kommentatorer når han påpeker følgende: «teknologi er aldri nøytral, fordi den får egenskapene til de som utvikler, finansierer, regulerer og bruker den.»

Likevel er jeg bekymret for at selv han ikke har gått langt nok når det gjelder det mest avgjørende spørsmålet: Hva bør KI utformes til å gjøre?

Som Simon Johnson og jeg understreker i vår bok Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity, finnes det flere veier en teknologi som KI kan ta, og hver av dem har vidtrekkende konsekvenser for samfunnet. For eksempel har paven rett i å stille spørsmål ved den nåværende utviklingen av KI med tanke på krigføring og politivirksomhet. Det som for bare noen få år siden var tabu – KI-drevet masseovervåking og algoritmer som velger ut drapsmål – har blitt rutine.

Mens mange i Silicon Valley oppfordrer USA til å styrke sin harde makt gjennom et nytt militær-algoritmisk kompleks, advarer Leo om at «enhver teknologi som muliggjør angrep uten å se menneskers ansikter, senker den moralske terskelen for konflikt». Paven tar deretter til orde for «nedrustning av KI» for å frigjøre «den fra mentaliteten om ‘væpnet’ konkurranse, som i dag ikke bare er begrenset til den militære konteksten, men også er et økonomisk og kognitivt fenomen».

Men paven går ikke så langt som å stille spørsmål ved den rådende tenkningen som ligger bak utformingen av kunstig intelligens.

En mer fundamental innsikt ligger til grunn for disse spesifikke bekymringene: teknologisk fremgang er ikke nødvendigvis moralsk fremgang. Bare fordi noe er teknisk gjennomførbart, betyr det ikke at det er godt for menneskeheten. Hvorvidt en teknologi er ønskelig, avhenger av hvem som kontrollerer den, og av ideologien og interessene som styrer dem.

Leo antyder det jeg ser på som den mest umiddelbare risikoen, nemlig at «mens KI gir forventninger om at man kan øke produktiviteten ved å overta rutineoppgaver, tvinger den ofte arbeidstakere til å tilpasse seg maskiners hastighet og krav, i stedet for å utforme maskiner som kan samarbeide med arbeidstakerne».

Men paven går ikke så langt som å stille spørsmål ved den rådende tenkningen som ligger bak utformingen av kunstig intelligens. Hele KI-bransjens tilnærming bygger på ideen om å etterligne menneskelige evner og automatisere menneskelige oppgaver, med mål om å skape en «kunstig generell intelligens» (KGI) som kan gjøre alt et menneske kan.

Denne tenkningen bygger på den feilaktige antakelsen at maskinintelligens og menneskelig intelligens er grunnleggende like. Mennesker lærer i stor grad gjennom «one-shot»-læring. Vi danner hypoteser ut fra noen få eksempler, simulerer muligheter i tankene våre og forbedrer vår forståelse gjennom en sosial prosess preget av prøving og feiling.

Å bruke KI til å gjøre det mennesker ikke kan, slik at mennesker settes i stand til å gjøre mer, er mer produktivt enn etterligning.

Derfor lærer barn språk ved å etterligne noen få ord, generalisere og justere talen sin basert på hvordan andre reagerer. Vi er ikke særlig flinke til å ta til oss enorme mengder informasjon eller gå gjennom ustrukturerte data for å finne relevante mønstre.

I motsetning til dette fungerer KI-modeller best med enorme treningssett og utmerker seg i mønstergjenkjenning i stor skala, men de har ennå ikke vist ekte kreativitet. De har ingen erfaring med den virkelige verden og har heller ikke evnen til å lære gjennom prøving og feiling i samspill med den fysiske og sosiale verden (bortsett fra i begrenset grad når det finnes klare belønninger for forsterkningslæring innen spesifikke områder).

Når to ting er forskjellige, bør man ikke – og kan vanligvis ikke – bruke det ene til å etterligne det andre. Dette vil ikke gi tilfredsstillende resultater.

Det ville vært en kolossal feil dersom Phil Jackson, den legendariske treneren for Chicago Bulls på 1990-tallet, hadde presset Michael Jordan til å etterligne alt det Scottie Pippen og Dennis Rodman gjorde. Laget gikk fra mesterskap til mesterskap nettopp fordi disse spillerne samarbeidet og utfylte hverandres ferdigheter.

Vi kan og må kreve en annen utforming av kunstig intelligens.

Det samme gjelder kunstig intelligens og menneskelige ferdigheter. Å bruke KI til å gjøre det mennesker ikke kan, slik at mennesker settes i stand til å gjøre mer, er mer produktivt enn etterligning. I et fremtidsscenario der KI forsterker, snarere enn erstatter, menneskelige evner, vil elektrikere få hjelp av KI-diagnostikk, sykepleiere vil konsultere KI for å tolke symptomer, og lærere kan bruke KI til å tilpasse undervisningen til hver elev.

Optimister og bransjeinnsidere vil kanskje hevde at automatiseringsorientert KI fortsatt kan være til nytte for alle, forutsatt at omfordelingspolitikken holder tritt. Men dette argumentet har en dårlig historikk. Fire tiår med digital automatisering har allerede konsentrert gevinstene på toppen, uthulet arbeidslivet for de med middels kompetanse og ført til en skuffende produktivitetsvekst for økonomien som helhet.

Det er liten grunn til å tro at en enda kraftigere runde med automatisering, drevet frem av en bransje som er enda mer preget av markedskonsentrasjon, vil gi et annet resultat.

Og enda mer står på spill globalt enn for USA. For milliarder av mennesker som lever i utviklingsland, der en anstendig jobb er den eneste sikre veien ut av fattigdom, er en automatiseringsorientert KI-agenda en oppskrift på katastrofe. Vi kan og må kreve en annen utforming av kunstig intelligens.

Men også vi andre må stå opp for menneskeheten.

Kanskje er den største svakheten ved dagens KI-bransje at den nekter å erkjenne noe av dette. Noen svært få mennesker slipper denne teknologien løs på verden, og de styres av en ideologi om kontroll (over menneskeheten) og av en overbevisning om at maskiner er gjennomgående bedre enn mennesker.

Leo har rett når han etterlyser moralsk klarhet og en seriøs samfunnsdebatt. Men samtalen må dreie seg om mer enn bare formaninger. Man må fremme og diskutere konkrete valg: konkurransefremmende tiltak (antitrusttiltak) rettet mot de dominerende plattformene, offentlige investeringer i kunstig intelligens som kan forsterke og forbedre arbeidstakernes evner, regulering av overvåking og autonome våpen – og reelle rettigheter for arbeidstakere og borgere over dataene som disse systemene er avhengige av.

Leos innspill gjør en slik respons noe mer sannsynlig enn tidligere. Men også vi andre må stå opp for menneskeheten.

Oversatt av Marius Gustavson

 Copyright: Project Syndicate, 2026.
www.project-syndicate.org