Hva skjer hvis vi overlater KI til øst og vest?

For litt siden var jeg på en dypt tankevekkende lunsj. Våre «kollegaer» i tankesmia Langsikt hadde invitert canadiske Yoshua Bengio til Oslo. Bengio er én av tre. De kalles gudfedre. Og på en måte er det skumlere enn i mafiafilmene. For sammen med Geoffrey Hinton og Yann LeCunn var Bengio med å legge grunnlaget for teknologien bak Chat GPT og store språkmodeller.

Selv har Bengio gått for å redde menneskeheten.

Han er altså viktig for både utviklingen og forståelsen av KI. Hinton og LeCunn gikk inn i selskaper som Meta og Google. De har tjent til salt på maten, og langt mer.

Selv har Bengio gått for å redde menneskeheten. Han har startet tankesmia Law Zero for å utvikle trygg kunstig intelligens.

Europa må handle

Det var en dypt bekymret, godt voksen mann jeg møtte. En som advarer mot at utviklingen nå går så fort at det kan true helt grunnleggende sider ved menneskelivet. Han stilte spørsmål som genuint fikk meg til å tenke: Hva om det oppstår en menneskefiendtlig KI?

Enkelt budskap

Til studentene på Universitetet i Oslo hadde han et enkelt budskap: «Europeiske land må ta utfordringen med å regulere KI. Disse systemene må bli utviklet på grunnlag av sannhet og verdier som nesten alle de europeiske landene deler».

Han legger med andre ord vekt på europeisk sivilisasjon i sin måte å argumentere på. Det gir mening.

Naivt

Akkurat nå står vi og ser på en offentlighet hvor algoritmene som fyller tiden til omtrent alle under 40, er designet av enten tech-oligarker i California eller en ettpartistat i øst. Det vil være himmelropende naivt å tro at noen av disse er interessert i å bidra til velfungerende sosiale demokratier i Europa. De er opptatt av makt og penger.

Hva skjer hvis vi overlater KI til øst og vest?

Det er ennå for tidlig å si hvor stor plass KI får i samfunnsutviklingen. Noen mener den forrige store teknologiske omveltningen av samme størrelse var da vi fikk strøm.

Strøm, du. Intet mindre. Andre er mer tilbakeholdne. Alle er enig om at det forandrer mye.

Alternativet

Hvis vi tar utgangspunkt i det mest radikale scenarioet, så vil det være en enorm risiko for vår del av verden at også KI er noe som utelukkende eies og utvikles av tech-oligarker med bunkers på New Zealand og drømmer om Mars – eller ja, et imperium i øst. Bengio mener altså at land med lang demokratisk tradisjon må utvikle egne språkmodeller som alternativ til USA og Kina. Jeg vil legge til: også egne sosiale medier, som kanskje nettopp kan bli det igjen: sosiale.

Vi er ved et vendepunkt.

Hva skjer hvis vi overlater KI til øst og vest? Blir vi nødt å be Trump og Xi pent om å få «strøm» om noen år? Og hvilke verdier mates KI med da? Hva er KI sin grunnlov, som Bengio er så opptatt av?

Nei, her bør det tas grep. Vi er ved et vendepunkt. Europas andel av verdens BNP har sunket. I 1992 var den på 30 prosent. Nå er den på 16 prosent. Samtidig blir store deler av verdensøkonomien kanalisert inn i den digitale sfæren.

Ta grep

Krigen i Ukraina tærer på våre samfunn og vår økonomi. Og politisk går vi dessverre feil vei, også i møte med press fra tech-gigantene. Som Bernard Ellefsen skrev tankevekkende om i Morgenbladet på fredag. EU-kommisjonen holder ikke lengre regulerings-fanen høyt i møte med tech-lobbyen. «Brussel-effekten» er død. Nå er det Washington som setter tempoet for deregulering i Europa», kunne vi lese i Politico. Det skjedde nå i november.

Vi bør ikke gi opp håpet om å styre utviklingen.

Men er det håp? Vel, Europa har tidligere vist at verdensdelen kan ta grep. Som min kollega Hilde Nagell skriver i boka Digital revolusjon: regulering gir frihet for enkeltmennesket.

Vi bør ikke gi opp håpet om å styre utviklingen. En god start er arbeidet som skjer med aldersgrenser for smarttelefoner og sosiale medier. Det vil gi mer tid, bedre psykisk helse, ja mer frihet.

Nye grenser

November er nemlig ikke bare dårlig. For bare fem dager siden vedtok EU-parlamentet at sosiale medier bør få en 16-års grense. Som min andre KI-kollega Gabriel Quigstad Trampe skrev, vedtaket «kommer ikke en dag for tidlig».

Ja, der er det på høy tid at vi får opp farten.

Vår egen regjering har også vært med på reisen. Ingen er i tvil om hva Kari Nessa Nordtun mener om mobilens plass i unges liv. Men det trengs mer. Norge har én stor verdi. For uansett hva som kommer til å skje med KI, er en ting sikkert. Det trengs energi, store mengder energi. Og på dette området er lille Norge enn så lenge en stormakt.

De siste ukene har debatten om forholdet til EU handlet mest om ferrolegeringen og motstridende interesser. Men i de virkelig store spørsmålene, om de teknologiske rammene for samfunnsutviklingen. Ja, der er det på høy tid at vi får opp farten. Her trengs det en europeisk løsning.