Myndighetene må forme framtidens kunstige intelligens

Teksten er skrevet sammen med Fausto Gernone.

LONDON: Sist desember satte EU en global presedens ved å fullføre arbeidet med Artificial Intelligence Act, et av verdens mest omfattende regelverk for kunstig intelligens (KI).

Europas banebrytende lovgivning kan signalisere en mer omfattende trend i retning av en KI-politikk som i større grad tar hensyn til samfunnets interesser. Mens regulering er nødvendig, er det ikke tilstrekkelig. Utover å pålegge begrensninger på private KI-selskaper, må myndighetene innta en aktiv rolle i utviklingen av kunstig intelligens ved å utforme systemer og forme markeder til det felles beste.

Selv om kunstig intelligens vil utvikle seg raskere enn politiske vedtak og reguleringer, vil ikke lovens grunnleggende prinsipper måtte endres.

KI-modeller er i rask utvikling. Da EUs reguleringsmyndigheter offentliggjorde førsteutkastet til KI-loven i april 2021, ble den hyllet og ansett for å være utformet slik at den kan tilpasses framtidig teknologisk endring. (EU omtaler denne tilnærmingen som «future-proof».)

Men bare halvannet år senere ble den satt på prøve, som følge av lanseringen av ChatGPT, og teksten måtte oppdateres.

Reguleringsinnsatsen har likevel ikke vært forgjeves. For eksempel vil lovens forbud mot KI i biometrisk politiarbeid sannsynligvis forbli relevant, uavhengig av framskritt innen teknologien. Videre vil risikorammeverket nedfelt i KI-loven, hjelpe politiske beslutningstakere med å beskytte oss mot noen av teknologiens farligste bruksområder.

Selv om kunstig intelligens vil utvikle seg raskere enn politiske vedtak og reguleringer, vil ikke lovens grunnleggende prinsipper måtte endres. Mer fleksible reguleringsverktøy vil riktignok være nødvendige for å finjustere og oppdatere reglene.

Innovasjon har en retning som avhenger av forholdene den oppstår i. Og politiske beslutningstakere kan påvirke disse forholdene.

Dersom myndighetene skal sørge for at transformerende innovasjoner resulterer i inkluderende og bærekraftig vekst, må de i større grad være med på å forme og skape markeder, framfor bare å fikse dem.

Men dersom man kun tenker at staten skal opptre som regulerende myndighet, ser man ikke det større bildet og går glipp av et viktig poeng. Innovasjon er ikke bare et tilfeldig markedsfenomen – et resultat av heldige omstendigheter. Innovasjon har en retning som avhenger av forholdene den oppstår i. Og politiske beslutningstakere kan påvirke disse forholdene.

Framveksten av et dominerende teknologisk design eller en bestemt forretningsmodell er resultatet av en maktkamp mellom ulike aktører – selskaper, statlige organer, akademiske institusjoner – med motstridende interesser og ulike prioriteringer. Som følge av denne kampen, kan den resulterende teknologien være mer eller mindre sentralisert, mer eller mindre proprietær, og så videre.

Markedene som dannes rundt ny teknologi følger det samme mønsteret, med viktige fordelingsmessige virkninger. Som programvarepioneren Mitch Kapor uttrykker det:

«Arkitektur er politikk».

En teknologis utforming og omkringliggende infrastruktur betyr mer enn regulering i forhold til hvem som kan gjøre hva med teknologien og hvem som kan dra nytte av den. Dersom myndighetene skal sørge for at transformerende innovasjoner resulterer i inkluderende og bærekraftig vekst, må de i større grad være med på å forme og skape markeder, framfor bare å fikse dem.

Ved å sentralisere verdiene innenfor sine egne tjenester, vil de redusere verdistrømmen til artistene de er avhengige av.

Når myndigheter bidrar til innovasjon gjennom dristige, strategiske, oppdragsorienterte investeringer, kan de skape nye markeder og trekke inn private aktører.

I dag er det store private selskaper som styrer innovasjonen knyttet til kunstig intelligens. Dette fører til en infrastruktur som tjener interessene til de etablerte markedsaktørene. Og det fører til en utvikling som forverrer den økonomiske ulikheten. Dette gjenspeiler et vedvarende problem.

Noen av teknologiselskapene som har tjent mest på offentlig støtte – som for eksempel Apple og Google – har også vært blant de selskapene som blir beskyldt for å bruke sine internasjonale operasjoner til å unngå å betale skatt. Disse ubalanserte, parasittiske forholdene mellom store selskaper og staten risikerer nå å bli ytterligere befestet av KI, som ser ut til å belønne kapital mens den reduserer avkastningen på arbeid.

Selskapene som utvikler generativ KI, og disse selskapenes verditappende atferd, er allerede et diskusjonstema, på grunn av deres ubegrensede bruk av opphavsrettslig beskyttet tekst, lyd og bilder for å trene modellene sine.

Dette vil ikke være mulig dersom vi bare har omfordelende og regulerende stater som kun handler reaktivt.

Ved å sentralisere verdiene innenfor sine egne tjenester, vil de redusere verdistrømmen til artistene de er avhengige av. Som med sosiale medier, er insentivene innrettet for å tappe verdier (i form av en urettmessig profitt, såkalte «rents»), der dominerende mellommenn karrer til seg profitt på bekostning av andre.

Dagens dominerende plattformer, som Amazon og Google, har utnyttet sine posisjoner som portvoktere ved å bruke algoritmene sine til å hente ut stadig høyere avgifter («algoritmisk oppmerksomhetsrente») knyttet til brukertilgang.

Da Google og Amazon ble store pengemaskiner – systemer for å tappe mest mulig verdi – forverret informasjonskvaliteten seg, og verdier ble hentet ut av økosystemet av nettsider, produsenter og app-utviklere som plattformene var avhengige av.

Dagens KI-systemer kan utvikle seg på en lignende måte: verditapping, snikende monetarisering og forringelse av informasjonskvaliteten.

Å styre generative KI-modeller til det felles beste vil kreve gjensidig fordelaktige partnerskap, rettet mot felles mål og skapelsen av offentlig, heller enn bare privat, verdi. Dette vil ikke være mulig dersom vi bare har omfordelende og regulerende stater som kun handler reaktivt.

Sentralisering begrenset ikke bare innovasjonshastigheten, men også de samfunnsmessige gevinstene som kunne ha oppstått.

Vi trenger entreprenørstater som er i stand til å etablere pre-distributive strukturer som gjør at man kan dele risiko og belønning på forhånd. Politiske beslutningstakere bør forsøke å forstå hvordan plattformer, algoritmer og generativ KI skaper og «utvinner» verdier, slik at de kan skape betingelsene – for eksempel rettferdige designregler – for en digital økonomi som belønner verdiskapning.

Internett er et godt eksempel på en teknologi som er designet rundt prinsipper om åpenhet og nøytralitet. Tenk på prinsippet om «end-to-end», som sikrer at internett fungerer som et nøytralt nettverk ansvarlig for datalevering. Mens innholdet som leveres fra datamaskin til datamaskin kan være privat, administreres koden offentlig. Og selv om den fysiske infrastrukturen som trengs for å få tilgang til internett er privat, sikrer den opprinnelige utformingen at ressursene for innovasjon på nettverket er fritt tilgjengelige når man er på nett.

Dette designvalget, koordinert gjennom det tidlige arbeidet til bl.a. DARPA (Defense Advanced Research Projects Agency), ble et styrende prinsipp for utviklingen av internett. Det muliggjorde fleksibilitet og ekstraordinær innovasjon både i offentlig og privat sektor. Ved å forestille seg og forme nye domener, kan staten etablere markeder og styre veksten, i stedet for bare å stimulere eller stabilisere den.

Det er vanskelig å forestille seg at private bedrifter ville ha fulgt like inkluderende prinsipper om de hadde utviklet internett uten statlig involvering. Tenk på telefoniteknologiens historie. Statens rolle var hovedsakelig regulatorisk, og staten overlot innovasjonen i stor grad til private monopoler.

Sentralisering begrenset ikke bare innovasjonshastigheten, men også de samfunnsmessige gevinstene som kunne ha oppstått.

En ny politisk tilnærming, der man i større grad satte som mål å fremme fellesskapets interesser, hadde en vidtrekkende og transformerende innvirkning på teknologisk innovasjon.

For eksempel overbeviste telekommunikasjonsselskapet AT&T i 1955 reguleringsorganet FCC (Federal Communications Commission) om å forby et apparat designet for å redusere støy på telefonmottakere. AT&T påberopte seg også å ha eksklusive rettigheter til nettverksforbedringer.

Den samme formen for monopolistisk kontroll kunne ha begrenset internett til bare å være et nisjeverktøy for en utvalgt gruppe forskere, i stedet for den universelt tilgjengelige og transformative teknologien den har blitt.

På samme måte viser transformasjonen av GPS, fra et militært verktøy til en universelt nyttig teknologi, behovet for å styre innovasjon til det felles beste. GPS ble opprinnelig designet av USAs forsvarsdepartement for å koordinere militære ressurser, og offentlig tilgang til GPS-signaler ble bevisst begrenset av nasjonale sikkerhetsmessige årsaker. Men da den sivile bruken oversteg den militære, gjorde den amerikanske administrasjonen, under president Bill Clinton, GPS mer tilpasset til sivile og kommersielle formål over hele verden.

Dersom myndighetene skal kunne håndtere farene ved kunstig intelligens på en god måte, må de utvide sin rolle og gjøre mer enn bare å regulere.

Denne handlingen demokratiserte ikke bare tilgangen til presis geolokasjonsteknologi; den utløste også en bølge av innovasjon på tvers av mange sektorer, inkludert navigasjon, logistikk og stedbaserte tjenester.

En ny politisk tilnærming, der man i større grad satte som mål å fremme fellesskapets interesser, hadde en vidtrekkende og transformerende innvirkning på teknologisk innovasjon. Men dette eksempelet viser også at styring til det felles beste er et bevisst valg som krever kontinuerlige investeringer, en høy grad av koordinering og evne til å levere.

For å anvende en slik tilnærming på KI-innovasjon, vil vi trenge inkluderende, oppdragsorienterte styringsstrukturer der man har midler til å investere sammen med partnere som anerkjenner potensialet for statsledet innovasjon. For å koordinere innsatsen på tvers av sektorer, slik at man kan oppnå ambisiøse mål, bør politiske beslutningstakere knytte betingelser til offentlig finansiering, slik at risiko og belønning deles mer rettferdig. Det betyr at man må sette klare mål som bedrifter må leve opp til og som de holdes ansvarlige for.

Man må sette høye arbeidsrelaterte, sosiale og miljømessige standarder. Og man må kreve deling av overskuddet med fellesskapet. Disse betingelsene bør utformes slik at man kan kreve at de store teknologiselskapene er mer åpne og transparente. Dette er det minste vi bør forvente dersom vi tar ideen om interessent-kapitalisme på alvor.

Vi stimulerer til mer og bedre innovasjon når mange har muligheten til å delta og når belønningene blir bedre fordelt.

Dersom myndighetene skal kunne håndtere farene ved kunstig intelligens på en god måte, må de utvide sin rolle og gjøre mer enn bare å regulere. Ja, ulike lands myndigheter har ulik kapasitet og kompetanse, og noen er svært avhengige av det som skjer internasjonalt – av den globale politiske økonomien for kunstig intelligens.

Det som er den beste strategien for USA er kanskje ikke det for Storbritannia, EU eller andre land og økonomier. Men alle bør unngå denne feilen: å anta at styring av kunstig intelligens til det felles beste er uforenlig med å skape en tilpasningsdyktig og konkurransedyktig KI-industri. Tvert imot:

Vi stimulerer til mer og bedre innovasjon når mange har muligheten til å delta og når belønningene blir bedre fordelt.

Oversatt av Marius Gustavson

Fausto Gernone er doktorgradsstudent ved UCL Institute for Innovation and Public Purpose og er på et forskningsbesøk ved Haas School of Business ved University of California, Berkeley.

Copyright: Project Syndicate, 2024.
www.project-syndicate.org