Slik kan kunstig intelligens innføres i offentlig sektor

En viktig og ny digitaliseringsstrategi ble lagt fram av regjeringen i høst. Målet er at offentlige virksomheter skal ta i bruk teknologien innen 20205. Det er bra regjeringen er på ballen. Det er nyttig når KI-systemer kan benyttes til å forutsi sykefravær, oppdage fall hos eldre beboere på sykehjem og overvåke av snøskred eller flom. Generative modeller, som ChatGPT, kan avhjelpe saksbehandling og øke effektiviteten i offentlig sektor.

Den kanskje viktigste betingelsen for å lykkes med innføring av KI i offentlig sektor er at det gjøres i samarbeid med ansatte og tillitsvalgte.

Spørsmålet til myndighetene blir likevel: er forvaltningen satt i stand til å unngå fallgruvene?

I et notat fra Tankesmien Agenda peker vi på seks risikomomenter:

1. For det første må ikke risikoen for diskriminering En KI-modell som ukritisk er trent med data fra internett, vil fort kunne være like «fordomsfull» som internett selv. Manglende gjennomsiktighet i KI-modellene gjør identifisering av diskriminering utfordrende. Manglende forklarbarhet gjør det vanskelig å forstå hvordan algoritmene fungerer og om de diskriminerer.

 

2. For det andre er det en risiko knyttet til personvernregelverket. I 2024 gjennomførte Riksrevisjonen en undersøkelse i statlige virksomheter. Rundt 40 prosent svarte at det er vanskelig å ivareta personvernhensyn i arbeidet med å utvikle systemer for kunstig intelligens. I 2021 skulle for eksempel NAV predikere sykefravær ved bruk av KI. Prosjektet stoppet opp fordi det viste seg at det var vanskelig å avgjøre om en maskinlæringsmodell bruker personopplysninger i tråd med formålet. Lignende utfordringer vil komme opp gang på gang de kommende årene.

 

3. Manglende kompetanse blir ofte pekt på som den viktigste barrieren mot å ta i bruk KI-verktøy. Blant annet av byrået Samfunnsøkonomisk Analyse fra i år. Hvordan man organiserer seg, blir avgjørende for hvordan risikoen knyttet til tilstrekkelig kompetanse møtes.

Så hva kan ministeren stille opp med, i tillegg til et mål om bruk av KI?

4. Når KI tar over lederoppgaver kan det gi redusert jobbautonomi, økt arbeidsmengde, redusert jobbsikkerhet, lavere tillit, redusert jobbtilfredshet og motivasjon og høyere stressnivå. Den gode nyheten er at dette kan motvirkes. En ny undersøkelse fra FEPS og Tankesmien Agenda viser at disse negative konsekvensene kan reduseres dersom ansatte får innflytelse og medvirke når nye KI-verktøy tas i bruk.

 

5. Det er også et stort behov for å avklare juridiske spørsmål i bruken av kunstig intelligens. Forordningen om kunstig intelligens i EU er vedtatt og vil nå innføres i norsk lov. Hvordan forordningen tilpasses arbeidsmiljøloven, personopplysningsloven, personvernforordningen og likestillings- og diskrimineringsloven blir avgjørende. Her vil mange praktiske problemstillinger knyttet til KI måtte løses, og som krever offentlig debatt.

 

6. Den kanskje viktigste betingelsen for å lykkes med innføring av KI i offentlig sektor er at det gjøres i samarbeid med ansatte og tillitsvalgte. Retten til medbestemmelse og medvirkning er godt forankret, blant annet i Hovedavtalen og i Arbeidsmiljøloven. Men medbestemmelsen er ikke alltid reell, noe ikke minst FAFO har dokumentert. Og for å kunne delta i prosessen og drøfte, må tillitsvalgte ha kunnskap, og de må tas med på beslutninger om å innføre nye systemer. Det vil sikre nødvendig forankring, men ikke minst gi et bedre kunnskapsgrunnlag og redusere faren for nok et mislykket IKT-prosjekt i offentlig sektor.

 

Slik kan KI innføres i offentlig sektor

Så hva kan ministeren stille opp med, i tillegg til et mål om bruk av KI?

Vi foreslår flere viktige grep. For eksempel en aktivitets- og redegjørelsesplikt som setter krav om at KI-systemer må kunne forklares og at det rapporteres på hvordan de brukes. Det er videre behov for en gjennomgang av dagens lover med tanke på utvikling og forsvarlig bruk av kunstig intelligens i offentlig forvaltning.

Nye strukturer må også etableres. Et sentralt og statlig konsulentbyrå kan bistå med kompetanse og prosjektstøtte til kommuner og offentlige virksomheter. Ved å opprette tverrfaglige team som inkluderer IT-eksperter, jurister og saksbehandlere kan man møte komplekse utfordringer effektivt.

Hvis ikke går det utover arbeidsmiljø og trivsel på jobben.

Man trenger tydelige retningslinjer og tilgjengelige høykompetente team på kunstig intelligens. Å opprette nye fagmiljø i hver virksomhet vil verken være mulig eller hensiktsmessig. Tilgang til kompetanse bør derfor finansieres og koordineres fra høyeste hold, hos digitaliseringsminister Karianne Tung og hennes departement.

Felles for anbefalingene er dette: Ansatte og tillitsvalgte må konsulteres og involveres i alle faser av KI-implementeringen, og medbestemmelsen de har krav på må være reell. Hvis ikke går det utover arbeidsmiljø og trivsel på jobben. Og beslutningene blir dårligere.