Bekymret for totalitære algoritmer

Silvija Seres (48). Bedriftsrådgiver og teknolog. President i norsk Polyteknisk forening. Styremedlem i flere selskaper.

Silvija Seres (SS): Jeg er mest bekymret for polariseringen som vil komme av teknologiens enorme effektivitet og de store og økende forskjellene i vår evne til å utnytte denne effektiviteten. Retorikken fra Silicon Valley er at de skal redde verden – én milliard mennesker av gangen, men det ser ikke ut til å endre livssituasjonen til de fattigste, svakeste og sykeste folka. Vi har lenge hatt mer enn nok teknologi til å dekke alles grunnleggende behov innen energi, mat, vann og helse, men det viser seg at dette likevel er tjenester som er for fristende å tjene penger på.

Det er skapt et bilde av at alle de fattige bøndene i Afrika skal få tilgang til ny teknologi: Det skal komme en drone og ta blodprøver av deg uansett hvor du bor, og så kan vi sende deg det du trenger fra et 3D-printerverksted alle har i nærheten. Det høres fantastisk flott ut, men det finnes ikke en forretningsmodell som støtter en slik utvikling i dag. Isteden må du først bli en Bill Gates, og så kan du eventuelt gi noe tilbake da, men andre veien går ikke.

Du blir ikke rik av å bruke teknologien du utvikler til å hjelpe flest mulig.

Du blir ikke rik av å bruke teknologien du utvikler til å hjelpe flest mulig. Det vi har sett hittil, når det gjelder for eksempel tilgang på utdanning som teknologien gjør enklere, så er det ikke blitt slik at svært mange har fått bred tilgang. Det er isteden slik at noen få har fått veldig mye mer.

Teknologiens gave er økt velferd, men teknologiens nedside er økte forskjeller og mer polarisering.

Noen av de store politiske utfordringene jeg ser fremover er økt ulikhet, ny personvernproblematikk, institusjonsdød, jobb-, utdannings- og demografirevolusjon og fraværende datasikkerhet som blir til fraværende samfunnssikkerhet. Men mest av alt: Vi følger ikke med! Cambridge Analytica samlet inn privat informasjon fra over 80 millioner Facebook-brukere som ble misbrukt i den amerikanske valgkampen. Denne skandalen er det verste etiske overtramp av teknologi noensinne, men hvor mange har egentlig tatt seg bryet med å forstå det som skjedde?

Teknologiens gave er økt velferd, men teknologiens nedside er økte forskjeller og mer polarisering.

Jeg er også bekymret for det jeg kaller algoritmisk totalitarisme. Bruken av kunstig intelligens medfører en del etiske problemstillinger. Et eksempel er følgende: En selvkjørende bil må ta en avveining om det dukker opp et barn i veien foran den. Skal den krasje i barnet, skal den krasje i bilen ved siden av seg eller skal den kjøre i grøfta? Det samme ser vi når vi snakker om banker: Hvilke formler skal ligge til grunn for algoritmene den automatiske tjenesten i banken, som bestemmer hvem som får lån eller ikke, baseres på? Og hvem skal være med å bestemme hvordan algoritmene som ligger til grunn for en robotkirurg skal utformes? Skal robotkirurgen avslutte operasjonen om det bare er femti prosent sjanse for overlevelse? Og hva når det gjelder robotdommere i et rettsal?

En annen utfordring er ansvar. Hvem er ansvarlig når ting går galt i eksempelet med den selvkjørende bilen: Er det den som har laget roboten, den som har laget veien bilen kjører på, den som eier bilen, eller den som har skrevet algoritmene? Hvordan regulerer vi dette?

Dette viser bare at det trengs langt flere på banen enn teknologer når vi utformer tjenester og varer som baseres på teknologi. Det er ikke kunstig intelligens som har god eller dårlig etikk, det er de som anvender den som er altfor ubevisste sitt politiske ansvar.

En stor utfordring ved kunstig intelligens er at de er lærende. De speiler menneskers oppførsel rundt dem og forsterker denne oppførselen. Det vil si at våre forutinntatte holdninger til for eksempel en type mennesker blir aksentuert hos roboter som bygger på kunstig intelligens. Vi ser det i eksperimenter, at det tar kort tid før slike tjenester blir svært sjåvinistiske og rasistiske.

Dette er bare enda et eksempel på at den fantastiske historien gutta i Silicon Valley forteller, om hvordan kunstig intelligens kan redde verden, ikke er hele bildet. Vi vet nok fra å ha studert kriger og konflikter til å vite at vi mennesker har en mørk side. Teknologien kan forsterke disse sidene dersom vi ikke regulerer den ekstremt nøye.

Hannah Gitmark (HG): Hvordan kan vi løse disse oppgavene?

SS: Kunnskap, kunnskap og kunnskap.

Kunnskap uten kultur er blind; kultur uten kunnskap er maktløs. Vi må lære oss verktøyene for fremtiden, og så må vi tørre å ta en posisjon om hva vi vil med dem, hvordan og hvorfor.

Diskusjonen om dette dreier seg om «mindset or skillset» er meningsløs, det er aldri bare den ene eller den andre. Det er alltid begge deler. Det er nå økende forståelse og enighet om dette.

Vi har ikke tid til å vente på at alle opparbeider seg dyp teknologikunnskap

Du må selvsagt ha et sett med skills, altså vite noe om hvordan du skal bruke de verktøyene som skal endre livet ditt, og om hvordan de fungerer. Ellers får du ikke gjort noen ting. Så en del må vi lære. Men vi har ikke tid til å vente på at alle opparbeider seg dyp teknologikunnskap. Jeg tror derfor vi må lære teknologi på samme måte man lærer business når man tar en MBA. Man lærer seg en del gode eksempler innenfor mange temaer som regnskap, finans, organisasjonspsykologi, gründerskap og markedsteori, og så anvender man det. Kanskje man kunne lært seg litt om de store teknologiske trendene som skjer akkurat nå. Jeg har samlet dem i det jeg kaller 12 «gutenbergske øyeblikk». Det er altså 12 hendelser som endrer måten vi produserer og konsumerer dramatisk, slik Johannes Gutenbergs oppfinnelse av boktrykkerkunsten gjorde. Et slikt øyeblikk er VR – altså virtuell virkelighet. Andre er droner, biotech og blockchain. Så må vi ha selvtillit til at det holder til å mene og vise hva man vil med disse teknologiene.

Det er her mindset kommer inn. Vi bør stille oss tre spørsmål: Det første er «Hva kan vi effektivisere og hva kan vi transformere?». Veldig mange tror at digitalisering bare handler om å gjøre det samme som før, bare raskere og bedre. Det er bare effektivisering, ikke transformasjon. Derfor tapte Nokia kampen mot Apples Iphone. De lagde jo hele tiden bedre Nokia-utgaver, men det hjelper ikke når noen klarer å finne opp telefonen på ny.

Det var ikke millennials som lagde Finn.no.

Det er ikke nok å tenke bare på effektivisering, men det er definitivt en nødvendig del av framtidsstrategien. Et positivt eksempel er Nordea, som bruker over en milliard euro bare på et av sine effektiviserende IT-prosjekter – et nytt transaksjonssystem som bytter ut 300 gamle mens de kjører. Det er vanskelig og dyrt, men nødvendig hygiene fordi all den nye reguleringen bankene nå underlegges krever fullautomatisering av prosesser. Det bare må gjøres.

Det andre spørsmålet vi bør stille oss er «Hvordan endres grenseflatene for min organisasjon?». Her er det mange som ser at vi trenger helt nye tjenester i framtiden, men som ikke tør satse på dem fordi vi tjener så mye penger på de gamle. Schibsted Media turte og vant. Nitti prosent av konsernets inntekter kommer i dag fra den digitale armen. Det var ikke gjort i en fei – det var først på fjerde forsøk at Finn ble en suksess. Hadde de ikke turt å feile ville de ikke kommet så langt til slutt. Dette viser også at denne troen på at det er «the millennials» som skal løse alt og ordne opp ikke stemmer. Det var ikke millennials som lagde Finn.no. Vi skal ikke være blinde på alder når det gjelder digital dristighet. De såkalte millennials var ikke der da internett kom. De har ikke sett den første dotcom-kræsjen. Å ha vært med på dette har lært mange god forretningsskikk.

Det tredje spørsmål er «Hva er mitt samfunnsansvar?». Her kjører mange på autopilot. Men når samfunnet endres raskt må vi innse at samfunnsansvaret også gjør det. Ta NRK som eksempel. Deres samfunnsoppdrag er å demokratisere tilgangen til informasjon i landet og gi stabil tilgang på den. Nå ser vi at tilgangen på objektiv og kvalitetssikret informasjon er blitt en mangelvare.

En av grunnene er at Facebook dominerer medieindustrien med sin forretningsmodell rundt annonser. Det gjør at dette blir den førende innholdsstrategien også for de norske kommersielle medieselskapene. Når alle må må jage trafikk og klikk, blir innholdet også lagd for å attrahere mest mulig. Da bruker mange god gammel relevans-filosofi som sier at man kommer til å like i fremtiden det man har likt i fortiden. Resultatet er at alle blir forskanset i sine ekko-kamre. Dette driver en enorm polarisering, og er grunnen til at populisme øker verden over.

NRKs svar på dette er å jobbe med kringkasteralgoritmer som skal motvirke slik polarisert tilgang til informasjon for den norske befolkningen. Dette er en ny tolkning av samfunnsansvaret, i samsvar med det nye samfunnet vi lever i. Vi har alle et ansvar for å kjenne og forstå tiden vi lever i, og det haster å tenke nytt.

HG: Hvem har ansvaret for å sørge for at vi lander på rett side?

SS: Vi har alle et aktivt ansvar for å forstå den nye verden vi lever i. Noen ting blir grunnleggende annerledes og da må vi på ny prøve å finne ut av hva oppdraget vårt skal være.

Fagforeningene bør bli litt mindre beskytter og litt mer utvikler

Ta for eksempel partene i arbeidslivet. De har en viktig rolle i dag, og de har en potensielt svært viktig rolle også i framtida. Vi er stolte av trepartssamarbeidet vårt, men også derfor går det litt på autopilot. Men trepartssamarbeidet står for fall hvis ikke organisasjonene tenker nytt. Fagforeningene bør for det første tenke nytt om sin rolle, de bør bli litt mindre beskytter og litt mer utvikler.

I fremtiden skal vi ikke ha de jobbene vi beskytter, men de vi skaper, og da må vi også skape folk som kan stå i dem. I framtida tror jeg de gjør lurt i å fokusere mer på kompetanseutvikling og mindre på større og bedre tariffavtaler. Selvsagt er det siste fortsatt viktig, men i framtida blir det første viktigere. Hvis hele yrker forsvinner hjelper det lite med tariffavtaler og beskyttelse av arbeidstakere.

Norge har verdens beste data på mange områder, for eksempel helse.

Så er det selvsagt politikerne våre. Hvis politikere virkelig ønsker å gjøre seg fortjent ansvaret de har fått tildelt, er det på tide at de tar en posisjon om hvordan vi skal ha en konkurransedyktig strategi for denne polariserte fremtiden. Det haster å vise hva tillit, åpenhet og felleskap virkelig kan bidra med som konkurransekapital for fremtiden. De har en sentral rolle, men den må brukes konstruktivt.

Tenk for eksempel hva det norske tilliten medfører av tilgang på data. Norge har verdens beste data på mange områder, for eksempel helse. Det er fordi vi som bor her har tillit til våre offentlige institusjoner. Vi stoler på at de ikke vil bli misbrukt. Hvis myndighetene bruker disse dataene til å lagre bedre tjenester vil de vinne konkurransen over Amazon og Google. Det er nettopp tilgang på våre data som gjør at de blir søkkrike.

Å bygge på fellesskapet er en annen dimensjon som også gir oss et konkurransefortrinn, men vi må bruke det. Litt for mange ledere kjøper seg tjenester og kunnskap fra andre aktører når de skal digitalisere, istedenfor å utvikle dette i egen organisasjon, og få med seg folka de har i arbeidet.

Frasen om at «det er typisk norsk å være god» gir ikke nok føring – vi må bestemme oss for hva vi er gode på, og fokusere mer. Hva er det mennesker gjør bedre enn maskiner og også vil gjøre bedre i framtida? Og hva er det vi nordmenn gjør unikt bedre enn andre? Det offentlige har et enormt ansvar for å lage plattformer for innovasjon; god digital infrastruktur med gode data og deling er bare halve ligningen, de må også skape plattformer for felles innovasjon. Ellers blir viktige universelle goder og tjenester snart tilgjengelige av raskere aktører fra utlandet, og folk vil bruke det de oppfatter som best, som vil igjen føre til polarisering i helse, utdanning, velferd.