Vi trenger en robotlov

For den som er glad i science fiction, er det mange filmer å velge mellom der robotene har tatt over verden og fått all makt.

En av de mest berømte robotene, er Hal 9000 fra Stanley Kubricks romodyssé. Hal 9000 fungerte ikke så bra, men protesterte da han forsto at man ville frakoble ham. T-800 i Terminator er også ganske skummel. Han ser ut som et menneske, men er robot inni og er programmert til å drepe på vegne av Skynet, som skal ødelegge menneskeheten.

Og snart kan de likne mye mer på mennesker.

Da er Robot & Frank en mye hyggeligere film, heller ikke den fri for moralske dilemmaer om hva roboter kan brukes til og ta ansvar for. Franks robot blir etter hvert godt selskap for eks-kriminelle, aldrende og smådemente Frank og det passer bra at roboten ikke er istand til å skille mellom rett og galt: Dermed kan han gjøre nytte som innbruddstyv. De kommer dessuten etterhvert frem til at det lureste er å slette robotens minne om kriminelle handlinger for å unngå at gamle Frank havner i fengsel.

I virkeligheten er det heller ikke et spørsmål om når robotene blir smartere enn oss. På mange områder er det de allerede.

Og snart kan de likne mye mer på mennesker. L’Oreal og Organovo arbeider med 3D printing av hud. Enten vi fortjener det eller ei.

Roboter er smartere enn oss, og de kan også være bedre enn oss: Roboter er rasjonelle, konsistente og rettferdige. Roboter tar langt mer overveide rettsbeslutninger og stiller mer presise og informerte diagnoser enn mennesker. Våre beslutninger preges av så mangt, som for eksempel Daniel Kahneman har vist oss i boken «Tenke – fort og langsomt».

Men har vi fortsatt kontrollen? Astrofysikeren Sir Martin Rees er pessimist. Kunstig intelligens har ikke den menneskelige hjernens begrensninger, påpeker han. De er dessuten ikke begrenset av jordens biosfære og har dermed omtrent ubegrenset handlingsrom. I sin kommentar i Agenda Magasin minner filosof Camilla Serck-Hansen om at roboter ikke er i stand til å ha en opplevelse av seg selv som handlende. Og fordi de mangler dette, mangler de også opplevelsen av ansvar. Sir Rees frykter at robotene blir menneskets siste oppfinnelse – noensinne.

Om vi blir lykkeligere av roboter, er også et spørsmål.

Stephen Hawking er også bekymret. Elon Musk likeledes. De har sammen med en hel del andre bekymrede smarte mennesker skrevet et brev og advart om at kunstig intelligens ikke må få vokse uten kontroll. Da skaper vi monstre. Kunstig intelligens som vi ikke har kontroll på, kan komme tilbake og bite oss i halen.

Det mest skremmende er roboter i krig. Boken «Når dronene våkner» innledes med to budskap: For det første er det god grunn til å tro at autonome våpen vil være realitet i nær fremtid. For det andre betyr det at vi må tenke gjennom etiske, politiske og juridiske konsekvenser av en slik realitet.

Riktignok har krigens teknologi alltid gjort krig verre og skumlere, minner bokas forfattere om. I 1139 ble buer og armbrøst fordømt som umoralsk og uridderlig på kirkemøtet i Roma. Men hva skjer når krig ikke lenger innebærer risiko for den som deltar? Som Michael Ignatieff har påpekt; hvis soldater ikke kommer hjem og forteller om krigens virkelighet, hva vil da begrense befolkningens vilje til å bruke makt?

Det kan likevel gå bra.

BBC har sammenliknet Hal – eller det nærmeste vi kommer Hal – med IBMs robot Watson, som blant annet er kreftlege. Watson kan scanne og vurdere tusenvis av vitenskapelige artikler og diagnoser i løpet av sekunder og gi langt mer informerte vurderinger enn en menneskelig lege. Samtalen med pasienten er han mindre egnet til. En viktig forskjell mellom T-800 og Watson er at den ene jobber mot menneskene, mens den andre jobber med oss.

Kreftlegen Watson har også fått en nevø Watson, som er en lekedinosaur. Den kan svare på spørsmål fra barn om dinosaurer. Sånne spørsmål er det mange flere av enn de aller fleste voksne har svar på. Og i Oslo utvikles vikarroboten Avatar for barn som er syke over lengre tid. Avatar kan være til stede i leken og i klasserommet på barnets vegne. Ikke like bra, men litt bedre enn å falle helt ut av sitt sosiale miljø.

Kanskje vil ikke robotene ta over verden, sier professor Missy Chummings fra Duke University, men de er allerede overalt. Vi vet ikke engang hvor, og vi tenker ikke over det. Vi er dessuten helt hjelpeløse uten dem. Ifølge den internasjonale robotiseringsføderasjonen (nei, den består ikke av roboter) økte antallet roboter i verdens fabrikker med åtte prosent – eller 240 000 enheter – i løpet av 2015.

Se video: When will robots take over the World?

Likevel, sier Chummings, er robotene i tillegg til, og ikke istedenfor oss.

Sånn sett er C-3PO fra Star Wars mer realistisk enn T-800. Han tjener folket, er god på etikette – altså en protokolldroide – og snakker seks millioner «former for kommunikasjon». Wall-E er også ganske grei å ha, og kan for eksempel vaske huset ditt.

Robotene kommer ikke til ta over verden slik de gjør på film.

En nyttig opprydding i hva vi bør frykte og hva vi ikke trenger å bekymre oss over, tilbyr Stefan Fölster i boken Robotrevolutionen. Bokens hovedbudskap er tydelig: Det er vi som avgjør hvordan det går. Uansett teknologi er det mennesket som står i sentrum for samfunnets utvikling. Vi velger hvordan den skal brukes. Det kan gå skikkelig bra. Eller helt galt.

Hvem finansierer velferdsstaten hvis roboter ikke betaler skatt?

En farlig utvikling kan være at robotene tar jobbene våre. Vi vil ikke behøve å jobbe like mye for å skape de samme verdiene. Men flere må jobbe likevel.

Av tre grunner: For det første har det aldri gått bra med samfunn som henfaller til å nyte opparbeidet rikdom og lene seg tilbake. For det andre og relatert til det første: For svært mange er det meningsfylt å jobbe – og vi liker det. Jo rikere folk er – jo mer jobber de. Da kan vi ikke la en voksende gruppe falle utenfor arbeidslivet simpelthen fordi økonomien ikke trenger dem. Det vil skape økt ulikhet og skarpe skiller mellom de som er innenfor og utenfor – til gjensidig frustrasjon. For det tredje – og viktigst: Det er ikke av økonomiske grunner at vi skal jobbe, men for vår felles sikkerhet og stabilitet. Det finnes nok av destruktive krefter som vil bruke teknologien til å erobre og misbruke makt.

Robotene kommer ikke til ta over verden, slik de gjør på film. Roboter mangler følelsen av tilhørighet og fellesskap, og ambisjon på vegne at et større Vi. Andre mennesker er en langt større trussel enn roboter. Roboter er nyttige også for diktatorer og terrorister. Det betyr at demokratier og gode krefter må sikre høyt utdannet befolkning som bruker og utvikler avansert teknologi. Og hele tiden ligge foran.

Om vi blir lykkeligere av roboter, er også et spørsmål. Ett av kapitlene i Fölsters bok heter «Hvorfor alt blir mer komplisert når datamaskinene gjør det enklere» og viser hvordan stress og prestasjonsangst og oppjagethet herjer. Kanskje får vi det dårligere når alt er mulig og vi må oppnå alt? Eller en vegg av muligheter, som Nils-Fredrik Nielsen har kalt det. En trøst kan være at alderdommen blir uutholdelig lett og at husarbeid snart er en saga blott.

En annen helt reell bekymring er fordeling av goder i samfunnet. Hvem eier robotene? Og hvem finansierer velferdsstaten hvis roboter ikke betaler skatt? Økende ulikhet er allerede en realitet – og kan bli langt større.

Hvem har ansvar hvis robotene ikke har det?

Missy Chummings, Stefan Fölster og andre nevnte forfattere i denne artikkelen har en viktig melding til oss: Det digitale samfunnet er her. Men det er vi som bestemmer. Vi er de voksne, ikke robotene. Spør derfor ikke hva teknologien vil gjøre med deg, men hva den skal gjøre for deg. Det haster å investere i teknologi, ruste befolkningen med rett kompetanse, få flest mulig i jobb, og lage regler for roboter i arbeidslivet, i krig og i fred.

Hva får roboter lov til å gjøre uten menneskelig oppsyn? Er de juridiske subjekter? Hva får mennesker lov til å gi av ansvar til roboter? Hvem har ansvar hvis robotene ikke har det? Hvem eier dem og står ansvarlig for det de foretar seg? Er det lov å lage hva som helst? Mange har tatt til orde for at roboter også trenger lover. Allerede i 1940 formulerte Isaac Asimov tre robotlover – som forlengst har havnet på historiens skraphaug og egnet for en langt mindre kompleks teknologisk virkelighet enn i dag. I EU har forskningsprosjektet RoboLaw gitt retning til hvordan europeisk robotlovgivning kan se ut – eller ihvertfall hva som bør med.

Robotene er ikke her for å ta oss. De har ingen planer om å ta over eller ødelegge verden. Men de er heller ikke moralske individ og kommer aldri til å bli det. Vi kan leve sammen, men da må vi ha noen regler – og de er det vi som må lage. Det er på tide med en robotlov.