Kan en Hollywood-stjerne stogge AI-selskapene?

For cirka et år siden skrev jeg at det pågår et potensielt livsfarlig kappløp for å utvikle såkalt generell kunstig intelligens, eller superintelligens. Målet er å overgå menneskers egenskaper på alle måter og til og med skape en syntetisk bevissthet.

Mange ser på dette som en positiv utvikling, kanskje menneskehetens viktigste oppgave noensinne. Blant dem hører de ledende AI-selskapene og mange politikere.

Det er pikant, i og med at han selv er en av de mest innflytelsesrike pådriverne for kappløpet.

Andre betrakter det som et enormt sjansespill og vil stogge utviklingen, blant dem framtredende AI-eksperter, en del politikere og mange organisasjoner som vil verne om menneskerettigheter og faglige rettigheter.

 

Dobbeltspill

Hittil har ingen lykkes med å stogge den akselererende AI-utviklingen.

AI-selskapen har mer eller mindre fått lov til å handle fritt og ofte på tvilsomt rettslig grunnlag – til tross for at mange mennesker verden rundt er urolig for de konsekvensene AI-teknologien kan få for arbeidsmarkedet, demokratiet og samfunnet generelt.

Sam Altman, OpenAIs administrerende direktør, dro i fjor på verdensturne for å sjarmere verdens ledere og lyktes med å fremstille seg som en hyggelig fyr med menneskehetens beste i sikte. Han lyttet, rynket på pannen og bekreftet at han var bekymret for de potensielle farene.

Johansson takket nei til tilbudet.

Han understreket av kappløpet og den raske utviklingen var en fare i seg selv.

Det er pikant, i og med at han selv er en av de mest innflytelsesrike pådriverne for kappløpet.

Dette dobbeltspillet har Sam Altman ubegripelig nok lykkes med. Opinionen har hittil vært på hans side. Sjarmoffensiven har vært en suksess.

Men det var før han la seg ut med Scarlett Johansson.

Alt begynte ifølge Johansson selv i september 2023, da Sam Altman spurte Hollywood-stjernen om OpenAI kunne bruke hennes stemme i deres nye versjon av deres AI-chatbot ChatGPT, som er verdens mest brukte.

For de fleste er det åpenbart at Sam Altman har opptrådt forsettlig.

Det hører med til historien at Scarlett Johanssons stemme var blitt brukt i et lignende system i den futuristiske filmen “Her”, som er en av Altmans favorittfilmer.

Johansson takket nei til tilbudet.

Derfor var det mildt sagt overraskende at det fantes en stemme kalt “Sky” som var veldig lik Johanssons i de fem stemme-alternativene man kunne velge blant i en versjon av ChatGPT som ble lansert samme måned. Merkelig nok gikk dette under radaren til de fleste.

 

Handlet med overlegg

Men for to uker siden ble det lansert ytterligere en oppdatering av systemet, med det kryptiske navnet GTP-40. Denne gangen fikk det enormt med oppmerksomhet, trolig på grunn av systemets imponerende egenskaper og den omfattende lanseringskampanjen.

Plutselig oppdaget hele verden at stemmen “Sky”, som fortsatt var en av fem stemmealternativer, var slående lik Johanssons.

Mistanken ble forsterket av at Sam Altman, samme dag som GTP-40 ble lansert, publiserte et innlegg på X med utelukkende ett ord: “Her”. Altså samme film som han tidligere har sagt er en av hans favoritter. Og der Johanssons stemme blir brukt for en chatbot som er påfallende lik ChatGPT.

Indisiene slutter ikke der.

To dager før det nye systemet ble lansert, hadde Altman igjen kontaktet Johanssons agent og spurt om de kunne bruke hennes stemme. En forespørsel hun denne gangen ikke rakk å svare på før systemet ble offentliggjort.

Siden den gang er det Sam Altmans linje som gjelder i selskapet.

Denne gangen involverte Johansson sine advokater, som kontaktet Altman og OpenAI og ba om en utførlig redegjørelse for hvordan stemmen var blitt brukt.

Det førte til at OpenAI umiddelbart trakk tilbake stemme. Det er ikke lenger mulig for brukere av ChatGPT å velge “Sky”. Samtidig hevder selskapet at Sky ikke i det hele tatt var inspirert av Johannsons stemme og at den heller ikke høres ut som henne.

Internett har ikke latt seg overbevise.

For de fleste er det åpenbart at Sam Altman har opptrådt forsettlig.

Igjen.

 

Altmans tillit er svekket

Dette er ikke første gang Altman gjør dette. OpenAIs forrige styre ga ham sparken av nøyaktig samme årsak for et knapt halvår siden. Styret mente Altman ikke hadde vært “konsekvent og ærlig i sin kommunikasjon”.

Det har vært like mange tilbakeskritt som framskritt.

Bakgrunnen den gang var at Altman ikke tok farene ved AI tilstrekkelig på alvor. Styret mente at Altman drev virksomheten i altfor stor grad på kommersielle prinsipper for at selskapet så raskt som mulig skulle utvikle AI-modeller for å ligge foran konkurrentene.  Styret mente derfor at han handlet i strid med selskapets idealistiske ståsted der sikkerhetsrisikoen skulle trumfe økonomisk avkastning.

Altman hadde kort sagt fulgt Silicon Valley-slagordet “move fast and break things”, et uttrykk skapt av Facebook-grunnlegger Mark Zuckerberg. Det er et slags omvendt forsiktighetsprinsipp – handle først, håndter konsekvensene etterpå.

Eller snarere – la andre ta støyen.

Ledelseskrisen ble kortvarig. Etter en kort og turbulent periode lyktes Sam Altman med å manøvrere seg tilbake til adm.dir-jobben. Det kritiske styret ble byttet ut. OpenAIs hovedfinansieringskilde Microsoft ville ha tilbake sin gullgutt i ledelsen.

Siden den gang er det Sam Altmans linje som gjelder i selskapet.

Det har vært like mange tilbakeskritt som framskritt. I takt med at den nye modellen ble lansert, har problemene hopet seg opp. Altmans tillit er blitt alt mer frynsete i kantene.

Scarlett Johansson er med andre ord en formidabel motstander.

OpenAI befinner seg for tiden i en rettsprosess etter å ha blitt saksøkt for mange milliarder av verdens mektigste dagsavis New York Times og åtte andre aviser som mener selskapet ulovlig og uten å betale for det har brukt enorme mengder opphavsrettighets-beskyttet tekst, bilder, lyd og video for å trene opp sine AI-modeller.

Nylig har flere nøkkelpersoner i OpenAIs sikkerhetsteam, blant andre de to forskningslederne Ilya Sutskever og Jan Leike, sagt opp fordi de mener ledelsen ikke tar risikoene ved selskapets AI-modeller på tilstrekkelig alvor

Og nå altså fadesen med Scarlett Johansson.

 

Formidabel motstander

Selv om stemme-rotet ikke er OpenAIs alvorligste feilsteg rent saklig, kan det bli selskapets største tillitskrise så langt i allmenhetens øyne. Men særlig for Altman personlig.

Som Hollywoord-stjerne har Scarlett Johansson en enorm plattform og hennes versjon av hendelsene har så langt blitt møtt med betydelig mer sympati enn Sam Altmans. Det er ganske enkelt veldig vanskelig å tro noe annet enn av han har brukt Johanssons stemme mot hennes ettertrykkelige vilje.

Men det handler ikke bare om publisitet. Scarlett Johansson er ikke redd for å ta på seg boksehanskene. Hun har tidligere saksøkt underholdningsgiganten Disney for avtalebrudd etter lanseringen av Marvel-filmen “Black Widow”, der hun spiller superhelten Den Svarte Enken. Disney ble tvunget til å betale en stor erstatningssum.

Scarlett Johansson er med andre ord en formidabel motstander.

Men forhåpentlig får han seg en skikkelig tankevekker.

Mange andre har forsøkte å stogge OpenAIs framferd og pekt på selskapets kyniske og uforsiktige håndtering av sikkerhetsrisiko og datarettigheter. Ansatte i selskapet har protestert og sagt opp. Forskere har hevet røsten. Aktivister har forsøkt å påvirke gjennom offentligheten. Politikere har kommet med reguleringsforslag.

Hittil har alle forsøk mislyktes.

Skal det bli Den Svarte Enken som til slutt setter en stopper for Sam Altman?

Min spådom: Trolig ikke. Men forhåpentlig får han seg en skikkelig tankevekker.

Forhåpentlig får vi alle det.

Som tidsskriftet The New Yorker skriver:

“På sett og vis er vi alle Scarlett Johansson; vi venter på å bli konfrontert med et speilbilde av oss selv som er skapt uten vår tillatelse og som ikke kommer til å gagne oss”.

(Teksten ble først publisert i dagensarena.se. Oversatt av redaksjonen.)