Teknodystopisk bekjennelse

Det er ikke lenge siden teknologioptimistene så med en blanding av medfølelse og lattermild forbløffelse på alle sinkene som ikke skjønte hvor fantastisk verden var i ferd med å bli: Biler skulle fly, for å si det sånn.

Folk skulle knyttes tettere sammen på tvers av alle mulige grenser, samfunnsdebatten skulle demokratiseres og hele verdens kunnskap skulle bli tilgjengelig for alle med et tastetrykk.

 

I dag vet jeg bedre

For å være ærlig, var jeg selv en av disse optimistene. Selv om teknologiutviklingen undergravde økonomien i mediebransjen, og dermed truet det jeg hadde levd av det siste tiåret, var det noe fascinerende ved alle muligheten. Som både innholdsprodusent og -konsument gjaldt det å gripe etter det nye med begge hender.

I dag vet jeg, i likhet med de fleste andre forhenværende teknologioptimister, at det er grunn til å tenke seg om to ganger.

Offentligheten har blitt et absurd teater der det som belønnes er appeller til steinaldermennesket i oss.

Revolusjonen i hvordan vi kommuniserer med hverandre er ikke bare fantastisk. Den er også i ferd med å ødelegge demokratiet. Offentligheten har blitt et absurd teater der det som belønnes er appeller til steinaldermennesket i oss og dets hang til å forsvare ens egen stamme mot alle andre stammer.

Samtidig utnytter ondsinnede aktører teknologien til egne formål, om det så er for å spre falske nyheter som kan generere økte sosiale spenninger eller bedrive massiv overvåkning av alle våre bevegelser foran skjermen.

 

Forbrukeren er varen

I tillegg er det noe urovekkende ved det faktum at dingsene har blitt så umulige å legge vekk. Det skyldes ikke bare at innholdet vi ser på kan være nyttig og lærerikt, hysterisk morsomt eller egnet til å frambringe varme følelser for omverdenen og andre mennesker.

Snarere skyldes det at teknologiselskapene gjør alt hva de kan for å få oss til å glo mer, scrolle videre og for å holde oppmerksomheten vår i enda noen minutter.

Det er forbrukeren som har blitt varen i den digitale økonomien.

Hovedproblemet er selvsagt den forretningsmodellen som ligger bak så og si alle gratis tjenester på nettet – og en god del av dem man betaler for også: Det er forbrukeren som har blitt varen i den digitale økonomien.

Først og fremst skjer det ved at du betaler for tjenestene med informasjon om deg selv. Denne informasjonen er gull verdt, først og fremst fordi den gjør det mulig å selge reklame målrettet mot nettopp deg.

 

Kynisk gruvedrift i menneskepsyken

I prosessen har selskapene også lært en hel masse om hva som skal til for at vi handler på bestemte måter. De sitter på enorm kunnskap om oss, hvilke triggere som utløser hvilken atferd i hvilke grupper. Denne kunnskapen brukes allerede til å optimalisere algoritmene slik at du får de søkeresultatene det er mest sannsynlig at du vil klikke på og den nyhetsstrømmen det er mest sannsynlig at du vil dvele ved.

Poenget er at teknologigigantene tar lite hensyn til alle de ikke-intenderte konsekvensene som følger i kjølvannet av dette. Det som har oppstått er en kynisk form for gruvedrift i menneskepsyken. Som med gruvedrift forøvrig, er «miljøproblemene» betydelige.

Vi betaler med vår psykiske helse, med tilliten til hverandre og muligheten til å leve i land med en velfungerende samfunnsdebatt.

Det vi får tilbake for å stille hjernene våre til disposisjon, er gratis kvalitetstjenester. Det skal man ikke underslå. Vi betaler imidlertid med vår psykiske helse, med tilliten til hverandre og muligheten til å leve i land med en velfungerende samfunnsdebatt.

Her er vi allerede i dag. I tillegg ligger en rekke forferdeligheter like foran oss. Slik man tidligere kunne bli grepet av de mest fantastiske framtidsvyene, har mye av samtalen om teknologi og samfunn i dag fått et klart dystopisk preg.

 

Vil maskinene ta over jorda?

Tenk bare på hva kunnskap om millioner av menneskers DNA-sekvenser kan bety dersom informasjonen selges til helseforsikringsselskap? I dag forbeholder selskap som foretar gentesting for en billig penge seg retten til å holde på informasjonen om deg i 10 år. Alt du trenger å gjøre, for potensielt å miste retten til helseforsikring, er å sende inn en spyttprøve og betale noen dollars. Det du får tilbake er gøyal kunnskap om hvor genene dine stammer fra og muligheten til å komme i kontakt du deler en del arvemateriale med.

Stoler vi på at de store teknologiselskapene tar dataene i bruk på en måte som kommer hele samfunnet, og ikke bare dem selv, til gode?

En annen fare ligger i utviklingen av kunstig intelligens. Nettopp tech-gigantene har de største datasettene, fulle av våre ferieminner og andre private bilder, som kan mates inn i bildegjenkjenningsprogramvare for å gjøre den bedre rustet. Med sine lydhøre virtuelle assistenter, lytter de også til det vi sier i vår egen stue, noe som kan bety enormt mye i utviklingen av programvare for naturlig språkgjenkjenning.

Men stoler vi på at de store teknologiselskapene tar dataene i bruk på en måte som kommer hele samfunnet, og ikke bare dem selv, til gode?

For ikke å snakke om hva som kan skje når den kunstige intelligensen blir virkelig smart. Da kommer den til å ta over jorda…

 

En ny samtale om tech

Slik snakkes det i alle fall i stadig økende grad. For meg ble den totale omveltningen av samtalen om teknologi slående i kontrasten mellom teknologikonferansen South by Southwest (SXSW) i Austin, Texas, anno 2015 og 2019. Jeg har bare deltatt der disse to gangene. Det interessante er at forskjellen mellom de to erfaringene fanger en ganske markant endring i synet på teknologiens betydning for samfunnsutviklingen de siste årene.

I 2015 kom jeg hjem med en rekke ideer til hvordan nye medieplattformer kunne utnyttes for å nå publikumsgrupper de tradisjonelle mediene har problemer med. I beste fall kunne det utvide demokratiet og gi nye grupper tilgang til verdifullt innhold.

 

 

Jeg reiste også hjem full av forventning om alle de fantastiske nyvinningene som var rett rundt hjørnet. Flyvende biler ble lovet allerede den gangen. I alle fall skulle de straks bli selvkjørende. I tillegg skulle man begynne å snakke med dingsene sine, ikke bare se på dem og trykke febrilsk på dem med pølsefingrene sine.

Dessuten skulle vi alle omsluttes av vanvittige virtuelle verdener, for både nytte og underholdning. Bare fantasien satte grenser for hva man kunne få til: Har du venner på andre siden av kloden? Null stress. Med VR-teknologi kan dere møtes virtuelt, ble vi lovet. Det skulle bli som om avstand ikke eksisterte lenger.

 

En frontkollisjon med framtida

Nå har utviklingen kommet et godt stykke fra 2015 til 2019, og vi er godt stykke nærmere både selvkjørende og flyvende biler. I dag kan vi også prate til Alexa, Siri og andre virtuelle assistenter, selv om de enn så lenge ikke alltid framstår så smarte som man kunne håpe. Det lages noen nokså spektakulære virtuelle verdener, til tross for at det ikke lenger er like mye hype rundt akkurat dette.

Selv om teknologiutviklingen ikke helt har levd opp til alle lovnadene hos de av vyene som i dag framstår aller mest fjollete, er det altså liten tvil om at framtida kommer rasende mot oss i full fart. Poenget er at vi i dag har begynt å frykte frontkollisjonen som vil ramme oss når vi kræsjer inn i den med hodet først.

Framtidsvisjonene som ble presentert minnet mest om apokalypsen.

Den overdrevne optimismen var i årets utgave av SXSW erstattet av dypdykk i ulike teknomareritt. Dette var selvsagt ikke altomfattende, men det var det dominerende samtaleemnet denne gangen.

I den ene sesjonen etter den andre ble teknologiens skyggesider tematisert. Framtidsvisjonene som ble presentert minnet mest om apokalypsen, mens de paneldeltakerne og foredragsholderne som ikke hadde fått med seg den nye teknologikritiske stemningsbølgen, og fortsatt snakket som om det var 2015, framsto som naive, i beste fall. Nå var det de som ikke fulgte med i timen.

 

På tide å stoppe opp

Det skal sies at denne utviklingen har foregått over flere år, og at de som har vært på SXSW jevnlig sikkert vil påpeke at disse tendensene har blitt synligere og synligere over tid. I år var det likevel så tydelig at det er verdt å stoppe opp og tenke over hvor vi egentlig befinner oss i den stadig viktigere samtalen om forholdet mellom teknologi og samfunn.

Tech er for viktig til å bli overlatt til dataingeniørene, for å vri litt på en kjent formulering. Samtidig som techbransjens årlige møtested i Austin har tatt opp stadig flere av de negative sidene ved utviklingen, har også politikerne meldt sin ankomst på SXSW-konferansen.

Tech er for viktig til å bli overlatt til dataingeniørene.

I år var dette en av de mest slående trekkene i programmet. CNN hadde town hall-møter med en rekke presidentkandidater fra de to partiene, mens demokraten Beto O’Rourke, som nesten slo Ted Cruz i mellomvalget sist høst, besøkte premieren på en dokumentarfilm om seg selv.

Folk flokket seg rundt det politiske stjerneskuddet Alexandria Ocasio-Cortez, som sto for det aller best besøkte enkeltarrangementet denne gangen. Det var likevel en annen politiker fra det demokratiske partiet, presidentkandidat Elizabeth Warren, som satt agendaen for diskusjonen om et mulig politisk rammeverk for teknologiutviklingen.

 

Vil bryte opp gigantene

Hun kom til Austin væpnet med en plan for å bryte om de store tech-selskapene. Hun mener maktkonsentrasjonen hos selskap som Google, Facebook og Amazon truer både innovasjonen og demokratiet.

De knuser all konkurranse, utnytter våre menneskelige tilbøyeligheter, stjeler vår private informasjon, og bruker den så for å oppnå maksimal profitt. Til slutt ødelegger de offentligheten, også.

Samlet vil dette, om Warren får det som hun vil, innebære en reversering av Facebooks oppkjøp av WhatsApp og Instagram

For å sikre at innovasjonen fortsetter, på andre og bedre premisser, vil Warren derfor dele opp gigantene slik den amerikanske staten tidligere i historien har brutt opp andre monopoldannelser. I tillegg vil hun hindre at plattformselskapene er aktører på sine egne markedsplasser, der de på urettferdig vis kan skru konkurranseforholdene til sin egen fordel.

Samlet vil dette, om hun får det som hun vil, innebære en reversering av Facebooks oppkjøp av WhatsApp og Instagram, Googles kjøp av karttjenesten Waze og annonseplattformen DoubleClick, samt Amazons oppkjøp av WholeFoods og klesprodusenten Zappos.

 

Kritikk fra innsiden

Roger McNamee, som har delt sine forslag til Warren og andre politikere, var tidligere Mark Zuckerbergs mentor. I boka Zucked. Waking Up to The Facebook Catastrophe tar også han et kraftig oppgjør med sine tidligere venner. Under hans sesjon på årets SXSW var det igjen teknologiselskapenes forretningsmodell som kom i søkelyset.

Fra den store scenen i Austin Convention Center fortalte McNamee om en allestedsnærværende teknologioptimisme som preget venturekapitalistmiljøet han var en del av da han først møtte Facebook-gründer Zuckerberg. «Alle mente den gang at teknologien var en kraft for det gode,» sa McNamee fra scenen. Det var en tenkemåte han selv var besmittet av. «Det var imidlertid også en ideologi som fungerte utmerket for Silicon Valley,» sier han nå.

Problemet, slik McNamee ser det, er at forretningsmodellen aldri ble kommunisert tydelig til brukerne.

For brukerne og for samfunnet forøvrig, fungerer den ikke like bra. McNamee forsøkte å få sine venner i Facebook til å innse at de hadde skapt et monster, men han måtte istedenfor erkjenne at de ikke ville høre, at de ikke var interessert i å endre en forretningsmodell som genererer enorme verdier for aksjonærene, samtidig som den i virkeligheten går ut på å forsøke å styre menneskelig adferd på detaljnivå.

Problemet, slik McNamee ser det, er at forretningsmodellen aldri ble kommunisert tydelig til brukerne, men har blitt holdt bak et slør av retorikk om å knytte mennesker sammen og gjøre verden mindre – samt noen veldig gode tjenester, må man innrømme.

 

Knallharde oppgjør

Noe av det interessante ved årets konferanse var at en slik kritikk på ingen som helst måte framsto som særlig radikal. Den var i ferd med å bli felleseie for de fleste som uttalte seg om teknologi og samfunn denne gangen. I tillegg fantes det dem som gikk mye lenger i sin kritikk av teknologigigantene.

Medieteoretikeren Douglas Rushkoff, en professor som har skrevet ti bøker om nettalderen, som har (hatt) teknologispalter i The New York Times og The Guardian – en mann som også skapte begreper som «digital native», «viral media» og «social currency» – var en av dem.

Det var vanskelig å unnslippe følelsen av at en omfattende teknologifiendtlighet her hadde overtatt for den naive teknologioptimismen.

På SXSW snakket han om sitt manifest for en mer menneskelig teknologiutvikling, kalt «Team Human», og det var vanskelig å unnslippe følelsen av at en omfattende teknologifiendtlighet her hadde overtatt for den naive teknologioptimismen.

Slik professoren så det, fungerer teknologien som en form for medisin eller dop, like effektivt som LSD. «I dag har vi glemt hva medisinen skulle gjøre for oss. Vi har istedenfor blitt avhengige av den, og befinner oss på en dårlig syretripp,» sa han. «Drømmen som ble realisert handler om å øke verdien på børsen, ikke om å utløse menneskelig kreativitet og økt kontakt, slik ideen var i San Fransisco før 2000.»

 

En plass for mennesket?

I Rushkoff øyne sluttet man å spørre hva man kan gjøre for folk. Istedenfor begynte man å tenke på hva man kan få folk til å gjøre. Istedenfor å lage teknologi som vi bruker, lager gigantene i dag teknologi som bruker oss. Det er smarttelefonen som blir smartere når du bruker den. Selv blir du bare dummere og dummere.

Med Rushkoffs ord er det menneskeligheten vår som blir tatt fra oss. Vi blir skremte og atomiserte individer som er lette å manipulere.

Det er smarttelefonen som blir smartere når du bruker den. Selv blir du bare dummere og dummere.

«Team Human» handler om å lage en plass for menneskene i framtida. Det går ut på å tvinge selskapene til å anerkjenne en grunnleggende verdighet, samtidig som vi alle må bli tech-litterate og i stand til å se bak de fine frasene og  forstå teknologiens virkelige makt over livene våre.

 

Nye mål og indikatorer

Eli Pariser, medstifter av Upworthy og forfatteren bak boka The Filter Bubble: What the Internet Is Hiding from You inntok en mer konstruktiv holdning. Han forsøker å finne et språk som kan få tech-gigantene til å forstå hva problemet er, og å operasjonalisere det slik at det kan brytes ned i målbare indikatorer de kan styre etter.

Han vil ikke ha gaffateip-løsninger fordi noe hangler, men en dyptloddende gjennomtenkning av grunnlaget for teknologiselskapene som sikrer at de skaper genuint meningsfull mellommenneskelig interaksjon som faktisk gjør samfunnet bedre.

«Man må gjøre det lett å handle rett,» som Pariser formulerer det.

Ifølge Pariser er det ikke så mye som skal til, nødvendigvis. Gjør man relativt beskjedne forandringer i kommunikasjonssituasjonen som medieplattformene legger til rette for, kan det bety mye for adferden folk utviser på plattformene, hevder han. «Man må gjøre det lett å handle rett,» som han formulerer det.

Det er selvsagt en rekke problemer som må løses, og det største av dem handler trolig om å finne en mer menneskelig forretningsmodell som fortsatt er en forretningsmodell. Når det kommer til stykket, er det jo inntjeningsmulighetene som driver utviklingen framover.

 

Massiv sløsing med talent

Samtidig er det vanskelig å komme unna et av Parisers mest overbevisende argumenter: Hvis du bruker de aller smarteste menneskene på kloden til å pønske ut hvordan du kan få folk til å bli noen sekunder lenger på en eller annen nettside, får det negative konsekvenser.

Det er en massiv sløsing med menneskelige ressurser som kunne blitt brukt til noe mer verdifullt, som å forsøke å finne ut hvordan man skape en bedre teknologisk framtid.

Så får håpet være at 2019 bringer mer enn dystopier – slik at nettopp det kan skje. At politikerne endelig ser ut til å bry seg, er i det minste et skritt i riktig retning.