Velkommen til buret som er med deg overalt

Noe helt nytt er i ferd med å skje i verden. Bare de siste fem eller ti årene har nesten alle til enhver tid begynt å ha med seg en liten innretning som kalles en smarttelefon, som egner seg til algoritmebasert atferdsendring. Mange av oss bruker også lignende innretninger som kalles smarthøyttalere på kjøkkenbenken eller på dashbordet i bilen.

Vi blir konstant sporet og målt, og mottar tilpassede tilbakemeldinger hele tiden. Litt etter litt blir vi hypnotisert av teknikere vi ikke kan se, av grunner vi ikke kjenner til. Vi er nå forsøksdyr alle sammen.

Algoritmene sluker data om deg, hvert eneste sekund. Hva slags lenker klikker du på? Hvilke videoer ser du på? Hvor fort går du videre fra én ting til den neste? Hvor er du når du gjør alt dette? Hvem har du kontakt med personlig og på nettet? Hva slags ansiktsuttrykk har du? Hvordan endres nyansen i huden din i forskjellige situasjoner? Hva gjorde du rett før du bestemte deg for å kjøpe noe eller ikke? For å stemme ved valget eller ikke?

Men hvis jeg har rett, vil det å bli bevisst på dette kanskje hjelpe deg til å bli fri. Så gi det en sjanse, ok?

Alle disse målingene og mange andre er gjennom omfattende spionasje blitt stilt opp mot lignende avlesninger om livet til en myriade av andre mennesker. Algoritmer sammenligner det du gjør med det nesten alle andre har gjort.

Algoritmen forstår deg egentlig ikke, men kraften ligger i tallene, spesielt store tall. Hvis mange andre som liker samme type mat som deg, også er mer negative til bilder av en kandidat i rosa ramme i stedet for blå, vil sannsynligvis det samme også gjelde deg, og ingen trenger å vite hvorfor. Statistikk er pålitelig, men bare som grunnlag for dårer.

Er du lei deg, ensom, redd? Lykkelig, selvsikker? Får du snart mensen? Føler du mer på klassereiseangsten enn noen gang før?

Såkalte reklamefolk kan utnytte det øyeblikket da du er perfekt mottakelig, og så påvirke deg med budskap som har fungert på andre personer som har samme karaktertrekk og befinner seg i samme situasjon som deg.

Jeg håper du ikke blir fornærmet.

Jeg sier «såkalte» fordi det rett og slett ikke er riktig å kalle direkte manipulasjon av mennesker for reklame. Tidligere hadde reklamefolk begrenset mulighet til å komme med et salgsfremstøt, og det salgsfremstøtet var kanskje tilslørt eller irriterende, men det var flyktig. Dessuten var det mange som så den samme TV-reklamen eller den samme annonsen; den var ikke individuelt tilpasset akkurat deg.

Den største forskjellen var at du ikke hele tiden ble overvåket og vurdert for å kunne fôres med dynamisk optimaliserte stimuli – enten det gjaldt «innhold» eller annonser – for å engasjere og forandre deg. Nå får alle som er på sosiale medier individualiserte, kontinuerlig tilpassede stimuli, uten pause, så lenge de bruker smarttelefonene sine. Det som tidligere kunne bli kalt reklame, må nå forstås som kontinuerlig atferdsendring av gigantisk omfang.

Jeg håper du ikke blir fornærmet. Jo da, jeg antyder at du kanskje er i ferd med å bli, bare litt, til ei veltrent bikkje, eller noe mindre hyggelig, som et forsøksdyr eller en robot. At du fjernstyres, bare litt, av vasaller for enorme selskaper. Men hvis jeg har rett, vil det å bli bevisst på dette kanskje hjelpe deg til å bli fri. Så gi det en sjanse, ok?

Før datamaskinene ble funnet opp, oppsto en vitenskapelig bevegelse kalt behaviorisme. Behavioristene studerte nye, mer metodiske, sterile og nerdete måter å trene opp dyr og mennesker på.

Én kjent behaviorist var B.F. Skinner. Han utviklet et metodisk system, en såkalt skinnerboks, der dyr i bur fikk en godbit når de oppviste en bestemt atferd. Det var ingen som klappet eller hvisket til dyret, bare en isolert mekanisk funksjon – en ny type trening for moderne tider. Forskjellige behaviorister, mange av dem i besittelse av en temmelig illevarslende utstråling, anvendte denne metoden på mennesker. De behavioristiske metodene viste seg ofte å fungere, noe som skremte vettet av alle og til slutt førte til en rekke skumle science fiction- og skrekkfilmer om hjernevasking.

De kortsiktige, dopamindrevne tilbakemeldingssløyfene vi har utviklet, ødelegger måten samfunnet fungerer på.

Beklageligvis er det mulig å trene opp folk ved hjelp av behavioristiske teknikker, uten at vedkommende selv vet det. Frem til nå nylig skjedde dette sjelden med mindre du meldte deg som forsøksperson i et eksperiment i kjelleren til en bygning på universitetet. Der kunne du gå inn i et rom og bli testet mens noen fulgte med på deg gjennom et enveisspeil.

Selv om du visste at det pågikk et eksperiment, visste du ikke hvordan du ble manipulert. Men du ga i det minste ditt samtykke til å bli manipulert på en eller annen måte. (Eller, ikke alltid. Det ble utført alle slags ondsinnede eksperimenter på fanger, fattige mennesker og spesielt forsøkspersoner fra bestemte raser.)

Denne boka argumenterer på ti måter for at det som plutselig er blitt normalt – vedvarende overvåking og konstant, subtil manipulasjon – er uetisk, ondskapsfullt, farlig og umenneskelig. Farlig? Ja, faktisk. For hvem vet hvem som vil bruke den makten det gir, og til hva?

 

 

Det viser seg at den gale vitenskapsmannen bryr seg om hunden i buret

Du har kanskje hørt de sørgmodige innrømmelsene fra folk som har grunnlagt de store imperiene av sosiale medier, som jeg foretrekker å kalle «atferdsendringsimperier».

Her er Sean Parker, den første direktøren for Facebook:

Vi må liksom gi dere et lite dopamin-kick nå og da, fordi noen har likt eller kommentert et foto eller et innlegg eller hva som helst …  Det er en tilbakemeldingssløyfe for sosial vurdering … akkurat den typen ting en hacker som meg ville finne på, for du utnytter en sårbarhet i menneskets psykologi … Oppfinnerne, folka bak – det er meg, det er Mark [Zuckerberg], det er Kevin Systrom på Instagram, alle disse folka – hadde en bevisst forståelse av det. Og vi gjorde det likevel … det endrer bokstavelig talt ditt forhold til samfunnet, til andre mennesker … Antakelig virker det inn på produktiviteten på merkelige måter. Bare Gud vet hva det gjør med hjernen til barna våre.[1]

Her er Chamath Palihapitiya, tidligere visedirektør for brukervekst i Facebook:

De kortsiktige, dopamindrevne tilbakemeldingssløyfene vi har utviklet, ødelegger måten samfunnet fungerer på … Ingen offentlig debatt, ikke noe samarbeid; villedende informasjon, falske nyheter. Og det er ikke et amerikansk problem – dette handler ikke om russiske annonser. Det er et globalt problem … jeg har en enorm skyldfølelse. Jeg tror vi alle visste det innerst inne – selv om vi forstilte oss med en idé om at det sikkert ikke finnes noen utilsiktede negative konsekvenser. Jeg tror at langt bak, innerst inne, skjønte vi på en måte at det kunne skje noe negativt … Så vi befinner oss i en utrolig vanskelig situasjon akkurat nå, spør du meg. Det er i ferd med å undergrave selve grunnlaget for hvordan folk oppfører seg overfor andre og seg imellom. Og jeg har ingen god løsning. Løsningen min er at jeg rett og slett ikke bruker disse redskapene lenger. Det har jeg ikke gjort på mange år.[2]

I mange år måtte jeg finne meg i temmelig plagsom kritikk fra venner i Silicon Valley.

Bedre sent enn aldri. Mange kritikere som meg selv har advart om at negative ting har pågått en stund, men å høre det fra dem som utviklet dette, er et fremskritt, et skritt i riktig retning.

I mange år måtte jeg finne meg i temmelig plagsom kritikk fra venner i Silicon Valley, siden jeg ble oppfattet som en forræder fordi jeg kritiserte det vi drev med. I det siste har jeg hatt det motsatte problemet. Jeg hevder at Silicon Valley-folka for det meste er anstendige, og ber om at vi ikke skal bli gjort til kjeltringer. Jeg har fått mye pepper for det i det siste. Det er vanskelig å si om jeg egentlig har vært for hard eller for mild mot den bransjen jeg er en del av.

Et langt viktigere spørsmål nå er om det vil spille noen rolle at folk kommer med kritikk. Det er unektelig offentlig kjent at en negativ teknologi skader oss, men vil vi – vil du, altså du selv – klare å stå imot og bidra til å styre verden mot et bedre sted?

Selskaper som Facebook, Google og Twitter prøver endelig å ordne opp i noen av de enorme problemene de har skapt, om enn litt etter litt. Er det fordi de blir presset eller fordi de føler at det er det rette å gjøre? Trolig litt av begge deler.

Les også Tiril Rustad Halvorsens anmeldelse av Laniers bok.

Selskapene endrer sine retningslinjer, hyrer inn folk til å følge med på hva som foregår, og hyrer inn dataforskere til å utvikle nye algoritmer for å unngå de verste svakhetene. Facebooks gamle mantra var «Move fast and break things»,[3] nå finner de på bedre mantraer samtidig som de plukker opp enkelte rester fra en ødelagt verden og limer dem sammen.

Denne teksten vil argumentere for at selskapene på egen hånd ikke kan gjøre nok for å lime verden sammen igjen.

Når mange mennesker er avhengige av manipulerende ordninger, blir verden mørk og vanvittig.

Siden folk i Silicon Valley nå sier de beklager, tenker du kanskje at du bare kan vente til vi har fikset problemet. Det er ikke sånn det fungerer. Hvis du ikke er en del av løsningen, blir det ingen løsning.

I dette første argumentet vil det introduseres noen få, grunnleggende begreper for hvordan avhengighetsskapende og manipulerende nettverkstjenester utvikles. Bevissthet er det første skrittet mot frihet.

 

Gulrot og pisk

Parker sier at Facebook med hensikt gjorde folk avhengige, mens Palihapitiya sier noe om den negative innvirkningen på samfunnet og forholdet mellom mennesker. Hva er sammenhengen mellom disse to syndsbekjennelsene?

Den grunnleggende prosessen som gjør at sosiale medier kan tjene penger og som samtidig skader samfunnet, er atferdsendring. Atferdsendring innebærer systematiske metoder som endrer atferdsmønstre hos dyr og mennesker. Det kan brukes til å behandle avhengighet, men det kan også brukes til å skape den.

Skaden på samfunnet kommer fordi avhengighet gjør folk sprø. Den avhengige mister gradvis kontakten med den virkelige verden og virkelige mennesker. Når mange mennesker er avhengige av manipulerende ordninger, blir verden mørk og vanvittig.

Opprinnelig var spiselige godbiter den mest brukte belønningen i behavioristiske eksperimenter.

Avhengighet er en nevrologisk prosess som vi ikke forstår fullt ut. Nevrotransmitteren dopamin spiller en rolle i nytelse, og antas å være sentral for mekanismen med atferdsendring som reaksjon på at man får en belønning. Det er grunnen til at Parker bringer det på bane.

Atferdsendring, spesielt den moderne typen som gjennomføres med innretninger som smarttelefoner, er en statistisk effekt, hvilket betyr at den er reell, men ikke fullstendig pålitelig. I en hel populasjon er effekten mer eller mindre forutsigbar, men for hvert enkelt individ er den umulig å fastslå. Til en viss grad er du et dyr i buret til en behaviorist som utfører eksperimenter. Men det at noe er uklart eller omtrentlig, gjør ikke at det ikke er reelt.

Opprinnelig var spiselige godbiter den mest brukte belønningen i behavioristiske eksperimenter, men den samme metoden er blitt brukt til alle tider. Alle som dresserer dyr, bruker det, og gir hunden en liten godbit etter at den har gjort et triks. Mange foreldre med små barn gjør det samme.

En av de første behavioristene, Ivan Pavlov, er kjent for å ha demonstrert at han ikke trengte å bruke mat. Han ringte i en bjelle hver gang hunden fikk mat, og til slutt begynte hunden å sikle bare den hørte bjella.

Det å bruke symboler i stedet for reelle belønninger er blitt et viktig triks i verktøykassen for atferdsendring. I mobilspill som Candy Crush, for eksempel, brukes det skinnende blanke bilder av godteri i stedet for ekte godteri for å gjøre folk avhengige. I andre avhengighetsskapende dataspill kan det brukes skinnende blanke bilder av mynter eller en annen skatt.

Det overraskende er ikke at positive og negative tilbakemeldinger fungere.

Avhengighetsskapende nytelse og belønningsmønstre i hjernen – det «lille dopamin-kicket» som Sean Parker viste til – er en del av grunnlaget for at folk blir avhengige av sosiale medier, men ikke hele historien. Sosiale medier gjør også bruk av straff og negativ forsterkning.

Forskjellige former for straff er blitt brukt i behavioristenes laboratorier. Elektrosjokk var en stund populært. Men akkurat som med belønninger, er det ikke nødvendig at straffen er reell og fysisk. I noen eksperimenter kan en forsøksperson bli nektet poeng eller symboler.

Når du bruker sosiale medier, får du det som tilsvarer både godbiter og elektrosjokk.

De fleste som bruker sosiale medier, har opplevd såkalt catfishing[4] (som katter hater), meningsløs avvisning, å bli bagatellisert eller ignorert, direkte sadisme eller alt dette og enda verre ting. Akkurat slik gulrot og pisk kan bli brukt sammen, kan ubehagelige tilbakemeldinger spille en like stor rolle i avhengighetsdannelse og utspekulert atferdsendring som den behagelige typen kan gjøre.

 

Forlokkende mysterier

Når Parker bruker uttrykket «nå og da», refererer han sannsynligvis til et av de besynderlige fenomenene som behavioristene oppdaget mens de studerte både dyr og mennesker. Hvis noen får en belønning – enten det er positiv sosial anseelse eller en godteribit – hver gang de gjør en bestemt ting, vil de som regel gjøre mer av det samme. Når folk får en smigrende reaksjon når de legger ut noe på sosiale medier, legger de seg til en vane med å legge ut mer.

Det høres uskyldig nok ut, men det kan være første stadium i en avhengighet som blir et problem både for enkeltpersonen og samfunnet. Selv om folka i Silicon Valley har en nøytral betegnelse på denne fasen – «engasjement» – frykter vi den nok til å holde barna våre borte fra den. Mange av Silicon Valley-barna jeg kjenner, går på Waldorf-skoler, som har et generelt forbud mot elektronikk.

Det er sunt for en forsker å la seg fascinere av et mønster som ikke henger helt på greip.

Tilbake til det overraskende fenomenet: Det overraskende er ikke at positive og negative tilbakemeldinger fungerer, men at litt vilkårlige og uforutsigbare tilbakemeldinger kan være mer engasjerende enn perfekte tilbakemeldinger.

Hvis du umiddelbart får en godteribit hver gang du sier «vær så snill» når du er liten, vil du sannsynligvis begynne å si vær så snill oftere. Men hva om den godteribiten noen ganger ikke dukker opp? Du gjetter kanskje at du da ikke vil si vær så snill like ofte lenger, ettersom det tross alt ikke fører til belønning like forutsigbart som det pleide å gjøre.

Men noen ganger vil det motsatte skje. Det er som om hjernen din, som er skapt for å finne mønstre, ikke klarer å motstå utfordringen. «Det må være noe ekstra lureri her», mumler den besatte hjernen din. Du fortsetter å si vær så snill, i håp om at et dypere mønster vil vise seg, til tross for at det ikke finnes noe annet enn bunnløs tilfeldighet.

Det er sunt for en forsker å la seg fascinere av et mønster som ikke henger helt på greip. Kanskje betyr det at det finnes en dypere avsløring et sted. Det er også et flott redskap å utnytte hvis du skriver et manus. En liten uoverensstemmelse gjør et plott eller en karakter mer fascinerende.

Men i mange situasjoner er det et forferdelig utgangspunkt for fascinasjon. Det forlokkende med sviktende tilbakemeldinger er trolig det som lokker mange inn i usunne «avhengighets»-forhold der den andre behandler dem dårlig.

 

Et snev av vilkårlighet er ekstremt enkelt å skape i sosiale medier: Siden algoritmene ikke er perfekte, er slump en integrert del av det hele. Men i tillegg blir innholdet som regel tilpasset så det omfatter en ekstra grad av tilsiktet vilkårlighet. Motivasjonen bak kom opprinnelig fra grunnleggende matematikk, ikke menneskelig psykologi.

Algoritmene for sosiale medier er vanligvis «adaptive», som betyr at de konstant gjør små endringer på seg selv for å prøve å oppnå bedre resultater; «bedre» i denne sammenhengen betyr mer engasjerende og dermed mer lønnsomme. Litt vilkårlighet er alltid til stede i denne typen algoritmer.

La oss anta at en algoritme viser deg en mulighet til å kjøpe sokker eller aksjer omtrent fem sekunder etter at du har sett en kattevideo som gjør deg glad. En adaptiv algoritme vil nå og da utføre en automatisk test for å finne ut hva som skjer hvis intervallet endres til for eksempel fire og et halvt sekund. Fører det til større sannsynlighet for at du kjøper? I så fall kan den tidsjusteringen brukes ikke bare på det fremtidige innholdet ditt, men også på innholdet til mange tusen andre som ser ut til å være korrelert med deg på grunn av alt fra fargepreferanser til kjøremønstre.[5]

En mutasjon er en joker som tilfører nye muligheter, et sprang som kan endre hele situasjonen.

Adaptive algoritmer kan av og til henge seg opp. Hvis en algoritme ikke oppnår flere fordeler av ytterligere småjusteringer i innstillingene, vil ikke flere småjusteringer ha noen hensikt. Hvis endring til fire og et halvt sekund gjør det mindre sannsynlig at du kjøper sokker, men fem og et halvt sekund også gjør et salg mindre sannsynlig, vil innstillingen bli værende på fem sekunder.

Ut fra tilgjengelig dokumentasjon ser det ut til at fem sekunder er den best mulige tiden å vente. Hvis ingen små, tilfeldige endringer hjelper, vil algoritmen slutte å tilpasse seg. Men adaptive algoritmer skal egentlig ikke slutte å tilpasse seg.

Hva om mye større endringer kan forbedre resultatet? Det kan jo hende at for eksempel to og et halvt sekund er bedre. Men det vil ikke de gradvise justeringene vise, fordi algoritmen stoppet opp på femsekunders-innstillingen. Dette er grunnen til at adaptive algoritmer i tillegg ofte har en liten dose større vilkårlighet. Nå og da finner en algoritme bedre innstillinger ved å bli rystet ut av innstillinger som bare er helt greie.[6]

Adaptive systemer har ofte en slik sprangmekanisme innebygd. Et eksempel er forekomsten av nyttige mutasjoner i den naturlige evolusjonen, som vanligvis drives av mer gradvise seleksjonsbaserte hendelser der genene fra et individ enten blir ført videre eller ikke. En mutasjon er en joker som tilfører nye muligheter, et sprang som kan endre hele situasjonen. Nå og da vil en mutasjon tilføre en merkelig, ny og forbedrende egenskap til en art.

Nevroforskere lurer selvsagt på om en lignende prosess foregår i menneskehjernen. Hjernen vår omfatter utvilsomt adaptive prosesser, og kanskje er den tilpasset for å finne frem til overraskelser, for naturen kan ikke fordra at alt går i den samme tralten.

Når en algoritme leverer opplevelser til en person, viser det seg at den vilkårligheten som gjør at tilpasningen av algoritmer går lettere, også kan nøre opp under menneskelig avhengighet. Algoritmen prøver å fange opp de perfekte parameterne for å manipulere hjernen, mens hjernen, for å finne frem til en dypere mening, forandrer seg som reaksjon på algoritmens eksperimenter. Det er som kattens lek med musen, basert på ren matematikk.

Folk er svært følsomme når det gjelder sosial status, vurdering og konkurranse.

Ettersom stimuliene fra algoritmen ikke betyr noe som helst, i og med at de er rent vilkårlige, tilpasser ikke hjernen seg til noe reelt, men til oppspinn. Den prosessen – der man blir hekta på en unnvikende illusjon – er avhengighet. Mens algoritmen prøver å komme seg bort fra den gamle tralten, kjører menneskesinnet seg fast i den samme.

Pionerene i å utnytte på nett dette møtepunktet mellom matematikk og menneskehjernen, var ikke selskapene som står bak sosiale medier, men de som skapte digitale spillmaskiner som videopoker og deretter online gamblingsider. Noen ganger kan pionerer fra gambling-verdenen klage på at sosiale medier har stjålet ideene deres og tjent mer penger enn dem, men stort sett snakker de om hvordan sosiale medier hjelper dem med å finne frem til de letteste ofrene.[7]

Himmel og helvete består av andre mennesker [8]

Sosiale nettverk bringer inn en annen dimensjon av stimuli: sosialt press.

Folk er svært følsomme når det gjelder sosial status, vurdering og konkurranse. I motsetning til de fleste dyr blir mennesker ikke bare født fullstendig hjelpeløse, men fortsetter i tillegg å være det i mange år. Vi overlever bare hvis vi kommer overens med familiemedlemmer og andre. Sosiale hensyn er ikke valgfrie trekk ved menneskehjernen. De er fundamentale.

Betydningen av hva andre mennesker synes, har vist seg å være stor nok til å forandre atferden til forsøkspersoner i berømte studier som Milgram-eksperimentet og Stanford Prison Experiment. Normale, ikke-kriminelle mennesker ble presset til å gjøre grusomme ting, som å torturere andre, uten noen annen mekanisme enn sosialt press.

Alle lider av sosial angst nå og da.

På sosiale nettverk har manipulasjon av sosiale følelser vært den letteste måten å skape belønning og straff på. Det vil kanskje endre seg en vakker dag, hvis droner begynner å slippe ordentlig godteri ned fra himmelen når du gjør som algoritmen vil, men enn så lenge handler alt om følelser som kan vekkes i deg – stort sett følelser relatert til hva andre mennesker synes.

Hvis vi for eksempel er bekymret for at vi ikke blir oppfattet som kule, attraktive eller med høy status, føler vi oss ikke bra. Den frykten er en intens følelse. Den gjør vondt.[9]

Alle lider av sosial angst nå og da, og alle barn har møtt på en bølle som har brukt sosial angst som torturvåpen, sannsynligvis fordi det å oppføre seg som en bølle minsket sjansene for at bøllen selv kunne bli et offer. Det er grunnen til at mennesker, selv de som vanligvis er anstendige, selv bidrar når et offer utsettes for tortur relatert til sosial angst. De er så redde for den svært reelle smerten sosial angst fører til, at de kan glemme sitt egentlige jeg et lite øyeblikk.

Det betyr ikke at alle sosiale følelser er negative. Vi kan også oppleve kameratskap, sympati, respekt, beundring, takknemlighet, håp, empati, nærhet, tiltrekning og en hel verden av andre positive følelser når vi har med andre mennesker å gjøre. På den negative siden kan vi føle frykt, fiendtlighet, engstelse, bitterhet, avvisning, sjalusi og et ønske om å latterliggjøre.

Hvis sosialt fremkalte følelser kan fungere som straff eller belønning, vil da belønning eller straff være mest effektivt for å endre folk? Dette spørsmålet er blitt studert i lang tid, og det ser ut til at svaret varierer ut ifra populasjonen som studeres, og omstendighetene. Her er en studie som antyder at små barn responderer bedre på belønning enn straff, men at det omvendte kanskje er tilfellet etter tolv års alder.[10] Her er en annen studie som antyder at straff er mer effektivt enn belønning for å manipulere høyskolestudenter.[11]

Hovedmålet med å være engasjerende er selvforsterkende.

Her er et sammendrag av forskning som indikerer at bekreftelse fungerer bedre for å motivere voksne arbeidere.[12] Det kan være at det er typen oppgave som avgjør hvilken type tilbakemelding som er mest effektiv,[13] og det kan også være måten oppgaven er beskrevet på.[14]

Mye akademisk forskning sammenligner effekten av positive og negative tilbakemeldinger, men det er ikke det viktigste spørsmålet for utforming av kommersielle plattformer for sosiale medier, som først og fremst er fokusert på å redusere kostnadene og øke ytelsen, slik at profitten maksimeres. Uansett om positive tilbakemeldinger i teorien kan vise seg å være mest effektive, viser det seg at negative tilbakemeldinger er de billigste tilbakemeldingene, det beste valget for økonomien, og derfor vises de oftere i sosiale medier.

Negative følelser som frykt og sinne manes lettere frem og dveler lettere i oss enn positive. Det tar lengre tid å bygge tillit enn å miste den. Kamp/flukt-responsen slår inn på sekunder, men det kan ta mange timer å slappe av.

Dette er tilfellet i det virkelige liv, men det er i enda større grad tilfellet under algoritmenes konturløse lys.

I stedet for å bruke de enkle mekanismene i behaviorismen må vi tenke på mennesker på mer kreative måter.

Det finnes ikke noe ondt geni som – i et avlukke i et selskap som driver med sosiale medier – sitter og utfører beregninger og kommer frem til at det å få folk til å bli lei seg er mer «engasjerende» og dermed mer lønnsomt enn å få dem til å føle seg bra. Jeg har i hvert fall aldri møtt eller hørt om en slik person.

Hovedmålet med å være engasjerende er selvforsterkende, og ingen legger engang merke til at negative følelser forsterkes mer enn positive. Det er ikke meningen at engasjement skal tjene noe annet bestemt formål enn det å forsterke seg selv, og likevel er resultatet en unaturlig global forsterkning av de «lett tilgjengelige» følelsene, som tilfeldigvis er de negative.

 

Bits som agn

I det større bildet, der folk må gjøre mer enn å innrette seg for at arten skal trives og blomstre, er behaviorisme en utilstrekkelig måte å tenke på samfunnet på. Hvis du virkelig vil motivere til høye verdier og kreative resultater, i motsetning til å pugge ting, så er belønning og straff ikke de rette redskapene i det hele tatt.

Det er en lang rekke forskere som har studert dette emnet, deriblant Abraham Maslow i 1950-årene og deretter mange andre, blant andre Mihaly Csikszentmihalyi (som fikk selskap av forfattere som Daniel Pink). I stedet for å bruke de enkle mekanismene i behaviorismen må vi tenke på mennesker på mer kreative måter, hvis vi vil at de skal være kreative. Vi må skape glede, intellektuelle utfordringer, individualitet, nysgjerrighet og andre kvaliteter som ikke passer inn i en systematisk tabell.

Men det er noe ved den digitale teknologiens rigiditet, det med at bits skrus av og på, som tiltrekker behavioristenes måte å tenke på. Belønning og straff er som én og null. Det er ikke overraskende at B.F. Skinner var en viktig aktør i de digitale nettverkenes spede barndom, for eksempel.[15] Han så på digitale nettverk som en ideell metode for å trene opp en befolkning til den typen utopi han søkte, der vi alle endelig skulle klare å oppføre oss ordentlig. En av bøkene hans het Beyond Freedom and Dignity. Hinsides frihet og verdighet!

Begrepet «engasjement» er en del av det kjente, steriliserte språket som skjuler hvilken tåpelig maskin vi har bygd. Vi må begynne å bruke begreper som «avhengighet» og «atferdsendring». Her er et annet eksempel på sterilisert språk: Vi kaller fortsatt kundene til selskaper som driver med sosiale medier, for «annonsører» – og for å være korrekt er det mange av dem som er det. De vil at du skal kjøpe såpe av et spesielt merke eller noe. Men de kan også være ekle, skjulte kryp som ønsker å undergrave demokratiet. Så jeg foretrekker å kalle denne gruppen mennesker for manipulatorer.

Beklager til alle såpeselgere … Faktisk kan jeg fortelle at de som jobber i selskaper som Procter & Gamble er fine folk – jeg har møtt en hel haug av dem – og de ville hatt et lykkeligere liv hvis de ikke hadde stått i takknemlighetsgjeld til selskaper som driver med sosiale medier.

En uheldig kombinasjon av biologi og matematikk fører til degradering av den menneskelige verden.

Den første tiden var reklame på nett faktisk bare reklame. Men snart skulle fremskritt innen datateknologi tilfeldigvis inntreffe samtidig med latterlig perverse økonomiske incentiver, slik det vil bli forklart i neste argument. Det som begynte som reklame, ble forvandlet til noe som heller kunne hete «utleie av imperier for atferdsendring». Den forvandlingen har ofte tiltrukket nye typer kunder/manipulatorer, og de er ikke pene.

Dessverre kan ikke manipulatorene få ethvert resultat de måtte ønske seg like lett. Du kan ikke betale selskaper som driver med sosiale medier, for å bidra til å stoppe all krig og sørge for at alle blir snille. Sosiale medier er tendensiøse, ikke mot venstre eller høyre, men nedover. At det relativt sett er enkelt å bruke negative følelser for å oppnå avhengighet og manipulasjon, gjør det relativt sett enklere å oppnå uverdige resultater.

Hvis ingen har lyst til å være Uber-sjåfør, vil ikke Uber-appen din utrette noe som helst.

En uheldig kombinasjon av biologi og matematikk fører til degradering av den menneskelige verden. Enheter for informasjonskrigføring påvirker valg, hatgrupper rekrutterer nye medlemmer, og nihilister får enorm valuta for pengene når de prøver å dra samfunnet ned i søla.

Det at forvandlingen fra reklame til direkte atferdsendring ikke var planlagt, førte til en eksplosiv forsterkning av det negative i mellommenneskelige relasjoner. Vi skal vende tilbake til de negative følelsenes sterkere kraft mange ganger mens vi utforsker de personlige, politiske, økonomiske, sosiale og kulturelle effektene av sosiale medier.

 

Avhengighet kombinert med nettverkseffekt

Avhengighet er en viktig årsak til at så mange av oss aksepterer å bli spionert på og manipulert av informasjonsteknologien, men det er ikke den eneste grunnen. Digitale nettverk gir oss en genuin verdi. De gjør ting mer effektivt og lettvint. Det er derfor så mange av oss jobbet hardt for å realisere dem.

Så fort du kan bruke en mobil enhet til å bestille transport og mat og finne ut hvor du skal møte vennene dine akkurat nå, er det vanskelig å gå tilbake. Det er vanskelig å huske at personer med sjeldne medisinske diagnoser tidligere ikke hadde noen mulighet til å finne andre personer i samme båt, og derfor hadde ingen å snakke med om de uvanlige problemene sine. For en velsignelse det er at dette er blitt mulig!

Men fordelene ved nettverk oppstår bare når folk bruker den samme plattformen. Hvis ingen har lyst til å være Uber-sjåfør, vil ikke Uber-appen din utrette noe som helst. Hvis ingen vil bruke dating-appen din, så skjer det samme. Ingenting.

Vi tenkte det ville være smartere å la private selskaper fylle tomrommene enn å overlate oppgaven til myndighetene.

Det uheldige resultatet er at så fort en app er tatt i bruk, er alle låst til den appen. Det er vanskelig å droppe ut av et bestemt sosialt nettverk og gå over til et annet, fordi alle du kjenner allerede er på det første. Det er i praksis umulig at alle i et samfunn skal ta sikkerhetskopi av dataene sine, flytte over til en annen app og gjenopprette innleggene sine samtidig.

Slike effekter kalles nettverks- eller synkroniseringseffekter. Det er vanskelig å unngå på digitale nettverk.

I utgangspunktet håpet mange av oss som jobbet med «scaling» av internett,[16] at det som skulle bringe folk sammen – som skulle skape nettverkseffekt og synkroniseringseffekt – ville være internett selv. Men det lå frihetlige verdier i luften, så vi utelot mange viktige funksjoner. Selve internettet omfattet for eksempel ikke en mekanisme for personlig identitet.

Alle datamaskiner har sitt eget kodenummer, men mennesker er ikke representert i det hele tatt. Dessuten gir selve internettet deg ikke plass til å lagre så mye som en bitte liten mengde vedvarende informasjon, noen mulighet til å foreta eller motta betalinger eller noen metode for å finne andre mennesker som du kanskje har noe til felles med.

Alle visste at disse funksjonene og mange andre ville komme til å trenges. Vi tenkte det ville være smartere å la private selskaper fylle tomrommene enn å overlate oppgaven til myndighetene. Det vi ikke tenkte på, var at grunnleggende digitale behov som de jeg nettopp har nevnt, ville føre til nye typer enorme monopoler på grunn av nettverks- og synkroniseringseffekter. Vi var så tåpelige at vi la grunnlaget for globale monopoler.

Vi trenger ikke tenke på fri vilje som en overnaturlig intervensjon i vårt univers.

Vi gjorde den vanskeligste jobben for dem. Siden du er produktet og ikke kunden til sosiale medier, vil det være mer korrekt å si at det rette ordet er «monopsonier» (kjøpermonopol).[17] Vår tidlige frihetlige idealisme førte til gigantiske, globale datamonopsonier.

En av de viktigste grunnene til at du bør slette kontoene dine i sosiale medier, er at det ikke finnes noen reell mulighet for å flytte til andre sosiale medier. Å slutte fullstendig er den eneste muligheten for å oppnå forandring. Hvis du ikke slutter, skaper du ikke det rommet Silicon Valley trenger for å gjøre seg selv bedre.

 

Avhengighet og fri vilje er motsetninger

Avhengighet gjør deg gradvis om til en zombie. Zombier har ikke fri vilje. Også her er det slik at resultatet ikke er fullkomment, men statistisk. Du blir mer som en zombie, større deler av tiden, enn du ellers ville ha vært.

Det er ikke nødvendig å tro på en myte om perfekte mennesker som er fullstendig upåvirket av avhengighet. De finnes ikke. Du kommer ikke til å bli perfekt eller fullstendig fri, uansett hvor mange selvhjelpsbøker du leser eller hvor mange avhengighetsskapende tjenester du fjerner fra livet ditt.

Det finnes ikke noe sånt som en fullstendig fri vilje. Hjernen vår endrer konstant måten den tilpasser seg et miljø i forandring på. Det er hardt arbeid, og hjerner blir slitne! Av og til tar de en pause, mister fokus og går på autopilot. Men det er noe annet enn å bli drevet av skjulte manipulatorer.

Vi påvirker hverandres atferd hele tiden, og det er positivt. Man må være ufølsom og likeglad hvis man ikke endrer måten man oppfører seg på rundt noen som følge av hvordan den personen reagerer. Når gjensidig atferdsendring er bra, er det kanskje en del av det vi snakker om når vi snakker om kjærlighet.

Mange av disse forandringene ligner på den typen TV-reklamer prøver å utløse, som å få deg til å kjøpe en bil eller gå på kafé.

Vi trenger ikke tenke på fri vilje som en overnaturlig intervensjon i vårt univers. Kanskje eksisterer den frie viljen når vår tilpasning til hverandre og verden har et usedvanlig kreativt preg.

Problemet er altså ikke atferdsendring i seg selv. Problemet er ustanselig, robotstyrt, til sjuende og sist meningsløs atferdsendring i tjeneste for usynlige manipulatorer og likeglade algoritmer.

Hypnose er kanskje terapeutisk så lenge du stoler på hypnotisøren, men hvem vil stole på en hypnotisør som jobber for en ukjent tredjepart? Hvem? Tydeligvis mange milliarder mennesker.

Tenk på de mange milliardene av dollar som dras inn av Facebook, Google og resten av den såkalte digitale annonseringsindustrien hver eneste måned. Det aller meste av de pengene kommer fra parter som ønsker å forandre atferden din, og som mener at de oppnår resultater. Mange av disse forandringene ligner på den typen TV-reklamer prøver å utløse, som å få deg til å kjøpe en bil eller gå på kafé.

Derfor er det sannsynlig at det finnes aktører som manipulerer oss – manipulerer deg – som ikke er blitt avslørt.

Men til tross for at sosiale medier-selskapene på noen måter vet mer om deg enn du vet om deg selv, kjenner de ikke alltid identiteten til annonsørene, de aktørene som drar nytte av å manipulere deg. Advokatene til teknologiselskaper har for eksempel forklart under ed at selskapene ikke kunne ha visst når russisk etterretningstjeneste forsøkte å påvirke det amerikanske presidentvalget eller forsterke skillelinjer for å svekke samfunnet.[18]

Jeg synes paranoid tenkning generelt sett virker mot sin hensikt. Den tar fra deg muligheter. Men tenk på situasjonen nå. Vi vet at sosiale medier er blitt brukt med hell for å splitte samfunn,[19] og vi vet at prisen for å gjøre det er bemerkelsesverdig lav. Vi vet at berørte selskaper håver inn forbløffende pengesummer og at de ikke alltid vet hvem kundene sine er. Derfor er det sannsynlig at det finnes aktører som manipulerer oss – manipulerer deg – som ikke er blitt avslørt.

For å befri deg selv, for å bli mer autentisk, for å bli mindre avhengig, for å bli mindre manipulert, for å bli mindre paranoid … av alle disse vidunderlige årsakene, slett kontoene dine.

(Dette er et utdrag fra Jaron Laniers bok “Ti argumenter for å slette sosiale medier NÅ”, utgitt på Res Publica, 2019. Res Publica og Agenda Magasin tilhører samme selskap. Les mer her.) 

 

FOTNOTER: 

[1] https://www.axios.com/sean-parker-unloads-on-facebook-2508036343.html

[2] https://gizmodo.com/former-facebook-exec-you-don-t-realize-it-but-you-are-1821181133. Jeg må imidlertid tilføye at Palihapitiya modifiserte sitt utsagn en smule de påfølgende dagene, da han snakket om at han syntes Facebook bidro positivt overalt i verden.

[3] https://mashable.com/2014/04/30/facebooks-new-mantra-move-fast-with-stability/

[4] https://en.wikipedia.org/wiki/Catfishing

[5] Tidsoptimalisering er bare ett av mange eksempler. Alle designvalg i sosiale medier blir optimalisert etter lignende prinsipp hele tiden. Tidligere Google-ansatt Tristan Harris har samlet flere eksempler, blant annet hvordan alternativer av alle slag presenteres for deg, hvordan du kan klikke på alternativer, og hvordan du og andre blir vist to og to alternativer. Ta en titt på essayene hans, deriblant «How Technology Hijacks People’s Minds», på http://www.tristanharris.com/

[6] Matematikere tenker ofte på denne prosessen som om man krabber rundt i et imaginært «energilandskap». Hver posisjon i energilandskapet tilsvarer innstillingene for parametere som kan endre seg, så når du krabber videre i landskapet, utforsker du forskjellige innstillinger for parameterne.

Femsekundersmerket ville tilsvare en dal som algoritmen har slått seg til ro i. Dypere er bedre i denne visualiseringen, for det krever mindre energi å være dypere, eller du kan tenke på metaforen som om du graver dypere i begravde gullforekomster. I denne tankeverdenen er innstillingen på to og et halvt sekund en dypere dal som du aldri ville finne ved å ta små skritt fra bunnen av femsekundersdalen, for du sklir alltid tilbake. Den eneste måten å finne den dypere dalen på, er hvis man blir tvunget til å foreta et utforskende sprang.

[7] https://link.springer.com/article/10.1007%2Fs10899-015-9525-2

[8] Dette er en referanse til et skuespill av Jean-Paul Sartre; slå det opp!

[9] http://people.hss.caltech.edu/∼lyariv/papers/DarkSide1.pdf

[10]http://esciencenews.com/articles/2008/09/25/from.12.years.onward.you.learn.differently

[11] https://source.wustl.edu/2015/05/carrot-or-stick-punishments-may-guide-behavior-more-efectively-than-rewards/

[12] https://hbr.org/2017/09/what-motivates-employees-more-rewards-or-punishments

[13] http://onlinelibrary.wiley.com/doi/10.1002/job.725/pdf

[14] https://repositories.lib.utexas.edu/handle/2152/24850

[15] http://friendlyorangeglow.com/

[16] «Scaling» er et Silicon Valley-begrep for å gjøre noe gigantisk. Jeg inkluderer meg selv i «vi», for i 1990-årene var jeg sjefprogrammerer for utviklingskontoret til Internet2, sammenslutningen av universiteter som hadde som oppgave å løse problemet med hvordan man skulle få internett til å fortsette å virke når det ble gigantisk.

[17] Et monopol foreligger når det bare er én selger, mens et monopsoni foreligger når det bare er én kjøper. Vi kan si at smarttelefonplattformene iOS og Android er et duopol, siden de i praksis er de eneste kanalene for smarttelefon-apper, men vi kan også si at de er et duopsoni, siden alle penger som strømmer inn i apper, må gå gjennom dem.

[18] https://www.washingtonpost.com/news/the-switch/wp/2017/10/31/facebook-google-and-twitter-are-set-to-testify-on-capitol-hill-heres-what-to-expect/

[19] https://thestrategybridge.org/the-bridge/2017/5/10/how-russia-weaponized-social-media-in-crimea