Takket være ny teknologi innen «datainferens» vet selskaper mer om deg enn det du selv velger å dele.
Folk som ønsker å ivareta private opplysninger om seg, opptrer ofte «forsiktige» på nett. De holder seg unna sosiale medier, eller hvis de er på dem, poster de med omhu. De deler ikke informasjon om sine religiøse overbevisninger, privatlivet sitt, helseoppdateringer eller politiske standpunkt. Dermed tror de at de beskytter privatlivet sitt.
Det er ikke lenger mulig å reservere seg i en digital verden hvor privatlivet trues fra alle kanter.
Men der tar de feil. På grunn av teknologiske framskritt og den store mengden data som nå er tilgjengelig om milliarder av andre folk, er det ikke lenger nok å selv være diskret for å beskytte privatlivet ditt. Dataalgoritmer og nettverksanalyser kan nå dra slutninger, med en tilstrekkelig høy grad av nøyaktighet, om en rekke aspekter ved deg som du kanskje aldri selv har delt. Det inkluderer også humøret ditt, politisk ståsted, seksuell legning og din personlige helse.
Det er ikke lenger mulig å reservere seg i en digital verden hvor privatlivet trues fra alle kanter.
Den grunnleggende tanken bak datainferens er ingenting nytt. Magasiners abonnentlister har lenge blitt kjøpt av selgere, veldedighetsorganisasjoner og politikere fordi de kan gi nyttige hint om hvilke synspunkt folk har. Noen som abonnerer på The Wall Street Journal er mer sannsynlig til å stemme på Det republikanske partiet enn noen som abonnerer på The Nation, og så videre.
Maskinlærende algoritmer mates med enorme mengder data, hvorpå dataprogrammet selv kategoriserer hvem det er mest sannsynlig vil bli deprimert.
Men dagens teknologi opererer på et mye høyere nivå. Ta dette eksemplet med Facebook: I 2017 publiserte avisa The Australian en artikkel basert på et lekket dokument fra Facebook som avslørte at selskapet hadde fortalt annonsører at Facebook kunne forutsi når yngre brukere, heriblant ungdommer, følte seg «usikre», «verdiløse» eller at de på en eller annen måte trengte en «selvtillit-boost». Facebook kunne visstnok trekke disse slutningene ved å overvåke bilder, poster og annen data på sosiale medier.
Facebook avviste at de ikke lar annonsører rette seg direkte mot brukere basert på disse karakteristikkene, men de har nesten utvilsomt muligheten til å gjøre det. Forskere viste faktisk i fjor at de kunne forutsi depresjon hos Facebook-brukere ved å analysere dataen deres på sosiale medier – og de hadde tilgang på mye mindre data enn det Facebook har.
Les også Zeyneps Tufekcis kommentar om hvordan demokratiet forgiftes i ytringsfrihetens gullalder.
Selv om Facebook ikke nå markedsfører muligheten de har til å fange opp din nåtidige eller framtidige psykiske helse fra aktiviteten din på sosiale medier, burde det faktum at de (og utallige andre mindre synlige aktører) er i stand til å gjøre det, være en kilde til bekymring.
Det er verdt å understreke at dagens datainferensteknologi ikke bare sjekker for å se om Facebook-brukere poster utsagn som «Jeg er deprimert» eller «Jeg har det fælt». Teknologien er betraktelig mer sofistikert enn som så: Maskinlærende algoritmer mates med enorme mengder data, hvorpå dataprogrammet selv kategoriserer hvem det er mest sannsynlig vil bli deprimert.
Ta et annet eksempel: I 2017 brukte forskere, med data fra over 40 000 Instagram-bilder, maskinlærende verktøy for å nøyaktig identifisere tegn på depresjon i en gruppe på 166 Instagram-brukere. Datamodellene deres viste seg å være bedre til å forutsi depresjon enn mennesker som ble bedt om å rangere hvorvidt bilder var lykkelige eller triste, og så videre.
Hva skjer når noen får avvist en jobbsøknad basert på en slutning vi ikke engang vet er riktig?
Når det brukes til redelige formål, kan datainferens være et fantastisk verktøy. Å forutsi depresjon før kliniske symptomer slår inn, kunne ha gjort underverker for folkehelsen. Det er derfor akademikere forsker på disse verktøyene; de har et håp om å kunne fange opp og forebygge sykdomsforløpet på et tidlig stadium.
Men disse verktøyene gir også grunn til bekymring. Få av de som poster bilder på Instagram, er klar over at de kanskje samtidig avslører informasjon om sin psykiske helse til en ukjent aktør med den riktige teknologiske makten.
Datainferens kan også være et verktøy for sosial kontroll. Regjeringen i Kina har samlet inn biometrisk data fra innbyggerne sine og forsøker å bruke stordata og kunstig intelligens for å avdekke «trusler» mot det kommunistiske styret, heriblant landets uighurbefolkning – en i hovedsak muslimsk etnisk gruppe.
Slike verktøy markedsføres allerede for bruk i ansettelsesprosesser, å fange opp humøret til kunder og å forutsi kriminell atferd. Med mindre de reguleres skikkelig, kan vi i nær framtid bli ansatt, sparket, få eller bli nektet forsikring, bli tatt opp til eller avvist av studiesteder, få eller ikke få leie en bolig, og få godkjent eller utvidet kredittlån basert på slutninger fra slike former for datainnsamling.
Dette er bekymringsverdig nok når det er snakk om riktige slutninger. Men fordi datainferens er en statistisk metode, tar den ofte feil – og det er vanskelig, og kanskje umulig, å finne den nøyaktige kilden til feilen, ettersom disse algoritmene gir liten eller ingen innsyn i hvordan de opererer. Hva skjer når noen får avvist en jobbsøknad basert på en slutning vi ikke engang vet er riktig?
Hvorfor forlot du huset til en kvinne som ikke er kona di klokken fem om morgenen?
Et annet urovekkende eksempel på slike databaserte slutninger, inkluderer telefonnummeret ditt. Telefonnummer er en stadig mer vanlig form for identifisering som fungerer på lik måte som personnummeret ditt – den er unik og knyttet til deg. Selv om du har holdt deg unna Facebook og andre sosiale medier, er telefonnummeret ditt helt sikkert lagret på andres kontaktlister på sine telefoner. Hvis de bruker Facebook (eller Instagram eller WhatsApp), har de blitt oppfordret til å laste opp kontaktene sine for å finne «vennene» sine, noe mange gjør.
Med en gang nummeret ditt viser seg i et par opplastinger, kan Facebook plassere deg i et sosialt nettverk som hjelper dem med å trekke slutninger om deg siden vi ofte likner menneskene i vårt sosiale utsnitt. (Facebook har til og med «skyggeprofiler» av ikke-brukere og benytter seg av «sporingspiksler» plassert over hele verdensveven – ikke bare på Facebook – som sender informasjon om atferden din til selskapet.)
I fjor avslørte en etterforskning ledet av den demokratiske senatoren Ron Wyden fra Oregon, at Verizon, T-Mobile, Sprint og AT&T solgte informasjon om hvor folk befinner seg og når. En undersøkende rapport i fjor fra The New York Times og en egen granskning gjort av sikkerhetsanalytikeren Will Strafach, viste også at værapplikasjoner som Weather Channel, AccuWeather og WeatherBug solgte informasjon om hvor brukerne sine befant seg.
Denne typen data er ikke bare nyttig for å spore bevegelsene dine, men også for å trekke slutninger om deg. Hvorfor var du på kreftavdelingen nylig? Hvorfor forlot du huset til en kvinne som ikke er kona di klokken fem om morgenen?
Vi er også nødt til å begynne å innføre lover som direkte regulerer bruken av datainnsamling.
Journalisten Kashmir Hill har rapportert om saker hvor Facebook foreslo til pasientene til en psykiater at de var potensielle «Facebook-venner», foreslo at folk «ble venner med» personen som ektefellen var utro med, og avslørte identiteten til sexarbeidere for klientene deres. Vi vil nødig at store selskaper (eller regjeringer) skal gjøre slike koplinger, for ikke å snakke om å utnytte dem for å «øke» plattformen sin.
Hva kan vi gjøre? Å designe telefoner og andre enheter til å bedre beskytte de private opplysningene våre, kan være en start, og statlige reguleringer av innsamling og spredning av data kan bidra til å bremse utviklingen. Men dette er bare en del av løsningen.
Vi er også nødt til å begynne å innføre lover som direkte regulerer bruken av datainnsamling: Hvilke analyser vil vi la dem gjøre, og under hvilke vilkår og krav om etterrettelighet, åpenhet, kontroll og konsekvenser for misbruk?
Før vi har gode svar på disse spørsmålene, kan du ta for gitt at andre der ute fortsetter å finne ut stadig mer om deg – samme hvor diskret du prøver å være.
Teksten ble opprinnelig publisert i New York Times 21. april 2019. Oversatt fra engelsk av Sigrid E. Strømmen.
Kommentarer