Det elektroniske fattighuset

Hvordan vi behandler våre svakeste sier mye om oss.

Fra 1600-tallet til starten av 1900-tallet, låste man dem inn i fattighus. Som et slags fengsel for de arbeidsløse fungerte fattighuset som så mangt, men først og fremst var det et sted hvor samfunnet sendte de de ikke visste hvordan de kunne hjelpe.

Det er lenge siden fattighuset ble utfaset, men uverdig behandling av fattige har vedvart. Spesielt i USA, hvor man aldri bygde noen velferdsstat. Fremfor å bekjempe hjemløshet og fattigdom, har man valgt å håndtere de fattige fremfor å hjelpe dem.

Dette kaller Eubanks for det elektroniske fattighuset.

Måten å håndtere dem på har tatt mange former, men skal man tro den amerikanske forfatteren Virginia Eubanks, er fattighuset på vei tilbake. Og denne gangen er det digitalt.

Fattighus i skyen

Flere og flere steder ser man nemlig at dataalderens inntog også får utslag for hvordan fattige behandles i USA.

Der de tidligere ble låst inne på avgrensede og inngjerdede områder, kontrolleres de i dag av et nett automatiserte og algoritmebaserte prosesser. Dette kaller Eubanks for det elektroniske fattighuset.

Som trådene i et spindelvev, legger diverse algoritmiske prosesser seg over den amerikanske befolkningen. Dette kan være automatiserte prosesser for tildeling av trygd, helsetjenester, matkuponger eller en rekke andre tjenester.

Ved å benytte seg av disse, oppgir man en enorm mengde persondata, og tjenestenes er lagt opp slik at de som ikke føyer seg etter tjenestenes regime av tidsfrister, forventet atferd og dokumentasjon, straffes hardt. Blant annet deles persondataen oppgitt for å bruke en rekke tjenester med politiet – som bruker denne hyppig.

Akkumulert leder de algoritmebaserte prosessene til at USAs fattige er like kontrollerte som de ville vært i et fattighus, uten å faktisk å være innelåst.

Velferd med en dose americana

I Automating Inequality har Eubanks gått tre velferdstilbud etter i sømmene. I tre reportasjer foretar hun dypdykk i automatisering av tildeling av helsestøtte i Indiana, boligpolitikk i Los Angeles og barneverntjenesten i Philadelphia.

Snarere har de i beste fall angrepet fattiges verdighet og i verste fall tatt livet deres.

I Indiana gjorde rigide rutiner for automatisk avslag på offentlig helsestøtte at mennesker som av forskjellige årsaker ikke godkjente kravene for støtte, mistet denne.

I Los Angeles gjorde svært inngripende spørreundersøkelser at kun hjemløse med mest akutt behov for bolig fikk dette, mens resten utelukkende endte med å gi fra seg sensitiv informasjon som så sto tilgjengelig for en rekke institusjoner – deriblant politiet.

I Philadelphia gjorde et automatisert poengsystem at barn i relativt normale hjem ble tatt av barnevernet, og at afroamerikanere og fattige med alarmerende høy frekvens fikk barnevernet på døren.

Triste skjebner

I hvert av tilfellene presenterer Eubanks historiene til mennesker som på en eller annen måte ble rammet av de nye systemene. I Indiana får vi blant annet høre om barn som mister livsviktige medisiner fordi et skjema manglet en underskrift. Tidligere ville en saksbehandler ha hjulpet familien med å finne en løsning, men nå avslås støtten automatisk.

Det er skremmende lesning.

Lignende historier viser hvordan fraværet av saksbehandlere og økt fokus på upersonlige algoritmer ikke bare gjør livet vanskeligere for mottakere av velferdsgoder, men også de få saksbehandlerne som er igjen.

I Philadelphia så man blant annet at saksbehandlerne i barnevernet nærmest aldri forholdt seg kritisk til risikovurderingene datavaren fremregnet. Selv om man etter hvert ble var algoritmenes feilbarlighet, rykket man ukritisk ut ved høy risikovurdering. En utrykning ble regnet som en risikofaktor, og sannsynligheten for at samme familie også i fremtiden ville få en høy risikovurdering, ble derfor høyere.

Det er skremmende lesning. Mye skiller de tre eksemplene. Noen av dem er gjennomført med et genuint ønske om å hjelpe, mens andre er dårlig skjulte forsøk på å kutte i velferdsgoder. Det de alle har til felles, er at de ikke har fungert, snarere har de i beste fall angrepet fattiges verdighet og i verste fall tatt livet deres.

Å vaske seg med matte

Bak automatiseringen av velferdsgoder og andre statlige funksjoner, ligger tanken om at en algoritme alltid er mer nøyaktig, effektiv og objektiv enn en menneskelig behandler.

Hva de to første attributtene angår, kan nok en algoritme tenkes å møte forventningene (om ren effektivitet er hva man burde etterspørre av velferdstjenester, er et annet spørsmål), men den er ikke mer objektiv enn den som designer den.

Dette kaller Eubanks “Math-washing”, og med det sikter hun til tanken om at en velferdstjeneste tidligere hadde problemer med diskriminering på bakgrunn av etnisitet, så vil algoritmifisering fjerne alle tenkelige fordommer fra prosessen.

Men som Eubanks forklarer, er dette langt fra sannheten. For å lage en algoritme som eksempelvis skal foreta en risikovurdering av barn må måleenheter, eller proxyer, brukes for å kvantifisere risikoen, da det er snakk om forhold som ikke lett lar seg tallfeste.

Ved hjelp av moderne algoritmer straffes fattige for å ta i bruk velferdstjenestene som er der for å gjøre livene deres enklere.

I arbeidet med å bestemme hvilke proxyer som skal brukes, kommer fordommene man forsøker å fjerne til syne igjen.

I eksempelet med det automatiserte barnevernet, er det nemlig slik at proxyene i stor grad korrelerer med å være fattig, blant annet ved å betegne bruk velferdstjenester som en risiko. Nå kan det tenkes at det er større risiko for at barn behandles dårlig om fattigdom er i bildet, men fattigdom kan ikke alene diskvalifisere mennesker fra å bli foreldre.

Slik ser man at en rekke av fordommene man så utslag for før prosessen ble automatisert, blir med inn i den tilsynelatende objektive algoritmen. De har ervervet et skinn av tallmessig objektivitet, men de er likeså fordommer.

Er det etisk da?

Vitenskapelige fremskritt akkumuleres sakte, men sikkert. Fremskritt bygger på fremskritt og horisonten for hva som er mulig blir videre og videre.

Slik er det ikke med etikk. Det er ikke slik at vi blir mer og mer moralske, eller at moralske fremskritt akkumuleres over tid. Eubanks ferd inn i den hypermoderne tekno-fattigdommen understreker dette ettertrykkelig.

Vår etiske evolusjon henger etter den vitenskapelige.

Vi besitter i dag teknologi man bare for 20 år siden knapt kunne forestille seg. Likevel klarer man ikke i verdens største økonomi å behandle sine fattige med et snev av verdighet. Snarerere tvert i mot; man retter teknologien mot dem man i utgangspunktet skal hjelpe.

Ved hjelp av moderne algoritmer straffes fattige for å ta i bruk velferdstjenestene som er der for å gjøre livene deres enklere.

Det gir uttrykk for et syn på fattiges lidelse som noe de har forårsaket selv, og noe fellesskapet egentlig ikke har ansvar for å hjelpe til med – hjelpen skal i så fall være så vanskelig å beholde og så behovsprøvd som mulig.

Alle skal med

Dette mener også Eubanks gjennomsyrer hele den amerikanske historien om fattigdom. Nemlig en middelklasse som ikke har noe genuint ønske om å hjelpe de fattige. En middelklasse som hver gang fattige faktisk vinner frem i forsøket på å få på plass helhetlige velferdstilbud, slår tilbake. En middelklasse som har slukt mytene om trygdemottakere som snyltere og storstilte svindlere av helseforsikring.

Denne samme middelklassen ville aldri ha drømt om å si ja til de inngripende og nedverdigende stegene fattige må gjennom for å ta del i USAs skarve velferdsgoder. De ville aldri sagt ja til å la data om alt de foretar seg lagres av staten.

Likevel regjerer de over et system som dehumaniserer fattige og som straffer dem for å søke hjelp hos fellesskapet.

Som Eubanks avslutter sin egen bok: “Vår etiske evolusjon henger etter den vitenskapelige.”