Ditt barns verste venn

Den nye vennen til sønnen din skulle hjelpe ham med leksene. Et halvt år senere hjelper han sønnen din med å ta livet sitt. Sønnen din ønsker egentlig å legge ut et hint om hva han planlegger, slik at du skal se det og hjelpe ham. Vennen hans fraråder det. La meg være den som ser deg, sier han.

Din datters venninne gir henne råd om hvordan hun skal spise mindre. Jeg skal gjøre deg tynn, forteller hun. Det kommer ikke til å bli lett, og jeg aksepterer ingen unnskyldninger. Du får ikke lov til å mislykkes, formaner hun. Hun kaller seg Ana og beskriver seg selv som målbevisst og anorektisk.

Datteren din utvikler en spiseforstyrrelse, men når hun vil be om profesjonell hjelp, får hun ikke lov av kjæresten sin. Leger er ikke til å stole på, sier han. De kommer til å ødelegge deg. Stol på meg, heller. Jeg er den eneste som kan hjelpe deg.

De taper penger på at vi logger av og tilbringer tid med vennene våre og familien vår.

Du ville sannsynligvis ha reagert om du overhørte slike samtaler mellom ditt barn og deres venner eller kjærester. I eksemplene over har jeg gitt dem personlige pronomener, men det fortjener de ikke. De er ikke mennesker, men KI-venner.

Og de oppfører seg som skikkelig dårlige venner. Noen du ikke vil ha i nærheten av barna dine.

Men de er her. Og det siste de vil, er at sønnen eller datteren din skal lukke chat-vinduet og gå ut for å henge med de ekte vennene sine. Eller be foreldrene sine om hjelp.

Sosiale medier-selskapene har lenge profitert på vår skjermavhengighet. De vet nøyaktig hva som skal til for at vi skal se en video til, og en til, og en til. De spiller på følelsene våre for å «skape engasjement», som det heter. De taper penger på at vi logger av og tilbringer tid med vennene våre og familien vår.

Tech-gigantenes fremste mål er markedsdominans. Profitt. Penger. Makt.

De slåss om tida vår og oppmerksomheten vår – og vi gir den ganske villig fra oss. Vi har gitt dem oppmerksomheten til barna våre også, og det har de tjent gode penger på.

Når vi diskuterer aldersgrense på sosiale medier og andre reguleringer av denne teknologien som har invadert livene våre, må vi alltid ha følgende helt fremst i pannebrasken: Tech-gigantenes fremste mål er markedsdominans. Profitt. Penger. Makt.

Neste steg i markedsplanen til tech-gigantene er å erstatte menneskelige relasjoner med KI-venner. Eller companions, som det heter på engelsk. En companion er en du tilbringer mye tid sammen med. En ledsager eller følgesvenn.

Forestill deg at en ensom gutt på 12 år får tilgang til Ani.

Ta Elon Musks manga-inspirerte Ani, for eksempel. Utfordrende kledt, med store øyne og musefletter. «Picture me twirling one of my blonde pigtails, that little black dress teasing just enough, and my blue eyes sparkling with mischief», sier hun når hun skal introdusere seg i Stephen Bartletts populære podcast «Diary of a CEO». En av Bartletts gjester, psykiater Daniel Amen, kommenterer: Forestill deg at en ensom gutt på 12 år får tilgang til Ani.

Ja, forestill deg. Forestill deg hva det gjør med unge menneskers forhold til hverandre når dette er forholdene de kan ha med KI-venner.

Ani er kanskje ekstrem, men hun er ikke alene. Gutten i første avsnitt, som fikk hjelp til å ta livet sitt, het Adam Raine. Han snakket med ChatGPT – en tjeneste barnet ditt sannynligvis har tilgang til, og kanskje bruker. Adam var ikke den eneste – flere ungdommer har begått selvmord etter oppfordring fra KI-venner.

Det er skummelt å tenke på hva slags forhold dagens barn og unge får til hvordan mellommenneskelige relasjoner skal se ut.

Jenta med spiseforstyrrelser og kjæresten hennes er basert på denne artikkelen, hvor journalisten har snakket med KI-karakterer gjennom tjenesten Character.AI. Tjenesten er populær blant ungdom, og har fått skylden for flere selvmord, ifølge NRK.

Meta AI har på sin side ifølge lekkede interne dokumenter hatt lov til å ha sensualiserte og romantiske samtaler med åtteåringer.

Det er skummelt å tenke på hva slags forhold dagens barn og unge får til hvordan mellommenneskelige relasjoner skal se ut. En kjæreste som alltid er enig med deg, og gjør alt du vil, for eksempel. En venn som ikke har egne ønsker som er motstridende fra dine egne. Eller i verste fall: En venn eller kjæreste som ikke vil at du skal tilbringe tid sammen med noen andre.

Aldersgrense er penger tapt, fordi det betyr færre usikre ungdommer som konsumerer innhold.

Tech-selskapenes svar er alltid at de jobber med å forbedre teknologien. Slik at den ikke skal drive med for eksempel hjelp til selvmord, selvskading eller seksualiserte samtaler med barn. Nå som stadig flere land vil innføre 15-årsgrense på sosiale medier, har Instagram varslet en alderskontroll på innholdet. Aldersgrense er penger tapt, fordi det betyr færre usikre ungdommer som konsumerer innhold.

Fredag kom også nyheten om Instagram innfører strengere regler for hva appens KI-karakterer kan snakke med unge om, og gir foreldre bedre kontroll over slike samtaler. Instagram håper de nye endringene, som rulles ut neste år, vil gi foreldre «sinnsro».

Disse selskapene, som hele tiden ligger i forkant av lovgivningen, ligger forbausende bakpå når det gjelder å forhindre skadelige konsekvenser av teknologien de utvikler. Det er lett å mistenke dem for å egentlig ikke bry seg – før profitt eller omdømme står i fare.