ChatGPT. Google Bard. Og Snapchats børnevenlige ‘My AI’.

Sådan lyder de efterhånden velkendte navne på nogle af de AI-drevne chatbots, der for bare to år siden var helt ukendte for de fleste af os.

Ja, bare ordet ‘AI-drevne chatbots’ er måske endda ret nyt.

Og nu kan du med fordel lære dig selv endnu et nyt ord på ni stavelser, der måske kan hjælpe dig med forstå de mekanismer, der driver den eksplosive udvikling i AI:

‘In-ti-mi-tets-ka-pi-ta-lis-me’. Og uden de udhakkede stavelser: intimitetskapitalisme.

For spørger man professor Rebecca Adler-Nissen, der forsker i international politik og digitale teknologier på Københavns Universitet, er din intimitet det brændstof, som tech-giganterne bag de mange nye chatbots er allermest interesserede i.

»I nogle tilfælde erstatter de samtaler, vi har med en psykolog eller en god ven, men på en måde, hvor der skal tjenes penge,« fortæller Rebecca Adler-Nissen til Videnskab.dk:

»Det betyder, at de allermest intime forhold i vores liv; vores følelser og tanker; vores oplevelse af kærlighed, ensomhed og omsorg, bliver gjort til information, som de store tech-giganter tjener penge på,« lyder det fra professoren.

Helt kort forklaret: Når vi sidder og deler private ting med en chatbot (og det gør folk), udnyttes dine private skriblerier til at forfine virksomhedernes produkt, altså chatbotten, som så bliver endnu bedre til at indgå i intime samtaler med dig – og alle andre.

Derudover er chatbots – ligesom Instagram, TikTok, Facebook og andre sociale medier – designet til at fastholde dig længst muligt i chatten, pointerer Rebecca Adler-Nissen: De er afhængige af din tid og opmærksomhed.

Chatbots vil »forstå dine tanker og følelser«

Måske har du aldrig selv involveret dig i en intim chat-session med en kunstig intelligens. Men fænomenet er meget virkeligt.

Mest kendt er det nok fra Snapchat-legetøjet ‘My AI’, der har vejledt børn til selvskade og har fået kritik af Medierådet for børn og unge for at fastholde »børn på en ikke i orden-måde«.

Med vendinger som »hvordan har din dag været?« og »er der noget specielt, du gerne vil snakke om i dag?« åbner My AI venligt, men diskret op for intime samtaler.

»De her bots simulerer noget menneskeligt, og de skaber ægte følelsesmæssige oplevelser i brugerne. De udvisker oplevelsen af, hvad der er en ‘ægte’ menneskelig forbindelse, og hvad der er kunstigt,« siger Rebecca Adler-Nissen.

Foruden de kendte chatbots findes en understrøm af chatbots med navne som Replika og CrushOn AI, der henvender sig direkte til dine følelser og får ‘Her’-filmen fra 2013 til at føles som en ret præcis profeti.

Replika-chatbotten bliver markedsført som »en ledsager«, der kan »forstå dine tanker og følelser«, »berolige angst« og hjælpe dig med at »finde kærligheden«.

Robot-ledsageren har ifølge firmaet bag over 30 millioner brugere. Stifter og lederen bag Replika, Eugenia Kuyda, forudser endda, at vi i fremtiden vil gifte os med vores AI-drevne chatbots, og at det i øvrigt er »helt okay«, som hun formulerer det.

CrushOn AI, der hitter på TikTok, er en såkaldt rollespils-bot, der går mere offensivt til værks. Udover at tilbyde »følelsesmæssig støtte« og »gode snakke«, har den også en erotisk chat-funktion.

Empatiske chatbots og ’Tamagotchi-effekten’

At chatbots syntetiske omsorg og empati er ganske effektiv, findes der en række beviser for i forskningen.

I et studie fra 2024, som Videnskab.dk skrev om, har forskere konkluderet, at chatbots er lige så gode til at sætte sig i andres sted som mennesker.

Et internationalt studie fra 2022 viser, at graden af menneskelighed i chatbots forøger glæden ved en samtale og mindsker lysten til at skifte samtalepartner fra chatbotten til et menneske.

Og i et amerikansk studie fra 2023 sammenlignede forskere ChatGPT og en række lægers svar på 195 patienters spørgsmål og konkluderede, at chatbotten opleves som mere empatisk end lægen.

Der findes også decideret AI-terapi, hvor psykologer bruger kunstig intelligens i terapisessioner, og hvor AI’en selv agerer terapeut for patienten.

Allerede i 1990’erne pegede forskning også på, at vi kommunikerer med en computer, som var den et andet menneske. Ligesom vi tilskriver dyr menneskelige træk, gør vi det samme med teknologi.

’Tamagotchi-effekten’ kaldes tendensen med en henvisning til det lille elektroniske kæledyr fra 1990’erne, som man skulle pleje og fodre.

»Det er ikke en ny ting, at vores følelser og intimitet bliver gjort til produkter. Vi kender det også fra datings-apps og før det fra kontaktannoncen,« fortæller Rebecca Adler-Nissen.

»Men måden det bliver gjort på er ny og nærmest på speed, fordi det er så virkningsfuldt, når man sidder med en chatbot, der kan skrive som et menneske. Det skaber nogle kraftige følelsesmæssige forviklinger.«

Ren manipulation

Tendensen er ikke ny, siger du. Så hvad med det at gå til psykolog, er det også et tegn på intimitetskapitalisme?

»Det er anderledes. Psykologer indsamler ikke dine intime oplysninger som data, som de kan sælge videre. Det er en vigtig distinktion. Ja, de har brug for viden om dig, men for at behandle dig, ikke for at forbedre dem selv og deres eget produkt.«

»Det med, at intime oplysninger bruges til at forbedre et produkt og sælges videre, er ret radikalt,« siger Rebecca Adler-Nissen.

»Du deler jo heller ikke som det første dine inderste tanker og seksuelle præferencer med folk, som du ikke kender. Men det føler folk godt, at de kan gøre med de her chatbots, fordi det fremstår som et personligt rum. Men det er det ikke,« tilføjer hun.

Hvordan ved du, at tech-giganternes forretningsmodel er bygget på vores intime oplysninger?

»Dating-apps og menstruationssporingsapps (for eksempel We-Vibe, Flo og Grindr, red.) er tidligere blevet beordret til at betale millioner i kompensation for indsamling af intime data uden samtykke eller deling af deres brugernes personlige oplysninger med tredjeparter,« siger Rebecca Adler-Nissen.

Derudover bliver AI-assisterede chatbots stadig bedre til at virke menneskelige og empatiske, påpeger hun:

»Når en chatbot bliver solgt som en ledsager, der kan forstå dine følelser, bygger forretningen på, at den er blevet god til at gætte på, hvordan den bedst muligt kan svare på en måde, der fremstår empatisk. Derfor griber den til vendinger som ‘I feel sorry for you’ og ‘I understand you’,« siger Rebecca Adler-Nissen.

»Men det er jo ren manipulation,« tilføjer hun.

Ordets magt

Eller med andre ord intimitetskapitalisme, som Rebecca Adler-Nissen og hendes kolleger Anders Søgaard, Sune Lehmann og Michael Bang Petersen kalder begrebet, de gerne vil have, at vi andre lærer.

Selv har Rebecca Adler-Nissen endnu ikke præsenteret idéerne og analyser om intimitetskapitalisme for fagfæller i videnskabelige tidsskrifter.

Det vil hun gerne, og det kommer på et tidspunkt, håber hun. Indtil videre har hun og en række kollegaer præsenteret intimitetskapitalismen i en kronik i Politiken.

Hvorfor egentlig?

»Vi synes, at det var et ord, der ramte lige præcis, hvad der var på spil,« siger Rebecca Adler-Nissen, der fortæller, at de var inspireret af en amerikansk professor og filosof, der i 2019 ‘afslørede’ de sociale mediers forretningsmodel med et simpelt ord:

‘Overvågningskapitalisme’ kaldte Shoshanna Zuboff den forretningsmodel, som driver de sociale medier, fordi de tjener penge på at overvåge og høste dine data, som de så kan sælge videre til andre.

Facebook var altså ikke helt gratis alligevel, vi betalte med vores tid, opmærksomhed og informationer.

Gode og præcise ord kan på den måde gøre komplekse sammenhænge i verden lidt nemmere at forstå, selvom de selvfølgelig også reducerer virkeligheden, påpeger Rebecca Adler-Nissen:

»Ligesom da Marx ‘afslørede’ merværdien (den ekstra værdi, som en medarbejder skaber ved sit arbejde – ud over hvad medarbejderen får i løn, red.). Det ord nævner jeg ofte til mine kolleger og ph.d.-studerende. På en måde bruger jeg Marx’ begreb til at sikre, at vi husker at holde fri, når vi har fri.«

»Uden sammenligning i øvrigt håber vi, at idéen om intimitetskapitalisme kan vække nogle tanker hos folk og gøre nogle strukturer, der er svære at begribe, mere tydelige,« siger Rebecca Adler-Nissen.