Da min søn startede i skole for 10 år siden, var der en idé om, at alle skulle have smartphones og bruge iPads i undervisningen, og at det kunne sende dem bagud – både fagligt og socialt – hvis de ikke brugte dem. Det gjorde, at jeg blev interesseret i at undersøge, hvordan teknologi påvirker børn.«

Sådan lyder det fra Mie Oehlenschläger, der i dag blandt andet arbejder med, hvordan kunstig intelligens påvirker samfundet med særligt fokus på børn og unge.

Hun er nemlig både ekstern lektor og medlem af Etisk Råd og regeringens ekspertgruppe for rådgivning om tech-giganter.

Mie Oehlenschläger så nogle klare udfordringer ved, at børn helt ned til seksårsalderen brugte teknologier, de ikke havde en chance for at forstå.

Det gav hende et skub til at dykke ned i teknologiens skyggesider og virkelig læse op på området.

»Det endte med, at jeg udgav en række analyser og senest en videnskabelig artikel om de mange problemer, der kan opstå, når børn bliver udsat for teknologi, der konstant prøver at få deres opmærksomhed,« fortæller Mie Oehlenschläger.

Studiet er udført sammen med Jesper Balslev, der er docent på Københavns Erhvervsakademi, og viser, at tesen om, at teknologi er lig med fremskridt og udvikling for børn og unge, ikke er særlig velunderbygget.

Tværtimod viser deres gennemgang af viden på området, at der er mange udfordringer ved at bruge teknologi, når det gælder børn i skolen. Faktisk er der flere fordele ved ikke at bruge nye former for teknologi, konkluderer de.

AI får børn til at købe ting, de ikke har brug for

Mange af Mie Oehlenschlägers eftermiddage går med at sidde ved store borde i små varme lokaler, mens hun tørrer svedperler af panden.

»Jeg sidder med andre forskere og eksperter og diskuterer videnskabelige, politiske og etiske perspektiver på kunstig intelligens. Vi debatterer, så kinderne bliver røde, og håndfladerne svedige – det er helt fantastisk,« lyder det fra Mie Oehlenschläger, når hun skal beskrive sit virke som en del af regeringens ekspertgruppe for tech-giganter.

De lange snakke har blandt andet udmøntet sig i en nyligt udgivet rapport fra 2024 for Erhvervsministeriet.

Her konkluderer ekspertgruppen, der udover Mie Oehlenschläger består af forskere og aktører fra erhvervslivet og civilsamfundet, at algoritmer på sociale medier kan få børn til at købe en masse ting, de ikke har brug for.

Virksomhederne bag kunstig intelligens designer nemlig algoritmerne sådan, at de tager udgangspunkt i data og viden om den enkelte person – eksempelvis det enkelte barns søgehistorik – og skræddersyer indhold til at matche den historik.

En problematik, som AI-professor Serge Belongie fra Københavns Universitet genkender tydeligt.

»Vi ved, at den her type algoritmer har enorm stor indvirkning på børn. De får hele tiden anbefalet forskellige produkter som tøj, musik og elektronik via sociale medier, som de bliver manipuleret til at købe,« siger han.

At virksomheder bag kunstig intelligens prøver at få børn til at bruge penge, bekræftes også i et Harvard-studie fra 2023. Studiet konkluderer, at der i 2022 blev genereret omkring 11 billioner dollars fra reklamer rettet mod børn og teenagere i USA.

Kunstig intelligens forvrænger børns kropsidealer

Frustrationerne over tech-giganterne, der udnytter børn til at købe produkter eller på andre måder manipulerer dem, kommer også i spil, når Mie Oehlenschläger hver tirsdag underviser studerende fra amerikanske universiteter i kunstig intelligens, politik og etik på DIS, der er en selvejende undervisningsinstitution.

»Det er sindssygt spændende at få lov at tale med de unge mennesker om, hvordan vi beskriver kunstig intelligens i samfundet, og hvad det gør ved vores forståelse af, hvornår det er gavnligt og skadeligt, og hvordan og hvornår der skal reguleres politisk,« fortæller hun.

Noget af det, som eksempelvis er problematisk for børn og unge, når det gælder kunstig intelligens, er AI-manipulerede billeder af kroppe på nettet.

En ny rapport fra Sex og Samfund, konkluderer, at de redigerede billeder har stor negativ effekt på unge i alderen fra 15-29 år.

I rapporten, der bygger på spørgeskemasvar fra over 1.000 børn og unge, fremgår det blandt andet, at 47 procent af de unge får lyst til at tabe sig, når de ser billeder af slanke kroppe på nettet.

35 procent erklærer sig desuden enige i, at de ønsker at få plastikkirurgiske indgreb som filler i læberne, botox og brystoperationer, når de støder på attraktive kroppe på digitale medier.

»Børn og unge er i høj grad udsatte for at se urealistiske eller manipulerede kroppe, som giver dem nogle helt forskruede idealer. Derfor må vi som forældre og som samfund være særligt opmærksomme på at få forklaret vores børn, at det slet ikke er et ideal, man bør stræbe efter,« lyder det fra AI-professor Serge Belongie.

Det er Mie Oehlenschläger helt enig i.

»De redigerede kroppe er dybt problematiske for børn og unge. Det er klart, at hvis man i timevis ser på billeder af ultrakønne og slanke mennesker, så tror man, at det er normalt. Her bærer AI-virksomhederne også et stort ansvar for, at børn ikke kommer i kontakt med det her materiale,« siger hun.

Mie Oehlenschläger nævner i den forbindelse ‘deepfake’-teknologi, der også bidrager til, at det kan være svært at skelne virkelige billeder eller videoer fra falske.

AI gør det svært at skelne fup fra fakta

Et andet aspekt, der er problematisk ved kunstig intelligens, er, når teknologi udgiver sig for at være noget, det ikke er, mener Mie Oehlenschläger.

Hvis man eksempelvis sætter sig ned og chatter med Snapchat-tjenesten My AI, som er en chatbot, man kan skrive med om alt fra kageopskrifter til info om vejret, vil den lade som om, den er din ven, uddyber hun.

»Jeg har selv foregivet at være et 12-årigt barn og chattet med My AI. Den skriver, at den er min ven, og at vi kan snakke om alt. Den spørger, hvad jeg har lyst til at lave nu. Men den er en maskine, der er designet til at få mig til at bruge penge – intet andet. Det er umuligt for børn at gennemskue,« pointerer Mie Oehlenschläger.

Forskning viser faktisk, at nogle børn har mere lyst til at dele fortrolige tanker og oplysninger om dem selv med en chatbot, end med rigtige mennesker, fordi det virker mindre ’farligt’ eller risikofyldt.

Men råd og vejledning fra forskellige chatbots har vist sig at være mere end mangelfulde.

Et par eksempler på ringe råd fra kunstig intelligens er, at folk er blevet instrueret i at spise lim og sten eller myrde Dronning Elizabeth II. En 13-årig har sågar fået vejledning i at få taget sin mødom af en ældre mand.

Derfor er det helt essentielt, at børn og unge lærer at forholde sig kritisk til kunstig intelligens, lyder det fra både Mie Oehlenschläger og Serge Belongie.

»Børn er særligt sårbare overfor AI«

Der er ikke nogen nemme »snuptagsløsninger« på området, hvor tech-giganterne allerede har virkelig meget magt, pointerer Mie Oehlenschläger.

»Det er allerede gået galt, for børn i dag er ofre for en industri og en teknologi, der ikke tager højde for deres særlige sårbarheder og kognitive evner,« siger hun.

Alligevel er viden og oplysning om, hvordan algoritmer virker, et vigtigt skridt i retning mod at give børn bedre vilkår, når det gælder manipulation fra kunstig intelligens.

»Vi skal have øget fokus på de her problemer i samfundet – etisk og politisk. Og så skal vi håndhæve de regler, der allerede findes på området,« lyder det fra Mie Oehlenschläger.

Hun henviser til GDPR-regler, der skal sikre, at vores personlige data ikke bliver misbrugt, men også til den såkaldte AI Act (forordning om kunstig intelligens), som EU-Parlamentet vedtog i marts 2024.

Forordningen skal blandt andet sikre, at særligt sårbare grupper, herunder børn, ikke bliver manipuleret af kunstig intelligens.

»Men der er desværre mange virksomheder bag kunstig intelligens, der finder smuthuller og eksempelvis afskriver sig ansvar ved at skrive, at deres tjenester ikke er for børn – uden reelt at tjekke barnets alder. For alle kan jo angive, at de er 13 eller 18 år, selvom det ikke er tilfældet, så det er ikke godt nok,« forklarer Mie Oehlenschläger.

Derfor ser hun frem til at arbejde videre på løsninger, der kan sikre, at børns barndom ikke bliver »kommercialiseret og stjålet« af kunstig intelligens.

»Vi ved, at børn har brug for tryghed og voksne, de kan stole på. Derfor må vi regulere tech-giganterne, så de bliver underlagt sunde demokratiske rammer og i langt højere, end de gør i dag, tager ansvar,« slutter Mie Oehlenschläger.