En hollandsk kvindes liv ændrede sig fra den ene dag til den anden i 2012, da den hollandske stat gjorde krav på, at hun betalte fire års børnepenge retur.

Over 100.000 euro – cirka 750.000 kroner – skyldte hun nu staten.

Kvinden, Chermaine Leysner, var sikker på, at det var en fejl, så hun tog den med ro. Men det var det ikke. »Det var starten på noget stort,« som hun selv har sagt det til mediet Politico.

Ni år senere var hun ramt af stress og depression, blevet skilt fra manden til sine tre børn, og så arbejdede hun ifølge sig selv »som en sindssyg« for at betale sin regning.

Chermaine Leysner var bare én ud af cirka 26.000 hollandske forældre, der mellem 2005 og 2019 fejlagtigt blev afkrævet at tilbagebetale sine børnepenge. IT-systemet havde regnet forkert og på falskt grundlag beskyldt hende for skattefusk.

En AI tog blandt andet beslutningen på baggrund af, at Chermaine Leysner havde dobbelt statsborgerskab, lav indkomst og en ikke-vestlig baggrund.

Skandalen, der i Holland er kendt som ‘kinderopvangtoeslagaffaire’, endte med at koste regeringen livet i 2021.

‍

»Sådan en skandale har vi heldigvis ikke haft i Danmark endnu,« siger professor Thomas Hildebrandt til Videnskab.dk.

Han forsker i digitalisering af offentlige processer. Og så fremhæver han selv de »grelle eksempler fra Holland« som et varsel om, hvor galt det egentlig kan gå, når det offentlige forelsker sig blindt i fikse teknologier, der kan spare stats- og kommunekasserne penge.

»Man har sikkert anvendt de her teknologier efter bedste hensigter, men de ender alligevel med at lave forkerte vurderinger eller beskylde folk for noget forkert,« siger Thomas Hildebrandt.

I en tid, hvor kunstig intelligens i uset grad bliver udråbt som den nye samfundsrevolution og en potentielt lige så vild opfindelse som ild og elektricitet, er der en særlig grund til at være på vagt.

»AI-hypen er ekstrem,« som Thomas Hildebrandt siger det, »og der er en tendens til, at vi tror, at den kan bruges til at løse alle vores problemer«.

(...)