For nyligt vågnede hollænderne op til en skandale. Myndighederne måtte erkende, at de i årevis har brugt en fejlbehæftet AI – kunstig intelligens – når de skulle afgøre ansøgninger om prøveløsladelse. Modellerne byggede på forkerte formler og forældede data, og udviklerne havde byttet rundt på kategorierne for “mistænkt” og “dømt”. Det havde et menneske nok opdaget, men det gjorde maskinen ikke. Sagen viser, hvor skrøbelig retssikkerheden kan blive, hvis AI i den offentlige sektor ikke bliver gransket, testet og udfordret kritisk.

Og netop nu er der et dansk lovforslag på vej, der skal gøre det meget lettere at indføre AI i den offentlige sektor. Det kan være en god idé, men kunstig intelligens kan være ugennemsigtig, og som hollænderne måtte erfare er algoritmerne så komplekse, at man kan ende i situationer, hvor ingen kan gennemskue hvorfor Hr. Jensen behandles anderledes end Fr. Olsen.

Derfor bør vi behandle AI i den offentlige sektor på linje med andre reformer af den offentlige sektor, og vurdere effekten nøje. Når vi fx reformerer førtidspensionsordningen eller ændrer dagpengereglerne, så følger forskere nøje med og vurderer, om ændringerne virker efter hensigten.

Det er derfor glædeligt, at Center for Kunstig Intelligens i Samfundet (CAISA) og Danmarks Statistik har etableret et samarbejde, hvor det bliver muligt at, samle data og erfaringer fra forsøgene med AI. For vi skal vide, om patienter rent faktisk bliver hurtigere behandlet eller ledige hurtigere kommer i job, som følge af AI. Hvis ikke, skal AI’en jo laves om. På den måde får vi gavn af teknologien og får sat lys på de ukendte risici, så de kan håndteres, inden de udvikler sig til større problemer.

For der ER potentielt store fordele. Studier viser, at der findes områder, hvor samarbejdet mellem AI og mennesker er gavnligt og kan være et skridt i den rigtige retning mod en offentlig sektor, som er hurtigere, billigere og bedre. F.eks. har man i Næstved Kommune gode erfaringer med at bruge AI til at holde øje med plejehjemsbeboere og begrænse en administrativ byrde og samtidig skabe bedre velfærd for de ældre.

Men studier viser også, at AI kan have en negativ effekt på tilliden til offentlige institutioner og øge uetisk adfærd, hvilket kan forværre situationer, hvor der er uenigheder mellem sagsbehandler og borger. Det skal også fortsat være muligt at gøre indsigelser, klage eller få prøvet en afgørelse, hvilket kan være svært, hvis ingen helt forstår hvorfor afgørelsen blev truffet i første omgang. Hvis borgerne i fremtiden møder endnu flere AI-løsninger i det offentlige, har de også ret til at vide, hvad det er de møder og at AI ikke gør mere skade end gavn.