Regeringen har en ambition om at gøre Danmark verdensførende inden for anvendelsen af kunstig intelligens. Konkret har politikerne et mål om at spare 30.000 årsværk ved at ibrugtage teknologien. Men mange af de AI-projekter, som kommuner og myndigheder har investeret millioner i, kommer aldrig i drift.
Ifølge et nyt studie fra forskere ved Det Juridiske Fakultet, skyldes det ikke nødvendigvis teknologien, men snarere manglen på klare juridiske rammer. Danmark risikerer derfor at bremse sin egen ambition om at blive blandt verdens førende lande i anvendelsen af kunstig intelligens i den offentlige sektor.
– Der er et stort ønske om at tage AI i brug i den offentlige sektor, men også usikkerhed om de retlige rammer for anvendelsen. Fra et retssikkerhedsperspektiv er det derfor vigtigt, at der er tydelighed og forudsigelighed om, hvornår og hvordan AI kan anvendes, så både myndigheder og borgere kan have tillid til den måde, teknologien bruges på, siger Aysel Küçüksu, adjunkt ved Det Juridiske Fakultet, Københavns Universitet, og fellow ved CAISA – Det Nationale Center for AI i Samfundet.
Med afsæt i begrebet ”digital kirkegård” beskriver forskerne, hvordan lovende AI-projekter aldrig når fra udvikling til praktisk anvendelse.
Syv ud af ti projekter nåede aldrig i drift
Studiet bygger på juridiske analyser af dansk og europæisk lovgivning, Datatilsynets praksis samt erfaringer fra en række danske AI-signaturprojekter i den offentlige sektor. Forskerne peger blandt andet på, at kun seks ud af 22 afsluttede signaturprojekter blev sat i drift, mens resten blev lukket uden implementering. Juridisk usikkerhed om lovhjemmel var en af de væsentligste årsager.
Problemet opstår især, når myndigheder ønsker at bruge AI-systemer til sagsbehandling, der involverer personoplysninger. Her oplever mange myndigheder, at det er uklart, præcis hvilke lovgrundlag der kræves.
– Danmark har i dag en fragmenteret regulering, hvor enkelte sektorer har særregler, mens andre står uden et klart hjemmelsgrundlag. Det skaber usikkerhed og gør det svært at arbejde systematisk med kunstig intelligens, siger Henrik Palmer Olsen, professor ved Det Juridiske Fakultet, Københavns Universitet.
Inspiration fra Norge og Finland
Forskerne har sammenlignet den danske situation med udviklingen i Norge og Finland, som begge har opdateret deres forvaltningslovgivning for at skabe tydeligere regler for automatisering og kunstig intelligens i den offentlige sektor.
Ifølge forskerne viser erfaringerne, at det er muligt at skabe mere sammenhængende rammer uden at gå på kompromis med borgernes rettigheder. De anbefaler derfor, at Danmark indfører en samlet rammelov for kunstig intelligens i den offentlige sektor. En sådan lov skal blandt andet tydeliggøre, hvornår AI må anvendes, hvilke krav der gælder til gennemsigtighed og proportionalitet, og hvordan borgernes persondata beskyttes.
– Der er behov for politiske spilleregler, som regulerer anvendelsen af teknologien og samtidig beskytter borgernes grundlæggende rettigheder ved blandt andet at sikre proportionalitet og gennemsigtighed, siger Aysel Küçüksu.
AI er ikke løsningen på alt
Forskerne understreger samtidig, at kunstig intelligens ikke altid er den rigtige løsning. Nogle projekter er blevet opgivet, fordi datagrundlaget var utilstrækkeligt, fordi fejlprocenten var for høj, eller fordi teknologien endnu ikke var moden nok til opgaven. Derfor bør myndigheder ikke blot spørge, om AI kan bruges, men også om det bør bruges.
– En ansvarlig digitalisering handler ikke om at indføre kunstig intelligens så mange steder som muligt. Det handler om at finde de opgaver, hvor teknologien faktisk skaber værdi, og hvor retssikkerhed, gennemsigtighed og faglig kvalitet stadig kan sikres, understreger Henrik Palmer Olsen.
Forskerne håber, at resultaterne kan bidrage til den aktuelle politiske debat om, hvordan kunstig intelligens skal implementeres i den danske offentlige sektor i de kommende år.
Studiet, der er publiceret i det videnskabelige tidsskrift Politica, bærer titlen ”AI i den offentlige sektor: fra nordiske erfaringer til en dansk lov om kunstig intelligens”. Læs det her.
Kontakt: Henrik Palmer Olsen, professor, Det Juridiske Fakultet, KU, mail: hpo@jur.ku.dk
