Virksomheder og myndigheder der udvikler, distribuerer eller benytter kunstig intelligens skal fra i dag leve op til de første regler i AI-forordningen
De første regler i EU’s AI-forordning skal overholdes fra den 2. februar. Det får betydning for virksomheder og myndigheder, der udvikler, distribuerer eller benytter kunstig intelligens i deres daglige arbejde.
Reglerne skal sikre, at virksomheder og myndigheder ikke udvikler systemer, der udgør en trussel mod sikkerheden, borgernes rettigheder eller værdighed, og at medarbejdere i virksomheder og myndigheder, der anvender kunstig intelligens har de rette kompetencer til dette arbejde.
– Formålet med forordningen er at skabe klare rammer for, hvordan kunstig intelligens må og ikke må benyttes for at sikre borgeres rettigheder, samtidig med at virksomhedernes muligheder for innovation styrkes, fastslår vicedirektør Lars Bønløkke Le.
Han anbefaler, at myndigheder og virksomheder, der anvender kunstig intelligens skaber sig et overblik over deres AI-systemer, og hvad de bruges til. De bør også vurdere, hvilken risikokategori i AI-forordningen deres AI-system falder under.
AI-forordningen trådte i kraft 1. august 2024, men bliver trinvist implementeret frem mod 2027. Den 2. februar 2025 bliver en række anvendelser af kunstig intelligens forbudt:
Det gælder for systemer, der vurderes at udgøre en klar trussel mod sikkerhed, borgernes rettigheder eller værdighed. Et eksempel på forbudt AI-praksis er AI-systemer, der kan bruges til at aflæse en persons følelsesmæssige tilstand på eksempelvis en arbejdsplads eller en uddannelsesinstitution.
Systemer, der kan foretage en social scoring af fysiske personer, er et andet eksempel på et forbudt AI-system, da det vurderes at kunne føre til forskelsbehandling og udelukkelse af visse grupper.
Derudover skal virksomheder og myndigheder, der arbejder med kunstig intelligens sikre, at deres medarbejdere har et tilstrækkeligt niveau af AI-færdigheder blandt deres personale eller andre personer, der er involveret i driften eller anvendelsen af AI. Det gælder uanset hvad AI-systemerne bruges til.
Eksempelvis skal alle relevante aktører i AI-værdikæden have færdigheder til at kunne forstå og overholde AI-forordningen, der hvor den er gældende i det enkelte tilfælde.
Læs om reglerne og risikokategorierne på Digitaliseringsstyrelsens hjemmeside.
