Ansigtsgenkendelse kan være et alvorligt indgreb i privatlivets fred, som forudsætter fuld transparens og tilsyn med politiets brug af teknologien. Mange regeringer i mindre demokratiske lande bruger gerne kameraer og AI til overvågning af borgerne, og desværre er det en model, som blandt andet Danmarks justitsminister hylder – og som efter redaktionens mening bør bekæmpes. De mange skal ikke ligger under få nogle få kriminelles aktiviteter. Knivloven og hjelmloven er på det seneste eksempler på lovgivning, som ikke har ændret på noget som helst, men i stedet kriminaliseret en række helt almindelige og fredelige mennesker i dette samfund. Kameraovervågning af det offentlige rum med AI-ansigtgenkendelse vil være endnu en tragisk udvikling i det danske retssystem.
Det risikerer at skade borgernes grundlæggende rettigheder, hvis regeringen benytter den aktuelle bandekonflikt til at indføre teknologi til ansigtsgenkendelse uden en grundig offentlig høring og debat.
Sådan lyder advarslen fra Ingeniørforeningen IDA, som opfordrer politikerne til at gå grundigt til værks med lovarbejdet, hvis politiet skal have grønt lys til at benytte ansigtsgenkendelse i større eller mindre grad.
– Ansigtsgenkendelse er en omdiskuteret, ufærdig og potentielt skadelig teknologi, som kan føre til masseovervågning og kontrol med borgernes færden. Ethvert skridt i den retning skal som minimum basere sig på en grundig offentlig debat, og der skal opstilles en række krav til politiet om tilsyn og transparens med deres brug af teknologien, siger Grit Munk, der er digitaliseringspolitisk chef i IDA.
– Det er vigtigt at få defineret præcist, hvornår det i givet fald skal være muligt at bruge ansigtsgenkendelse og til hvilke formål. Der skal være proportionalitet mellem mål og midler, så vi ikke får opbygget en bred overvågning af den danske befolkning, fortsætter Grit Munk og peger på tidsmæssig og geografiske begrænsninger som to vigtige elementer sammen med grovheden af den kriminalitet, man søger at opklare.
Hun fremhæver, at EU netop har vedtaget verdens hidtil mest omfattende regulering af kunstig intelligens i form af AI Act, som opstiller et værn mod de mest indgribende og risikable typer af kunstig intelligens.
Det betyder blandt andet, at myndigheder og virksomheder skal foretage risikoanalyser af nye AI-systemer, før de tages i brug, og vurdere dem i forhold til de fundamentale rettigheder, som alle EU-borgere er omfattet af.
Selv om Danmark ikke er bundet af AI Act på grund af retsforbeholdet, så gør Danmark klogt i at følge EU’s regelsæt, mener Grit Munk.
– Teknologi til ansigtsgenkendelse er kategoriseret som højrisiko. Derfor skal lovgiverne ikke lade panikken være styrende for, hvilke værktøjer politiet får adgang til. Politiet skal i hvert tilfælde kunne redegøre for, hvilken gevinst man regner med at kunne opnå, og det må være en forudsætning, at en uafhængig juridisk myndighed til enhver tid kan få indsigt i politiets brug af ansigtsgenkendelse, siger Grit Munk.
RSH
