Hvad regnes som forbudt brug af AI efter AI-forordningen?

Sådan gør du

1. 1Gå jeres AI-brug igennem, og skill højrisiko fra det, der er forbudt.
2. 2Stop systemer, der rangerer mennesker på tværs af sammenhænge, såkaldt social scoring.
3. 3Brug ikke følelsesgenkendelse på medarbejdere eller elever.
4. 4Undgå at bygge ansigtsdatabaser ved at høste billeder fra nettet eller kameraer i det offentlige rum.
5. 5Læs Digitaliseringsstyrelsens vejledninger, og skriv ned, at I har tjekket forbuddene.

Tjekliste

• Ingen social scoring af kunder, borgere eller ansatte.
• Ingen følelsesgenkendelse på arbejdspladsen.
• Ingen biometrisk udledning af race, politik eller seksuel orientering.
• Ingen bred indsamling af ansigter til en database.
• Tjekket er dokumenteret med dato efter 2. februar 2025.

Det kræver loven

Reglerne om forbudte AI-praksisser i AI-forordningen trådte i kraft 2. februar 2025, hvor AI udgør en klar trussel mod sikkerhed, sundhed eller grundlæggende rettigheder. Forbudt er social scoring, skadelig manipulation, visse former for biometrisk kategorisering, følelsesgenkendelse på arbejdspladsen eller i uddannelse, og bred indsamling af ansigter til databaser. Digitaliseringsstyrelsen har i 2025 udgivet vejledninger, der konkretiserer forbuddene. Forbudte praksisser kan give bøde på op til 35 mio. euro eller 7 procent af global omsætning.

Gælder det mig?

Butik med kamera ved indgangen

Almindelig tyveriovervågning er ikke i sig selv forbudt AI. Følelsesgenkendelse og at høste ansigter til en database er derimod forbudt.

HR-team i mellemstor virksomhed

I må ikke score ansatte på tværs af opgaver og fritid. Et værktøj, der rangerer mennesker i mange sammenhænge, kan være social scoring.

Efterskole med trivselsapp

Følelsesgenkendelse på elever er forbudt. Trivselsmåling uden AI-følelseslæsning kan stadig være tilladt, men tjek formål og grundlag.

Typiske fejl

• At bruge et HR-værktøj, der scorer ansatte på tværs af opgaver og fritid.
• At sætte kameraer op, der læser ansigtsudtryk i butikken eller på kontoret.
• At høste billeder fra sociale medier til at genkende personer.
• At tro, at forbuddene kun rammer stater, ikke private virksomheder.

Ordbog og definitioner

Social scoring

At rangere mennesker ud fra adfærd i flere sammenhænge, for eksempel arbejde og fritid, hvilket er forbudt.

Biometrisk kategorisering

At udlede race, politisk holdning, fagforening, religion eller seksuel orientering ud fra biometriske data.

Følelsesgenkendelse

AI, der aflæser følelser i ansigt, stemme eller krop, og som er forbudt på arbejdspladsen og i uddannelse.

Kilder

• Digitaliseringsstyrelsen: Forbudte AI-praksisser
• Digitaliseringsstyrelsen: Første regler i AI-forordningen træder i kraft