Tilbage

Fra den 2. august i år er Europa-Kommissionen, sammen med medlemsstaternes relevante myndigheder, ansvarlige for at håndhæve forordningen om kunstig intelligens (AI), som trådte i kraft den 1. august 2024.

Forordningen om kunstig intelligens, eller AI-forordningen, er den første retlige ramme for AI på verdensplan, og omfatter primært regler for udviklere og udbredere af AI-modeller til almen brug – altså AI-modeller, der kan udføre et bredt spektrum af forskellige opgaver, f.eks. ChatGPT.

Reglerne

Det drejer sig primært om risikobaserede regler, som overordnet set har det formål at sikre, at europæerne kan stole på, hvad kunstig intelligens har at tilbyde. Selvom de fleste AI-systemer rent faktisk bidrager til at løse mange samfundsmæssige udfordringer, findes der alligevel et hav af AI-systemer, som skaber visse risici og deraf uønskede resultater.  

Forordningen definerer derfor fire risikoniveauer for AI-systemer:

• Kilde: https://digital-strategy.ec.europa.eu/da/policies/regulatory-framework-ai#1720699867912-0

Alt afhængigt af risikoniveauet, vil det pågældende AI-system enten være underlagt et forbud eller pålagt visse forpligtelser, herunder særligt strenge forpligtelser – såsom begrænsningssystemer, detaljeret dokumentation eller høj grad af cybersikkerhed – eller blot forpligtelser om gennemsigtighed.

AI-forordningen forbyder først og fremmest alle AI-systemer, som betragtes som en klar trussel mod menneskers sikkerhed, levebrød og rettigheder. Det er f.eks. skadelig AI-baseret manipulation, risikovurdering vedrørende individuelle strafbare handlinger og følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner.

Derudover betragtes visse anvendelsestilfælde som højrisikobrugstilfælde. Det kan f.eks. være AI-sikkerhedskomponenter i kritisk infrastruktur (f.eks. transport), som kan bringe borgernes liv og sundhed i fare, hvis de svigter. Sådanne AI-systemer er derfor pålagt særligt strenge forpligtelser.

Endvidere er reglerne om gennemsigtighed netop trådt i kraft pr. 2 august i år. Reglerne kræver bl.a. at chatbots og andre interaktive AI-systemer fortæller brugerne, at de har med AI at gøre, ikke et menneske. Det betyder bl.a. at deepfakes og andet AI-genereret/ændret indhold skal mærkes med en klar og tydelig indikation af, at der er tale om AI.

Formålet med disse gennemsigtighedsregler er først og fremmest at hjælpe forbrugerne med at træffe informeret valg. Men det er også at give virksomhederne muligheden for at vise at de overholder reglerne. På den måde sikre reglerne altså, at både mennesker og virksomheder i hele EU får en større tillid til den teknologi, som stadigt bliver mere og mere integreret i hverdagen.

I kan læse mere om reglerne her.

Håndhævelsen

Europa-Kommissionens AI-kontor og de nationale myndigheder er ansvarlige for at gennemføre, føre tilsyn med og håndhæve AI-forordningen.

AI-kontoret kan blandt andet anmode om teknisk dokumentation, evaluere de pågældende AI-modeller, kræve korrigerende foranstaltninger og udstede bøder for manglende overholdelse. Det gælder også for så vidt angår reglerne om gennemsigtighed.

Medlemsstaterne skal desuden sørge for, at de rette myndigheder udpeges til at føre tilsyn med reglerne. Hvilke myndigheder, der skal varetage tilsynet i Danmark, vides ikke endnu.

Kommentar

Med de nye regler, er det ikke kun udbyderne af AI-modellerne der rammes af strenge krav og forpligtelser. Det er også alle andre virksomheder i EU, som anvender AI i deres virksomhed.

Som virksomhed, er det derfor også vigtigt at I fremadrettet tydeligt indikerer, hvis I f.eks. bruger AI-genereret indhold i jeres markedsføring eller har en chatbot på jeres hjemmeside.  Vi vil derfor også anbefale, at I generelt opbevarer al den dokumentation I måtte have i forbindelse med brugen af det pågældende AI-system – uanset formålet.

Kontakt os

Hos Chas. Hude følger vi både udviklingen af AI og reglerne tæt. Vi hjælper jer derfor også gerne med at skabe et overblik over reglerne, og hvad disse regler får af betydning for jer som virksomhed.

Tag endelig fat i en af vores rådgivere, hvis I har spørgsmål eller blot ønsker at vide mere.