Efter marathonforhandlinger, der nærmede sig 37 timer, var der håndslag i EU.
Sent fredag den 9. december kunne de tre EU-instanser Kommissionen, Rådet og Parlamentet, nemlig melde ud, at de havde landet en lov om reguleringen af kunstig intelligens, en AI Act.
EU’s kommissær med ansvar for det indre marked, Thierry Breton, kaldte i et tweet aftalen for “historisk” — mest med henblik på, at EU er det første kontinent med regler for brugen af kunstig intelligens.
Lovgivningen har været undervejs siden 2021. Forud venter en konkretisering af den politiske aftale og en endelig godkendelse af EU’s medlemslande. Parlamentet forventes at førstebehandle loven i det nye år, skriver DR, og den vil derfor først træde i kræft om nogle år.
Men her er, hvad vi ved om EU’s banebrydende lovgivning om kunstig intelligens:
Forbud og dispensationer
Den nye aftale indeholder flere forbud mod, hvad EU definerer som uacceptabel brug af kunstig intelligens. Du kan læse Europa-Parlamentets pressemeddelelse her.
Lovgivningen omfatter forbud mod brugen af biometriske identifikationssystemer ud fra “følsomme karakteristika”, det kan være seksuel orientering, etnicitet, religiøs overbevisning. Biometrisk kategorisering analyserer data som ansigtstræk, stemmemønstre eller fingeraftryk.
Samtidig er der forbud mod ikke-målrettet indsamling af ansigtsbilleder fra internettet eller overvågningsoptagelser til at skabe ansigtsgenkendelses-databaser.
Arbejdspladser og uddannelsesinstitutioner forbydes at bruge kunstig intelligens til “emotional recognition”, altså følelses- eller affektgenkendelse, hvor teknologien kan identificere og analysere menneskers følelser ud fra udtryk, kropssprog og andre biometrisk data.
Og så indeholder aftalen forbud mod social scoring, et fænomen der primært er kendt fra Kina og tv-serien Black Mirror, hvor borgeres opførelse giver en score, der dermed kan nægte dem adgang til ydelser.
Slutteligt er der forbud mod kunstig intelligens, der har til formål at manipulere mennesker og omgå deres frie vilje, samt udnytte borgeres svagheder, det kan være alder eller handikap.
Der er dog visse dispensationer for politiet og andre statslige sikkerhedsorganer, der kan bruge biometriske identifikationssystemer i visse tilfælde. Det kan være i forbindelse med kidnapninger, trafficking eller for at forhindre en terrortrussel.
Trecifrede millionbøder
Derudover dikterer den nye lovgivning også, at der skal være mere transparens omkring modellerne bag chatbots som OpenAI’s ChatGPT og Googles Bard.
I forlængelse af den nye AI Act etableres der også et nyt kontor i EU-kommissionen, der skal håndhæve reglerne over for AI-modeller til generelle formål.
Den nye lovramme definerer også bødestørrelsen, skulle reglerne brydes. Et lovbrud kan føre til bøder, der spænder fra 35 millioner euro (262,5 millioner danske kroner) eller syv procent af den globale omsætning til 7,5 millioner euro (56 millioner danske kroner) eller 1,5 procent af omsætningen — afhængigt af overtrædelsen og virksomhedens størrelse, skriver Parlamentet i pressemeddelelsen.
