I starten af december kunne EU præsentere verdens første reelle AI-lovgivning, AI Act, der skal regulere brugen af kunstig intelligens for medlemslandene.
Eller oplægget til det. For de tekniske detaljer er endnu ikke på plads, og aftalen godkendes først næste år, men EU har offentliggjort rammerne for aftalen.
Det nye regelsæt skal blandt andet forbyde social scoring og manipulering af mennesker med AI. Det kan du læse mere om her. Og hvad kommer det så til at betyde for marketeers, reklamefolk og andre, der arbejder med markedsføring og kommunikation?
Det har vi spurgt Morten Saxnæs, der fra det nye år bliver strategisk direktør på AKQA og har beskæftiget sig indgående med AI hos &Co., samt Maiken Toftgaard, der er partner ved advokatfirmaet Poul Schmith med speciale i AI, IP og forbruger- og markedsføringsret, om.
De er begge glade for, at der kommer et nyt, fælles regelsæt. Også selvom der stadig er et par år til, at den nye forordning kommer ud at leve, som Maiken Toftgaard siger det.
“Det er godt med et fælles regelsæt, men der er lang vej igen til, at forordningen bliver udmøntet i praktisk anvendelse og praktikere og jurister er kloge på, hvordan vi skal håndtere de her ting,” siger hun.
Men trods tidshorisonten advarer Maiken Toftgaard om, at de nye regler allerede nu skal tænkes ind i de AI-løsninger, som marketingafdelinger og bureauer udvikler og investerer i.
“Markedsføringsfolk og reklamebureauer skal man kende denne forordning og have kravene for øje, før man investerer i nye løsninger. Selvom det er et par år ude i fremtiden, kan tiden hurtigt gå. Den skal tænkes ind i alle nye systemer.”
Forbud mod manipulering
Et af punkterne i den første aftaletekst fra EU er, at kunstig intelligens ikke må bruges til at manipulere menneskers følelser og omgå deres frie vilje. Og det er interessant at kigge på, mener Morten Saxnæs.
“Skal vi være ærlige, er det jo the business we’re in. Når vi laver kommunikation, branding og marketing, er det at tale til menneskers følelser og forstå dem godt. Og AI er god til at forstå og aflæse menneskers følelser og skabe målrettet
kommunikation til dem,” siger han og tilføjer:
“Der er to sider af den sag, for lovgivningen begrænser AI, der påvirker vores underbevidsthed, og som kan lede til fysisk og mental skade, eller som udnytter vores økonomiske situation. Så her tænker jeg, at vi kigger ind i en mulig gråzone.”
Men, siger han også, der er stadig mulighed for, at man kan bruge AI til at måle og manipulere følelser bredt, for eksempel ved at kigge på emotionel respons på en given kommunikation.
“Som kommunikatør er AI et power tool til at stimulere menneskelige følelser, og det får vi stadig mulighed for. Det er vigtigt ift. udviklingen indenfor markedsføringsbranchen. Om det så er etisk, er en anden snak.”
Ophavsretssager rører på sig
Over det sidste år er værktøjer som ChatGPT, Midjourney og Runway blevet vigtige redskaber hos flere reklamebureauer. Blandt andet har Fleggaard og Danske Spil lanceret AI-genererede kampagner med hjælp fra henholdsvis Use Agency og &Co.
Og sidder man derude og gør brug af de AI-løsninger, mener Morten Saxnæs, at der umiddelbart ikke er grund til bekymring.
“Aftalen berører ikke direkte, hvordan vi som marketingprofessionelle kan bruge værktøjer som ChatGPT eller Midjourney. Så hvis man sidder med de værktøjer, skal man ikke få fugtige håndflader og frygte, at de bliver ubrugelige eller lukket ned. Det kommer EU ikke til at regulere på,” siger han.
Alligevel er det vigtigt, at bureauerne og de marketingansatte husker, at der allerede eksisterer flere regelsæt, der stiller skrappe krav til brugen af AI-løsninger, siger Maiken Toftgaard.
“Der er GDPR-forordningen, og så ser vi for tiden, at der er flere sager omkring AI trænet på ophavsretligt beskyttet data. Vi kan se, at rettighedshaverne begynder at røre på sig,” siger hun med henvisning til de første retssager i USA og Kina.
“Der er jo en risiko for brud på IP-rettigheder, når AI-løsninger laver oplæg til reklamer, billeder eller tekst,” siger Maiken Toftgaard videre.
Nye risikogrupper
Med den nye AI Act vil EU også gå ind og kategorisere AI-værktøjer i forskellige risikogrupperinger. Og alt efter, hvor et system bygget på kunstig intelligens lander, er der forskellige krav, som man skal efterleve.
“Den nye AI-forordning stiller krav til, hvordan man risikovurderer sine AI-systemer og til de datasæt, man bruger. Risikovurdering er inddelt i lav, begrænser, høj eller uacceptabelt, og alt efter, hvor man lander på skalaen, er der forskellige krav til, hvad man skal gøre,” siger Maiken Toftgaard.
Der er blandt andet krav til gennemsigtigheden omkring AI-systemer.
“Det kunne for eksempel være systemer, der bruges til at profilere og målrette markedsføring,” siger Maiken Toftgaard.
Og gennemsigtighedsprincippet skal branchen være meget opmærksom på, siger Morten Saxnæs.
“Det vil f.eks sige, at man som bruger skal gøres opmærksom på, hvis man interagerer med en AI, eller notificeres, hvis indholdet er skabt af AI,” siger han.
Oplægget fra EU ikke som nævnt ikke endelig godkendt eller beskrevet teknisk i dybden, og Morten Saxnæs savner, at det bliver mere konkret.
“Men som det er nu, er jeg positivt indstillet. Og så glæder jeg mig til, at det bliver oversat af jurister til konkret marketingsprog, så det kan blive implementeret,” siger han.
Maiken Toftgaard savner, at der tages hånd om eksempelvis immaterielle rettigheder.
“Spørgsmål som, om man kan få ophavsret til et værk, der er skabt med kunstig intelligens, svarer den ikke på,” siger hun.
