SoMe-analytiker advarer efter falsk AI-kampagne med Kamala Harris: Vi vil se mere af det

En falsk parodi-video med den demokratiske præsidentkandidat, Kamala Harris, skabt ved hjælp af AI, vækker bekymring.

I videoen er en stemme-AI blevet brugt til at få Kamala Harris til at sige ting, hun ikke har sagt, skriver det amerikanske medie FastCompany. Videoen har især vakt bekymring, efter den blev delt af X- og Tesla-Ejer Elon Musk på X – uden at han deklarerede, at der var tale om AI-skabt materiale.

Oprindeligt blev videoen, hvor den falske Kamala Harris siger, at hun intet ved om at lede USA, delt med en tydelig markering som parodi.

Videoen er et klart eksempel på, hvordan AI-skabt materiale i valgkampe kan skabe tvivl og være et problem, lyder det fra social media-analytiker ved Kongressen.com, Katrine Villarreal.

”Det er en video, der imiterer den kampagnevideo, hun selv har sendt ud, men som præsenterer et andet narrativ, som især Donald Trump og Republikanerne har af Kamala Harris. Den skaber en anden, falsk virkelighed,” siger hun til Markedsføring.

Ifølge Katrine Villarreal er det ikke muligt at afkode, præcis hvilken AI der er brugt til at skabe videoen. Men den forsøger at parodiere og udnytte, at Kamala Harris for nylig selv har sendt sin præsidentielle valgkampagne på banen.

”Det anderledes er, at den nye video forvrænger hendes stemme og lægger et andet narrativ over end det, hun egentlig siger i sine videoer. Det er en deepfake – men vi ved ikke præcis, hvilken teknik der er brugt. Det kan godt være rigtig video og billeder, der er sat sammen, og så en tech, der har kørt et nyt lydspor på videoen,” forklarer hun.

Ifølge Katrine Villarreal er blandt andet sociale medier som X en medvirkende årsag til, at falske AI-videoer kan sprede sig hurtigt og være svære at eftertjekke for alle brugere og vælgere.

“Problemet i dag er, at vi har teknologi, der kan generere falskt indhold, som kan blive spredt lynhurtigt på sociale medier, som nogen ikke kan finde ud af at navigere i. Det kan føre til en valgkamp, der er mere udemokratisk. Det kan skabe mistillid til demokratiet og sandhedsapati hos vælgerne,” siger hun.

Vil vi se mere af det?

”Helt sikkert. En ting er, at jeg kan sidde i min kælder og lave sådan noget her. Men det kan også laves af politiske grupperinger i USA, der bruger det til at manipulere. Det er en ny måde at føre valgkamp på, der skaber nye sandheder om dine modstandere.”

Videoen blev af sin oprindelige skaber på YouTube, en bruger ved navn Mr Reagan, markeret som parodi, da den blev udgivet. Efter kritik lavede Elon Musk også et nyt opslag om videoen på X, hvor han skrev, at der var tale om en parodi.

Men det til trods så ser Katrine Villarreal den stadig som et eksempel på, hvordan AI-skabt indhold kan skabe tvivl om virkeligheden hos vælgere.

”Selvom det bliver lavet som en parodi, så bliver det delt på sociale medier, blandt andet af X’ ejer Elon Musk til hans 200 millioner følgere. Så det bliver eksponeret for millioner af brugere og også omtalt i traditionelle medier. Og der møder en lang række mennesker det, og de skal så vurdere, om det er ægte eller ej,” siger hun.

”Man kan forestille sig, at den her video kan vække stærke følelser hos republikanske vælgere, så de spreder indholdet. Det vil uundgåeligt ramme mennesker, der ikke faktatjekker eller er vant til at navigere i medier på samme måde som journalister, politikere eller medietrænede, som godt kan gennemskue det. Udfordringen ved, at AI-teknologi vinder frem, er, at det gør det svært at se forskel på falskt og sandt indhold.”

Katrine Villarreal understreger, at der er lang tradition for at parodiere politikere i amerikanske valgkampe. Men med de AI-skabte og meget virkelighedstro videoer bevæger man sig over i en helt anden arena, vurderer hun.

Det er ikke unormalt at lave parodier i amerikanske valgkampe på kandidater. Det så vi også for nogle år siden, hvor en YouTube-profil lavede parodier af Obama, Biden og Clinton, hvor de breakdancede og boksede. Det var meget karikerede sketch-videoer, hvor det ikke var svært at afkode, at de var falske. Det er også meget typisk, at Saturday Night Live laver parodier på politikerne under valget,” siger hun.

”Det nye er, at vi i 2024 har AI-teknologi, der er så virkelighedstro, at det er svært for selv dig og mig at skelne, om noget er ægte eller en parodi. Det kan være svært at se, om det er forfalsket. Det kan godt være, at det er en parodi, men tech’en er så god, at man ikke længere er trænet til at se, om det er ægte eller falsk,” siger hun.

Kan det være et problem for et præsidentvalg i USA lige nu, at den her teknologi vinder frem?

”Vi så også ved primærvalgene, at der var ”robocalls”, hvor en falsk Joe Biden-stemme ringede vælgere op og sagde, at de ikke behøvede stemme. Det er med til at ændre præmisserne for et demokratisk valg, og det er super skræmmende, for det er med til at påvirke vælgere og rykke dem eller få dem til at stemme på et uoplyst grundlag.”

Ifølge Katrine Villarreal kigger man i USA også lige nu på, om man kan regulere AI-genereret indhold af kandidater op til valg. Men selvom man i Californien er på vej med lovgivning, så er det ikke lige til, siger hun.

”Der er store diskussioner i USA om, hvorvidt man skal regulere det. Der findes en lov fra 1971, der forbyder forfalsket misrepræsentation af kandidater. Men da den blev lavet, havde man altså ikke tænkt på AI-teknologi,” siger hun og tilføjer:

”Samtidigt er der en anden lov i USA, Section 230, som gør det meget svært for amerikanske politikere at regulere sociale medier, fordi loven giver de sociale medier carte blanche til at være udgivere af indhold, men ikke redaktører af indholdet. Dermed fratager loven dem publicistisk ansvar.”

Og netop det spænder ben for politikerne, siger hun.

“Det er en problematik, de amerikanske politikere også diskuterede ved sidste præsidentvalg, og som de lige nu helt sikkert vrider deres hjerner med. Samtidigt ser vi, at guvernøren i Californien er ved at underskrive en lovgivning, der skal forbyde manipuleret indhold op til 60 dage før et valg i staten. Og da Californien er hjemsted for mange af de tech-virksomheder, der udbyder de her AI-teknologier, bliver det værd at holde øje med, om det får betydning for teknologien og lovgivningen. USA er langt bagud i forhold til EU her, og det vil få konsekvenser for sådan noget som et præsidentvalg til november.”

Du kan se AI-videoen med Kamala Harris herunder: