Debat: Derfor er faktatjek essentielt i arbejdet med AI

Verden tager lige nu en drejning imod mere og hurtigere information, samtidigt konsoliderer og bruger virksomheder mere end nogensinde før data til grundlag for beslutninger.

Men hvordan sikrer vi, at vi kan regne med data, der bruges?

I den forgangne uge så vi en sag, hvor den australske regering har opdaget væsentlige fejl i en rapport udarbejdet af revisions- og rådgivningsvirksomheden Deloitte , som har været lidt for flittige med at overlade arbejdet til kunstig intelligens, der viser hvor galt det let kan gå.

For når det nu er så let, så kan det være svært ikke at tage for sig af det enorme tag-selv-bord af svært tilgængelige data, der er til stede lige nu ved hjælp af de store sprogmodeller.

Også selvom vi godt ved, at sprogmodellerne har det med at hallucinere lidt. Og også selvom de er lidt for overbevisende i deres svar i forhold til troværdigheden.

Men vi må da kunne bruge alt den data til et eller andet… eller hvad?

Sprogmodellerne er jo først og fremmest gættemaskiner, avancerede gættemaskiner, ja, men de er langt fra orakler.

De laver ”forudsigelser af ord” dvs. at de grundlæggende skaber ét ord ad gangen ud fra, hvad der er det statistisk set mest sandsynlige ord.

Den vil altså finde på et ord lige meget hvad. Også selvom, det er forkert. Det er bare statistisk mest sandsynligt.

Det er her, der sker det, vi også kender som hallucinationer. Og det er det, der er sket i Deloittes tilfælde, de har benyttet en sprogmodel, som har hallucineret eller gættet der, hvor den ikke kendte svaret.

OpenAI (virksomheden bag ChatGPT, red.) offentliggjorte her i september 2025 netop en forskningsartikel omkring sprogmodellernes mangelfuldhed ved disse hallucinationer.

I studiet erkender de hallucination som et problem, som er svært at gøre noget ved, simpelthen fordi modellerne tøver med at svare ”ved ikke”.

Faktisk viste studiet, at de store sprogmodeller motiveres til at give et svar, frem for et ”ved ikke”, også selvom de ikke kender svaret.

Hvorfor er det vigtigt?

Jo, den lille indbyggede demotivation for at svare ”ved ikke” har større indflydelse på vores evne til at indsamle viden, end man måske lige skulle tro.

Vi mennesker benytter ”ved ikke”, fordi vi er bevidste om vores egne kognitive begrænsninger.

 Sokrates sagde det nogenlunde sådan her ” Alt jeg ved, er at jeg intet ved.”

Denne betragtning omkring vores egne begrænsede evner er egentlig et udtryk for vores høje intelligens. Vi er i stand til at vide det, når vi ikke ved det. Og vi ved, at ting ofte er mere komplicerede, end de lige ser ud til.

Det er vigtigt, at vi har denne evne, for ellers kunne vi jo bare gå rundt og fortælle hinanden usandheder. Gøre hinanden dummere i stedet for klogere.

Ligesom man står overfor et menneske, som har hang til at gætte frem for at være ærlig, stiller det store krav til vores evne til at kunne gennemskue, når maskinen tager fejl.

Det kan være en nogenlunde let opgave, hvis vi bruger AI til at generere tekst eller billede, hvor det er tydeligt at gennemskue, hvad der er korrekt.

Vi mennesker kan tydeligt kan se AI’s fejl, når vi genererer et billede eller en tekst, fordi det rent intuitivt ikke giver mening, f.eks. ved at en hånd får 6 fingre, Zebraen har vandrette striber, eller der står noget volapyk, så historien ikke giver mening.

Men opgaven bliver mere komplekst, når vi taler indsigter og tal.

Er det mon rigtige facts eller et fake tal, som sprogmodellen serverer en?

Hvis der er en fejl, er den ikke til at gennemskue for det blotte øje. Så hvis vi skal finde potentielle fejl, må vi arbejde mere systematisk med fejlfindingen. 

Men betyder det så, at vi ikke skal bruge AI til at søge efter viden?

Nej, slet ikke.

Vi skal da læne os ind og tage for os af alle mulighederne. Men vi skal også kunne tøjle den teknologiske begejstring, have dømmekraften og den sunde fornuft med os.

Og de forandringsagenter og virksomheder, som åbent arbejder med de her risici, er konsekvente med faktatjek og kan skabe processer for minimering af fejl, det bliver dem, der ender med at sidde med den korrekte viden og dermed få en klar konkurrencefordel.

At besidde ”ægte viden” og at skabe kompetencerne til at faktatjekke bliver måske ligefrem et differentieringsparameter i fremtiden.