Stadig mere overbevisende deepfakes oversvømmer nettet
Deepfake-ansigter bliver hele tiden mere realistiske, og forskere har nu undersøgt, om almindelige brugere overhovedet har en chance for at afsløre dem. Svaret er ikke særlig opmuntrende.
Ny forskning fra det amerikanske Vanderbilt University viser, at daglig omgang med teknologi – eller endda indgående kendskab til kunstig intelligens – slet ikke garanterer, at vi kan skelne et syntetisk ansigt fra et ægte. Det afgørende er en helt anden, medfødt visuel evne, som vi har begrænset kontrol over.
Én falsk foto satte hele togtrafikken i stå
Forskerne fremhæver en opsigtsvækkende hændelse fra Storbritannien. En nat, hvor et svagt jordskælv ramte en region, begyndte et billede af en sammenstyrtet jernbanebro at cirkulere på de sociale medier. Fotografiet så uhyggeligt overbevisende ud: ødelagt konstruktion, dramatisk sceneri og kommentarsektioner fyldt med panik.
Den britiske jernbaneoperatør valgte at standse togtrafikken for at undgå en katastrofe. Det viste sig efterfølgende, at broen stod fuldstændig intakt. Billedet var skabt af generativ kunstig intelligens. De reelle konsekvenser var stoppede tog, økonomiske tab og kaos i trafikken. Det er et klart eksempel på, at falske visuelle fremstillinger ikke længere bare handler om sjove memes – de påvirker faktiske beslutninger.
Forskning i deepfakes er ikke længere en teknologisk kuriositet. Det er en reaktion på situationer, hvor genererede billeder begynder at påvirke sikkerhed, økonomi og politik.
I årevis lød eksperternes råd: "Kig efter forvrængede hænder, underlige tænder eller mærkelige skygger." Problemet er, at billedgeneratorer forbedres med rasende hast. I dag virker sådanne simple tricks ikke længere, og i mange tilfælde ser falske portrætter faktisk mere perfekte ud end ægte fotografier.
AI Face Test: forskerne undersøger, hvem der ser det falske
Holdet fra Vanderbilt besluttede sig for at måle, i hvilken grad mennesker er i stand til at skelne ægte ansigtsfotos fra AI-genererede billeder. Til det formål udviklede de et særligt redskab kaldet AI Face Test. Deltagerne fik en række portrætter at se og skulle for hvert enkelt afgøre, om de så et rigtigt menneske eller en computerskabt figur.
Forskerne satte derefter testresultaterne i forbindelse med en række andre egenskaber hos deltagerne. De undersøgte blandt andet:
- det generelle intelligensniveau,
- erfaring med at arbejde eller eksperimentere med kunstig intelligens,
- specialiserede færdigheder i ansigtsidentifikation,
- den generelle evne til at genkende objekter på billeder.
Mange ville intuitivt gætte, at jo mere teknologikyndig man er, desto bedre er man til at afsløre en deepfake. Undersøgelsen viste noget helt andet.
Intelligens hjælper ikke – det er noget helt andet, der tæller
Psykologerne konstaterede, at høj IQ, kendskab til AI eller erhvervsmæssig erfaring med billeder – eksempelvis som grafiker – ikke forklarede nævneværdige forskelle i, hvor godt folk genkender kunstige ansigter. Dem, der betragtede sig selv som "tekniske", klarede sig ikke bedre end folk med helt basal internetbrug.
Den stærkeste enkeltfaktor viste sig at være den generelle evne til at genkende objekter. Det drejer sig om en bred, i høj grad medfødt egenskab – evnen til hurtigt og præcist at aflæse visuelle detaljer: former, teksturer og subtile forskelle mellem lignende elementer.
Personer med en over gennemsnitlig evne til at "se detaljer" er bedre til at opdage unaturlige småting på syntetiske billeder – svag støj, alt for glatte overflader og alt for perfekt placerede porer i huden.
Disse deltagere overgik konsekvent resten af gruppen, når det gjaldt om at identificere AI-genererede ansigter. Bemærkelsesværdigt nok forblev deres resultater stabile, da forskerne gentog testene på et andet tidspunkt. Det er et stærkt tegn på, at vi har at gøre med en varig egenskab – ikke noget man let kan "træne op" med et par øvelser i en app.
Vi stiller ikke med de samme forudsætninger i kampen mod desinformation
Forskningen tegner et ubehageligt billede. I den offentlige debat lyder fortællingen ofte: "Lær folk at genkende falske nyheder, så forsvinder problemet." Når det kommer til avancerede AI-genererede billeder, er det ikke tilstrækkeligt. Selv en velinformeret og forsigtig bruger kan lade sig narre, hvis hans eller hendes visuelle system ikke fanger de subtile uregelmæssigheder.
Forskerne understreger, at der i befolkningen findes et helt spektrum af mennesker – fra dem, der næsten altid tager fejl, til dem, der næsten fejlfrit afslører falske ansigter. De fleste af os befinder os et sted i midten, hvilket indebærer en reel sårbarhed over for avanceret visuel manipulation.
| Brugertype | Sandsynlighed for at opdage falsk ansigt | Primær egenskab |
|---|---|---|
| "Ørneøje" | Høj | Meget god objektgenkendelse |
| Gennemsnitlig internetbruger | Middel | Mange rigtige svar, men også mange fejl |
| Person sårbar over for deepfakes | Lav | Svag evne til at opfange subtile visuelle forskelle |
Disse resultater ændrer tilgangen til digital dannelse. Kurser i "hvordan man genkender falske billeder" giver stadig mening, men de løser ikke hele problemet. En del modtagere vil – trods god vilje og teoretisk viden – fortsat forveksle deepfakes med virkeligheden.
En evne der også gør gavn i medicin og videnskab
Den samme generelle objektgenkendelsesfærdighed hænger sammen med – som andre undersøgelser citeret af Vanderbilt-holdet viser – succes i opgaver, der rækker langt ud over billeder på internettet.
Personer, der scorer højt i visuelle tests, klarer sig bedre i blandt andet:
- at opdage små forandringer på røntgenbilleder af lungerne,
- at klassificere blodceller som raske eller kræftramte,
- at læse komplicerede nodeark,
- at bestemme køn ud fra billeder af øjenbunden.
For læger, billeddiagnostikere og medicinske dataanalytikere er det en særdeles positiv nyhed. Deres daglige arbejde bygger netop på at se det usete – mikropletter, uregelmæssige kanter og andre "støjsignaler", som det utræede øje ikke tillægger betydning. Det forklarer også, hvorfor visse specialister hurtigere tilpasser sig samarbejdet med AI-systemer, der understøtter dem i analysen af billeddiagnostik.
Evnen til objektgenkendelse fungerer som en fælles nævner: den hjælper både i kampen mod deepfakes og i diagnosticeringen af sygdomme ud fra subtile forandringer i medicinske billeder.
Hvad disse resultater fortæller os om daglig brug af AI
Forskningens konklusioner modsiger den udbredte forestilling om, at det blot at "vænne sig til" teknologi løser problemet med visuel desinformation. At bruge chatbots, billedgeneratorer eller AI-drevne apps er ikke nok til at træne øjet op til et niveau, hvor det fejlfrit genkender et syntetisk ansigt.
Det forskyver ansvaret fra den enkelte bruger til platformsudviklere og lovgivere. Eftersom en del mennesker aldrig vil blive i stand til effektivt at afsløre falske billeder, er der brug for andre sikkerhedsforanstaltninger:
- systemer til mærkning af AI-genereret indhold direkte i filerne,
- deepfake-filtre og -detektorer på sociale medieplatforme,
- klare standarder i nyhedsmedier for billedverificering,
- let tilgængelige "anden mening"-værktøjer, som en almindelig bruger kan aktivere inden deling af et billede.
Det handler altså ikke bare om, at vi hver især stirrer intenst på pixels. Et mere realistisk scenarie er en kombination af menneskelig intuition og automatiserede systemer, der verificerer billeders troværdighed i baggrunden.
Sådan kan den almindelige bruger beskytte sig mod falske billeder
Forskningen bag AI Face Test viser, at nogle begrænsninger er medfødte – men det betyder ikke, at vi er helt forsvarsløse. I den daglige internetbrug er simple vaner til stor hjælp:
- Tjek billedets kilde – stammer det fra et anerkendt medie eller en anonym konto?
- Brug omvendt billedsøgning for at se, hvor billedet ellers optræder.
- Vær opmærksom på konteksten: dato, sted og overensstemmelse med andre beretninger.
- Vær skeptisk over for materiale, der vækker ekstreme følelser – chok, vrede eller eufori.
Øjnene kan godt tage fejl, men en håndfuld enkle spørgsmål stillet, inden man klikker "del", er ofte nok til at stoppe én i ubevidst at sprede falsk indhold.
I baggrunden kører et kapløb mellem dem, der skaber billedgeneratorer, og de hold, der bygger redskaber til at afsløre dem. Jo mere realistiske syntetiske ansigter bliver, desto mere vil vi læne os op ad automatiserede detektorer, vandmærker og løsninger indbygget i kameraer og sociale medieplatforme. Et enkelt menneskes evne vil altid have sine grænser – og netop derfor er det så afgørende at designe hele informationsøkosystemet med deepfake-æraen for øje.
