TEDx: Hoe spot je AI nepfoto’s?
TEDx: Hoe spot je AI nepfoto’s?
In een tijd waarin digitale beelden razendsnel verspreid worden via sociale media en visuele manipulatie steeds moeilijker te detecteren is, speelt forensische beeldanalyse een cruciale rol in het onderscheiden van feit en fictie. De impact hiervan werd onlangs pijnlijk duidelijk toen een hoge militair via sociale media een alarmerend bericht ontving: vier van zijn soldaten zouden zijn ontvoerd en zouden binnen tien minuten geëxecuteerd worden als niet aan bepaalde eisen werd voldaan. Als enige aanwijzing werd een korrelige foto gedeeld. De urgentie om de echtheid van de afbeelding snel te verifiëren was hoog — tijd voor een traditionele opsporingsmethode was er niet. Een uitleg en optreden door Hany Farid.
Farid an American university professor who specializes in the analysis of digital images and the detection of digitally manipulated images such as deepfakes.
In dergelijke gevallen wordt steeds vaker een beroep gedaan op digitale forensische experts. Een toonaangevend expert op dit gebied is een toegepast wiskundige en computerwetenschapper met meer dan dertig jaar ervaring in de analyse en authenticatie van digitale beelden en video’s. Zijn werk heeft zich uitgestrekt van ondersteuning aan journalisten en rechtbanken tot overheden, in uiteenlopende zaken zoals kinderbescherming, misdaadzaken en nationale veiligheid.
De noodzaak voor dergelijke expertise is de afgelopen jaren explosief gegroeid. Oorzaken zijn onder meer:
-
Generatieve AI – technologieën die met één druk op de knop realistisch ogende beelden kunnen genereren.
-
Sociale media – platforms die door hun algoritmes valse of misleidende informatie sneller verspreiden dan feitelijke content.
Samen zorgen deze ontwikkelingen voor een groeiend maatschappelijk probleem: het vervagen van de grens tussen werkelijkheid en fictie. De spreker spreekt van een “wereldwijde oorlog om de waarheid” met verstrekkende gevolgen voor individuen, instituties en democratische samenlevingen.
De technieken achter beeldanalyse
Het onderscheiden van echte en gemanipuleerde beelden is technisch complex, maar mogelijk. Hieronder enkele kerntechnieken die toegepast worden:
-
Ruisanalyse: Echte digitale foto’s bevatten natuurlijke ruis, veroorzaakt door licht en sensoren. AI-gegenereerde beelden bevatten daarentegen vaak patronen in de ruis die onnatuurlijk ogen, zoals stervormige structuren in de Fourier-transformatie van het beeld.
-
Analyse van verdwijnpunten: In echte foto’s convergeren parallelle lijnen naar een verdwijnpunt, zoals bij treinrails. AI begrijpt deze geometrie vaak niet, wat leidt tot onnatuurlijke perspectieven.
-
Schaduwconsistentie: In echte foto’s komen lichtbronnen en schaduwen fysiek overeen. Bij AI-beelden ontbreekt deze consistentie vaak, bijvoorbeeld doordat schaduwen van meerdere objecten niet naar één gemeenschappelijk lichtpunt verwijzen.
Wanneer meerdere van deze anomalieën worden aangetroffen in een afbeelding, vormt dit sterk bewijs dat het beeld niet authentiek is.
De bredere implicaties
De problematiek rondom desinformatie via beeldmateriaal is geen toekomstscenario — het speelt zich nu af. AI wordt ingezet voor het maken van deepfakes, het verspreiden van medische desinformatie, het creëren van seksueel getinte beelden van vrouwen en kinderen, en zelfs voor financiële fraude op hoog niveau. Toch is er reden tot optimisme. De technologie om authenticiteit te verifiëren bestaat en wordt toegankelijker gemaakt voor journalisten, rechtbanken en instellingen. Daarnaast is een internationale standaard in opkomst voor zogenaamde content credentials, die het mogelijk maken om bij het creëren van content digitale handtekeningen toe te voegen. Deze geven consumenten meer zekerheid over de herkomst en betrouwbaarheid van visuele content.
Oproep tot bewustwording
De spreker roept op tot actie — niet alleen van technologische experts, maar ook van het brede publiek:
-
Vertrouw niet blind op sociale media als informatiebron. De platforms zijn ontworpen om aandacht vast te houden, niet om waarheid te waarborgen.
-
Wees terughoudend met het delen van informatie. Zelfs onbewuste verspreiding van desinformatie maakt iemand deel van het probleem.
-
Steun serieuze journalistiek. Professionele redacties en factcheckers vormen een essentiële verdedigingslinie tegen online misleiding.
We staan op een kruispunt. De ene weg leidt naar verdere sociale ontwrichting door technologie die misbruikt wordt. De andere weg biedt perspectief: technologie inzetten om waarheid te beschermen en vertrouwen te herstellen. Die keuze ligt in onze handen, zowel als individu, als maatschappij, en als technologische gemeenschap.
