TEDx AIenBusiness.nl selectie: ‘Hoe spot je nu fake AI-foto’s?’

Hoe spot je nu neppe AI-foto’s? Expert Hany Farid legt het uit in deze speciale TEDx selectie. 

How do you know if that shocking photo in your feed is real, or just another AI fake? Digital forensics expert Hany Farid explains how he helps journalists, courts and governments find structural errors in AI-generated images, offering four practical tips everyday individuals can use when facing the internet’s war on reality.

Je bent een hoge militair, en je ontvangt een ijzingwekkend bericht op sociale media. Vier van je soldaten zouden zijn ontvoerd. Als er binnen tien minuten niet aan de eisen wordt voldaan, worden ze geëxecuteerd. Het enige bewijs is een korrelige foto. Je hebt geen tijd om uit te zoeken of er werkelijk vier mensen vermist zijn. Wat doe je als eerste?

Je belt iemand zoals mij en mijn team

Ik ben opgeleid als toegepaste wiskundige en informaticus — een onverwachte keuze voor zo’n crisissituatie, zou je denken. Maar al dertig jaar ontwikkel ik technologie om digitale foto’s en video’s te analyseren en te verifiëren.

In die tijd werkten we samen met journalisten, rechtbanken en overheden aan zaken variërend van overspel met fotografisch bewijs, tot beelden van kindermisbruik, tot foto’s in moordzaken — en aan zaken waar we simpelweg niet over mogen spreken.

Waar ooit maandelijks een nieuwe zaak opdook, werd het wekelijks, en inmiddels dagelijks. Dat komt door twee ontwikkelingen. Eén: generatieve AI, waarmee iedereen realistische beelden kan maken. Twee: sociale media, ongecontroleerd, wereldwijd, en ingericht om leugens sneller te verspreiden dan waarheid. Samen zorgen ze ervoor dat het steeds moeilijker wordt iets te geloven wat we zien, lezen of horen.

Ik noem dit een wereldwijde oorlog om de waarheid — met diepgaande gevolgen voor individuen, instituties, samenlevingen en democratieën.

We hebben eeuwenlang foto’s vertrouwd. Toch werd er al in de 19e eeuw gerommeld met beelden. Historie kon worden herschreven — wie in ongenade viel, verdween uit de foto’s. Met digitale fotografie en bewerkingstools werd manipulatie eenvoudiger. En nu, met AI, kan iedereen elk beeld creëren: van ontvoerde soldaten tot een giraffe in een coltrui. Het is allang geen onschuldige grap. AI wordt ingezet om bestaande dreigingen te versterken en nieuwe te creëren: deepfake-naaktbeelden van vrouwen en kinderen; nepvideo’s van artsen die valse behandelingen promoten; miljoenenfraude dankzij een AI-gegenereerde CEO-stem tijdens een videogesprek. Deze dreigingen zijn echt, nu, en niemand is immuun. Om te bepalen of zo’n foto echt is, analyseren we eerst hoe het beeld tot stand kwam. Generatieve AI leert beeld creëren door ruis om te zetten in betekenisvolle pixels. Dat proces laat sporen achter die anders zijn dan een foto gemaakt met een fysieke camera. Zo herkennen we patronen in de ruis: stervormige structuren, typisch voor AI.

Daarnaast bestuderen we perspectief en schaduwen — fysieke fenomenen die AI niet begrijpt. Parallelle lijnen moeten samenkomen in een verdwijnpunt; schaduwen moeten naar dezelfde lichtbron verwijzen. Wanneer dat niet klopt, klopt de foto ook niet. Zo vonden we in de foto van de ontvoerde soldaten drie afzonderlijke anomalieën — genoeg bewijs dat het beeld niet authentiek is. Het belangrijkste om te onthouden: het ís mogelijk om echt van nep te onderscheiden.
Maar het vraagt gereedschap, geduld en kritisch denken.

Een paar gedachten om mee te nemen, zo meldt de expert:

• De analysetools die wij ontwikkelen worden beschikbaar gesteld aan journalisten, rechtbanken en instellingen — zodat zij kunnen vaststellen wat echt is, wat jou uiteindelijk beschermt.

• Er bestaat een internationale standaard voor content credentials — digitale echtheidskenmerken die al bij de creatie worden toegevoegd. Ze zijn geen magische oplossing, maar wel een belangrijke stap.

• Social media is geen betrouwbare nieuwsbron. Het is ontworpen om aandacht te trekken, niet om waarheid te verspreiden. Zie het als fastfood voor het brein — af en toe oké, maar geen voeding.

• Als je misinformatie deelt — bewust of onbewust — word je deel van het probleem. Neem een moment voordat je iets verspreidt.

We staan op een kruispunt. We kunnen de afgelopen twintig jaar herhalen en toestaan dat technologie ons uit elkaar drijft. Of we gebruiken diezelfde technologie om vertrouwen te herstellen. Die keuze ligt bij ons.