Rathenau Instituut: ‘Maak haast met regels voor verantwoord AI-gebruik in wetenschap’

Kunstmatige intelligentie (AI) ontwikkelt zich razendsnel binnen de wetenschap. Waar algoritmes vroeger slechts in enkele vakgebieden werden toegepast, bieden generatieve AI-tools zoals ChatGPT en Copilot nu brede mogelijkheden voor vrijwel alle disciplines. Deze technologie kan op verzoek teksten, beelden en code genereren, waardoor onderzoekers efficiënter kunnen werken: sneller schrijven, grotere hoeveelheden data analyseren en eenvoudiger relevante literatuur verzamelen. Ook communicatie met een breder publiek wordt toegankelijker.

Tegelijkertijd brengt deze ontwikkeling serieuze risico’s met zich mee. Generatieve AI kan foutieve of gekleurde informatie produceren, wat gevolgen heeft voor de betrouwbaarheid van wetenschappelijk onderzoek. Meer dan 1.500 wetenschappers waarschuwen daarom voor bedreigingen voor onder andere integriteit, privacy en duurzaamheid. Zo worden wetenschappelijke tijdschriften overspoeld met nepartikelen, en groeit de afhankelijkheid van grote technologiebedrijven. Daarnaast zijn er zorgen over het hoge energie- en waterverbruik van datacenters en over arbeidsomstandigheden in het mondiale zuiden.

Op dit moment ligt de verantwoordelijkheid om deze risico’s af te wegen grotendeels bij individuele onderzoekers. Universiteiten geven wel richtlijnen, maar laten de uiteindelijke keuze vaak over aan hun medewerkers. De vraag is echter of dit realistisch is, gezien de hoge werkdruk en concurrentie binnen de wetenschap. Vooral jonge onderzoekers staan onder druk om te publiceren en financiering binnen te halen, wat het gebruik van AI-tools aantrekkelijk maakt.

Daarom is het noodzakelijk dat universiteiten en beleidsmakers snel duidelijke regels en normen opstellen voor verantwoord AI-gebruik. Dit vraagt om een bredere maatschappelijke en politieke afweging: hoeveel waarde hechten we aan efficiëntie en innovatie, en tegen welke prijs voor duurzaamheid, rechtvaardigheid en onafhankelijkheid?

Daarnaast moeten traditionele wetenschappelijke waarden opnieuw worden geïnterpreteerd in het licht van AI. Wat betekenen begrippen als betrouwbaarheid en integriteit wanneer AI een rol speelt in onderzoek? En hoe kunnen deze waarden worden gewaarborgd?

Het is waarschijnlijk dat verschillende disciplines hun eigen richtlijnen moeten ontwikkelen, gezien de diversiteit in onderzoekspraktijken. Tegelijkertijd is wachten geen optie. Hoewel initiatieven van universiteiten, TNO en de EU hoopvol zijn, zijn deze alternatieven nog onvoldoende ontwikkeld. Tot die tijd blijven wetenschappers afhankelijk van bestaande AI-systemen met bekende risico’s. Daarom is het essentieel om nu grenzen te stellen aan het gebruik van generatieve AI in de wetenschap.