Generatieve AI verzint niet alleen bronnen voor studenten, maar duikt inmiddels ook op in wetenschappelijke publicaties. In sommige artikelen worden verwijzingen gebruikt naar bronnen die helemaal niet bestaan. Zulke ‘spookreferenties’ lijken extra bewijs te leveren, maar zijn in werkelijkheid verzonnen.

Volgens recente onderzoeken komt dit probleem nog relatief weinig voor, maar neemt het wel snel toe. Dat is zorgelijk, omdat wetenschappelijke literatuur niet bedoeld is als een losse verzameling feiten waar je zomaar iets uit kunt halen. Een artikel is altijd onderdeel van een groter debat, met argumenten, nuance en context.

Het probleem zit dus niet alleen in slordig AI-gebruik. Het laat ook zien hoe verleidelijk het is om onder publicatiedruk snel bewijs te zoeken dat een bewering ondersteunt. Chatbots kunnen daarbij overtuigend klinkende bronnen verzinnen, maar dat maakt ze nog niet betrouwbaar.

Wetenschappelijke kennis ontstaat niet door teksten automatisch te schrapen of na te praten. Ze ontstaat door discussie, correctie en samenhang. Juist daarom zijn verzonnen bronvermeldingen gevaarlijk: ze doen alsof er bewijs is, terwijl dat bewijs niet bestaat. 

 

Lees hier de column verder!