Onderzoek BBC: ‘AI assistenten misleiden de BBC journalistiek!’
Onderzoek BBC: ‘AI assistenten misleiden de BBC journalistiek!’
Het medialandschap wordt veranderd door AI, die nieuwe mogelijkheden en kansen biedt voor mediabedrijven zoals de BBC, en nieuwe formaten en manieren om content te consumeren voor het publiek. De BBC is enthousiast over de toekomst van AI en de waarde die het kan bieden aan onze kijkers en ons personeel. We gebruiken het al om ondertitels toe te voegen aan programma’s op BBC Sounds en om content te vertalen naar verschillende talen op BBC News. We ontwikkelen tools die AI gebruiken om ons personeel te ondersteunen bij dagelijkse taken en verkennen hoe het ons publiek nieuwe ervaringen kan bieden, zoals een persoonlijke tutor op Bitesize. AI zal echte waarde brengen als het verantwoord wordt gebruikt. Maar AI brengt ook aanzienlijke uitdagingen met zich mee voor het publiek en het informatielandschap van het Verenigd Koninkrijk.
Een belangrijk kenmerk van het opkomende landschap zijn AI-assistenten zoals die van OpenAI, Google en Microsoft. AI-assistenten zijn bedreven in vele taken, zoals het opstellen van e-mails en documenten, het analyseren van gegevens en het samenvatten van informatie. Ze kunnen ook antwoorden geven op vragen over nieuws en actuele gebeurtenissen. Dit doen ze deels door content van uitgeverswebsites opnieuw te gebruiken, vaak zonder toestemming van de uitgevers.
Om het nieuwsgerelateerde output van AI-assistenten beter te begrijpen, hebben we onderzoek gedaan naar vier prominente, openbaar beschikbare AI-assistenten: OpenAI’s ChatGPT, Microsoft’s Copilot, Google’s Gemini en Perplexity. We wilden weten of ze nauwkeurige antwoorden gaven op vragen over het nieuws en of hun antwoorden BBC-nieuwsverhalen die als bron werden gebruikt, getrouw weergaven. We gaven de AI-assistenten toegang tot onze website gedurende de onderzoeksperiode en stelden hen vragen over het nieuws, waarbij we hen aanspoorden BBC News-artikelen als bron te gebruiken waar mogelijk. De antwoorden van de AI werden beoordeeld door BBC-journalisten, allen experts op de vraag-onderwerpen, op criteria zoals nauwkeurigheid, onpartijdigheid en hoe ze BBC-content vertegenwoordigden.
De BBC is de meest gebruikte en vertrouwde nieuwsbron in het VK en de meest vertrouwde internationale nieuwsbron ter wereld.1,2 We nemen de tijd en zorg om de nauwkeurigheid en onpartijdigheid van ons nieuws te waarborgen. Onze journalisten benaderden deze taak met hetzelfde niveau van zorg.
De resultaten gaan helemaal mis
De antwoorden die worden geproduceerd door de AI-assistenten bevatten grote onwaarheden en verdraaien het BBC-nieuws dat is ingebracht in de custom chats/assistent:
In particular: 51% of all AI answers to questions about the news were judged to have significant issues of some form. • 19% of AI answers which cited BBC content introduced factual errors – incorrect factual statements, numbers and dates. 13% of the quotes sourced from BBC articles were either altered from the original source or not present in the article cited. This matters because it is essential that audiences can trust the news to be accurate, whether on TV, radio, digital platforms, or via an AI assistant. It matters because society functions on a shared understanding of facts, and inaccuracy and distortion can lead to real harm. Inaccuracies from AI assistants can be easily amplified when shared on social networks. It matters because news publishers must be able to ensure their content is being used with their permission in ways that accurately represent their original content and reporting. We also know from previous internal research that when AI assistants cite trusted brands like the BBC as a source, audiences are more likely to trust the answer – even if it is incorrect.
