Het AI team van de gemeente Amsterdam experimenteert met generatieve AI om advies te kunnen geven over het praktische gebruik van generatieve AI binnen gemeentes.
Dit rapport presenteert de bevindingen van een analyse van een pilot, waar 150 ambtenaren gedurende vier weken een op GPT-gebaseerde generatieve AI chatbot hebben gebruikt. Deze studie richtte zich op promptevaluatie, het analyseren van gebruikersgedrag, feitelijkheid en bias. Daarnaast worden op basis van de analyse strategieën voor risicobeperking voorgesteld.
‘Geen ChatGPT meer voor ambtenaren, gemeente Amsterdam benoemt de grote gevaren’
‘Geen ChatGPT meer voor ambtenaren, gemeente Amsterdam benoemt de grote gevaren’
De gemeente Amsterdam heeft haar beleid rondom het gebruik van kunstmatige intelligentie aangescherpt. Voortaan is het ambtenaren niet langer toegestaan om voor hun werk AI-toepassingen zoals ChatGPT, DeepSeek, Gemini en Midjourney te gebruiken. De gemeente vreest dat het gebruik van deze tools kan leiden tot foutieve informatie, datalekken, haatzaaiende taal en propaganda. Dit staat vermeld in een interne mededeling die deze week naar medewerkers is verstuurd.
“Als medewerker mag je alleen AI-tools gebruiken die aantoonbaar voldoen aan wet- en regelgeving en het Amsterdams beleid,” aldus de gemeente.
We blijven de ontwikkelingen volgen en toetsen regelmatig of AI-tools aan de regels voldoen.
Hoe de gemeente het naleven van dit verbod gaat controleren, is nog onduidelijk. Tijdens een vergadering stelde CDA-fractievoorzitter Rogier Havelaar hierover een vraag aan wethouder Hester van Buren (Personeel en Organisatie). “Het gaat om 18.000 medewerkers. De eerste reacties zijn: dan gebruik ik het toch gewoon op mijn privé-apparaat? Hoe wordt gecontroleerd dat het echt niet wordt gebruikt?” Van Buren was niet op de hoogte van het verbod en gaf aan hier later op terug te komen.
Dit is niet het eerste verbod op apps binnen de gemeente. Sinds ongeveer twee jaar mogen ambtenaren TikTok niet meer gebruiken op hun werktelefoons, en vorig jaar werd ook Telegram aan de lijst toegevoegd.
Ondertussen loopt er wel een pilot, Chat Amsterdam, waarin wordt onderzocht hoe kunstmatige intelligentie op een veilige en verantwoorde manier binnen de gemeente kan worden ingezet:
