Gemeente Amsterdam zet pilot met Microsoft Copilot stop vanwege privacyrisico’s
Gemeente Amsterdam zet pilot met Microsoft Copilot top vanwege privacyrisico’s
De gemeente Amsterdam heeft besloten de pilot met Microsoft Copilot stop te zetten vanwege zorgen over privacyrisico’s. Uit een recente Data Protection Impact Assessment (DPIA), uitgevoerd door SLM Rijk, blijkt dat de AI-toepassing niet voldoet aan de vereiste privacyvoorwaarden. Dit meldt de Vereniging van Nederlandse Gemeenten (VNG).
De VNG adviseert gemeenten om zorgvuldig af te wegen of de voordelen van Copilot opwegen tegen de mogelijke risico’s.
Computable.nl schreef al eerder in 2024:
Het is Surf niet duidelijk welke persoonsgegevens Microsoft verzamelt en bewaart over het gebruik van Microsoft 365 Copilot. Verder zijn de gegevens die gebruikers ontvangen als zij een inzageverzoek doen onvolledig en onbegrijpelijk. Daarnaast is het aannemelijk dat de ai-tool onvolledige persoonsgegevens genereert, en merken gebruikers in al hun vertrouwen niet dat ze met onjuiste gegevens werken. Surf hoopte Microsoft tot meer transparantie te bewegen. Omdat de vastgestelde hoge risico’s vooralsnog onvoldoende zijn weggenomen, blijft de ict-coöperatie van Nederlandse onderwijs- en onderzoeksinstellingen hierover in gesprek met Microsoft. Als Microsoft passende maatregelen neemt om de vier risico’s uit de hoogste categorie te verzachten, trekt Surf het negatieve advies in.
Microsoft Copilot wordt ingezet voor onder andere notuleren, documentcreatie en het doorzoeken van e-mails en chats. Tijdens deze interacties worden gevoelige gegevens verwerkt, wat moet voldoen aan wet- en regelgeving zoals de AVG. Volgens de DPIA is dit momenteel niet gegarandeerd.
De toets wees op belangrijke risico’s, waaronder een gebrek aan transparantie over de gegevensverwerking. Omdat de technologie nog niet volledig aan de vereisten voldoet, heeft Amsterdam besloten de pilot te beëindigen en Microsoft opgeroepen om concrete verbeteringen door te voeren.
Veel potentie, maar ook risico’s
De VNG erkent dat generatieve ai zoals Copilot kansen biedt, bijvoorbeeld voor efficiëntere werkprocessen en datagedreven beleid. Tegelijkertijd benadrukt de vereniging dat zorgvuldigheid geboden is en dat de bescherming van inwoners prioriteit heeft.
De gemeente Amsterdam onderschrijft de bevindingen van SLM Rijk en benadrukt dat verbeteringen nodig zijn voordat verdere implementatie kan plaatsvinden. Eerder uitte ook de onderwijssector kritiek op Copilot: IT-dienstverlener Surf adviseerde negatief over het gebruik van de ai-tool vanwege privacyrisico’s en het gebrek aan transparantie vanuit Microsoft.
