Rapport AP: ‘Emotieherkenning uit van omstreden aannames over emoties en de meetbaarheid daarvan’
Rapport AP: ‘Emotieherkenning uit van omstreden aannames over emoties en de meetbaarheid daarvan’
1. Emotieherkenning en AI
De inzet van AI om emoties te herkennen groeit, ondanks twijfel over de wetenschappelijke onderbouwing. Dergelijke systemen worden onder meer toegepast in klantenservice, wearables en taalmodellen. Het probleem is dat veel van deze technologieën gebaseerd zijn op betwiste aannames over emoties en hun meetbaarheid. Dat brengt risico’s met zich mee op het gebied van privacy, autonomie, en discriminatie. De AP roept organisaties daarom op om terughoudend, transparant en met expliciete toestemming te werk te gaan bij het gebruik van dergelijke systemen. In onderwijs en op de werkplek is deze technologie sinds februari 2025 verboden.
2. Verantwoord gebruik van AI
Hoewel AI veel kansen biedt — zoals efficiëntere zorg, energietransitie en woningzoekdiensten — waarschuwt de AP voor ongewenste bijeffecten, zoals afhankelijkheid van big tech, ondoorzichtige besluitvorming en schending van grondrechten. Betrouwbare AI vereist transparantie, audits, en grondrechtenbeoordelingen. De maatschappelijke inzet moet versterkt worden door investeringen in kennis, mensen en samenwerking tussen toezichthouders. Daarbij moeten incidenten gemeld worden, zodat men ervan kan leren.
3. Strategische autonomie en digitale soevereiniteit
De afhankelijkheid van buitenlandse technologiepartijen bedreigt de controle over Nederlandse AI-systemen. De EU en Nederland investeren daarom in eigen AI-infrastructuur zoals ‘AI-fabrieken’. Strategische autonomie moet ervoor zorgen dat AI-oplossingen passen bij Europese waarden en onder lokaal toezicht staan. De Nederlandse overheid is hier nog onvoldoende mee gevorderd, blijkt uit trage algoritmeregistratie en geringe uitvoering van grondrechtenbeoordelingen.
4. Generatieve AI en duurzaamheid
Generatieve AI, zoals taalmodellen, groeit explosief. Deze technologieën worden efficiënter maar gebruiken nog steeds veel energie en water. Er zijn zorgen over milieu-impact en datacenters in waterschaarse gebieden. Groene AI moet daarom meer aandacht krijgen. Tegelijk ontstaan nieuwe risico’s, zoals fabricatie van foutieve informatie of ongewenste sociale effecten bij gebruik in onderwijs en publieke communicatie.
5. Transparantie en uitlegbaarheid
Het Europees Hof van Justitie verduidelijkte in 2025 dat burgers recht hebben op begrijpelijke uitleg bij geautomatiseerde besluitvorming. Organisaties moeten niet alleen vertellen dát AI gebruikt is, maar ook hoe het besluit tot stand kwam. Deze eisen vloeien voort uit de AVG en de aankomende AI-verordening. Transparantie is essentieel voor bezwaarprocedures en het waarborgen van menselijke autonomie.
6. Discriminatie en menselijke toetsing
Zowel mensen als AI-systemen kunnen discrimineren. Nederlanders zijn zich daar sterk van bewust, wat kansen biedt om bias terug te dringen. Nieuwe methodes zoals ‘blinde beoordelingen’ en aselecte steekproeven zijn nodig om algoritmische discriminatie tegen te gaan. Bij risicoselectie voor bijvoorbeeld fraudeonderzoek moeten inspecteurs eerst onafhankelijk oordelen, voordat ze het algoritmisch oordeel zien.
7. Beleid en toezicht
Internationaal nemen de spanningen toe tussen regulering en innovatie. De VS zet in op deregulering, terwijl China en de EU hun kaders juist verscherpen. De AI-verordening van de EU biedt houvast, maar vraagt om praktische uitwerking, zoals standaarden en sector-specifieke richtlijnen. De AP adviseert versnelling in beleid, meer middelen voor toezicht en verplichte algoritmeregistratie bij overheden.
Nederland loopt voorop in AI-geletterdheid en AI-gebruik, maar blijft achter in transparantie en incidentrapportage. Om verantwoord te innoveren is nauwe samenwerking nodig tussen ontwikkelaars, toezichthouders en beleidsmakers. De maatschappelijke transitie vraagt om voortdurende toetsing aan publieke waarden en fundamentele rechten. AI moet ondersteunend zijn aan de mens, niet andersom.
