Trendrapport: ‘Effecten van AI op digitale inclusie en digitaal burgerschap’
GenAI in bedrijf
De Alliantie Digitaal Samenleven – een alliantie van publieke, private en maatschappelijke partijen – (hierna ook ‘ADS’ of ‘de Alliantie’ genoemd) heeft als doel om digitale inclusie te bevorderen en digitaal burgerschap te stimuleren. Een van de manieren om dat te bewerkstelligen is om kennis bij elkaar te brengen door middel van jaarlijkse Trendrapporten. Dit is de eerste versie met een verkenning van het thema Artificial Intelligence (AI). Het rapport is gestructureerd in verschillende hoofdstukken, waaronder een overzicht van de belangrijkste kenmerken van AI, de mogelijke positieve effecten van AI op digitale inclusie en digitale burgerschap, evenals de mogelijke negatieve effecten en verantwoorde ontwikkeling van AI. Het omvat ook conclusies en een voorstel voor een kader met vijf actierichtingen.
Het is gebaseerd op 23 interviews, aangevuld met desk research en inhoudelijk gevoed vanuit twee dialoogsessies met 17 stakeholders.
Doelstelling en doelgroep van dit rapport
De doelstelling van dit rapport is tweeledig:
• Een informatief overzicht bieden van de stand van zaken en ontwikkelingen rond AI vanuit het perspectief van digitale inclusie en digitaal burgerschap en een inzicht te geven in de verschillende benaderingen en openstaande kwesties daarin.
• Met dit informatieve overzicht een kennisbasis leggen onder de dialoog die binnen de Alliantie wordt gevoerd over een te ontwikkelen handelingskader met mogelijke actierichtingen voor de Alliantie.
De doelgroep van dit rapport is de Alliantie (waaronder automatisch ook aan de Alliantie verbonden organisaties vallen) en overige geïnteresseerden.
AI
AI kent razendsnelle ontwikkelingen: Hoewel bepaalde vormen van AI al jaren worden toegepast, zijn de technologische ontwikkelingen en toepassingen in een stroomversnelling gekomen. De ontwikkeling
van zogeheten foundation models hebben tot de verbeelding sprekende generatieve AI-applicaties zoals ChatGPT mogelijk gemaakt en AI volop in de belangstelling gezet. Systeemtechnologie: De impact van AI is te voelen in alle geledingen van de samenleving omdat AI een systeemtechnologie is; kennis en bewustzijn over AI bij het brede publiek blijft achter.
Het rapport benadrukt de snelle ontwikkeling van AI en de toenemende integratie ervan in alledaagse digitale toepassingen. Het benadrukt de urgentie om deze ontwikkelingen op een verantwoorde manier te begeleiden. Het document bespreekt ook de verstrengeling van AI met de digitale wereld en de relevantie ervan voor de Alliantie Digitaal Samenleven.
Effecten
Ook identificeert het rapport de mogelijke positieve effecten van AI op digitale inclusie, zoals het versterken van individuen met beperkte digitale vaardigheden door alternatieve vormen van interactie met de digitale wereld mogelijk te maken. Het brengt echter ook zorgen naar voren over de negatieve effecten van AI, waaronder vooringenomenheid, gebrek aan transparantie, bedreigingen voor digitale autonomie en misbruik door kwaadwillende actoren.
AI-mogelijkheden en AI-applicaties ontwikkelen zich zeer snel: De ontwikkelingen in de technologische mogelijkheden van AI en de AI-applicaties begeven zich momenteel in een stroomversnelling die naar verwachting nog enige tijd zal voortduren. Dit raakt alle lagen van de samenleving; vrijwel niemand kan zich eraan onttrekken. Dit betekent dat er een grote urgentie is om deze ontwikkelingen in goede banen te leiden.
Het rapport wordt afgesloten met een voorstel voor een kader met vijf actierichtingen, met als doel de uitdagingen en kansen die AI biedt in de context van digitale inclusie en digitaal burgerschap aan te pakken.
De schaduwzijden van AI kunnen samengevat worden in vier punten: (1) bias/vooringenomenheid; (2) black box – gebrek aan transparantie en betrouwbaarheid van AI; (3) bedreiging van de digitale autonomie van burgers en organisaties door de macht van Big Tech-bedrijven; (4) misbruik van AI door kwaadwillenden. Er zijn verschillende groepen die niet of niet voldoende kunnen meekomen met de digitale wereld. Daar gaat dit hoofdstuk over. AI biedt hen de kans op empowerment door andere vormen van interactie met de digitale wereld mogelijk te maken. Maar er zijn ook belangrijke kanttekeningen. De verschillende zienswijzen hebben een plek in dit hoofdstuk. Er wordt afgesloten met drie conclusies.
