AI verovert in hoog tempo de juridische wereld. Juristen gebruiken generatieve AI voor onderzoek, analyses, samenvattingen en het opstellen van documenten. Maar volgens hoogleraar Reijer Passchier kijken veel juridische professionals vooral naar wat AI kan en te weinig naar wat de achterliggende technologie betekent voor macht, autonomie en de democratische rechtsstaat. Passchier, hoogleraar aan de Open Universiteit en universitair docent aan de Universiteit Leiden, waarschuwt in een interview met Mr. Jurist dat digitalisering veel meer is dan een efficiëntieslag. Technologie verandert volgens hem ook de machtsverhoudingen tussen burgers, overheden en grote technologiebedrijven.

De discussie over AI gaat binnen organisaties vaak over productiviteit. Hoeveel sneller kan een jurist een dossier analyseren? Kan AI contracten controleren? Kunnen juridische zoekopdrachten worden geautomatiseerd?

Die benadering is volgens Passchier te beperkt. Wie het recht goed wil begrijpen, moet tegenwoordig ook begrijpen hoe technologie werkt. Digitale systemen bepalen namelijk steeds vaker welke informatie mensen zien, welke beslissingen worden genomen en hoe regels in de praktijk worden uitgevoerd. Daarmee verschuift een deel van de feitelijke macht van wetgevers en juristen naar programmeurs, platforms en technologiebedrijven. Passchier stelt daarom dat computercode uiteindelijk net zo goed aan wet- en regelgeving moet voldoen als andere processen binnen een organisatie.

Big Tech krijgt steeds meer invloed

Een belangrijk punt van zorg is de afhankelijkheid van een relatief klein aantal Amerikaanse en Chinese technologiebedrijven. Microsoft, Google, Meta, Amazon en andere grote techbedrijven leveren niet alleen software. Hun cloudomgevingen, AI-modellen, algoritmen en platformregels vormen steeds vaker de digitale infrastructuur waarop organisaties en overheden functioneren. Daarmee ontstaat een bijzondere machtspositie.

De bedrijven bepalen bijvoorbeeld welke technologie beschikbaar komt, hoe algoritmen worden ingericht en onder welke voorwaarden gebruikers en organisaties toegang krijgen tot digitale diensten.

Volgens Passchier moet Europa daarom niet simpelweg proberen zijn eigen versie van Amerikaanse Big Tech te bouwen. Hij pleit juist voor een meer diverse digitale economie met kleinere technologiebedrijven, ecosystemen en ondernemingen die sterker zijn ingebed in de samenleving.

Wetgeving moet technologie vanaf het begin meenemen

Ook de manier waarop wetten worden gemaakt moet veranderen. Traditioneel wordt eerst beleid of wetgeving ontworpen en wordt daarna gekeken hoe ICT die regels kan uitvoeren. Volgens Passchier zou technologie veel eerder in het proces moeten worden meegenomen. Programmeurs, uitvoerders en juridische experts zouden vanaf het begin gezamenlijk moeten bekijken hoe een wet digitaal wordt uitgevoerd.

Dat voorkomt situaties waarin wetgeving juridisch klopt, maar technisch moeilijk uitvoerbaar blijkt of waarin software onbedoeld regels anders toepast dan de wetgever heeft bedoeld.

Meer regels kunnen Big Tech juist sterker maken

Opvallend is dat strengere wetgeving niet automatisch betekent dat grote technologiebedrijven minder macht krijgen. Zeer complexe regelgeving kan zelfs het tegenovergestelde effect hebben. Grote technologiebedrijven beschikken over enorme juridische, technische en financiële middelen om aan nieuwe regels te voldoen. Kleinere concurrenten hebben die capaciteit vaak niet.

Regels rond privacy, platformverantwoordelijkheid en digitale markten moeten daarom niet alleen streng zijn, maar ook praktisch uitvoerbaar blijven.

Europa probeert de macht van platforms onder meer te begrenzen via regelgeving zoals de Digital Services Act en Digital Markets Act.

AI vraagt om meer dan AI-geletterdheid

Voor organisaties ligt hier een bredere les. AI-geletterdheid betekent niet alleen weten hoe je ChatGPT, Copilot of andere AI-tools gebruikt. Professionals moeten ook begrijpen:

• welke data een AI-systeem gebruikt;
• wie eigenaar is van de gebruikte technologie;
• hoe algoritmen beslissingen beïnvloeden;
• welke afhankelijkheid van leveranciers ontstaat;
• welke juridische en ethische risico’s daarbij horen.

Voor juristen wordt die kennis extra belangrijk. AI kan juridische werkzaamheden versnellen, maar uiteindelijk blijft de professional verantwoordelijk voor de toepassing ervan. Recent Nederlands onderzoek laat bovendien zien dat vooral jonge juristen AI inmiddels veelvuldig gebruiken: 73 procent van de juristen met maximaal drie jaar ervaring gebruikt AI dagelijks voor juridisch onderzoek. Bij professionals met acht jaar of meer ervaring is dat 45 procent. Ervaren juristen blijken tegelijkertijd kritischer op de kwaliteit van AI-output.

Van AI-gebruik naar digitale macht

De belangrijkste discussie over AI gaat daarom misschien niet over de vraag welke beroepen AI kan vervangen. Een fundamentelere vraag is wie uiteindelijk controle heeft over de digitale infrastructuur waarop bedrijven, overheden en burgers steeds afhankelijker worden.

Voor juristen, marketeers en bestuurders verschuift AI-geletterdheid daarmee van het leren gebruiken van een slimme tool naar het begrijpen van technologie, data, macht en verantwoordelijkheid. Juist die kennis bepaalt of organisaties AI alleen volgen of er daadwerkelijk controle over houden.