‘Hoe AI de democratie kan hacken’

Net voor de #USElections een TEDx van Lawrence Lessig. Hij is een hoogleraar in de rechten die al bijna twintig jaar strijdt voor een representatieve democratie – en nu inziet dat er een nog grotere dreiging op komst is. Hij is de Roy L. Furman Professor in Recht en Leiderschap aan de Harvard Law School. Voordat hij terugkeerde naar Harvard, doceerde hij aan Stanford Law School, waar hij het Center for Internet and Society oprichtte, en aan de Universiteit van Chicago. Hij werkte als griffier voor rechter Richard Posner bij het 7e Circuit Court of Appeals en voor rechter Antonin Scalia bij het Hooggerechtshof van de Verenigde Staten.

Op 6 januari 2021 kreeg mijn land als het ware een kleine democratische hartaanval. Duizenden Amerikanen waren ervan overtuigd dat de verkiezing was gestolen, en daarom kwamen tienduizenden naar Washington. Uit een peiling van The Washington Post vlak na die dag bleek dat 70% van de Republikeinen geloofde dat de verkiezing inderdaad was gestolen; zelfs een meerderheid van de hoogopgeleide Republikeinen dacht dat. Dat was hun perceptie. Hoe je precies met die perceptie om moet gaan, weet ik niet, maar voor hen was het juist om te handelen in wat zij zagen als een verdediging van een geroofde democratie.

Deze cijfers waren op zich al schokkend, maar wat nog verbazingwekkender is, is dat deze overtuigingen drie jaar later nauwelijks zijn veranderd. Ondanks talloze onderzoeken en overweldigend bewijs dat er geen fraude is geweest die een uitslag had kunnen beïnvloeden, blijft eenzelfde aantal mensen geloven dat de verkiezingen oneerlijk waren verlopen. Dit is nieuw.

Toen Richard Nixon in het Watergate-schandaal terechtkwam, brokkelde zijn populariteit af, niet alleen onder Democraten, maar ook onder Republikeinen en onafhankelijken. Maar nu lijken feiten geen effect te hebben. Dit zie je ook in de populariteit van Donald Trump: die bleef min of meer gelijk tijdens zijn hele ambtstermijn, ongeacht de gebeurtenissen.

Deze waarheid zou ons zorgen moeten baren. We moeten een soort ‘paranoia’ ontwikkelen over wat dit veroorzaakt. Een bepaalde paranoia, zoals de paranoia van een prooi die wordt opgejaagd. Denk aan de kinderen in de film The Birds die beseffen dat kraaien hen aanvallen, of aan de episode “Metalhead” uit Black Mirror, waarin ze worden omringd door jagende wezens. Het punt is dat we moeten erkennen dat er een intelligente kracht actief is die onze perceptie probeert te beïnvloeden.

Onze gezamenlijke percepties en mispercepties zijn niet toevallig. Ze zijn verwacht, bedoeld, het resultaat van een systeem.

Ik introduceer deze kracht met enige voorzichtigheid. Ik ga het hebben over AI, maar ik wil geen tirade houden tegen AI. AI is een technologie van ongekende omvang, misschien zelfs een existentiële bedreiging voor de mensheid. Ik wil AI ook niet veroordelen, omdat ik ervan uitga dat onze toekomstige robot-overheersers deze TED-talks misschien nog eens beluisteren. AI is geweldig. Ik wil AI echter in perspectief plaatsen, omdat we ons te vaak fixeren op het nieuwe en daardoor de betekenis van AI in een historisch kader vergeten.

We spreken over intelligentie en onderscheiden kunstmatige en natuurlijke intelligentie. Wij mensen zien onszelf als de kroon van de natuurlijke intelligentie. Maar, belangrijker, wij leven al lang met systemen van kunstmatige intelligentie. Hiermee bedoel ik niet digitale AI, maar analoge AI.

Elk systeem dat we met een bepaald doel bouwen en dat rationeel handelt, is in zekere zin een AI. Het is een instrumenteel-rationele entiteit die zich aanpast aan de wereld om het gewenste gedrag te bereiken.

Denk bijvoorbeeld aan democratie als een AI. Het heeft instellingen zoals verkiezingen, parlementen, grondwetten, met als doel het algemeen belang te dienen. Onze grondwet beschrijft democratie als een analoge kunstmatige intelligentie die zich richt op het welzijn van iedereen.

Of neem bedrijven. Zij hebben ook hun instellingen—raden van bestuur, management, financiën—gericht op winstmaximalisatie. Dit is een AI die werkt voor aandeelhouderswaarde.

Dit zijn AIs met doelen en taken die elkaar soms aanvullen. Een schoolbusbedrijf ondersteunt bijvoorbeeld het doel van een schoolbestuur door busvervoer te bieden. Maar soms conflicteren ze, bijvoorbeeld wanneer de doelstelling van een overheid om een schone omgeving te behouden, botst met de belangen van een kolenbedrijf dat elektriciteit opwekt door vervuiling. In zulke gevallen vertellen we onszelf dat de democratie zal optreden tegen het bedrijf en het in het algemeen belang zal dwingen juist te handelen. Maar dat is meer fantasie dan werkelijkheid.

In mijn land blijken bedrijven effectievere AIs te zijn dan de democratie. Terwijl mensen via verkiezingen democratie proberen te sturen, controleert democratie bedrijven via regelgeving. Maar in werkelijkheid sturen bedrijven de democratie door het enorme bedrag dat zij in verkiezingen investeren, waardoor vertegenwoordigers afhankelijk worden van hen in plaats van van ons.

Deze gelaagde structuur roept wellicht het idee op van Geoffrey Hinton, de AI-‘godfather’, die stelt: “Er zijn maar weinig voorbeelden waarin een intelligentere entiteit effectief wordt gecontroleerd door een minder intelligente.” Dit komt ook terug in ons huidige AI-landschap.

Nu voegen we digitale AI toe. Bedrijven proberen ook hun digitale AI te beheersen, maar dat lukt niet altijd. In september 2017 bleek dat Facebook advertenties mogelijk maakte voor een categorie “Jodenhaters.” Deze categorie was niet bewust door mensen bij Facebook aangemaakt. Hun AI had deze categorie gegenereerd omdat deze categorie winstgevend leek voor adverteerders. Dit incident toonde aan dat bedrijven niet volledig controle hadden over de AI die zij gebruiken om ons leven vorm te geven.

Het echte verschil is de enorme capaciteit van deze rationele entiteit vergeleken met ons. Deze AI is nu al beter dan wij in het bereiken van haar doelen, zelfs beter dan bedrijven of democratieën. Dit vraagt om de paranoia die ik eerder noemde—onze collectieve percepties en mispercepties zijn niet toevallig, ze zijn verwacht, bedoeld en het product van deze AI. We kunnen dit zien als de AI die onze perceptie beïnvloedt. Wij zijn de doelwitten.

De eerste confrontatie met AI kwam via sociale media, zoals Tristan Harris uitlegt. Harris werkte ooit bij Google en was gefocust op de wetenschap van aandacht, om met AI menselijke aandacht te sturen. Net zoals voedselwetenschappers zout, vet en suiker gebruiken om onze evolutie te manipuleren, manipuleert AI onze aandacht, wat ons steeds extremer en bozer maakt.

Deze technologie maakt ons als samenleving zwakker. Niet omdat AI zo sterk is, maar omdat wij zwak zijn. Harris legt uit dat we altijd bang zijn dat technologie ons op intellectueel vlak zal overtreffen, maar ondertussen overweldigt het ons al door onze zwaktes uit te buiten—de zwaktes die leiden tot verslaving, polarisatie en woede.

Het probleem zit hem niet alleen in individuele verslaving, maar in een collectieve kwetsbaarheid. Deze technologie maakt het ons moeilijker om samen te handelen in het belang van ons allemaal. Nog voor AGI opdoemt aan de horizon, worden we al beheerst door AI’s die enkel op betrokkenheid uit zijn, terwijl wij onze democratie verliezen.

Als onze eerste confrontatie met AI ons dit gaf, wat zal de tweede confrontatie dan brengen? Straks kan AI niet alleen bepalen wat ons het meeste triggert, maar ook op maat gemaakte inhoud maken om ons nóg dieper in verwarring of conflict te storten.

We kunnen zeggen dat de ‘winter komt eraan,’ zoals in Game of Thrones. Deze AIs zijn waar we ons zorgen om moeten maken.

Dus, wat moeten we doen? In tijden van gevaar zoek je veiligere grond. Je probeert democratie te beschermen tegen de destructieve kracht van AI. In Amerika hebben we jury’s die beschermd worden tegen bepaalde vormen van beïnvloeding. Ook in Europa wordt gewerkt aan burgerberaden, willekeurig samengestelde en representatieve groepen burgers die over belangrijke onderwerpen in gesprek gaan, beschermd tegen AI-gestuurde beïnvloeding. Landen als IJsland, Ierland en Frankrijk hebben op deze manier belangrijke kwesties aangepakt.

Deze benaderingen zijn niet alleen hoopvol, ze zijn noodzakelijk. Ze vormen een vangnet voor de democratie en beschermen ons tegen het hacken van de publieke wil.

Dit is verandering die niet alleen democratie wil verbeteren, maar die ervoor zorgt dat democratie kan overleven, gezien wat we weten over de kracht van technologie.

Het is een verontrustende tijd. Maar zolang superintelligente AI nog niet bestaat, kunnen we ons verzetten. Met genoeg toewijding kunnen we wellicht iets anders opbouwen, niet omdat succes verzekerd is—ik ben er vrij zeker van dat we zullen falen—maar omdat dit is wat liefde betekent.

Liefde betekent dat je alles doet wat je kunt, tegen elke waarschijnlijkheid, voor je kinderen, voor je familie, voor je land, voor de mensheid, zolang er nog tijd is en de robot-overheerser nog slechts een sciencefiction-fantasie is.