Tijdens een spel genaamd Idea Knockdown gaan computerwetenschapper en AI-ethicus Jen Goldbeck en documentairemaker en TED Fellow Shaolin Gintaya met elkaar in gesprek over kunstmatige intelligentie, privacy, big tech en wat het betekent om mens te zijn in een steeds digitalere wereld. Het spel is simpel: rode blokken bevatten snelle vragen, zwarte blokken gaan dieper. Wie de toren omgooit, krijgt een mysterieuze uitdaging. Maar achter het speelse format schuilt een serieus gesprek over macht, technologie en menselijke waardigheid. Jen Goldbeck stelt zichzelf voor als computerwetenschapper en AI-ethicus. Volgens haar moeten mensen macht behouden om democratie te laten werken. Shaolin Gintaya maakt documentaires over de invloed van technologie op onze menselijkheid. Samen onderzoeken ze hoe algoritmes ons dagelijks leven sturen, soms zonder dat we het doorhebben.

 

Op de vraag of ze zich ooit gemanipuleerd hebben gevoeld door een algoritme, antwoorden ze direct bevestigend. Algoritmes volgen ons gedrag, voorspellen onze voorkeuren en sturen ons richting producten, ideeën of gewoontes. Het wordt volgens hen zelfs ongemakkelijker wanneer het algoritme gelijk heeft. Dan voelt het alsof technologie ons niet alleen observeert, maar ons intiem kent.

Een voorbeeld is het kopen van een paar gele schoenen die iemand eigenlijk niet nodig had, maar die overal online bleven verschijnen. Dit soort ervaringen maakt duidelijk hoe diep commerciële algoritmes in ons dagelijks leven zijn doorgedrongen.

Een belangrijke vraag is wat AI nooit zou mogen beslissen. Volgens Goldbeck zijn er talloze dingen die AI niet zou moeten bepalen, vooral wanneer de uitkomst een negatieve impact heeft op mensen. AI zou bijvoorbeeld misschien kunnen helpen bij het goedkeuren van een hypotheek, maar zou nooit zelfstandig een afwijzing mogen geven. Technologie mag volgens haar geen kansen van mensen afnemen.

Daarmee raakt het gesprek aan een groter probleem: persoonlijke data. De deelnemers zijn het erover eens dat persoonlijke gegevens minimaal behandeld zouden moeten worden als eigendom van de persoon zelf. Onze gedachten, herinneringen en wat we online delen, zouden van ons moeten blijven. Goldbeck noemt dit een kernprobleem van het huidige AI-ecosysteem. Zodra mensen gegevens delen met een derde partij, zeker in de Verenigde Staten, kunnen bedrijven daar vaak veel mee doen. Dat gebrek aan controle heeft volgens haar geleid tot veel dystopische aspecten van AI en het online ecosysteem.

Data

Ook bespreken ze wat gewone mensen kunnen doen om zich te verzetten tegen big tech. Goldbeck noemt het een soort ruiltruc: bedrijven bieden gemak in ruil voor waardevolle data. Wie meer privacy wil, moet vaak gemak opgeven. Denk aan cookies weigeren, tracker blockers installeren en minder snel akkoord gaan met voorwaarden. Dat maakt sommige online handelingen minder soepel, maar volgens haar is het wel nodig.  Shaolin Gintaya voegt daaraan toe dat we ons moeten afvragen voor wie technologie eigenlijk handig of efficiënt is. Zelfscankassa’s, klantenservices zonder mensen en geautomatiseerde systemen worden verkocht als vooruitgang, maar maken het leven niet altijd gemakkelijker voor burgers. Vaak lijkt de efficiëntie vooral gunstig voor grote technologiebedrijven, terwijl de wereld voor gebruikers juist minder menselijk wordt. De vraag of het mogelijk is om internet te gebruiken zonder privacy op te geven, leidt tot een fundamentele kritiek op het huidige systeem. Goldbeck stelt dat ons een verkeerd verhaal is verkocht. Volgens haar zijn er veel manieren denkbaar waarop het internet democratischer kan worden ingericht. Wetgeving zou kunnen bepalen welke data verzameld mag worden, mensen zouden meer rechten moeten hebben over hun gegevens en er zou een recht moeten bestaan om vergeten te worden, zoals in Europa. Volgens haar moeten beleidsmakers begrijpen dat datarechten verbonden zijn met burgerrechten en vrijheden. Een vrije en open democratie vereist ook het recht om niet massaal online gevolgd en geobserveerd te worden.

Wanneer gevraagd wordt wat ze direct zouden veranderen aan het internet, zegt Goldbeck dat ze het hele ecosysteem van surveillance-technologie illegaal zou maken. Sociale media zouden kunnen blijven bestaan, mensen zouden nog steeds dingen kunnen posten, maar bedrijven zouden de data niet mogen verzamelen, analyseren of verkopen. Volgens haar is het mogelijk om een internet te bouwen waarin bedrijven geld verdienen zonder massale surveillance.

Gintaya richt zich vooral op kinderen en jongeren. Zij hoopt dat er meer bescherming komt voor de meest kwetsbaren. Volgens haar worden krachtige, voorspellende en overtuigende algoritmes losgelaten op breinen die nog niet volledig ontwikkeld zijn. Ze wijst op de sterke stijging van angst en depressie, vooral onder jonge vrouwen en meisjes, in de periode waarin sociale media een dominante rol zijn gaan spelen. Goldbeck benadrukt dat technologiebedrijven vaak weten dat hun producten schade kunnen veroorzaken, maar er toch mee doorgaan. Dat maakt het volgens haar niet alleen een technologisch of economisch probleem, maar ook een democratisch probleem. Deze bedrijven hebben een macht die vergelijkbaar is met die van overheden. Als zij die macht over burgers uitoefenen, dan moeten burgers ook kunnen begrijpen wat er binnen die systemen gebeurt.

Democratie wordt in het gesprek omschreven als bestuur door het volk. Dat betekent dat mensen niet bestuurd mogen worden door onzichtbare systemen van kennis en macht die ze niet kunnen zien, begrijpen of bevragen.

Aan het einde krijgt Goldbeck een bonusvraag: als machines ooit de totale som van menselijke kennis zouden bezitten, welke eigenschappen maken mensen dan nog uniek en stellen ons in staat om deze technologieën te besturen? Haar antwoord is emotioneel. Computers hebben misschien bijna alle kennis, maar ze kunnen niet voelen. Ze zijn niet belichaamd. Ze ervaren geen verlies, verdriet, liefde, geluk of vermoeidheid. Ze kunnen beschrijvingen verwerken van menselijke ervaringen, maar ze kunnen die ervaringen zelf niet beleven. Als iemand vertelt over het beklimmen van een berg, het bereiken van de top en het kijken naar de zonsondergang, dan kan een computer die woorden analyseren, maar nooit begrijpen hoe dat moment werkelijk voelde. Zelfs met alle menselijke kennis blijft AI volgens Goldbeck slechts een goedkope imitatie van de echte menselijke ervaring.

Ze erkent dat AI nuttig kan zijn in de wetenschap en kan helpen processen te versnellen. Maar het idee dat AI onze menselijkheid kan vervangen, noemt ze misplaatst. Menselijkheid bevindt zich juist in alles wat machines niet kunnen bezitten. Gintaya sluit daarop aan. Kunstmatige intelligentie wordt intelligent genoemd, maar mist volgens haar moraal, ethiek, compassie en empathie. Daarom hebben deze systemen mensen nodig die hun hart, geweten en verantwoordelijkheid meenemen. Het gesprek eindigt met een oproep tot meer geduld en genade tegenover elkaar. In een tijd waarin technologie steeds meer bepaalt hoe we communiceren, verliezen mensen soms het vermogen tot respectvolle dialoog. We moeten opnieuw leren om het oneens te zijn zonder elkaars waarde te ontkennen. Mens zijn betekent imperfect zijn. En juist omdat imperfectie bij menselijkheid hoort, moeten we elkaar meer ruimte geven voor de rommelige, ongemakkelijke, maar waardevolle kunst van echte verbinding.