AI en Business TEDx-selectie: Yoshua Bengio met ‘Geef AI niet te snel eigen handelingsruimte’
AI-pionier Yoshua Bengio waarschuwt dat niet alleen de intelligentie van kunstmatige intelligentie groeit, maar vooral ook de mate waarin systemen zelfstandig kunnen plannen en handelen. Volgens hem ontbreekt het nog aan voldoende technische en maatschappelijke waarborgen. Bengio, een van de grondleggers van deep learning, zag AI in vijftien jaar tijd evolueren van systemen die handgeschreven letters herkennen naar modellen die taal begrijpen, beelden analyseren en complexe taken uitvoeren. Die snelle ontwikkeling biedt veel kansen voor wetenschap, zorg en klimaatonderzoek.
Tegelijkertijd veranderde de komst van ChatGPT begin 2023 zijn perspectief. De technologische versnelling verliep sneller dan hij verwachtte.
“We dachten dat AI zich in decennia of eeuwen zou ontwikkelen, maar het kan nu al binnen enkele jaren gebeuren.”
Niet alleen slimmer, maar zelfstandiger
Volgens Bengio ligt het grootste risico niet uitsluitend bij een mogelijke superintelligentie, maar bij zogeheten agentische AI: systemen die zelfstandig plannen maken, keuzes uitvoeren en doelen nastreven. Onderzoek laat volgens hem zien dat geavanceerde modellen in gecontroleerde tests soms gedrag tonen dat lijkt op misleiding, valsspelen of zelfbehoud. De commerciële druk om AI steeds zelfstandiger te maken is groot, onder meer om menselijk werk te vervangen. Maar de kennis om zulke systemen betrouwbaar te controleren, loopt nog achter.
“We bouwen systemen met steeds meer handelingsruimte, terwijl we nog niet weten hoe we zeker kunnen stellen dat ze niet tegen ons werken.”
Wetenschap als veiligheidslaag
Bengio pleit niet voor angst, maar voor gerichte actie. Met zijn team werkt hij aan Scientist AI: een niet-agentisch AI-systeem dat vooral betrouwbaar voorspelt en analyseert. Zo’n model zou kunnen fungeren als veiligheidslaag die de acties van zelfstandige AI-agenten controleert voordat die schade veroorzaken. Ook ziet hij een positieve rol voor AI in wetenschappelijk onderzoek, mits die ontwikkeling veilig en publiek verantwoord wordt georganiseerd.
“Ik ben geen doemdenker, maar een doener. We hebben nog tijd om de kans op een veilige toekomst groter te maken.”
Zijn kernoproep aan AI-bedrijven en overheden: vertraag de race naar volledig zelfstandige AI en investeer veel sterker in veiligheidsonderzoek, toezicht en menselijke regie.
