Anthropic: ‘AI mag niet alleen door Big Tech worden gestuurd’
Tijdens een bijeenkomst in het Vaticaan over kunstmatige intelligentie heeft Christopher Olah, medeoprichter van Anthropic, gewaarschuwd dat de ontwikkeling van AI niet uitsluitend in handen mag liggen van technologiebedrijven. Volgens hem zijn externe partijen zoals overheden, maatschappelijke organisaties en religieuze instellingen nodig om toezicht te houden op de richting waarin AI zich ontwikkelt.
Olah sprak bij de presentatie van de eerste pauselijke encycliek die volledig aan kunstmatige intelligentie is gewijd. Hij benadrukte dat geavanceerde AI-systemen een reële kans hebben om op grote schaal menselijke arbeid te vervangen. Mocht dat gebeuren, dan heeft de samenleving volgens hem een morele verantwoordelijkheid om werknemers die hun baan verliezen te ondersteunen. Al eerder schreef de CEO:
There is a scene in the movie version of Carl Sagan’s book Contact where the main character, an astronomer who has detected the first radio signal from an alien civilization, is being considered for the role of humanity’s representative to meet the aliens. The international panel interviewing her asks, “If you could ask [the aliens] just one question, what would it be?” Her reply is: “I’d ask them, ‘How did you do it? How did you evolve, how did you survive this technological adolescence without destroying yourself?” When I think about where humanity is now with AI—about what we’re on the cusp of—my mind keeps going back to that scene, because the question is so apt for our current situation, and I wish we had the aliens’ answer to guide us. I believe we are entering a rite of passage, both turbulent and inevitable, which will test who we are as a species. Humanity is about to be handed almost unimaginable power, and it is deeply unclear whether our social, political, and technological systems possess the maturity to wield it.
Volgens Olah staan AI-bedrijven voortdurend onder commerciële, geopolitieke en persoonlijke druk. Die belangen kunnen botsen met wat maatschappelijk wenselijk is. Zelfs onderzoekers met goede bedoelingen opereren binnen systemen van concurrentie, investeerdersbelangen en internationale machtsverhoudingen. Daarom is onafhankelijk toezicht essentieel.
Hij noemde drie belangrijke uitdagingen voor de komende jaren:
- Het opvangen van grootschalig banenverlies door automatisering.
- Het eerlijk verdelen van de economische voordelen van AI over landen en bevolkingsgroepen.
- Het beter begrijpen van het gedrag van steeds complexere AI-systemen, zodat risico’s tijdig kunnen worden herkend.
Olah verwelkomde de actieve rol van het Vaticaan in het AI-debat. Volgens hem gaan de gevolgen van kunstmatige intelligentie veel verder dan technische vraagstukken en raken ze fundamentele vragen over menswaardigheid, macht, werk en maatschappelijke rechtvaardigheid.
Zijn opmerkingen sluiten aan bij de oproep van paus Leo XIV voor strengere internationale regels rond AI. De paus waarschuwde dat onvoldoende gecontroleerde AI kan leiden tot desinformatie, verlies van menselijke controle over wapensystemen en een groeiende concentratie van macht bij een klein aantal technologiebedrijven.
Bronnen: Reuters (25 mei 2026), Anthropic (Dario Amodei, The Adolescence of Technology), CBS News (2026), Amodei et al. (2016), Bai et al. (2022), Vaticaanse AI-conferentie 2026.
