Kunstmatige intelligentie (AI) speelt een grote rol in ons dagelijks leven, van zelfrijdende auto’s en slimme stofzuigers tot computermodellen die de verspreiding van epidemieën voorspellen. Ondanks de geavanceerdheid van deze systemen blijft hun gedrag deels onvoorspelbaar. Om deze onzekerheid beter te integreren in voorspellende algoritmes, ontwikkelde Thom Badings een nieuwe methode die veilige uitkomsten garandeert. Op 27 maart promoveert hij aan de Radboud Universiteit.

AI en onzekerheid

Wanneer een AI-model goed functioneert, lijkt alles vanzelf te gaan: auto’s bereiken veilig hun bestemming, drones navigeren zonder botsingen en economische voorspellingen blijken accuraat. In de praktijk worden AI-systemen echter geconfronteerd met talloze onzekerheden. Een drone moet rekening houden met wisselende windrichtingen en vogels, terwijl een zelfrijdende auto te maken krijgt met onverwacht overstekende voetgangers en wegwerkzaamheden. Hoe zorg je ervoor dat AI ondanks deze onzekerheden betrouwbaar blijft presteren?

Markov-modellen als oplossing

‘Daarom ontwikkelde ik samen met collega’s methodes om de correctheid en betrouwbaarheid van complexe systemen met veel onzekerheid te waarborgen,’ legt Badings uit.

Bestaande methodes schieten tekort: ze vereisen enorme rekenkracht of werken met aannames die onzekerheid slechts gedeeltelijk meenemen. Onze aanpak gebruikt een wiskundig model om onzekerheid expliciet te beschrijven, bijvoorbeeld op basis van historische data, waardoor snellere en accuratere voorspellingen mogelijk worden.

Deze methode maakt gebruik van Markov-modellen, een wiskundige techniek die veel wordt toegepast in regeltechniek, AI en besliskunde. ‘In een Markov-model kunnen we onzekerheid direct verwerken in parameters, zoals windsnelheid of het gewicht van een drone. Door onzekerheid te modelleren als een kansverdeling binnen dit model, kunnen we met technieken uit de regeltechniek en informatica bewijzen of het systeem zich veilig gedraagt. Zo bereken je bijvoorbeeld exact de kans dat een drone een obstakel raakt, zonder elk scenario afzonderlijk te hoeven simuleren.’

Onzekerheid als onderdeel van de oplossing

Het doel van deze methode is niet om onzekerheid te elimineren, maar juist om die mee te nemen in de analyse. ‘Elke beslissing brengt onzekerheid met zich mee, maar door dit wiskundig te modelleren, kunnen we er robuust mee omgaan. De voorspellingen die hieruit voortkomen, houden op een veel vollediger manier rekening met onzekerheden dan traditionele methodes.’

Toch zijn er grenzen aan deze aanpak. ‘Bij systemen met veel parameters blijft het een uitdaging om alle onzekerheden te verwerken. Je kunt onzekerheid nooit volledig elimineren en zult bepaalde aannames moeten maken om zinvolle resultaten te krijgen. Een enkel model zal bijvoorbeeld niet toereikend zijn om een drone overal ter wereld veilig te laten vliegen. Daarom is het verstandig om je analyse eerst te beperken tot de meest waarschijnlijke scenario’s.’

Badings benadrukt het belang van een multidisciplinaire aanpak bij AI-systemen. ‘Vertrouw niet blindelings op AI-uitkomsten, zoals die van ChatGPT. Combineer inzichten uit de regeltechniek, informatica en kunstmatige intelligentie om tot robuuste en veilige oplossingen te komen.’

Via: Radboud Universiteit, maart 2025