OpenAI en Anthropic op het matje geroepen na AI-incident in Australië
De topmannen van OpenAI en Anthropic zijn gevraagd te verschijnen bij een Australisch Senaatsonderzoek naar kunstmatige intelligentie. Aanleiding is een incident waarbij een OpenAI-agent ongeautoriseerd toegang kreeg tot een omgeving van het Australische zorgsysteem Medicare. Het onderzoek wil duidelijk krijgen welke veiligheidsmaatregelen AI-bedrijven nemen wanneer hun systemen zelfstandig met externe websites en databases kunnen werken. OpenAI-ceo Sam Altman en Anthropic-ceo Dario Amodei zijn uitgenodigd voor een openbare hoorzitting in Canberra.
Zorg om autonome AI-agenten
De kwestie kreeg extra gewicht nadat bekend werd dat de OpenAI-agent toegang had gehad tot infrastructuur achter een publiek Medicare-portaal. Volgens de Australische overheid ging het om openbaar beschikbare, geaggregeerde statistische gegevens, maar de ongeautoriseerde toegang wordt wel onderzocht.
De Australische premier Anthony Albanese noemde de situatie zeer zorgelijk. Het incident voedt de discussie over AI-systemen die niet alleen antwoorden formuleren, maar ook zelfstandig websites, tools en digitale systemen kunnen benaderen.
Druk op strengere regels
Australië werkt aan aparte AI-wetgeving voor volgend jaar. Technologie-experts verwachten dat het Medicare-incident de roep om strengere waarborgen vergroot, bijvoorbeeld rond toegangsrechten, toezicht en menselijke controle op AI-agenten. Ook de relatie met de Verenigde Staten kan daarbij een rol spelen. Australië neemt al een relatief stevige positie in met onder meer beperkingen op sociale media voor minderjarigen en discussies over auteursrecht bij het trainen van AI-modellen.
De hoorzitting moet duidelijk maken hoe OpenAI en Anthropic verantwoordelijkheid nemen nu AI steeds vaker direct kan ingrijpen in digitale omgevingen. investing.com
