OpenAI’s Pentagon-deal roept twijfel op over beloofde veiligheidsgrenzen

OpenAI heeft een overeenkomst gesloten met het Amerikaanse ministerie van Defensie om zijn AI-modellen te gebruiken op beveiligde militaire netwerken. Volgens CEO Sam Altman bevat de deal duidelijke “rode lijnen”: de technologie mag niet worden gebruikt voor massale binnenlandse surveillance en niet voor volledig autonome wapens zonder menselijke controle.

OpenAI stelt dat er technische en juridische waarborgen zijn ingebouwd, zoals menselijke toezichtmechanismen en naleving van bestaande Amerikaanse wetgeving:

Critici en privacy-experts zijn echter sceptisch. Zij wijzen erop dat de beloofde beperkingen vooral gebaseerd zijn op huidige wetgeving en beleid, en niet op expliciete, juridisch bindende verboden in het contract zelf. Volgens hen zijn termen als “passend menselijk oordeel” te vaag en laten ze ruimte voor interpretatie. Decrypt meldt:

The company (CEO Sam Altman) claims the contract includes firm “red lines” promising the technology won’t be used for mass domestic surveillance or to autonomously operate weapons systems without human oversight.

De deal heeft geleid tot publieke discussie over de rol van AI-bedrijven in militaire toepassingen en de vraag of commerciële AI-ontwikkelaars voldoende ethische grenzen kunnen en willen afdwingen wanneer ze samenwerken met defensie.