‘Transparantie-eisen voor krachtigste AI-modellen krijgt steun van Anthropic’
‘Transparantie-eisen voor krachtigste AI-modellen krijgt steun van Anthropic’
Op maandag liet Anthropic weten dat het het wetsvoorstel SB 53 steunt, ingediend door senator Scott Wiener. Dit voorstel zou als eerste in de VS definitieve transparantieverplichtingen opleggen aan de grootste AI-ontwikkelaars, zoals OpenAI, Google, xAI en Anthropic zelf.
Anthropic benadrukt dat hoewel grensverleggende AI-veiligheid bij voorkeur op federaal niveau geregeld zou worden, technologische vooruitgang niet kan wachten op overeenstemming in Washington. Wat telt, is of er vandaag verantwoord wordt gehandeld of dat men morgen pas reactief optreedt. Volgens Anthropic biedt SB 53 een solide pad naar dat eerste scenario.
Als SB 53 wordt aangenomen, moeten ontwikkelaars van frontier-AI-modellen een veiligheidsschema opstellen, evenals publieke rapporten over veiligheid en beveiliging vrijgeven vóór de inzet van krachtige AI-systemen. Ook biedt de wet klokkenluidersbescherming aan werknemers die gegronde veiligheidszorgen naar buiten brengen.
De inzet van de wet beperkt zich tot “catastrofale risico’s”, zoals het veroorzaken van minstens 50 doden of schade van meer dan $1 miljard, of het gebruik van AI voor het ontwikkelen van biologische wapens of grootschalige cyberaanvallen. Milderere AI-zorgen zoals deepfakes of sycophantie vallen er niet onder.
De Senaat van Californië heeft alvast een eerdere versie van SB 53 goedgekeurd, maar er volgt nog een definitieve stemming voordat het voorstel naar de gouverneur kan gaan. Gouverneur Newsom heeft zich nog niet uitgesproken wel herinnert men aan zijn veto vorig jaar van een ander AI-veiligheidsvoorstel (SB 1047).
Anthropic’s medeoprichter Jack Clark voegde toe dat de techindustrie krachtige AI-systemen bouwt zonder te wachten op federale regelgeving. “We zouden een federale standaard prefereren,” zei hij. “Maar bij gebrek daaraan biedt dit wetvoorstel een solide blauwdruk voor AI-bestuur die niet genegeerd kan worden.”
