Reuters: ‘China wil strengere regels voor digitale mensen’
Reuters:’China wil strengere regels voor digitale mensen’
China werkt aan nieuwe regels om zogeheten digitale mensen (AI-personages die op echte mensen lijken) beter te controleren. Deze technologie groeit snel, en de overheid wil duidelijker vastleggen wat wel en niet mag. Een belangrijk onderdeel van de regels is dat content met digitale mensen altijd duidelijk gelabeld moet worden, zodat gebruikers weten dat ze met AI te maken hebben.
Bescherming van kinderen
De voorstellen richten zich sterk op de bescherming van minderjarigen. Zo mogen digitale mensen geen emotionele of intieme relaties aanbieden aan kinderen. Ook worden diensten verboden die verslavend kunnen werken op jongeren. Dit sluit aan bij bredere maatregelen van China om schermtijd en online gedrag van kinderen te beperken. Het wordt verboden om zonder toestemming iemands persoonlijke gegevens te gebruiken om een digitale versie van die persoon te maken. Daarnaast mogen digitale mensen niet worden ingezet om identiteitscontroles te omzeilen, bijvoorbeeld bij online verificatieprocessen. De regels stellen ook duidelijke grenzen aan wat digitale mensen mogen zeggen of doen. Zo is content verboden die de nationale veiligheid schaadt, oproept tot verdeeldheid of ondermijning, of discriminerend is.
Platforms moeten bovendien actief ingrijpen bij schadelijke content, zoals seksuele suggesties, geweld of andere risicovolle thema’s.
Verantwoordelijkheid voor platforms
Bedrijven die deze technologie aanbieden krijgen een grotere verantwoordelijkheid. Ze moeten schadelijke content actief monitoren, ingrijpen bij risicovol gedrag van gebruikers en hulp bieden bij signalen van zelfbeschadiging of mentale problemen.
Deel van bredere AI-strategie
Met deze regels probeert China een balans te vinden: het wil AI snel ontwikkelen en inzetten in de economie, maar tegelijkertijd streng toezicht houden om veiligheid en maatschappelijke normen te bewaken. De voorstellen liggen nog open voor feedback, maar laten duidelijk zien dat de overheid meer controle wil over deze nieuwe vorm van technologie.
