Keurmerk ‘FRR Quality Mark for Robotics & Artificial Intelligence’ #AI #Robot
Om te zorgen dat robots en op AI gebaseerde producten op een verantwoorde manier worden ontwikkeld en ingezet, werken de Foundation for Responsible Robotics (FRR) en Deloitte aan het FRR Quality Mark for Robotics & Artificial Intelligence.
Robots en op AI gebaseerde producten worden steeds vaker ingezet voor taken die van grote invloed zijn op ons dagelijks leven. Op AI gebaseerde producten zorgen bijvoorbeeld voor veranderingen in de manier waarop sollicitatieprocedures, kredietbeoordelingen of fraudeopsporingsactiviteiten worden uitgevoerd. Robots worden ingezet ter ondersteuning en vervanging van mensen bij saaie of gevaarlijke taken, denk bijvoorbeeld aan drones voor zoek- en reddingsactiviteiten, robots in magazijnen en robots die chirurgen ondersteunen.
Al werken robots en op AI-gebaseerde producten vandaag de dag nog veelal achter de schermen, ze zullen naar verwachting steeds prominenter aanwezig zijn in ons leven. Voor de meeste mensen is het moeilijk, zo niet onmogelijk, zich een voorstelling te maken van hoe deze producten werken. Hoe kunnen wij als consumenten er zeker van zijn dat robots en op AI gebaseerde producten op een verantwoorde wijze worden ontwikkeld en doen wat ze behoren te doen?
Samenwerken
Naar aanleiding van deze vragen werken de Foundation for Responsible Robotics(FRR) en Deloitte momenteel samen aan het FRR Quality Mark for Robotics & Artificial Intelligence. Het uiteindelijke doel van het keurmerk is ervoor te zorgen dat robots en op AI gebaseerde producten op een verantwoorde manier worden ontwikkeld, waarbij rekening wordt gehouden met mensenrechten en waarden. Het streven is om een herkenbaar kwaliteitskeurmerk voor consumenten te creëren, dat vergelijkbaar is met het Fairtrade-keurmerk voor producten die zijn geproduceerd overeenkomstig de Fairtrade-normen. “Als consument moet jennen vertrouwen op een norm”, aldus Marc Verdonk, partner Emerging Technology bij Deloitte. “Je hoeft niet alle details van de technologie te doorgronden, maar je wilt er wel zeker van zijn dat iemand met de juiste expertise en op basis van het juiste kader kan waarborgen dat dingen op een verantwoorde wijze worden ontwikkeld en gebruikt.”
Waarom dit Quality Mark? Aimee van Wynsberghe (FRR) en Marjolein Vlaming (Deloitte Innovation) lichten het onderstaand toe:
Ontwikkeling framework
FRR is een non-profitorganisatie en is gericht op het creëren van een toekomst waarin robotica en AI op een verantwoorde wijze wordt ontworpen, ontwikkeld en ingezet. Het bestuur van FRR bestaat uit deskundigen op het gebied van ethiek, robotica en AI, en staat onder leiding van Aimee van Wynsberghe, universitair docent technologische ethiek aan de Technische Universiteit Delft. “Ons doel is om een cultuur te creëren van een verantwoorde ontwikkeling van robotica en AI, om zo het publieke welzijn voor onszelf en de komende generaties te bevorderen”, aldus Van Wynsberghe. Deloitte ondersteunt FRR via de Deloitte Impact Foundation en brengt haar expertise op het vlak van AI en Audit in om FRR bij te staan bij de ontwikkeling van het Quality Mark.
Over de reikwijdte van het FRR Quality Mark for Robotics & Artificial Intelligence wordt nog gediscussieerd, maar een belangrijk uitgangspunt is te waarborgen dat binnen de gehele ontwikkelingsketen van het product rekening wordt gehouden met mensenrechten en maatschappelijke waarden. Alle producten die gebruikmaken van robotica en AI kunnen zich aanmelden voor het kwaliteitskeurmerk. “Dit kan een breed scala aan producten zijn, zoals algoritmen, robots, slimme apparaten en speelgoed dat is aangesloten op het internet”, zegt Verdonk.
Tijdens de beoordeling voor het Quality Mark wordt het product nauwlettend onderzocht, onder andere op de controlemaatregelen voor bedieningselementen, de communicatie-interface, sensoren, gegevensopslag en firmware. Daarnaast wordt de AI-engine doorgelicht: hoe worden de algoritmen getraind en getest? Kunnen de algoritmen onbevoegd worden gewijzigd? Voor het Quality Mark wordt ook gekeken naar de procedures van het bedrijf dat het product ontwikkelt. “Bij al deze aspecten moeten de beginselen van ethisch verantwoorde ontwikkeling worden gewaarborgd”, aldus Verdonk.
Waarborging veiligheid
Een van de aspecten van het FRR Quality Mark for Robotics & Artificial Intelligence is veiligheid. “Als we een verantwoord gebruik van robotica en AI willen bevorderen, is veiligheid enorm belangrijk”, aldus Verdonk. “Bij grote robots of drones moet veiligheid altijd een prioriteit zijn. Of denk aan een pop waarbij AI wordt ingezet voor de interactie met het kind. Als de pop kan worden gehackt en voor iets totaal anders wordt gebruikt, kunnen de gevolgen rampzalig zijn.”
Een ander aspect is privacy. “Neem bijvoorbeeld bezorgrobots”, zegt Verdonk. “Ze maken gebruik van camera’s om de weg te zien. In theorie kunnen deze camera’s ook mensen vastleggen die toevallig voorbijkomen. Maar je kunt een robot ook bewust zo ontwerpen dat de camera niemand boven kniehoogte kan filmen, zoals de zelfrijdende bezorgrobot van Starship Technologies. Respect voor privacy door middel van ontwerpkeuzen is een ethische keuze en juist dit soort keuzen willen we aanmoedigen.” Het FRR Quality Mark for Robotics & Artificial Intelligence beoordeelt daarom niet alleen of de producten naar behoren functioneren en of ze grondig zijn getest, maar houdt ook de overwegingen tegen het licht die tijdens het ontwerpproces aan de orde zijn geweest.
De industrie in de juiste richting leiden
Voor de consument kan het FRR Quality Mark for Robotics & Artificial Intelligence bijdragen aan het vertrouwen in een technologie die moeilijk te doorgronden kan zijn. Het kan consumenten tevens helpen een weloverwogen keuze te maken welke robots of op AI gebaseerde producten ze willen kopen of gebruiken. Voor bedrijven kan het Quality Mark ertoe bijdragen dat zij robots en AI ontwikkelen op een transparante en verantwoorde manier. “Het FRR Quality Mark for Robotics & Artificial Intelligence zorgt voor een standaard voor bedrijven”, aldus Verdonk. “Bedrijven kunnen hun klanten laten zien dat zij belang hechten aan ethische vraagstukken. Door middel van een onafhankelijk kwaliteitskeurmerk kunnen zij laten zien dat zij ethische overwegingen serieus nemen.”
Verdonk is ervan overtuigd dat het Quality Mark zal bijdragen aan hogere industriële normen voor het ontwikkelen van robots en op AI gebaseerde producten en dat het de industrie in de juiste richting zal leiden. “Ik denk dat robotica en AI technologieën zijn met een uitermate grote impact”, zegt hij. “Maar om te zorgen dat deze impact ook echt positief is, moeten we grondig geteste producten hebben die op een verantwoorde manier zijn ontwikkeld en worden ingezet, en die het vertrouwen genieten van het grote publiek. Als we een betrouwbare norm kunnen opstellen die zorgt voor een verantwoord gebruik van robotica en AI, kunnen we bouwen aan een toekomst waarin deze technologieën een enorm positief effect kunnen hebben.”