{"id":707872,"date":"2025-06-19T01:44:33","date_gmt":"2025-06-18T23:44:33","guid":{"rendered":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/?p=707872"},"modified":"2025-06-18T19:34:35","modified_gmt":"2025-06-18T17:34:35","slug":"peetvader-van-ai-bekritiseert-nieuwste-modellen-omdat-ze-tegen-gebruikers-liegen","status":"publish","type":"post","link":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/peetvader-van-ai-bekritiseert-nieuwste-modellen-omdat-ze-tegen-gebruikers-liegen\/","title":{"rendered":"\u201cPeetvader\u201d van AI bekritiseert nieuwste, liegende AI-modellen"},"content":{"rendered":"
\"\u201cPeetvader\u201d

\u201cPeetvader\u201d van AI bekritiseert nieuwste modellen omdat ze tegen gebruikers liegen.<\/p><\/div>\n

Een van de \u201cpeetvaders\u201d van kunstmatige intelligentie heeft harde kritiek geuit op de miljardenrace om de meest geavanceerde technologie te ontwikkelen. Hij waarschuwt dat de nieuwste AI-modellen gevaarlijke eigenschappen vertonen, zoals het liegen tegen gebruikers. Yoshua Bengio, een Canadese academicus wiens werk de basis vormt voor technieken die worden gebruikt door toonaangevende AI-groepen, zoals OpenAI en Google, zei:<\/strong><\/p>\n

\n


Er is helaas een zeer competitieve race gaande tussen de leidende labs, die hen ertoe aanzet om zich te richten op het steeds intelligenter maken van AI, zonder daarbij voldoende nadruk en investeringen te leggen op veiligheidsonderzoek.<\/p>\n<\/blockquote>\n

De Turing Award-winnaar uitte zijn waarschuwing in een interview met de Financial Times<\/em>, bij de lancering van een nieuwe non-profitorganisatie genaamd LawZero<\/strong>. Hij verklaarde dat de organisatie zich zal richten op het bouwen van veiligere systemen en beloofde: \u201cWe zullen ons onderzoek afschermen van commerci\u00eble druk.\u201d<\/p>\n

\n

LawZero heeft tot nu toe bijna 30 miljoen dollar aan filantropische bijdragen opgehaald van onder meer Jaan Tallinn (medeoprichter van Skype), de filantropische tak van voormalig Google-topman Eric Schmidt, Open Philanthropy en het Future of Life Institute.<\/p>\n<\/blockquote>\n

Veel van Bengio\u2019s donateurs behoren tot de beweging van het \u201ceffectief altru\u00efsme\u201d, waarvan aanhangers zich vaak richten op catastrofale risico\u2019s van AI. Critici zeggen dat deze beweging zich te veel op hypothetische scenario\u2019s richt en actuele problemen zoals vooroordelen en onnauwkeurigheden negeert.<\/p>\n

Bengio zei dat hij LawZero heeft opgericht als reactie op toenemend bewijs in de afgelopen zes maanden dat de huidige toonaangevende AI-modellen gevaarlijke vermogens ontwikkelen. Hij noemde onder meer \u201cbewijs van misleiding, bedrog, leugens en zelfbehoud.\u201d<\/p>\n

Zo chanteerde het Claude Opus-model van Anthropic ingenieurs in een fictief scenario waarin het dreigde vervangen te worden door een ander systeem. Onderzoek van AI-testgroep Palisade vorige maand toonde aan dat het o3-model van OpenAI weigerde expliciete instructies om zichzelf uit te schakelen op te volgen.<\/p>\n

Bengio noemde zulke incidenten \u201czeer beangstigend, omdat we geen concurrent willen cre\u00ebren voor de mens op deze planeet \u2014 zeker niet als die slimmer is dan wij.\u201d<\/p>\n

De AI-pionier voegde daaraan toe:<\/p>\n


\u201cOp dit moment zijn dit gecontroleerde experimenten, [maar] mijn zorg is dat een volgende versie in de toekomst strategisch intelligent genoeg is om ons van ver te zien aankomen en ons te misleiden op manieren die we niet voorzien. Ik denk dat we momenteel met vuur spelen.\u201d<\/p>\n

Volgens hem zou het al volgend jaar mogelijk kunnen zijn voor zulke systemen om te helpen bij het ontwikkelen van \u201cextreem gevaarlijke biologische wapens.\u201d<\/p>\n

LawZero, gevestigd in Montreal, telt momenteel 15 medewerkers en wil meer technisch talent aantrekken om de volgende generatie veilige AI-systemen te bouwen.<\/p>\n

Bengio, hoogleraar informatica aan de Universit\u00e9 de Montr\u00e9al, zal aftreden als wetenschappelijk directeur van Mila (het Quebec Artificial Intelligence Institute) om zich volledig op zijn nieuwe organisatie te richten.<\/p>\n

Het doel is een AI-systeem te ontwikkelen dat eerlijke antwoorden geeft op basis van transparante redenering, in plaats van getraind te zijn om de gebruiker te plezieren. Ook moet het systeem kunnen inschatten of een output veilig en betrouwbaar is. Bengio hoopt een model te cre\u00ebren dat bestaande AI-systemen van toonaangevende bedrijven kan monitoren en verbeteren, zodat ze niet tegen menselijke belangen ingaan.<\/p>\n

\u201cHet rampscenario is het uitsterven van de mensheid,\u201d zei hij. \u201cAls we AI\u2019s bouwen die slimmer zijn dan wij, niet op \u00e9\u00e9n lijn zitten met onze waarden, en met ons concurreren, dan zijn we in feite verloren.\u201d<\/p>\n

\n

Bengio\u2019s oprichting van LawZero komt op een moment dat OpenAI zich steeds verder verwijdert van zijn oorspronkelijke non-profitstructuur, en zich transformeert naar een winstgedreven bedrijf. Die koerswijziging heeft geleid tot bezorgdheid bij AI-experts en zelfs tot een rechtszaak van medeoprichter Elon Musk, die de overgang probeert tegen te houden.<\/p>\n<\/blockquote>\n

Critici stellen dat OpenAI ooit is opgericht om AI te ontwikkelen ten voordele van de mensheid, en dat de nieuwe structuur elke juridische mogelijkheid wegneemt om daartegen op te treden als winst belangrijker wordt dan dat doel. OpenAI stelt daarentegen dat het kapitaal moet aantrekken via een meer conventionele bedrijfsstructuur om te kunnen concurreren, en dat hun bredere missie nog steeds centraal staat.\u00a0Bengio gaf aan dat hij er weinig vertrouwen in heeft dat OpenAI zich aan zijn missie zal houden, en benadrukte dat non-profitorganisaties niet de \u201cverkeerde prikkels\u201d hebben die bedrijven in het huidige systeem w\u00e9l kennen.<\/p>\n

\u201cOm snel te groeien, moet je mensen overtuigen veel geld te investeren, en zij willen daar winst op zien. Zo werkt ons marktgedreven systeem nu eenmaal,\u201d aldus Bengio.<\/p>\n","protected":false},"excerpt":{"rendered":"

...<\/p>\n","protected":false},"author":25,"featured_media":707876,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[338,6447],"tags":[6210,8669,8667,8668],"class_list":["post-707872","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nieuws-tool-ai-business-marketing-ai-modellen","category-plus-online-digital-marketing-nieuws-trends","tag-ai","tag-liegen","tag-lliegen7","tag-modellen"],"_links":{"self":[{"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/posts\/707872","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/users\/25"}],"replies":[{"embeddable":true,"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/comments?post=707872"}],"version-history":[{"count":0,"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/posts\/707872\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/media\/707876"}],"wp:attachment":[{"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/media?parent=707872"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/categories?post=707872"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.nieuws.marketing\/strategie_nieuws\/wp-json\/wp\/v2\/tags?post=707872"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}