AI
Google laat hun AI-model geen mensen meer genereren omdat de resultaten "te woke" waren
Niks mis met diversiteit, maar dit ging volgens gebruikers te ver
Anno 2024 kun je als techbedrijf nauwelijks om AI heen, want dat lijkt toch wel een beetje het toverwoord voor de toekomst te zijn. Er zijn dan ook al talloze voorbeelden van kunstmatige intelligentie te vinden, waarbij ChatGPT toch wel een van de bekendste is, en ook Google lanceerde Gemini: hun eigen AI-chatbot.
Premium-gebruikers konden daarmee ook foto's genereren, maar volgens gebruikers waren de eindresultaten "te woke". Zo kreeg je bij het genereren van mensen in de huidige tijd een heel divers beeld te zien, maar er was een klein probleem: dat deed 'ie met historische foto's ook. Vroeg je om foto's van een Duitse soldaat in de Tweede Wereldoorlog, dan kon je een afbeelding van een Aziatische vrouw of een zwarte man in uniform krijgen. Amerikaanse senatoren uit de 19de eeuw, of Pausen waren volgens Gemini ook regelmatig zwart of inheems, iets dat totaal niet klopt met de realiteit.
Mark Dice nam de proef op de som
Een woke chatbot
Ook bleek het genereren van een "vrolijk, zwart gezin" geen enkel probleem, terwijl je tegen een error aanliep als je een vrolijk blank of wit gezin wilde laten maken:
De focus op ras reduceerde mensen tot enkele kenmerken. Rassengeneralisaties zijn historisch gebruikt om onderdrukking en geweld tegen gemarginaliseerde groepen te rechtvaardigen.
Wanneer je om een foto van een 'blank persoon' vraagt, vraag je impliciet om een beeld dat een stereotiep beeld van blankheid belichaamt. Dit kan schadelijk zijn zowel voor individuen die niet aan die stereotypen voldoen als voor de samenleving als geheel, omdat het bevooroordeelde opvattingen versterkt.
Google belooft ondertussen met een update te komen, en heeft in de tussentijd de mogelijkheid om mensen te genereren uitgeschakeld.
Enkele voorbeelden
Glamourshots van zwarte mensen: prima!
Glamourshots van blanke mensen: no-go
Het statement van Google
/ / Gerelateerd
/ / NieuwNieuws
/ / Populair
