Google gaat AI-fotorobot repareren na ‘ontwaakte’ kritiek

Google haast zich om zijn nieuwe AI-aangedreven tool voor het genereren van afbeeldingen te repareren, na beweringen dat het de dreiging van racisme te veel corrigeerde.

Gebruikers zeiden dat de Gemini-bot van het bedrijf afbeeldingen leverde van een verscheidenheid aan geslachten en etniciteiten, zelfs als dat historisch gezien onnauwkeurig was.

Een directe zoektocht naar afbeeldingen van de Founding Fathers van Amerika leverde bijvoorbeeld vrouwen en gekleurde mensen op.

Het bedrijf zei dat zijn tool “het doel mist”.

“De AI-beeldgeneratie van Gemini genereert voor een breed scala aan mensen. Dit is over het algemeen een goede zaak omdat mensen over de hele wereld het gebruiken. Maar hier schiet het de plank mis”, zegt Jack Krawczyk, senior directeur van Gemini Experiences.

“We werken eraan om dit soort fotografie onmiddellijk te verbeteren”, voegde hij eraan toe.

Dit is niet de eerste keer dat AI praktische vragen over diversiteit beantwoordt.

Google moest bijvoorbeeld bijna tien jaar geleden zijn excuses aanbieden nadat de app Foto's een foto van een zwart stel als 'gorilla' had bestempeld.

Rivaliserend AI-bedrijf OpenAI is ook beschuldigd van het in stand houden van schadelijke stereotypen, nadat gebruikers ontdekten dat de Dall-E-beeldgenerator bijvoorbeeld reageerde op de vragen van de CEO en dat de resultaten werden gedomineerd door afbeeldingen van blanke mannen.

Google, dat onder druk staat om te bewijzen dat het niet achterloopt op het gebied van AI-ontwikkelingen, heeft vorige week zijn nieuwste versie van Gemini uitgebracht.

De bot genereert afbeeldingen als antwoord op schriftelijke vragen.

Dit leidde al snel tot kritiek, waarbij het bedrijf werd beschuldigd de robot te hebben getraind om op een belachelijke manier wakker te worden.

“Het is beschamend moeilijk om Google Gemini het bestaan ​​van blanke mensen te laten erkennen”, zegt computerwetenschapper Debarghya Das. boeken.

“Kom op”, zei Frank J. Fleming, een auteur en humorist die schrijft voor de media, waaronder de rechtse PJ, in reactie op de resultaten die hij ontving voor het aanvragen van een Vikingsfoto.

Deze beschuldigingen zijn toegenomen in rechtse kringen in de Verenigde Staten, waar verschillende grote technologieplatforms al te maken krijgen met verzet vanwege vermeende liberale vooroordelen.

De heer Krawczyk zei dat het bedrijf vertegenwoordiging en vooringenomenheid serieus nam en wilde dat de resultaten de wereldwijde gebruikersbasis zouden weerspiegelen.

“Historische contexten hebben meer nuance en we zullen ons daaraan aanpassen”, schreef hij op X, voorheen Twitter, waar gebruikers de twijfelachtige resultaten deelden die ze ontvingen.

“Dit maakt deel uit van het afstemmingsproces: het herhalen van de feedback. Bedankt en ga zo door!”