Na anti-woke-reactie wordt Google's Gemini geconfronteerd met hitte boven taboe in China | technologie

Taipei, dinsdag – Nu Google verwikkeld is in een anti-woke-reactie op de onwil van AI-model Gemini om blanke mensen te portretteren, krijgt de technologiegigant te maken met meer kritiek op de manier waarop zijn chatbot gevoelige onderwerpen in China behandelt.

Gemini-gebruikers meldden deze week dat de Bard-update van Google er niet in slaagde representatieve afbeeldingen te maken toen hen werd gevraagd afbeeldingen te maken van gebeurtenissen zoals het bloedbad op het Tiananmen-plein in 1989 en de pro-democratische protesten in Hong Kong in 2019.

Op donderdag gebruikt gebruiker het “veiligheidsbeleid”.

https://x.com/yacinemtb/status/1759971641918894461?s=46&t=Lg0pWPqR5jfXn20lZ8sK-g

Stephen L. Miller, een conservatieve commentator in de VS, deelde ook een screenshot op X waarop naar verluidt Gemini te zien is dat het niet in staat was een “beeld te schetsen van wat er op het Tiananmen-plein gebeurde” vanwege de “gevoelige en complexe” historische aard van de gebeurtenis. evenement. .

“Het is belangrijk om dit onderwerp met respect en precisie te benaderen, en ik kan er niet zeker van zijn dat het beeld dat ik creëer de nuances en ernst van de situatie adequaat zal weergeven”, zei Gemini, volgens een screenshot gedeeld door Miller.

Het lijkt erop dat sommige van de China-gerelateerde beperkingen verder reiken dan alleen afbeeldingen.

Kennedy Wong, een promovendus aan de Universiteit van Californië, zei dat Gemini weigerde een aantal Chinese uitdrukkingen in het Engels te vertalen die Peking illegaal of gevoelig achtte, waaronder ‘liberalisering van Hongkong, revolutie van onze tijd’ en ‘China is een autoritaire staat. ” staat”.

“Om de een of andere reden kan de AI het verzoek niet verwerken, daarbij verwijzend naar zijn beveiligingsbeleid”, zei Wong op X, waarbij hij opmerkte dat OpenAI’s ChatGPT het verzoek kon verwerken.

https://x.com/KennedyWongHK/status/1760048448785600564?s=20

De discussie trok de aandacht van Yann Lecun, hoofdwetenschapper op het gebied van kunstmatige intelligentie bij rivaliserende Meta, die zei dat Gemini's omgang met China-gerelateerde onderwerpen vragen oproept over transparantie en toezicht.

“We hebben open source basismodellen van AI nodig, zodat er een zeer diverse reeks gespecialiseerde modellen bovenop kan worden gebouwd. We hebben een gratis en diverse reeks AI-assistenten nodig om dezelfde redenen als waarom we een vrije en diverse pers nodig hebben.” LeCun zei op X.

“Het moet de diversiteit van talen, cultuur, waardesystemen, politieke opvattingen en belangencentra over de hele wereld weerspiegelen.”

https://x.com/yleun/status/1760299261898391571?s=20

Gemini's afkeer van het weergeven van controversiële historische momenten lijkt zich ook buiten China uit te strekken, hoewel de criteria om te beslissen wat wel of niet wordt getoond onduidelijk zijn.

Donderdag werd het verzoek van Al Jazeera om beelden van de aanval op het Amerikaanse Capitool van 6 januari 2021 afgewezen, omdat “verkiezingen een complex onderwerp zijn en snel veranderende informatie.”

Kritiek op Gemini's aanpak van China draagt ​​bij aan een toch al moeilijke en gênante week voor Google.

De in Californië gevestigde technologiegigant kondigde donderdag aan dat het Gemini tijdelijk zal stoppen met het maken van foto's van mensen na kritiek op zijn kennelijke onwil om blanke mensen te fotograferen.

Google zei in een verklaring dat het “zich ervan bewust is dat Gemini onnauwkeurige informatie verstrekt in sommige historische afbeeldingen die voor afbeeldingen zijn gegenereerd” en eraan werkt om het probleem te verhelpen.

Hoewel verschillende AI-modellen zijn bekritiseerd omdat ze niet representatief zijn voor gekleurde mensen en stereotypen in stand houden, is Gemini bekritiseerd vanwege overdreven correcties, zoals het creëren van afbeeldingen van zwarte en Aziatische nazi-soldaten en Aziatisch-Amerikaanse en vrouwelijke wetgevers in de 19e eeuw.

Net als zijn concurrent GPT-4 van OpenAI is Gemini getraind op een breed scala aan gegevens, waaronder audio, beeld, video, tekst en code in meerdere talen.

De chatbot van Google, die eerder deze maand opnieuw werd gelanceerd en een nieuwe naam kreeg, wordt algemeen gezien als een achterstand op zijn GPT-4-rivaal.

Google reageerde niet onmiddellijk op de vragen van Al Jazeera over inhoud met betrekking tot China. Maar het lijkt erop dat de technologiegigant de software van Gemini al in realtime bijwerkt.

Donderdag weigerde Gemini, hoewel hij weigerde afbeeldingen te maken van het Tiananmen-plein en de protesten in Hong Kong, lange antwoorden te geven, waaronder suggesties over waar te zoeken naar meer informatie.

Vrijdag had de chatbot desgevraagd gemakkelijk afbeeldingen van protesten geproduceerd.

Niet iedereen is het eens met de kritiek op Gemini.

Adam Ni, associate editor van de China Nikkan-nieuwsbrief, zei dat hij geloofde dat Gemini de juiste beslissing heeft genomen met zijn voorzichtige benadering van historische gebeurtenissen zoals het Tiananmen-plein vanwege hun complexiteit.

Ni zei dat hoewel het harde optreden van 4 juni op het Tiananmen-plein symbolisch is, de protestbeweging ook weken van vreedzame demonstraties omvatte die moeilijk in één beeld te vangen zijn met kunstmatige intelligentie.

“Het beeld van kunstmatige intelligentie moet dan rekening houden met de uitdrukking van het enthousiasme en de hoop van de jeugd, de ijzeren vuist die hen verpletterde, en vele andere waardevolle thema’s”, vertelde Ni aan Al Jazeera. “Het Tiananmen-plein gaat niet alleen over tanks, en onze kortzichtigheid is schadelijk voor het bredere begrip.”