Google beperkt de AI-tool nadat een bot mensen aanbeveelt ‘stenen te eten’ en ‘lijm’ op pizza te smeren

Google werd gedwongen zijn AI-zoekfunctie te beperken nadat tientallen gebruikers donderdag ‘vreemde, onnauwkeurige of nutteloze’ antwoorden op hun zoekopdrachten hadden gerapporteerd. Enkele van de ‘onlogische’ antwoorden waren onder meer de aanbeveling aan mensen om ‘stenen te eten’ of ‘lijm op pizza’ te smeren, en deze antwoorden gingen viraal op sociale media.

Dit is niet de eerste controverse rond banen op het gebied van kunstmatige intelligentie bij Google. Eerder dit jaar produceerde een AI-bot historisch onnauwkeurige zoekresultaten. AI Overviews, de AI-tool van Google, werd later teruggeschroefd, aldus Liz Read, hoofd van Google Search.

De functie Overzichten is een paar weken geleden uitgerold naar gebruikers in de VS en er zullen nu extra bewakers aan worden toegevoegd om te voorkomen dat dit soort incidenten zich opnieuw voordoen. De tool is ontworpen om het zoeken te verbeteren en maakt gebruik van generatieve kunstmatige intelligentie om zoekopdrachten samen te vatten, meldt Forbes.

Dit omvat het schalen van de bot met behulp van door gebruikers gegenereerde inhoud van sociale-mediasites en forums. Het gebruik van deze kanalen om reacties te genereren kan volgens Reid ‘misleidend advies geven’.

Hoewel Reed de waarde van de tool voor Google prees, erkende ze enkele cruciale fouten die er waren gemaakt. Deze bevindingen omvatten onder meer het vertellen aan mensen dat Barack Obama een moslim was, en het adviseren van mensen om stenen te eten en lijm op hun pizza te smeren.

Ook stopt de tool tijdelijk met het verstrekken van samenvattingen over bepaalde onderwerpen, zoals gezondheid. Samenvattingen van ‘irrationele’, humoristische en sarcastische vragen, die worden gevraagd om belachelijke reacties uit te lokken, zullen ook worden verminderd.

Over het geheel genomen zei Reed dat Google “meer dan een dozijn technische verbeteringen heeft aangebracht”. Dit omvat “aanvullende beperkingen die zoekopdrachten stimuleren waarbij een AI-overzicht niet nuttig bleek.” Ondanks de opvallende bugs is Reed blij dat er een “hogere tevredenheid” is onder gebruikers en onder degenen die “langere, complexere vragen stellen waarvan ze weten dat Google ze nu kan helpen.”

Meld u aan voor onze gratis nieuwsbrieven om het laatste nieuws rechtstreeks in uw inbox te ontvangen hier.

Door de introductie van AI worden links die verband houden met Google-zoekopdrachten verder naar beneden op de pagina geplaatst, waarbij door AI gegenereerde reacties een vooraanstaande positie innemen. Maar deze spontane reacties hebben tot controverse geleid, met belachelijke reacties op vragen, waaronder het vertellen aan mensen met nierstenen dat ze liters urine moeten drinken om nierstenen weg te spoelen of mensen vertellen dat ze stenen moeten eten.

Er circuleren echter een aantal nepreacties online en deze zijn ontkracht door middel van feitencontroles, waarbij Reid waarschuwt dat “iedereen die deze schermafbeeldingen tegenkomt, zijn eigen onderzoek moet doen om ze te verifiëren.” Sommige vreemde zoekopdrachten vallen in een ‘datavacuüm’ of ‘informatiekloof’, gebieden waar er weinig verifieerbare informatie is en waar daarom dwaze antwoorden kunnen binnensluipen.

Bezoek onze startpagina voor het laatste lokale nieuws en artikelen over Iers Amerika hier.