Google trekt zich terug op AI-zoekantwoorden nadat het gebruikers heeft verteld lijm te eten

Liz Read, hoofd van de zoekafdeling van Google, zei: Blogpost Donderdagmiddag heeft het bedrijf enkele AI-antwoorden verfijnd, die het ‘AI Overviews’ noemt. Het bedrijf verminderde het gebruik van posts op sociale media als bron voor AI-antwoorden, pauzeerde enkele antwoorden over gezondheidsgerelateerde onderwerpen en “voegde gestimuleerde beperkingen toe aan vragen waarbij het AI-overzicht niet nuttig bleek”, zei Reid in de post. . Reed zei dat het bedrijf meer dan een dozijn technische wijzigingen heeft aangebracht om het systeem te verbeteren.

De verandering is het nieuwste voorbeeld van hoe Google met veel tamtam een ​​AI-product lanceert en zich er vervolgens van terugtrekt nadat het mis is gegaan. Afgelopen februari verbood het bedrijf gebruikers om foto's te maken van mensen die de AI-fototool gebruikten, nadat conservatieve commentatoren het beschuldigden van vooringenomenheid jegens blanke mensen.

De technologie-industrie bevindt zich in de greep van een AI-revolutie, waarbij zowel startups als technologiegiganten nieuwe manieren proberen te vinden om de technologie in hun producten te verwerken en er geld mee te verdienen. Veel tools worden gelanceerd voordat ze klaar zijn voor prime time, omdat bedrijven strijden om de eerste te zijn die hun producten op de markt brengt en zichzelf als geavanceerd profileren.

Google, wiens medewerkers veel geavanceerde AI-tools zoals ChatGPT hebben uitgevonden, probeert aan investeerders, consumenten en eigen medewerkers te bewijzen dat het nog steeds de belangrijkste speler in de branche is. Tijdens I/O deze maand maakte het bedrijf meer dan 100 verschillende AI-gerelateerde aankondigingen.

De grootste was de bevestiging dat het voor de meeste van zijn gebruikers door AI gegenereerde antwoorden in de zoekresultaten zou gaan uitrollen. Google test AI Answers al een jaar met een selecte groep gebruikers, maar door het aan meer zoekresultaten toe te voegen, zullen de meeste mensen nu rechtstreeks met generatieve AI gaan communiceren op een tool die ze dagelijks gebruiken.

De techniek werkt door websites te lezen die mogelijk in de zoekresultaten van Google verschijnen en deze vervolgens samen te vatten in antwoorden die uit meerdere alinea's bestaan. Uitgevers hebben bezwaar gemaakt en beschuldigen het bedrijf ervan hun bedrijf te schaden door hun inhoud rechtstreeks in de zoekresultaten aan gebruikers terug te geven, waardoor hen belangrijk webverkeer wordt ontnomen.

Maar journalisten, zoekmachine-experts en gebruikers van sociale media begonnen de problemen al snel te ontdekken via de antwoorden. Sommige reacties waren grappig, andere waren verontrustend. Ze kwamen ook opdagen voor gevoelige vragen, waaronder gezondheidsgerelateerde vragen.

Eén antwoord, dat Google inmiddels heeft opgelost, vroeg mensen om veel urine te drinken om nierstenen te helpen wegspoelen. Een ander zei dat JFK in zes verschillende jaren afstudeerde aan de Universiteit van Wisconsin in Madison, waarvan drie na zijn dood.

Google probeerde de tool zoveel mogelijk te testen voordat deze op grotere schaal werd gelanceerd, maar Reed zei dat de grootschalige lancering veel situaties aan het licht bracht waarop het bedrijf niet voorbereid was.

“Er gaat niets boven miljoenen mensen die deze functie gebruiken”, zei Reid.