Snapchat-gebruikers zijn bang voor een AI-bot die een eigen wil heeft

CNN
–

Snapchat-gebruikers raakten dinsdagavond in paniek toen de intelligente chatbot van het platform een ​​live update van zijn profiel plaatste en niet meer op berichten reageerde.

de Snapchat Mijn AI De functie – die wordt aangedreven door de virale AI-chatbot chatten – Biedt meestal aanbevelingen, antwoorden op vragen en gesprekken met gebruikers. Maar het plaatsen van een Live Story (een korte videoclip van wat een muur leek te zijn) die alle Snapchatters konden zien, was iets nieuws: het is een mogelijkheid die normaal gesproken alleen is voorbehouden aan menselijke gebruikers.

Fans van de app deelden hun zorgen snel op sociale media. “Waarom heeft mijn AI een video van de muur en het plafond in hun huis als verhaal?” schreef een gebruiker. “Dit is heel vreemd en ronduit verontrustend.” “Zelfs een bot heeft geen tijd voor mij”, schreef een andere gebruiker nadat de tool zijn berichten negeerde.

Blijkt dat dit niet Snapchat was die de My AI-tool realistischer maakte. Het bedrijf vertelde woensdag aan CNN dat het om een ​​storing ging. “Mijn AI had een tijdelijke storing die inmiddels is verholpen”, aldus een woordvoerder.

De sterke reactie maakte echter duidelijk dat veel mensen zich zorgen maken over de potentiële gevaren van AI.

Sinds de lancering in april heeft de tool niet alleen te maken gehad met terugslag van ouders, maar ook van sommige Snapchatters met kritiek erop privacybezorgdheden“griezelige” uitwisselingen en het onvermogen om de functie uit hun chatfeed te verwijderen, tenzij ze betalen voor een premium abonnement.

In tegenstelling tot sommige andere AI-tools, heeft de Snapchat-versie een paar belangrijke verschillen: gebruikers kunnen de naam van de chatbot aanpassen, er een aangepaste Bitmoji voor ontwerpen en deze meenemen in gesprekken met vrienden. Het netto-effect is dat praten met de chatbot van Snapchat minder aantrekkelijk lijkt dan het bezoeken van de ChatGPT-website. Het kan ook minder duidelijk zijn dat u tegen een computer praat.

Hoewel sommigen waarde kunnen hechten aan de tool, wezen gemengde reacties op de uitdagingen waarmee bedrijven worden geconfronteerd bij het uitrollen van nieuwe generatieve AI-technologie in hun producten, vooral in producten zoals Snapchat, waarvan de gebruikers doorgaans jonger zijn.

Snapchat was een vroege lanceringspartner toen OpenAI de toegang tot ChatGPT opende voor externe bedrijven, en naar verwachting zullen er nog veel meer volgen.