Effecten van kunstmatige intelligentie op sociale interacties

Uit een nieuwe studie van Cornell University, gepubliceerd in Scientific Reports, blijkt dat terwijl generatieve kunstmatige intelligentie (AI) de efficiëntie en positiviteit kan verbeteren, het ook van invloed kan zijn op de manier waarop mensen zich uiten en anderen zien in gesprekken.

“Technologiebedrijven hebben de neiging om het nut van AI-tools te benadrukken om dingen sneller en beter gedaan te krijgen, maar dat doen ze wel Negeer de sociale dimensieMalte Jung, universitair hoofddocent informatica aan het Cornell Ann S. Bowers College of Computing and Information Sciences (Cornell Bowers CIS), zei in een persbericht. “We leven en werken niet geïsoleerd, en de systemen die we gebruiken beïnvloeden onze interacties met anderen.”

In een onderzoek waarin paren werden beoordeeld op hun gesprekken, waarvan sommige gebruik maakten van door AI gegenereerde antwoorden, ontdekten onderzoekers dat degenen die intelligente antwoorden gebruikten, werden gezien als minder coöperatief en dat hun partner zich minder verbonden voelde met hen.

A slim antwoord is een tool die is gemaakt om gebruikers te helpen sneller op berichten te reageren en het gemakkelijker te maken om berichten te beantwoorden op apparaten met beperkte invoermogelijkheden, aldus Google-ontwikkelaars.

“Hoewel AI je misschien kan helpen schrijven, verandert het ook je taal op manieren die je misschien niet verwacht, vooral door je positiever te laten klinken”, zei postdoctoraal onderzoeker Jess Hohenstein in een persbericht. “Dit suggereert dat door AI te gebruiken om de tekst te genereren, je een deel van je eigen persoonlijke stem opoffert.”

Hier is hoe de studie werkte.

Een van de onderzoekers in het onderzoek creëerde het slimme antwoordplatform, dat de groep ‘moshi’ noemde, wat ‘hallo’ betekent in het Japans.

Vervolgens werden de deelnemers, bestaande uit 219 paren, geëvalueerd en gevraagd om een ​​kwestie met betrekking tot politiek te bespreken. Ze werden ook toegewezen aan een van de drie voorwaarden, wat betekent dat beide deelnemers Smart Replies konden gebruiken, Smart Replies konden gebruiken of Smart Replies niet konden gebruiken.

Hoewel slimme reacties 14,3 procent van de verzonden berichten uitmaakten, leken degenen die slimme reacties gebruikten meer competentie te hebben in communicatie en positieve emotionele taal, en hun partners erkenden dit door middel van positieve evaluaties.

Hoewel de resultaten van het gebruik van slimme reacties grotendeels positief zijn, merkten de onderzoekers nog iets anders op.

Partners die vermoedden dat hun partner met intelligente antwoorden had gereageerd, werden negatief beoordeeld, vergeleken met degenen die ervan verdacht werden hun eigen antwoorden te hebben geschreven. Deze resultaten komen overeen met gangbare aannames over de negatieve effecten van het gebruik van AI, aldus de onderzoekers.

De onderzoekers gingen een stap verder en voerden een tweede experiment uit. Dit keer bespraken 299 koppels een beleidskwestie, maar onder vier voorwaarden: geen Smart Responses, gebruik standaardreacties van Google, gebruik Smart Responses met een positieve emotionele toon of gebruik Smart Responses met een negatieve emotionele toon.

“Ik was verrast om te ontdekken dat mensen de neiging hebben om je negatief te beoordelen, simpelweg omdat ze vermoeden dat je AI gebruikt om je te helpen sms’en, ongeacht of je dat echt doet”, zei Hohenstein, eraan toevoegend dat dit onderzoek het algemene vermoeden illustreert dat mensen lijken te hebben over kunstmatige intelligentie.

Onderzoekers hebben opgemerkt hoe sommige onbedoelde sociale gevolgen kunnen ontstaan ​​als gevolg van AI.

“Dit suggereert dat wie het algoritme bestuurt, invloed kan hebben op de interacties van mensen, hun taal en hun perceptie van elkaar,” zei Young.