Trump gearresteerd? In de gevangenis gezet? Er circuleren nep-AI-beelden op internet

Voormalig president Donald Trump wordt gestraft door New Yorkse politieagenten in oproeruitrusting. De Russische president Vladimir Poetin zit gevangen achter slecht verlichte betonnen celtralies.

Zeer gedetailleerde, erotische beelden hebben de afgelopen dagen Twitter en andere platforms overspoeld, te midden van nieuws waarmee Trump wordt geconfronteerd Mogelijke strafrechtelijke vervolging Het Internationaal Strafhof heeft uitgevaardigd Arrestatiebevel naar Poetin.

Maar geen van de beelden is op afstand echt. De afbeeldingen – en tientallen variaties die op sociale media werden verspreid – werden geproduceerd met behulp van steeds geavanceerdere en algemeen toegankelijke beeldgeneratoren. Aangedreven door kunstmatige intelligentie.

Desinformatie-experts waarschuwen dat de beelden een nieuwe realiteit inluiden: golven van nepfoto’s en -video’s die sociale media overspoelen na grote nieuwsgebeurtenissen en meer vervaging van feiten en fictie op cruciale momenten voor de samenleving.

“Het voegt lawaai toe tijdens crisisgebeurtenissen. Het verhoogt ook het niveau van cynisme”, zegt Gevin West, een professor aan de Universiteit van Washington in Seattle die zich richt op de verspreiding van desinformatie. “Je begint het vertrouwen in het systeem en de informatie te verliezen. je krijgt.”

Hoewel de mogelijkheid om afbeeldingen te manipuleren en nepafbeeldingen te maken niet nieuw is, zijn AI-tools voor het maken van afbeeldingen van Midjourney, DALL-E en anderen nog gemakkelijker te gebruiken. Ze kunnen snel fotorealistische afbeeldingen maken – compleet met gedetailleerde achtergronden – op grote schaal met weinig meer dan een simpele tekstprompt van gebruikers.

Enkele recente foto’s zijn gedreven door De uitgave van deze maand Een nieuwe versie van het tekst-naar-beeld-synthesemodel van Midjourney, dat nu onder andere boeiende beelden kan produceren die de stijl van beelden van persbureaus nabootsen.

in een Trending-topic op TwitterEliot Higgins, oprichter van Bellingcat, een onderzoeksjournalistieke groep gevestigd in Nederland, gebruikte de nieuwste versie van de tool om Tientallen dramatische foto’s Trumps valse arrestatie.

Op de beelden, die tienduizenden keren zijn gedeeld en geliket, was te zien hoe een menigte agenten in uniform de Republikeinse miljardair vastgreep en met geweld over het trottoir sleepte.

Higgins, die ook achter A.J groep foto’s Van de arrestatie, het proces en vervolgens de gevangenisstraf van Poetin zegt hij dat hij de foto’s zonder kwade bedoelingen heeft geplaatst. Hij heeft in zijn Twitter-thread zelfs expliciet vermeld dat de beelden zijn gegenereerd door kunstmatige intelligentie.

Toch waren de beelden volgens Higgins voldoende om hem van de Midjourney-server af te sluiten. Het onafhankelijke onderzoekslaboratorium in San Francisco reageerde niet op e-mails waarin om commentaar werd gevraagd.

“Het beeld van de arrestatie van Trump kwam overeen met hoe goed en slecht Midjourney is in het tonen van echte scènes”, schreef Higgins in een e-mail. “De foto’s begonnen een soort verhaal te vormen toen ik de prompts in Midjourney plugde, dus ik bundelde ze in een verhaal en besloot het verhaal af te maken.”

Hij merkte op dat de foto’s verre van perfect zijn: op sommige wordt Trump bizar afgebeeld met een politiegordel. In andere gevallen zijn de gezichten en handen zichtbaar vervormd.

Maar het is niet genoeg voor gebruikers zoals Higgins om duidelijk in hun berichten te vermelden dat de afbeeldingen zijn gegenereerd door AI en alleen voor amusementsdoeleinden, zegt Shereen Anlin, een mediatechnologie-expert bij Witness, een in New York gevestigde mensenrechtenorganisatie die zich richt op visuele bewijs.

Vaak worden beelden snel opnieuw gedeeld door anderen zonder die belangrijke context, zei ze. Een Instagram-post die enkele Higgins-foto’s van Trump deelde alsof ze authentiek waren, kreeg zelfs meer dan 79.000 likes.

“Je ziet alleen een afbeelding, en als je eenmaal iets ziet, kun je het niet meer zien,” zei Anlin.

In een ander recent voorbeeld deelden gebruikers van sociale media een synthetisch beeld dat zogenaamd Poetin afbeeldde terwijl hij knielde en de hand kuste van de Chinese leider Xi Jinping. Het beeld dat de ronde deed als een Russische president Hij verwelkomde Xi deze week in het Kremlinwerd al snel een rauwe meme.

Het is niet duidelijk wie de afbeelding heeft gemaakt of welk hulpmiddel ze hebben gebruikt, maar er zijn aanwijzingen dat er sprake is van een vervalsing. Zo waren de hoofden en schoenen van de twee commandanten licht misvormd en schommelde de kamer Het past niet bij de kamer Waar de eigenlijke ontmoeting plaatsvond.

Experts zeggen dat, nu synthetische afbeeldingen steeds moeilijker te onderscheiden zijn van echte objecten, de beste manier om visuele desinformatie te bestrijden is om het publieke bewustzijn en onderwijs te verbeteren.

“Het is zo gemakkelijk en zo goedkoop geworden om deze beelden te maken dat we er alles aan moeten doen om het publiek te informeren over hoe goed deze technologie is”, zei West.

Higgins suggereert dat sociale-mediabedrijven zich zouden kunnen concentreren op het ontwikkelen van technologie om door AI gegenereerde afbeeldingen te detecteren en deze in hun platforms te integreren.

Twitter heeft een beleid dat “synthetische, gemanipuleerde of uit hun context gehaalde media” verbiedt die misleidend of schadelijk kunnen zijn. Annotaties van Community Notes, Twitter’s crowd-sourced factcheck-project, werden aan sommige tweets toegevoegd om context toe te voegen voor AI-gegenereerde afbeeldingen van Trump.

Toen de opmerking donderdag werd bereikt, stuurde het bedrijf alleen een automatisch antwoord via e-mail.

Meta, het moederbedrijf van Facebook en Instagram, weigerde commentaar te geven. Sommige van de gefabriceerde afbeeldingen van Trump zijn bestempeld als “vals” of “ontbrekende context” door een extern programma voor het controleren van feiten, waarbij de Associated Press betrokken is.

Arthur Holland Michell, een fellow bij de Carnegie Council for Ethics in International Affairs in New York die zich richt op opkomende technologieën, zei dat hij zich zorgen maakt dat de wereld niet klaar is voor de naderende overstroming.

Hij vraagt ​​zich af hoe deepfakes waarbij gewone mensen betrokken zijn – schadelijke nepfoto’s van bijvoorbeeld een ex-partner of collega – worden gereguleerd.

“Vanuit een beleidsperspectief weet ik niet zeker of we bereid zijn om deze hoeveelheid desinformatie op elk niveau van de samenleving aan te pakken”, schreef Michel in een e-mail. “Ik heb het gevoel dat er een tot nu toe onvoorstelbare technische doorbraak voor nodig is om hier eindelijk een einde aan te maken.”

—Arijita Laika en Philippe Marcelo, Associated Press

media-industrie