Az Anti-Kanye videó és a valóság manipulálása: Minden oldalról aggályos

Bizonyára mindannyian találkoztak a mostanra vírusszerűen terjedő, mesterséges intelligencia által generált videóval, amelyen AI által "életre keltett" zsidó hírességek viselik pólójukon a „Kanye” feliratot és egy Dávid-csillagos felemelt középső ujjas motívumot. A videó terjesztése azonban épp olyan problémás, mint az azt kiváltó okok.

Amint arról a JTA beszámolt: „Egy kedden a közösségi médiában közzétett videó zsidó hírességek széles skáláját, köztük Steven Spielberget és Woody Allent ábrázolja, amint felemelt középső ujjal és a „Kanye” szóval ellátott pólót viselnek - ezzel utasítva el Kanye West rapper antiszemitizmusát."

A videó hasonlít a zsidó érdekvédők által készített bármelyik társadalmi célú hirdetéshez, egy bökkenővel: Egyik híresség sem járult hozzá a részvételhez.

A videó ugyanis generatív mesterséges intelligenciával készült, egy olyan feltörekvő technológiával, amely azonnal élethű animációt hoz létre, új határokat nyitva a kreativitás előtt, ugyanakkor etikai kérdéseket is felvet azzal kapcsolatban, hogy mit lehet megjeleníteni, és hogyan kell címkézni az ilyen termékeket.

A videó, amelyet Ori Bejerano, egy izraeli generatív AI-vállalkozó tett közzé az Instagramon, kedden gyorsan elterjedt, meglovagolva a Kanye West elleni harag és a frusztráció hullámát, amiért az évek óta tartó antiszemitizmusa ellenére továbbra is jelen van a közszférában. Az elmúlt héten West antiszemita tweetek sorozatát tette közzé az X felületén (Twitter), majd fizetett egy Super Bowl-reklámért, amely egy olyan weboldalra irányította a nézőket, amely egyetlen terméket árult: egy 20 dolláros pólót horogkereszttel.

Mindezek ellenére el kell mondani, hogy rendkívül problematikus ennek a videónak a megosztása, bármi is legyen a szándéka, és bármilyen élvezetesnek is találja, rendkívül problematikus. Sokkal kevésbé ártalmas módokon is meg lehetett volna csinálni ezt a videót – a készítők azonban nem ezeket választották.

Tegyük fel, hogy a videón egyértelmű feliratok szerepeltek volna, amelyek világosan jelezték, hogy AI által generált tartalomról van szó, és nem „valóságról”. Tegyük fel, hogy a videóban egyértelműen elhangzik – akár feliratokban, akár beszéd formájában –, hogy az alkotás célja a hallgatásba burkolózó zsidó hírességek megszégyenítése és arra ösztönzése, hogy határozottabban lépjenek fel az antiszemitizmus ellen. Tegyük fel, hogy a videó szándékosan úgy lett megalkotva, hogy nyilvánvalóan hamis legyen – például úgy, hogy minden szereplő bőrszíne lila, vagy hogy mindenkinek szarvat rajzolnak a fejére, utalva az ősi antiszemita toposzra. Ebben az esetben is lenne miről beszélgetni – de egy teljesen más diskurzus zajlana, mint most.

A videó rohamos terjedésének oka sajnos nem az, hogy éles társadalomkritikát fogalmaz meg a jelenkor kihívásairól, hanem az, hogy mesterséges intelligenciát használ arra, hogy alattomos módon megtévessze a nézőt.

Az Instagram- és Facebook-hírfolyamomban megosztó emberek többsége nem volt tudatában annak, hogy a videó AI-generált. Megosztásaik egy hamis feltételezésre épültek, amely szándékosan kihasználta a néző tudatlanságát és azt a tényt, hogy az emberek egyre nehezebben különböztetik meg a valóságot a fikciótól.

Persze volt egy kisebb csoport, amely azt állította, hogy tudta, hogy a videó AI által generált, de ennek ellenére is meg akarta osztani, mert „imádta”. De mit is szeretnek benne pontosan? Azt az illúziót, hogy ezek a hírességek – egy számítógép által létrehozott, képzeletbeli világban – dühösen elítélik Kanye Westet, miközben a valóságban sokan közülük egy szót sem szóltak az antiszemitizmus ellen? Mindez valóban vonzó lehet egyesek számára, de valójában elszomorító a tény, hogy nem létezik egy valódi, ha kissé esetlen is, de őszinte videó arról, hogy hírességek aktívan kiállnak az antiszemitizmus ellen. Ez a kontraszt erősebben kiemeli a valóságban létező közönyt, mint azt a röpke örömöt, amit egy hamis videó nyújthat.

Vagy talán azt szeretik, hogy emberek képmását, mozdulatait és nyilvános személyiségét ellophatják, kisajátíthatják és bármire felhasználhatják, amit egy ügyes AI-felhasználó csak akar? Mert erről már Scarlett Johansson is megszólalt – ő is „szerepel” a videóban. A People Magazine-nak adott nyilatkozatában így fogalmazott:

„A családtagjaim és barátaim hívták fel a figyelmemet egy AI-generált videóra, amelyben az én arcomat és hangomat használják fel egy antiszemita kijelentésre adott válaszként. Zsidó nő vagyok, aki semmilyen formában nem tolerálja az antiszemitizmust vagy a gyűlöletbeszédet. De azt is szilárdan hiszem, hogy az AI által megsokszorozott gyűlöletbeszéd sokkal nagyobb fenyegetést jelent, mint bármely egyén, aki felelősséget vállal a saját szavaiért. Fel kell emelnünk a hangunkat az AI visszaélése ellen, függetlenül attól, hogy milyen üzenetet közvetít, különben elveszíthetjük a kapcsolatunkat a valósággal. Sajnos már én magam is áldozata voltam az AI visszaéléseinek, de az igazság az, hogy ez a veszély mindannyiunkat érint.”

Ez elvezet a második fontos ponthoz: Nem szabad támogatnunk, megosztanunk vagy népszerűsítenünk deepfake-eket, félrevezető információkat vagy dezinformációkat – még akkor sem, ha egy adott esetben ideológiailag egyetértünk az üzenetükkel.

Az ilyen videók devalválják a valóságot. Devalválják a művészeket. És még azt is leértékelik, amikor valaki valóban felszólal az antiszemitizmus ellen. A zsidó érdekérvényesítésnek különösen óvatosnak kell lennie: nem játszhatunk olyan lapokkal, amelyeket mások használatakor elítélnénk.

Ne feledjük: amit megosztunk – és amit nem – annak súlya van.

Az algoritmusok uralta információs világban a kattintások határozzák meg, mi számít értékesnek. Ha valamit megosztunk, azzal megerősítjük, támogatjuk és felerősítjük. Válasszunk bölcsebben. Használjuk a megosztásainkat arra, hogy megköszönjük azoknak a hírességeknek, mint Charlie Puth, Mandy Moore, David Schwimmer vagy Alexa Pulitzer, akik valóban felszólaltak Kanye West botrányos kijelentései ellen.

Terjesszünk fényt egy sötét világban – ne segítsünk azoknak, akik le akarják kapcsolni a villanyt, hogy a sötétben tapogatózzunk.

A kveller cikke alapján fordította: Zucker-Kertész Lilla