Jó üzlet az MI-generált, hamis holokausztfotók terjesztése Facebookon
Amióta az elmúlt években elterjedtek a generatív mesterségesintelligencia-alkalmazások, elözönlötte a közösségi médiát az „AI slop”, vagyis az általában könnyen felismerhető vagy egyenesen rossz minőségű MI-szemét, aminek célja többnyire a figyelemfelkeltés és egy oldal vagy profil követőinek gyarapítása. Ez olykor ártalmatlan (már ha eltekintünk az MI környezeti ártalmaitól), de ha a generált alkotás félrevezető tartalmú, abból komoly gondok adódhatnak. A BBC News oknyomozása jó példa erre: a hírportál újságírói utánajártak annak, miért szaporodtak meg a Facebookon a kamu holokausztfotók.
Az MI-szemét egy része történelmi témájú, ami igencsak nehezíti a történészek munkáját, például azzal, hogy az internetezők néha már valódi fotókban és tényekben is kételkednek. Különösen problémásak a hamis holokausztfotók, amik az utóbbi hónapokban nagyon népszerűek lettek, nemrég az AFP is felhívta erre a figyelmet. A koncentrációs táborban hegedülő, padló alatt rejtőző, egy kerítés két oldalán egymással találkozó és más helyzetekben ábrázolt foglyok sokszor jó minőségű generált képeken jelennek meg, első pillantásra gyakran észre sem venni, hogy a mesterséges intelligencia alkotásai. A képeket általában valamilyen kitalált történet is kíséri, angol nyelven.
A jelenség aggasztja a még élő holokauszttúlélőket és általában a holokausztban érintettek családtagjait. Emellett a szakembereket is, akik azon fáradoznak, hogy hitelesen megőrizzék az utókornak azt, hogy mi történt a koncentrációs táborokban. „Valaki kitalálja ezeket a történeteket valami furcsa, közösségi médiában zajló érzelmi játék kedvéért” – nyilatkozta Pawel Sawicki, a lengyelországi Auschwitz Emlékhely szóvivője. „Pedig ez nem játék. A valós világról, valódi szenvedésről és valódi emberekről akarunk megemlékezni és kell megemlékeznünk.” Sawicki elmondta, hogy már az emlékhely oldalán is előfordul, hogy egy valódi fotóra megkapják kommentben, hogy biztosan MI-vel készült.
A BBC lekövette több hamis fotó eredetét, és arra jutott, hogy Európán kívül készültek. Találtak forrást Indiában, Vietnámban, Thaiföldön és Nigériában is, de a legtöbbet Pakisztánban hozták létre, ahol egész hálózata alakult ki az online holokausztfotó-gyáraknak. Az érintett oldalak üzemeltetői pénzért csinálják az egészet, gyakorlatilag ez a megélhetésük: ha elég sűrűn és elég jó elérésű posztokat publikálnak, bekerülhetnek a Meta vagy más hasonló szolgáltatók tartalommonetizációs programjába. Nagy elérést pedig könnyebb érzelmeket kiváltó tartalommal elérni, és a történelemben bőven találni ilyen eseményeket, a holokauszt pedig különösen megfelel e célra. A BBC beszélt egy pakisztáni tartalomgyárossal, aki azt állította, hogy egy 300 ezer követős oldallal havi ezer dollárt simán keres, továbbá elárulta, hogy a nyugati országokból érkező kattintások nyolcszor annyit érnek, mint az ázsiaiak.
A jelenség ellen a Meta nem lép fel erélyesen, ezt a cég egyik szóvivője nyilvánvalóvá tette a BBC-nek. A kamu holokausztfotók terjesztése ugyanis önmagában nem ütközik a Facebook irányelveibe, csak abban az esetben tiltanak, ha valamilyen szabályszegés történik. Ilyen lehet az, ha az adott oldal működtetője elkövet valamilyen személyiséglopást a képekkel, megsérti a spamelésre vonatkozó szabályokat vagy esetleg az oldalak kereskedésére vonatkozó irányelveket. A manipulált holokausztfotók így vélhetően sokáig velünk maradnak még.
