Taylor Swift deepfakes have gone viral. How does this keep happening?

Taylor Swift deepfake videói vírusként terjednek. Hogyan történhet ez ismételten?

Nőnek lenni az online térben ijesztő. A digitális világban, akárcsak a valóságban, zaklatás és bántalmazás éri minden nap a nőket és az elnyomott nemekhez tartozó személyeket.

Ami ezen a héten Taylor Swift-tel történt, az egy kiváló – és rémisztő – példa. Az AI-vel generált, pornográf képek Swift-ről vírusként terjedtek el X-en (korábban Twitter), egy ilyen bejegyzés több mint 45 millió megtekintést ért el. A felháborodott rajongók gyorsan beavatkoztak, és a platformot a énekesnő pozitív posztjaival és képeivel árasztották el, keresőkifejezésekhez csatolva, mint „Taylor Swift AI” és „Taylor Swift deepfake”. Swift elkötelezett rajongótábora szintén elindította a #ProtectTaylorSwift hashtaget, több ezer bejegyzéssel elítélve a nem beleegyezéses képeket.

Az eset bizonyosan nem egyedi. Swift, a bolygó egyik legismertebb alakja, a legújabb, akit deepfake-ek ellen használtak fegyverként. Ez megtörtént K-pop sztárokkal, TikTok alkotókkal, újságírókkal, és gimnáziumi lányokkal.

Mi a deepfake pornó?

A deepfake pornó mesterségesen létrehozott képek vagy videók, amelyeket egy specifikus fajta gépi tanulás generál. Ezek a szintetikus vizuális anyagok emberek hasonmásait helyezik bele szexuális cselekedetekbe azok beleegyezése nélkül. A megosztásuk egyfajta képalapú szexuális bántalmazásnak számít, és egyes országokban büntetőjogi tényállás. Akárcsak a bosszúpornó esetében, a deepfake pornó ártást okozott azoknak, akiket ábrázol, akár pszichológiai, személyes vagy szakmai síkon.

A 2023-as Home Security Heroes tanulmány szerint, ami egy identitáslopással és digitális károkkal foglalkozó kutatócsoport, a deepfake pornó képezi a deepfake videók 98 százalékát online. Ezenfelül a deepfake célpontok 99 százaléka nő.

Hol tart a törvény a deepfake pornóval kapcsolatban?

Amikor a nem beleegyezéses explicit képek megosztásáról van szó, egyes országok világszerte törvényeket alkottak vagy hoznak létre a túlélők védelme érdekében.

Angliában és Wales-ben a deepfake pornó megosztása 2023 júniusa óta büntett, a brit kormány kemény intézkedéseket hirdetett „azok ellen az abuzív, ragadozó és keserű ex-partnerek ellen, akik az interneten megosztják az intim képeket azok hozzájárulása nélkül, akiket ábrázolnak.”

Az Egyesült Államokban jelenleg 48 államnak és a Kolumbiai Kerületnek van bosszúpornó-ellenes törvénye. Néhány állam frissíti a törvényi nyelvezetét, hogy a deepfake pornót is e kategória alá sorolja, beleértve Illinoist, Virginiát, New Yorkot, és Kaliforniát.azonban a szabályozás államonként változhat, és ahogy néhányan rámutattak, bizonyos törvények nem foglalkoznak a technológia szerepével az ilyen képek és videók gyártásában és elterjesztésében.

Mindazonáltal, sok kormány nem képes megoldani a problémát. „A legtöbb kormány nem lép fel. A legtöbbnek nincsenek törvényei, vagy a törvényeik tele vannak kiskapukkal,” állítja a #MyImageMyChoice, egy olyan kampány, amely azoknak a hangját kívánja erősíteni, akik képalapú szexuális abúzust tapasztaltak. „A legtöbb országban nincs keretrendszer arra vonatkozóan, hogy ki felelős az online tér rendészetéért.”

Hogyan közelítette meg ezt a problémát a Big Tech?

X-en, ahol Swift képeit széles körben terítették, kifejezetten tiltják a „szintetikus, manipulált vagy kontextuson kívüli média” megosztását. Ide tartozik az olyan tartalom, amely szándékosan azt akarja elérni, hogy „megtévesszen embereket”, vagy azok, amelyek valótlanul állítják, hogy a valóságot ábrázolják. A vállalat hivatalos biztonsági fiókja szerint „zéró toleranciás politikát” folytat az ilyen tartalommal kapcsolatban.

Más platformok, mint például a Reddit, szintén rendelkeznek olyan irányelvekkel, amelyek megakadályozzák a személyes vagy szexuális jellegű média megosztását egy személy beleegyezése nélkül.

A közösségi médiaplatformok és a Big Tech próbára vannak téve, amikor a deepfake-ek észleléséről és megakadályozásáról van szó, irányelveik ellenére. 2021-ben a Meta új eszközt vezetett be erre a célra, együttműködve az Egyesült Királyság Bosszúpornó Helpline-jának StopNCII.org platformjával. Nemrégiben a Facebook és az Instagram anyavállalata bejelentette, hogy minden digitálisan módosított képet, amely társadalmi, választási és politikai kérdéseket érint, címkézni kell – ez egy olyan politika, amelynek célja, hogy védelmet nyújtson a közelgő választások előtt, amelyekre néhány a világ legnagyobb demokráciája készül.

Sok platformnak nehézséget okoz ilyen tartalmak megfékezése. A Swift képeit jellemzően egy Telegram csoportos csevegésben hozták létre és terjesztették, amint azt a 404Media felfedezte. A Telegramnak a múltban nem sikerült megakadályoznia e fajta tartalmat. Másoknak sem: csak ebben a hónapban, az NBC News megállapította, hogy az engedély nélküli deepfake pornó, amely hírességek hasonmásait ábrázolja, a keresőmotorok, mint a Google és a Microsoft Bing élén jelenik meg.

Itt a valódi kérdés: hogyan történhet meg ez folyamatosan? A megdöbbentő valóság az, hogy az AI-állította képek egyre általánosabbá válnak, és új veszélyeket jelentenek azokra, akiket ábrázolnak. Ezt a problémát elmossa a jogi terület bizonytalansága, a közösségi médiaplatformok, amelyek nem sikerült hatékony védelmet biztosítaniuk, és a mesterséges intelligencia folyamatos felemelkedése. A Nemzetközi Nőjogi Szervezet, az Equality Now részletezte ezeket a tényezőket január 2024-es jelentésében, ahol „sürgős és átfogó válaszokat” hívnak fel a technológiai innováció, a jogi reform és a társadalmi tudatosság terén a deepfake pornó tagadhatatlanul növekvő jelenségének kezelésére.

A Swift esetével kapcsolatos körülmények hangsúlyozzák a valóságot, hogy ez bárkivel megtörténhet – és mielőtt ez a digitális válság súlyosbodna, változásra van szükség.

Ha szexuális abúzust tapasztaltál, az USA területén hívhatod az ingyenes, bizalmas Országos Szexuális Erőszak Helpline-t a 1-800-656-HOPE (4673) számon, vagy hozzáférhetsz a 24 órás segítséghez online online.rainn.org-on keresztül. Ha engedély nélkül osztották meg intim képeidet, hívhatod a Cyber Civil Rights Initiative 24/7 vonalát a 844-878-2274 számon ingyenes, bizalmas támogatásért. A CCRI weboldala továbbá hasznos információkat tartalmaz, valamint egy nemzetközi források listáját.

Ha az Egyesült Királyságban tartózkodsz, és intim képes zaklatást tapasztaltál (másnéven bosszúpornót), akkor a Revenge Porn Helpline-on tudsz segítséget kérni a 0345 6000 459-es számon. Ha szexuális erőszakot éltél át az Egyesült Királyságban, hívd a Rape Crisis segélyszolgálatot 0808 802 9999-en.