Az AI és a Női Ábrázolások Védelme: Egy Sötét Történet
Az utóbbi hónapokban számos nagy technológiai vállalat, mint a Google, az Apple és a Discord, lehetővé tette, hogy az emberek könnyen regisztráljanak olyan káros „levetkőző” weboldalakra, amelyek mesterséges intelligenciát használnak arra, hogy eltávolítsák a ruhákat valós fényképekről, ezzel a sértetteket „meztelennek” tüntetve fel a beleegyezésük nélkül. Egy WIRED elemzés alapján több mint tucatnyi ilyen mélyhamisító weboldal használta a technológiai cégek bejelentkezési gombjait.
Az elemzés 16, a legnagyobb „levetkőző” és „nudify” weboldalt talált, amelyek a Google, az Apple, a Discord, a Twitter, a Patreon és a Line bejelentkezési infrastruktúráját használták. Ez a megközelítés lehetővé teszi az emberek számára, hogy egyszerűen létrehozzanak fiókokat a mélyhamisító weboldalakon, így egyfajta hitelességet kínálva, mielőtt fizetnének a kreditekért és generálnának képeket.
Az ilyen nem beleegyezésen alapuló intim képek gyártása évek óta létezik, de a generatív AI megjelenésével a számuk drámaian megnőtt. Az ilyen „levetkőző” visszaélések riasztóan széles körben elterjedtek, különösen a tinédzser fiúk körében, akik állítólag osztálytársaikról készítenek képeket.
„Ez egy trend folytatása, amely a Big Tech által normalizálja a nők és lányok ellen elkövetett szexuális erőszakot” – mondta Adam Dodge, a technológia által segített visszaélések megszüntetéséért küzdő EndTAB alapítója. „A bejelentkezési API-k kényelmi eszközök. Soha nem szabadna a szexuális erőszakot a kényelem cselekedeteként kezelni” – tette hozzá.
Az elemzett bejelentkezési eszközök, amelyek API-kon és általános hitelesítési módszereken keresztül működnek, lehetővé teszik az emberek számára, hogy meglévő fiókjukkal csatlakozzanak a mélyhamisító weboldalakhoz. A Google bejelentkezési rendszere 16 weboldalon, a Discord 13-on, az Apple pedig hat weboldalon jelent meg. A X gombja három weboldalon, míg a Patreon és a Line gombja két közös weboldalon volt jelen.
A WIRED nem nevezi meg a weboldalakat, mivel ezek visszaéléseket tesznek lehetővé. A bejelentkezési rendszereket használták annak ellenére, hogy a technológiai vállalatok többsége általános szabályokat állapított meg, amelyek kimondják, hogy a fejlesztők nem használhatják szolgáltatásaikat olyan módon, amely kárt, zaklatást okoz, vagy megsérti az emberek magánéletét.
Érdekes tény, hogy a generatív AI technológia fejlődése óta a nem beleegyezésen alapuló intim képek készítése drámaian megnőtt, a San Francisco városi ügyvédje szerint az ilyen weboldalak több mint 200 millió látogatást generáltak az év első hat hónapjában.
Források: WIRED, Adam Dodge, David Chiu
