Hogyan pörgetik fel a TikTok botok és a mesterséges intelligencia az Egyesült Királyság szélsőjobboldali erőszakának újjáéledését?

Kevesebb mint három órával a hétfői késeléses támadást követően, amely három gyermek halálát okozta, egy AI által generált kép jelent meg az X közösségi oldalon, amelyet az Europe Invasion nevű fiók osztott meg. A képen szakállas férfiak láthatók hagyományos muszlim öltözetben a Parlament előtt, az egyikük késével integet, mögötte pedig egy síró gyermek áll, aki egy brit zászlós pólót visel.

A tweet, amelyet azóta 900,000 alkalommal néztek meg, a következő felirattal érkezett: „Meg kell védenünk gyermekeinket!” Ez a bejegyzés az egyik legpotensebb fióktól származik, amely a Southport-i késelések körüli félretájékoztatásra specializálódott.

Az AI technológia más módon is megjelenik, például egy bevándorlásellenes Facebook csoportban, amely képet generált egy nagy tömegről, hogy felhívják az embereket egy rendezvényre Middlesbrough-ban. A Suno platform, amely AI-t használ zene generálására, szintén készült online dalokat készíteni, amelyek a Southport-i eseményekhez xenofób tartalmakat kapcsoltak. Az egyes dalok címei között szerepel a „Southport Saga”, amelyben egy AI női hang énekli a következő sorokat: „valahogy üldözni őket”.

Szaktudósok figyelmeztettek, hogy az új eszközök és az online szerveződés módjai miatt az Egyesült Királyság szélsőjobboldali csoportjai kihasználják a Southport-i támadást, hogy egyesítsék és felfrissítsék jelenlétüket az utcákon. A közelmúltban tapasztalt, évek óta nem látott aktivitás során több mint 10 tüntetést népszerűsítettek a közösségi média platformjain, például az X-en, TikTok-on és Facebook-on.

Az Egyesült Királyság miniszterelnöke ellen irányuló halálos fenyegetések, a kormányzati tulajdon megtámadására való incitálás és a szélsőséges antiszemitizmus is megjelent az egyik szélsőjobboldali Telegram csatornán a héten.

Andrew Rogoyski, a Surrey Egyetem People-Centred AI intézetének igazgatója elmondta, hogy az új képgeneráló eszközök széles körű elérhetősége miatt „bárki bármit létrehozhat”. A szakértők szerint a generatív AI használata komoly aggodalomra ad okot, és a szolgáltatóknak erősíteniük kell a beépített védelmi mechanizmusokat, hogy megnehezítsék az ilyen jellegű anyagok létrehozását.

Az AI által generált tartalom használata még gyerekcipőben jár, de tükrözi a különböző egyének és csoportok közötti növekvő átfedést és együttműködést az online térben. Joe Mulhall, a Hope Not Hate kampánycsoport kutatási igazgatója rámutatott, hogy a szélsőjobboldali szervezetek mellett egyre fontosabbá válnak azok az egyének is, akik nem tartoznak egyetlen csoporthoz sem.

Az események előmozdítása érdekében a #enoughisenough hashtag-et használták néhány jobboldali befolyásoló, ami elősegítette az anti-migrációs aktivizmust.

Érdekes tény: Az AI technológia fejlődése olyan mértékben megkönnyíti a képek és tartalmak előállítását, hogy ma már szinte bárki képes politikai üzeneteket terjeszteni anélkül, hogy bármilyen előképzettséggel rendelkezne.

Források: The Guardian, BBC News, Tech Against Terrorism