Az AI és a közösségi média szerepe a radikalizációban
Mike Burgess, az ausztrál Biztonsági Hírszerző Szerv (ASIO) főigazgatója figyelmeztette a közönséget, hogy a közösségi média olyan embereket radikalizál, mint a Christchurch-i terrrorista, és az artificial intelligence (AI) valószínűleg még súlyosbítani fogja a helyzetet.
Burgess a múlt pénteken Adelaide-ben megrendezett közösségi média csúcstalálkozón elmondta, hogy a közösségi média „mind aranybánya, mind pedig mocsár”, amely közösségeket teremt és oszt meg, és az internet a „világ legpotensebb szélsőségesség-inkubátora”.
Hangsúlyozta, hogy az emberek egyre inkább anti-autoriter ideológiákat, összeesküvés-elméleteket és különféle sérelmeket ölelnek fel. Míg a közösségi média nem az egyetlen kiváltó ok, az ASIO szerint „jelentős tényező”.
„A közösségi média lehetővé teszi a szélsőséges ideológiák, összeesküvések, dezinformációk és félretájékoztatások megosztását példa nélküli méretben és sebességgel” – mondta.
Burgess megjegyezte, hogy a radikalizáció most már napok és hetek alatt végbemegy, nem pedig hónapok vagy évek alatt, ahogy korábban történt. A legvalószínűbb elkövetők általában egyedülálló cselekvőek.
A Christchurch-i mészárlásra hivatkozva kiemelte, hogy az elkövető az internetet használta az ideológia kutatására és finomítására, valamint a közösségi médiát a támadásának élő közvetítésére.
Burgess külön kiemelte a Telegram alkalmazást, amely nemrégiben beleegyezett a bűnüldöző hatóságokkal való együttműködésbe, miután alapítóját, Pavel Durov-ot Franciaországban letartóztatták, állítólagosan azért, mert nem cselekedett a bűnözők ellen, akik az alkalmazást használták.
„A nacionalista és rasszista erőszakos szélsőségesek – beleértve az ausztrálokat is – a Terrorgram néven ismert Telegram-chat szobát használják, hogy offshore szélsőségesekkel és egymással kommunikáljanak, megvitatva, hogyan provokáljanak faji háborút ebben az országban” – mondta.
Burgess emlékeztetett arra is, hogy az end-to-end titkosítás megnehezíti a bűnüldöző hatóságok számára a bűncselekmények nyomozását a közösségi média platformokon.
„Elismerem, hogy a magánélet fontos, de nem abszolút. Ahogy korábban mondtam, a technológiának nem szabad a jogállam fölé emelkednie” – tette hozzá.
Burgess szerint az algoritmusok, a szociális elszigeteltség és a rossz mentális egészség összefonódva vezethetik el az embereket a szélsőséges tartalmakhoz, mint például az „incel” anyagok vagy terrorista tartalmak.
„Nemzetként kellene elgondolkodnunk azon, miért lógnak néhány fiatal tinédzser szobájában náci zászlók és a Christchurch-i gyilkos portréi, miért osztanak meg mások lefejezős videókat az iskolaudvaron, és ami még aggasztóbb, miért hajlandók fiatal ausztrálok ölni a hitük nevében” – mondta.
Burgess jelezte, hogy ha az ASIO és a bűnüldöző hatóságok ezzel a problémával foglalkoznak, általában már késő.
„Ha az internet már most a világ legnagyobb szélsőségesség-inkubátora, a közösségi média pedig a világ legnagyobb gyorsítója, akkor az AI „fokozni fogja az inkubációt és felgyorsítja a gyorsítást” – mondta Burgess.
„Az ASIO úgy értékeli, hogy az AI lényeges változást hoz a fenyegetettségi környezetben.”
Burgess megjegyezte, hogy az AI valószínűleg megkönnyíti és felgyorsítja a radikalizációt. Már tudomásunk van arról, hogy szélsőségesek kísérleteznek az AI-jal, és valószínű, hogy ezt a toborzási kampányuk javítására fogják használni, beleértve a közösségi médiát is.
Az AI a kémkedés mennyiségét is növelni fogja.
Burgess, bár sötét képet festett, hangsúlyozta, hogy az ASIO „nem biztos, hogy a megoldás, és nem is akarunk az lenni”.
„Bármilyen közösségi média szabályozási javaslatot egyensúlyba kell hozni a szólásszabadsággal, a szabad választással és a szabad piaccal.”
A két napos közösségi média csúcstalálkozó Sydneyben és Adelaide-ben zajlott, a fiatalokra gyakorolt hatásának fókuszálásával, a szövetségi kormány tervei előtt, hogy korlátozza a közösségi média elérését fiatalabb tinédzserek számára. A kormány pénteken bejelentette, hogy a platformoknak maguknak kell érvényesíteniük a korhatárokat, miután azokat meghatározták.
Érdekes tény: A kutatások kimutatták, hogy a közösségi média platformok algoritmusai olyan tartalmakat népszerűsíthetnek, amelyek felerősítik a szélsőséges nézeteket, ezzel hozzájárulva a radikalizáció növekedéséhez.
Források: The Guardian, ASIO
