Oroszország generatív mesterséges intelligenciát használ a csalásokhoz
Oroszország a generatív mesterséges intelligenciát alkalmazza online csalási kampányokban, azonban erőfeszítései eddig sikertelenek voltak – derül ki a Meta által csütörtökön közzétett biztonsági jelentésből. A Facebook és az Instagram szülőcégének megállapítása szerint a mesterséges intelligenciával támogatott taktikák „csupán incrementális termelékenységi és tartalomgenerálási nyereségeket” nyújtanak a rosszindulatú szereplők számára, és a Meta képes volt megzavarni a megtévesztő befolyásoló műveleteket.
A Meta erőfeszítései a platformjain tapasztalható „koordinált hamis viselkedés” ellen nőnek, ahogy fokozódik a félelem, hogy a generatív mesterséges intelligenciát választások során használják majd az emberek megtévesztésére az Egyesült Államokban és más országokban. Oroszország továbbra is a legfőbb forrása a „koordinált hamis viselkedésnek”, amely hamis Facebook és Instagram fiókokat használ – mondta David Agranovich, a Meta biztonsági politikai igazgatója a riportereknek.
A jelentés szerint Oroszország ukrajnai inváziója óta 2022-ben ezek az erőfeszítések főként Ukrajna és szövetségesei aláásására irányultak. Az Egyesült Államok választásának közeledtével a Meta arra számít, hogy az Oroszország által támogatott online csalási kampányok politikai jelölteket fognak támadni, akik Ukrajna mellett állnak ki.
A Facebookot évek óta vádolják azzal, hogy erőteljes platform a választási dezinformáció számára. Az orosz operátorok a Facebookot és más, az Egyesült Államokban található közösségi médiát használták politikai feszültségek szítására több amerikai választáson, beleértve a Donald Trump által megnyert 2016-os választást is.
Szaktudósok attól tartanak, hogy a generatív mesterséges intelligencia eszközeinek – mint például a ChatGPT vagy a Dall-E képalkotó – egyszerű használata miatt példa nélküli áradat dezinformáció érkezhet a rosszindulatú szereplőktől a közösségi hálózatokon. A jelentés szerint a mesterséges intelligenciát képek és videók létrehozására, szöveg fordítására vagy generálására, valamint hamis hírek vagy összefoglalók megalkotására használták.
A Meta a csalások nyomozása során nemcsak a közzétett tartalmat, hanem a fiókok viselkedését is figyeli. A befolyásoló kampányok általában számos online platformot érintenek, és a Meta észrevette, hogy az X-en (korábban Twitter) közzétett bejegyzéseket használnak a hamisított tartalom hitelesebbé tételére. A Meta megosztja megállapításait az X-szel és más internetes cégekkel, és hangsúlyozza, hogy koordinált védelem szükséges a dezinformáció megakadályozásához.
Agranovich, amikor arról kérdezték, hogy a Meta látja-e, hogy az X cselekménytippekre reagál, így nyilatkozott: „Ami az X-et illeti, ők még mindig egy átmeneti szakaszban vannak. A múltban velük foglalkozó emberek közül sokan már továbbálltak.” Az X leépítette a bizalmi és biztonsági csapatait, és csökkentette a dezinformáció megfékezésére használt tartalommoderálási erőfeszítéseket, ezzel pedig a kutatók szerint a dezinformáció tenyészterévé vált.
Érdekes tény: A generatív mesterséges intelligencia képességei révén a dezinformáció terjesztése egyre egyszerűbbé válik, ami komoly kihívásokat jelent a társadalmi és politikai diskurzus számára.
Források: Meta Security Report, David Agranovich interjú, hírek a választási dezinformációról.
