OpenAI Felderítette az Irán által Indított Dezinformációs Kampányt
Az OpenAI pénteken bejelentette, hogy felfedezte és megszakította egy iráni befolyásoló kampányt, amely a cég generatív mesterséges intelligencia technológiáit használta az online dezinformáció terjesztésére, beleértve az amerikai elnökválasztással kapcsolatos tartalmakat is. A San Francisco-i A.I. cég közölte, hogy több fiókot is betiltott, amelyek a kampányhoz kapcsolódtak.
Az iráni erőfeszítés, mint az OpenAI hozzátette, nem látszott, hogy jelentős közönséget elért volna. “A művelet nem tűnik úgy, hogy jelentős növekedést tapasztalt volna a közönség elköteleződésében az A.I. használata miatt” – mondta Ben Nimmo, az OpenAI fő nyomozója, aki évek óta figyelemmel kíséri a titkos befolyásoló kampányokat.
Nimmo hozzátette: “Nem láttunk jeleket arra, hogy a valódi emberektől számottevő elköteleződést kaptak volna.” Az generatív A.I. népszerűsége, mint például az OpenAI online chatbotja, a ChatGPT, kérdéseket vetett fel arról, hogy ezek a technológiák miként járulhatnak hozzá az online dezinformáció terjedéséhez, különösen egy olyan évben, amikor jelentős választások zajlanak világszerte.
Májusban az OpenAI közzétett egy első ilyen jellegű jelentést, amely azt mutatta, hogy öt másik online kampányt azonosítottak és szakítottak meg, amelyek a cég technológiáit használták a közvélemény manipulálására és a geopolitikai befolyásolásra. Ezeket az erőfeszítéseket állami szereplők és magáncégek irányították Oroszországban, Kínában, Izraelben és Iránban.
A titkos műveletek az OpenAI technológiáit használták közösségi média posztok generálására, cikkek fordítására és szerkesztésére, címek írására és számítógépes programok hibakeresésére, jellemzően politikai kampányok támogatása vagy geopolitikai konfliktusokban a közvélemény befolyásolása céljából.
Az OpenAI ezen a héten több ChatGPT fiókot is azonosított, amelyek a chatbotját használták egy titkos iráni kampányhoz, amelyet Storm-2035-nek neveztek. A cég közölte, hogy a kampány a ChatGPT-t használta különböző témák, például az amerikai elnökválasztás jelöltjeivel kapcsolatos kommentárok generálására.
Bizonyos esetekben a kommentárok progresszívnek tűntek, más esetekben pedig konzervatívnak. A kampány emellett forró témákkal is foglalkozott, többek között a gázai háborúval és a skót függetlenséggel. Az OpenAI szerint a kampány technológiáit használta cikkek és rövidebb megjegyzések generálására, amelyeket weboldalakon és közösségi médián osztottak meg. Bizonyos esetekben a kampány a ChatGPT-t használta más közösségi média felhasználók által közzétett megjegyzések újraírására.
A cég hozzátette, hogy a kampány többségi közösségi média posztjai alig vagy egyáltalán nem kaptak lájkot, megosztást vagy kommentet, és hogy kevés bizonyítékot találtak arra, hogy a kampány által készített webcikkeket megosztották volna a közösségi médián.
Érdekesség: Az OpenAI által kifejlesztett technológiák használata az online dezinformáció terjesztésére már nem új jelenség, hiszen az első generatív A.I. rendszerek megjelenése óta figyelemmel kísérik a felhasználásuk körüli etikai kérdéseket.
Források: OpenAI, Ben Nimmo, San Francisco Chronicle
