Felfedezett AI-adatbázis: Rémisztő tartalom a világhálón
Több tízezer AI által generált, explicit kép, köztük gyermekek szexuális kihasználására utaló anyagok, nyitva és hozzáférhetően kerültek az internetre – derült ki egy új kutatásból, amelyet a WIRED is megvizsgált. Az AI képalkotó cég nyílt adatbázisa több mint 95,000 rekordot tartalmazott, köztük hírességek, mint például Ariana Grande, a Kardashianok és Beyoncé gyermekré formázott képeit.
A kiszivárgott adatbázist Jeremiah Fowler biztonsági kutató fedezte fel, aki megosztotta az információkat a WIRED-del. Az adatbázis a dél-koreai GenNomis weboldalához kapcsolódik, amely különféle képalkotó és chatbot eszközöket kínált a felhasználók számára. A nyilvánosan elérhető adatok több mint 45 GB-ot tettek ki, többségük AI képekből állt.
Ezek az adatok rávilágítanak arra, hogy az AI képalkotó eszközök hogyan használhatók fel ártalmas és valószínűleg nem beleegyezett szexuális tartalom létrehozására. Az utóbbi években számos „deepfake” és „nudify” weboldal, bot és alkalmazás jelent meg, amelyek ezernyi nőt és lányt céloztak meg káros képekkel és videókkal.
Fowler hangsúlyozta, hogy mennyire veszélyes a helyzet: „Szörnyű, hogy mennyire könnyű ilyen tartalmat létrehozni.” A kutató március elején bukkant rá a nyitva álló fájlok halmazára, amely nem volt jelszóval védett vagy titkosítva, és gyorsan értesítette a GenNomis-t és az AI-Nomis-t a gyermekek szexuális kihasználására utaló anyagok létezéséről.
A GenNomis azonnal lezárta az adatbázist, de nem reagált Fowler megkeresésére. Sem a GenNomis, sem az AI-Nomis nem válaszolt a WIRED többszöri megkeresésére.
Fowler megjegyezte: „Ez az eset ismét megmutatja, hogy mennyire elterjedt a piac az olyan AI eszközök iránt, amelyek képesek ilyen bántalmazó képek létrehozására.” Az adatbázisban található fájlok között AI által generált pornográf képek is voltak, valamint potenciális „face-swap” képek.
Amikor a GenNomis weboldala még aktív volt, explicit AI felnőtt képeket is megengedett. Az oldal főoldalán található képek között sok női szexuális képet is tartalmazott, amelyek közül néhány „fotórealisztikus” volt, míg mások teljesen AI által generáltak vagy animált stílusban készültek.
Fowler emellett megjegyezte, hogy az adatbázisban AI által generált képek találhatók fiatal lányokról is, és nem világos, hogy az arcok teljesen AI által generáltak-e, vagy valós képek alapján készültek.
A GenNomis felhasználói irányelvei szerint csak „tiszteletre méltó tartalom” megengedett, és világosan rögzítették, hogy a gyermekpornográfia és más illegális tevékenységek szigorúan tiltanak.
Fowler felhívta a figyelmet arra, hogy a technológia lényegesen megelőzte a vonatkozó irányelveket vagy ellenőrzési rendszereket, amelyek megakadályoznák a gyermekek szexuális kihasználására utaló anyagok létrehozását.
Tudományos érdekesség: A generatív AI rendszerek az utóbbi két évben jelentősen megkönnyítették a képek létrehozását és módosítását, így a gyermekek szexuális kihasználására utaló anyagok mennyisége több mint négyszeresére nőtt 2023 óta.
Források: WIRED, Internet Watch Foundation, Durham University
