Google Harca a Deepfake Nudes Ellen: Jelentős Előrelépések az Online Tartalom Szűrésében
Pár héttel ezelőtt, egy Google keresés a “deepfake nudes Jennifer Aniston” kifejezésre legalább hét olyan találatot hozott fel, amelyek explicit, AI-generált képeket ígértek a színésznőről. Mostanra ezek eltűntek.
A Google termékmenedzsere, Emma Higham szerint az idei évben bevezetett új rangsorolási beállítások már több mint 70 százalékkal csökkentették a hamis explicit képeknek való kitettséget az ilyen típusú kereséseknél. Ahol korábban problémás találatok jelentek meg, a Google algoritmusai most hírcikkeket és más nem explicit tartalmakat helyeznek előtérbe. Az Aniston keresés most olyan cikkeket hoz fel, mint például “Hogyan Jelent Fenyegetést Taylor Swift Deepfake AI Pornója” és más linkeket, mint például egy ohio-i főügyész figyelmeztetése a “deepfake celeb-endorsement csalások” ellen, amelyek a fogyasztókat célozzák.
“Ezekkel a változásokkal az emberek olvashatnak a deepfake-ek társadalomra gyakorolt hatásáról, ahelyett hogy nem konszenzusos hamis képeket látnának,” írta Higham egy vállalati blogbejegyzésben szerdán.
A rangsorolási változás egy WIRED vizsgálatot követ, amely ebben a hónapban derítette ki, hogy az elmúlt években a Google vezetése több javaslatot is elutasított a munkatársaktól és külső szakértőktől, amelyek az interneten engedély nélkül terjedő intim ábrázolások problémájának leküzdését célozták.
Míg a Google megkönnyítette a nem kívánt explicit tartalmak eltávolításának kérését, az áldozatok és képviselőik proaktívabb lépéseket sürgettek. A vállalat azonban igyekezett elkerülni, hogy túlzottan az internet szabályozójává váljon vagy hogy a legitim pornó elérését akadályozza. Egy Google szóvivő akkoriban azt mondta, hogy több csapat is szorgalmasan dolgozik azon, hogy megerősítsék a nem konszenzusos explicit képek (NCEI) elleni védelmet.
Az AI kép generátorok szélesedő elérhetősége, beleértve azokat is, amelyek használatára kevés korlátozás vonatkozik, az NCEI növekedéséhez vezetett, az áldozatok képviselői szerint. Ezek az eszközök lehetővé tették, hogy szinte bárki hamis explicit képeket készítsen bármely egyénről, legyen az egy középiskolai osztálytárs vagy egy mega-celeb.
Márciusban egy WIRED elemzés megállapította, hogy a Google több mint 13,000 kérést kapott a legnépszerűbb weboldalakra mutató linkek eltávolítására, amelyek explicit deepfake-eket tartalmaztak. A Google az esetek körülbelül 82 százalékában eltávolította a találatokat.
A Google új szigorításának részeként Higham szerint a vállalat három intézkedést fog alkalmazni, hogy csökkentse a valós, de nem kívánt explicit képek felfedezhetőségét a szintetikus és nem kívánt tartalmak esetében. Miután a Google teljesít egy szexualizált deepfake eltávolítási kérelmet, megpróbálja megakadályozni a duplikátumok megjelenését a találatok között. Emellett szűri az explicit képeket azokban a lekérdezésekben, amelyek hasonlóak az eltávolítási kérelemben hivatkozottakhoz. Végül, azok a weboldalak, amelyek “nagy mennyiségű” sikeres eltávolítási kérelemmel rendelkeznek, leminősítést kapnak a keresési találatok között.
“Ezek az erőfeszítések arra irányulnak, hogy az emberek nagyobb nyugalmat érezzenek, különösen ha aggódnak amiatt, hogy hasonló tartalmak jelennek meg róluk a jövőben,” írta Higham.
A Google elismerte, hogy az intézkedések nem működnek tökéletesen, és korábbi alkalmazottak és áldozatok képviselői szerint sokkal messzebbre mehetne. A keresőmotor prominensen figyelmezteti azokat az embereket az USA-ban, akik meztelen gyermekek képeit keresik, hogy az ilyen tartalom törvénytelen. A figyelmeztetés hatékonysága nem egyértelmű, de az áldozatok képviselői támogatják mint lehetséges visszatartó erőt. Ennek ellenére, a NCEI megosztására vonatkozó törvények ellenére, hasonló figyelmeztetések nem jelennek meg a felnőttek szexuális deepfake-jeit kereső lekérdezéseknél. A Google szóvivője megerősítette, hogy ez nem fog változni.
Érdekes tény: Az AI technológia fejlődése lehetővé tette, hogy a Google keresőmotorja minden másodpercben több mint 63,000 keresést kezeljen.
Források: Google Blog, WIRED
