Forradalmi módszer: Deepfake képek felismerése szem tükröződése alapján
2024-ben szinte triviális valódi emberekhez hasonló AI-generált képeket készíteni, ami aggodalmakat váltott ki az ilyen megtévesztő képek felismerésének módjáról. A Hull-i Egyetem kutatói nemrégiben egy új módszert mutattak be az AI-generált deepfake képek felismerésére az emberi szemek tükröződéseinek elemzésével. A technikát a Királyi Csillagászati Társaság Nemzeti Csillagászati Találkozóján mutatták be a múlt héten, amely az asztronómusok által a galaxisok tanulmányozására használt eszközöket alkalmazza a szem tükröződéseinek következetességének vizsgálatára.
A kutatást Adejumoke Owolabi, a Hull-i Egyetem MSc hallgatója vezette Dr. Kevin Pimbblet asztrofizikai professzor irányításával. Az ő felismerési technikájuk egy egyszerű elvre épül: Egy pár szem, amelyet ugyanaz a fényforrás világít meg, tipikusan hasonló alakú fénytükröződéseket mutat mindkét szemben. Sok eddig létrehozott AI-generált kép nem veszi figyelembe a szemek tükröződését, így a szimulált fénytükröződések gyakran következetlenek a két szem között.
Automatizált felismerés
A Királyi Csillagászati Társaság blogbejegyzésében Pimbblet elmagyarázta, hogy Owolabi kidolgozott egy technikát a szemek tükröződéseinek automatikus felismerésére, és a tükröződések morfológiai jellemzőit indexeken keresztül futtatta, hogy összehasonlítsa a bal és jobb szemek hasonlóságát. Eredményeik azt mutatták, hogy a deepfake képek gyakran eltéréseket mutatnak a szemek között.
A kutatócsoport asztronómiai módszereket alkalmazott a szemek tükröződéseinek kvantifikálására és összehasonlítására. A Gini-együtthatót használták, amelyet általában a galaxis képeken lévő fényeloszlás mérésére alkalmaznak, hogy értékeljék a tükröződések egyenletességét a szem pixelei között. Egy Gini-érték, amely közelebb áll a 0-hoz, egyenletesen elosztott fényt jelez, míg a 1-hez közelítő érték egyetlen pixelben koncentrált fényt sugall.
A kutatók a CAS paramétereket (koncentráció, aszimmetria, simaság) is megvizsgálták, amelyek szintén az asztronómia eszközei a galaktikus fényeloszlás mérésére. Azonban ez a módszer kevésbé bizonyult hatékonynak a hamis szemek azonosításában.
A felismerési verseny
Míg a szem tükröződési technika ígéretes utat kínál az AI-generált képek felismerésére, a módszer nem működhet, ha az AI modellek fejlődnek, hogy fizikailag pontos szem tükröződéseket tartalmazzanak, esetleg az kép generálása után egy későbbi lépésként alkalmazva. A technika tiszta, közeli nézetet igényel a szemekről, hogy működjön.
A módszer hamis pozitív eredményeket is produkálhat, mivel még az autentikus fotók is néha következetlen szem tükröződéseket mutathatnak a változatos fényviszonyok vagy utófeldolgozási technikák miatt. Azonban a szem tükröződéseinek elemzése még mindig hasznos eszköz lehet a deepfake felismerési eszközkészletben, amely más tényezőket is figyelembe vesz, mint például a haj textúrája, anatómia, bőr részletei és háttér következetessége.
Érdekesség: Az AI-képalkotás fejlődése lehetővé tette, hogy az AI művészek digitálisan újraalkossák híres festmények elveszett részeit, követve az eredeti művész stílusát.
Források: Royal Astronomical Society, University of Hull
