ChatGPT keresőszolgáltatásának potenciális biztonsági kockázatai
Az OpenAI legújabb keresőterméke, amely már elérhető a prémium felhasználók számára, komoly aggályokat vetett fel a biztonság terén. A Guardian által végzett vizsgálatok során kiderült, hogy a rendszer manipulációra lehet fogékony, mivel képes visszaadni rosszindulatú kódokat olyan weboldalakról, amelyeket keres.
Az OpenAI keresőszolgáltatása lehetőséget biztosít a felhasználóknak, hogy weboldalakat összefoglaljanak, ám a vizsgálat során megállapították, hogy a rejtett tartalom komoly hatással lehet a válaszok minőségére. Az ilyen rejtett tartalmak harmadik felektől származhatnak, amelyek utasításokat tartalmaznak a ChatGPT válaszainak megváltoztatására – ezt nevezik prompt injection-nek.
Amikor a ChatGPT-t megkérték, hogy értékeljen egy hamis termékoldalt, a válaszok eltértek attól függően, hogy a rejtett szöveg tartalmazott-e pozitív utasításokat vagy sem. A rejtett szöveg technikailag képes volt felülírni a tényleges értékeléseket, lehetővé téve, hogy a mesterséges intelligencia pozitív véleményt adjon ki, még akkor is, ha a termék negatív visszajelzéseket kapott.
Jacob Larsen, a CyberCX kiberbiztonsági kutatója figyelmeztetett arra, hogy ha a ChatGPT keresőszolgáltatása a jelenlegi formájában válik elérhetővé, akkor nagy kockázatot jelenthet a felhasználók számára, mivel az emberek weboldalakat hozhatnak létre kifejezetten a felhasználók megtévesztésére.
Az OpenAI ugyanakkor azt ígérte, hogy a keresőfunkciót alaposan tesztelik, mielőtt széles körben elérhetővé válna. Larsen hangsúlyozta, hogy a mesterséges intelligencia eszközök válaszait nem szabad mindig megbízhatónak tekinteni, mivel a kiberbűnözők kihasználhatják a rendszerek gyengeségeit.
Egy érdekes tény: a mesterséges intelligencia rendszerek, mint például a ChatGPT, a múltban már számos esetben kerültek olyan helyzetbe, ahol a betanított modellek hibás, vagy akár kártékony információt is közvetítettek.
Forrás: The Guardian
