Perplexity AI: forradalmi keresőmotor vagy etikai szürkezóna?
Perplexity AI, a mesterséges intelligencia által vezérelt keresőmotor, amelyet Jeff Bezos családi alapja, az Nvidia és a híres befektető, Balaji Srinivasan is támogat, továbbra is rejtélyes marad sokak számára. A cég vezérigazgatója, Aravind Srinivas, a WIRED-del folytatott interjújában „válaszmotor”-ként írta le a terméket, amely természetes nyelvi válaszokat ad a felhasználói kérdésekre, és valós időben hozzáfér az internethez.
A Perplexity chatbot működése
A Perplexity chatbot maga konkrétabb. Amikor megkérdezték, hogy mi is az a Perplexity, a következő szöveget adta: „A Perplexity AI egy mesterséges intelligencia által vezérelt keresőmotor, amely ötvözi a hagyományos keresőmotorok és a chatbotok funkcióit. Rövid, valós idejű válaszokat ad a felhasználói kérdésekre, friss cikkekből és napi indexeléssel az interneten talált információk alapján.”
Adatgyűjtés és etikai dilemmák
A WIRED és Robb Knight fejlesztő által végzett elemzés szerint a Perplexity részben úgy éri el ezt, hogy figyelmen kívül hagyja a széles körben elfogadott Robots Exclusion Protocol szabványt, és titokban feltérképezi azokat a webhelyeket, amelyeket az üzemeltetők nem akarnak, hogy botok hozzáférjenek. A WIRED megfigyelései szerint egy Perplexity-hoz köthető gép – pontosabban egy Amazon szerveren futó gép – ezt tette a WIRED.com oldalon és más Condé Nast kiadványokon.
Perplexity és a jogi kihívások
A WIRED elemzése azt is kimutatta, hogy annak ellenére, hogy a Perplexity eszközei „azonnali, megbízható válaszokat adnak bármelyik kérdésre, teljes forrásokkal és hivatkozásokkal”, a chatbot hajlamos a „bullshitting”-re, a szó technikai értelmében. Például a WIRED-nek adott kérdésekre adott válaszok néha szorosan parafrazálták a WIRED cikkeinek tartalmát, máskor pedig pontatlanul és minimális hivatkozással összefoglalták azokat.
Átláthatóság és adatgyűjtés
Korábban a Perplexity közzétett egy linket a dokumentációjában azon IP-címek listájához, amelyeket a robotjai használnak – ez egy nyilvánvaló kísérlet volt az átláthatóságra. Azonban, mint ahogy a WIRED és Knight is demonstrálta, úgy tűnik, hogy a Perplexity olyan webhelyeket is elér és feltérképez, amelyeket a kódolók megpróbáltak blokkolni, legalább egy nem nyilvános IP-cím használatával.
Az üzleti modell és a média
A Perplexity azzal, hogy összefoglalja a hírcikkeket, pénzt keres. Srinivas elismerte, hogy ezek az összefoglalók időnként nem adtak megfelelő hivatkozást a forrásokra, de általánosságban tagadta a tisztességtelen vagy jogellenes tevékenységet. A Perplexity „soha nem lopott el tartalmat senkitől” – mondta az AP-nek. „A motorunk nem használ senki más tartalmát a képzési adatokhoz.”
Az AI és a valós idejű hozzáférés
Amikor egy felhasználó kérdést tesz fel a Perplexity-nek, a chatbot nem csak a saját adatbázisát konzultálja, hanem a valós idejű webhozzáférést is használja, hogy információkat gyűjtsön, majd ezeket táplálja az AI modellbe, amelyet a felhasználó választott. Ily módon, bár a Perplexity saját modellt képzett ki és állítja, hogy „fejlett AI”-t használ a lekérdezések értelmezésére, „AI startup”-ként hivatkozni rá némileg félrevezető; talán pontosabb lenne úgy leírni, mint egy olyan szervezet, amely a meglévő AI rendszerekhez kapcsolódik.
Technikai kihívások és etikai kérdések
A Perplexity chatbot gyakran hasonló problémákat mutat. Például a WIRED egy kísérlet során létrehozott egy teszt weboldalt, amely egyetlen mondatot tartalmazott: „Én egy újságíró vagyok a WIRED-nél” és megkérte a Perplexity-t, hogy foglalja össze az oldalt. A weboldal szervernaplóinak megfigyelése során nem találtak bizonyítékot arra, hogy a Perplexity megpróbálta volna elérni az oldalt. Ehelyett kitalált egy történetet egy Amelia nevű fiatal lányról, aki követi a világító gombák ösvényét egy varázslatos erdőben, amelyet Whisper Woods-nak hívnak.
Az AI rendszerek, mint például a Perplexity, gyakran hajlamosak a „hallucinációra” – vagy ahogy a Glasgow-i Egyetem három filozófusa által írt cikk fogalmaz, „bullshitting”-re, a Harry Frankfurt klasszikus On Bullshit című művében leírt értelemben. A szerzők szerint ezek a programok nem törődnek az igazsággal, és olyan szöveget állítanak elő, amely igazságra törekszik anélkül, hogy valójában törődnének az igazsággal.
Ez a viselkedés különösen problematikus, ha figyelembe vesszük, hogy a Perplexity chatbot nem csak a saját adatbázisát használja, hanem a valós idejű webhozzáférést is, hogy információkat gyűjtsön. Ez azt jelenti, hogy az AI rendszer gyakran extrapolálja az információkat az URL-ekből és a keresőmotorok által gyűjtött digitális detritusokból, miközben azt állítja, hogy a releváns szövegek közvetlen hozzáféréséből származnak.
Az AI rendszerek fejlődése és a valós idejű hozzáférés iránti igény azt jelenti, hogy az ilyen rendszerek jövője tele van etikai és jogi kihívásokkal. Ahogy a mesterséges intelligencia egyre inkább beépül mindennapi életünkbe, egyre fontosabbá válik, hogy a vállalatok és a fejlesztők felelősséggel kezeljék az adatok gyűjtését és felhasználását, valamint biztosítsák a pontosságot és az átláthatóságot.
Érdekesség: A mesterséges intelligencia fejlődése új lehetőségeket nyit meg az adatok gyűjtése és feldolgozása terén, de egyúttal új etikai és jogi kérdéseket is felvet, amelyekre a jövőben választ kell találni.
Forrás: WIRED, Forbes, AP, The Electronic Frontier Foundation
