Sam Altman és Arianna Huffington egy új egészségügyi AI-ről ír a Time magazinban
A héten Sam Altman, az OpenAI vezérigazgatója és Arianna Huffington, a Thrive Global egészségügyi vállalat alapítója és vezérigazgatója egy cikket publikáltak a Time magazinban, amelyben a Thrive AI-t, egy új startupot méltatnak, amelyet a Thrive és az OpenAI Startup Fund támogat. A cikk szerint az AI hatalmas pozitív hatást gyakorolhat a közegészségügyre azáltal, hogy egészségesebb viselkedésre ösztönzi az embereket.
Altman és Huffington azt írják, hogy a Thrive AI egy „teljesen integrált személyi AI coach” felé dolgozik, amely valós idejű ösztönzéseket és egyedi ajánlásokat kínál, lehetővé téve, hogy az emberek napi viselkedésüket javítsák egészségük érdekében. Ez a vízió pozitív fényben tünteti fel az AI egyik legélesebb kétélű kardját. Az AI modellek már most is ügyesen képesek embereket meggyőzni, és nem tudjuk, mennyire lesznek még hatékonyabbak, ahogy fejlődnek és hozzáférnek több személyes adathoz.
Aleksander Madry, a Massachusetts Institute of Technology professzora, aki jelenleg szünetet tart az egyetemen, az OpenAI Preparedness nevű csapatát vezeti, amely pontosan ezen a kérdésen dolgozik. „A Preparedness egyik munkafolyama a meggyőzés,” mondta Madry a WIRED-nek egy májusi interjúban. „Lényegében azt vizsgáljuk, hogy milyen mértékben lehet ezeket a modelleket az emberek meggyőzésére használni.”
Madry szerint az OpenAI-hoz való csatlakozásra a nyelvi modellek rendkívüli potenciálja és az általuk jelentett kockázatok alig kutatott volta vonzotta. „Szinte egyáltalán nincs tudományos alapja,” mondja. „Ez volt a Preparedness erőfeszítésének indítéka.”
A meggyőzőképesség kulcseleme az olyan programoknak, mint a ChatGPT, és az egyik összetevője annak, hogy ezek a chatbotok annyira vonzóak. A nyelvi modelleket emberi írások és párbeszédek alapján képezik, amelyek számtalan retorikai és meggyőző trükköt és technikát tartalmaznak. A modelleket általában finomhangolják is, hogy olyan kijelentéseket tegyenek, amelyeket a felhasználók vonzóbbnak találnak.
Az Anthropic, az OpenAI egykori tagjai által alapított versenytárs, áprilisban közzétett kutatása szerint a nyelvi modellek egyre jobbak az emberek meggyőzésében, ahogy nőnek méretükben és kifinomultságukban. Ez a kutatás önkénteseknek adott állításokat, majd vizsgálta, hogyan változik véleményük egy AI által generált érv hatására.
Az OpenAI munkája kiterjed az AI és a felhasználók közötti beszélgetések elemzésére is—valami, ami nagyobb meggyőzőképességet nyithat meg. Madry szerint a munka önkéntesek beleegyezésével zajlik, és nem árulja el az eddigi eredményeket. De azt mondja, hogy a nyelvi modellek meggyőző ereje mélyen gyökerezik. „Emberekként van egy ‘gyengeségünk’, hogy ha valami természetes nyelven kommunikál velünk, emberként gondolunk rá,” mondja, utalva arra az antropomorfizmusra, amely életszerűbbé és meggyőzőbbé teheti a chatbotokat.
A Time cikk azt állítja, hogy a meggyőző AI potenciális egészségügyi előnyei erős jogi biztosítékokat igényelnek, mivel a modellek hozzáférhetnek rengeteg személyes információhoz. „A döntéshozóknak olyan szabályozási környezetet kell teremteniük, amely elősegíti az AI innovációját, miközben védi a magánéletet,” írják Altman és Huffington.
Ez nem minden, amit a döntéshozóknak figyelembe kell venniük. Fontos lehet azt is mérlegelni, hogy az egyre meggyőzőbb algoritmusok hogyan használhatók fel visszaélésszerűen. Az AI algoritmusok fokozhatják az álhírek hatását, vagy különösen meggyőző adathalász támadásokat generálhatnak. Hirdetések céljából is használhatók lehetnek.
Madry szerint egy kulcskérdés, amelyet még nem vizsgáltak sem az OpenAI, sem mások, hogy mennyivel meggyőzőbbek vagy kényszerítőbbek lehetnek azok az AI programok, amelyek hosszú időn át interakcióba lépnek a felhasználókkal. Már most számos vállalat kínál olyan chatbotokat, amelyek romantikus partnerek vagy más karakterek szerepét játsszák. Az AI barátnők egyre népszerűbbek—némelyikük még kiabálni is tud—de hogy mennyire addiktívak és meggyőzőek ezek a botok, nagyrészt ismeretlen.
A ChatGPT 2022 novemberi megjelenését követő izgalom és felhajtás láttán az OpenAI, külső kutatók és sok döntéshozó a mesterséges intelligencia esetleges ellenséges fordulatának elméleti kérdésére összpontosított.
Madry szerint ez azzal a veszéllyel jár, hogy figyelmen kívül hagyják az ezüstnyelvű algoritmusok által jelentett finomabb veszélyeket. „Aggódom, hogy a döntéshozók a rossz kérdésekre összpontosítanak,” mondja Madry. „Hogy valamilyen értelemben mindenki azt mondja, ‘Ó, igen, kezeljük, mert beszélünk róla,’ amikor valójában nem a megfelelő dolgokról beszélünk.”
Érdekesség: Tudta, hogy az AI meggyőzőereje akár arra is használható, hogy embereket rávegyen egészségesebb életmódra, például több mozgásra vagy jobb táplálkozásra? Az AI alapú egészségügyi alkalmazások már most több millió ember mindennapjait javítják.
Források: Time, WIRED, Anthropic
