Úttörő lépés az AI tudományában
Első pillantásra a Brit Columbia Egyetem mesterséges intelligencia laboratóriumában készült legújabb kutatási anyagok nem tűnnek különösen figyelemre méltónak. A már meglévő algoritmusok és ötletek apróbb javításait tartalmazzák, és inkább egy közepes AI konferencia vagy folyóirat tartalmának tűnnek. Azonban a kutatás valójában figyelemre méltó.
A UBC laboratóriumban dolgozó „AI tudós” teljesítménye ez, amelyet az Oxfordi Egyetem kutatóival és a Sakana AI nevű startup-al közösen fejlesztettek ki. A projekt egy korai lépést mutat be afelé, hogy az AI képes legyen új ötletek kitalálására és felfedezésére. Jelenleg ezek az ötletek nem számítanak túlságosan újnak.
Több tanulmány az image-generáló technika javítására koncentrál, amelyet diffúziós modellezésnek neveznek; egy másik pedig a mély neurális hálózatok tanulásának felgyorsítására vonatkozó megközelítést vázol fel. Jeff Clune, a UBC laboratórium vezető professzora elismeri, hogy ezek nem áttörő ötletek, és nem is különösebben kreatívek. “De úgy tűnik, hogy ezek elég érdekes ötletek, amiket valaki megpróbálhat” – mondja.
A mai AI programok, bármennyire lenyűgözőek is, korlátozottak a humán által generált tananyagok szükségessége miatt. Ha az AI programok képesek lennének nyitott módon tanulni, kísérletezve és felfedezve az “érdekes” ötleteket, olyan képességeket nyithatnának meg, amelyek túlmutatnak azon, amit az emberek megmutattak nekik.
Clune laboratóriuma korábban már dolgozott olyan AI programokon, amelyek ezen a módon tanultak. Például az Omni nevű program virtuális karakterek viselkedésének generálására próbálkozott különféle videojáték-szerű környezetekben, és elmentette azokat, amelyek érdekesnek tűntek, majd új dizájnokkal iterált rajtuk. Ezek a programok korábban kézi utasításokat igényeltek az “érdekes” tulajdonságok definiálásához. Azonban a nagy nyelvi modellek lehetőséget adnak arra, hogy ezek a programok azonosítsák, mi a legérdekesebb.
A legújabb projektjei közül az egyik lehetővé tette, hogy az AI programok kitalálják a kódot, amely lehetővé teszi a virtuális karakterek számára, hogy különféle dolgokat tegyenek egy Roblox-szerű világban. Az AI tudós egy példa arra, hogy Clune laboratóriuma hogyan játszik az új lehetőségekkel. A program gépi tanulási kísérleteket talál ki, eldönti, mi tűnik a legígéretesebbnek egy LLM segítségével, majd megírja és futtatja a szükséges kódot — ismétlődő ciklusban.
“Új kontinens vagy új bolygó felfedezéséhez hasonlít” – mondja Clune az LLM-ek által felszabadított lehetőségekről. “Nem tudjuk, mit fogunk felfedezni, de mindenütt, amerre csak nézünk, van valami új.”
Tom Hope, a Jeruzsálemi Héber Egyetem adjunktusa és az Allen Institute for AI (AI2) kutatója megjegyzi, hogy az AI tudós, akárcsak az LLM-ek, rendkívül származékosnak tűnik, és nem tekinthető megbízhatónak. “Jelenleg egyik összetevő sem megbízható” – mondja.
Hope hangsúlyozza, hogy a tudományos felfedezés elemeinek automatizálására irányuló erőfeszítések évtizedek óta folynak, kezdve az AI úttörők, Allen Newell és Herbert Simon munkájával az 1970-es években, majd Pat Langley kutatásaival a Tanulás és Szakértelem Tanulmányozása Intézetében. “A UBC csapat megfogta a szellemi áramlatot” – mondja Hope. “Az irány, természetesen, rendkívül értékes, potenciálisan.”
Az LLM-alapú rendszerek valaha is képesek lesznek-e valóban új vagy áttörő ötletek kitalálására, az továbbra is kérdéses. “Ez a trillió dolláros kérdés” – mondja Clune.
Még tudományos áttörések nélkül is az open-ended learning alapvető fontosságú lehet a még képesebb és hasznosabb AI rendszerek kifejlesztésében. Az Air Street Capital, egy befektetési cég, által közzétett jelentés kiemeli Clune munkájának potenciálját a hatékonyabb és megbízhatóbb AI ügynökök kifejlesztésére, vagy olyan programokra, amelyek önállóan végeznek hasznos feladatokat a számítógépeken. A legnagyobb AI cégek mind úgy tűnik, hogy az ügynököket látják a következő nagy dolognak.
Ez a héten Clune laboratóriuma bejelentette legújabb open-ended learning projektjét: egy AI programot, amely AI ügynököket talál ki és épít. Az AI által tervezett ügynökök egyes feladatokban, mint például a matematika és az olvasási megértés, felülmúlják az ember által tervezett ügynököket. A következő lépés annak kitalálása lesz, hogyan lehet megakadályozni, hogy egy ilyen rendszer rosszul viselkedő ügynököket generáljon. “Ez potenciálisan veszélyes” – mondja Clune erről a munkáról. “Jól kell csinálnunk, de szerintem ez lehetséges.”
Érdekes tény: Az AI programok most már képesek önállóan kísérletezni és új ötleteket generálni, ami új távlatokat nyithat az AI fejlődésében.
Források: University of British Columbia, Oxford University, Allen Institute for AI, Air Street Capital
