OpenAI munkatársai figyelmeztetnek a cég visszaéléseire
Az OpenAI, a mesterséges intelligencia fejlesztő cég körül ismét sűrűsödik a drámai hangulat. A cég korábbi és jelenlegi munkatársai, akik nevüket elhallgatják, figyelmeztetnek a cég visszaéléseire.
A mesterséges intelligencia fejlődésének kockázatai
Az OpenAI egykori és jelenlegi munkatársai egy nyílt levélben hívják fel a figyelmet a mesterséges intelligencia fejlődésének komoly kockázataira. A levél szerzői szerint mindenki tisztában van azzal, hogy a mesterséges intelligencia fejlődésének komoly kockázatai vannak. Ilyen a társadalmi egyenlőtlenségek fokozódása, a félretájékoztatás és manipuláció terjedése, illetve az, hogy az emberiség elveszíti az ellenőrzést a nála okosabbá váló gépek felett.
A mesterséges intelligencia fejlesztő cégek visszaélései
Az OpenAI évekkel ezelőtt felhagyott a termékeikkel kapcsolatos részletes technikai leírások közlésével. A levél szerzői arra figyelmeztetnek, hogy bár munkatársként egyedül nekik van tényleges rálátásuk a mesterséges intelligencia fejlesztésének helyzetére, de titoktartási szerződésük miatt nem emelhetnek szót. A visszaélésekkel a nyilvánosság elé lépőket (angolul whsitleblowereket) megillető védelem pedig nem vonatkozik rájuk.
A nyílt levél szerzői
A levelet öt egykori OpenAI alkalmazott, egy korábbi Google DeepMind munkatárs, egy volt Anthropic és egy jelenlegi Google DeepMind dolgozó írta alá névvel, továbbá hat név nélkül aláíró aktív OpenAI alkalmazott. Csatlakozott a levélhez három akadémikus is, Stuart J. Russell, Yoshua Bengio és a mesterséges intelligencia egyik alapítójának tekintett Geoffrey Hinton.
A mesterséges intelligencia fejlesztésének jövője
Nem ez az első komolyabb nyílt levél a mesterséges intelligencia történetében. Először a ChatGPT bemutatkozása után öt hónappal, 2023 márciusában követelték több ezren, hogy fél évre függesszék fel újabb mesterséges intelligenciák betanítását. Hogy az utóbbi levélnek lesz-e hatása, az a visszhang erősségén múlik.
(Forrás: CNN, Right to Warn…, The Verge)