Drámai nyílt levelet írtak az OpenAI alkalmazottai

OpenAI munkatársai figyelmeztetnek a cég visszaéléseire

Az OpenAI, a mesterséges intelligencia fejlesztő cég körül ismét sűrűsödik a drámai hangulat. A cég korábbi és jelenlegi munkatársai, akik nevüket elhallgatják, figyelmeztetnek a cég visszaéléseire.

A mesterséges intelligencia fejlődésének kockázatai

Az OpenAI egykori és jelenlegi munkatársai egy nyílt levélben hívják fel a figyelmet a mesterséges intelligencia fejlődésének komoly kockázataira. A levél szerzői szerint mindenki tisztában van azzal, hogy a mesterséges intelligencia fejlődésének komoly kockázatai vannak. Ilyen a társadalmi egyenlőtlenségek fokozódása, a félretájékoztatás és manipuláció terjedése, illetve az, hogy az emberiség elveszíti az ellenőrzést a nála okosabbá váló gépek felett.

A mesterséges intelligencia fejlesztő cégek visszaélései

Az OpenAI évekkel ezelőtt felhagyott a termékeikkel kapcsolatos részletes technikai leírások közlésével. A levél szerzői arra figyelmeztetnek, hogy bár munkatársként egyedül nekik van tényleges rálátásuk a mesterséges intelligencia fejlesztésének helyzetére, de titoktartási szerződésük miatt nem emelhetnek szót. A visszaélésekkel a nyilvánosság elé lépőket (angolul whsitleblowereket) megillető védelem pedig nem vonatkozik rájuk.

A nyílt levél szerzői

A levelet öt egykori OpenAI alkalmazott, egy korábbi Google DeepMind munkatárs, egy volt Anthropic és egy jelenlegi Google DeepMind dolgozó írta alá névvel, továbbá hat név nélkül aláíró aktív OpenAI alkalmazott. Csatlakozott a levélhez három akadémikus is, Stuart J. Russell, Yoshua Bengio és a mesterséges intelligencia egyik alapítójának tekintett Geoffrey Hinton.

A mesterséges intelligencia fejlesztésének jövője

Nem ez az első komolyabb nyílt levél a mesterséges intelligencia történetében. Először a ChatGPT bemutatkozása után öt hónappal, 2023 márciusában követelték több ezren, hogy fél évre függesszék fel újabb mesterséges intelligenciák betanítását. Hogy az utóbbi levélnek lesz-e hatása, az a visszhang erősségén múlik.

(Forrás: CNN, Right to Warn…, The Verge)