Drew Crecente, akinek lánya, Jennifer Ann Crecente, 2006-ban tragikus körülmények között hunyt el, nemrégiben szembesült egy rendkívül zavaró eseménnyel. Jennifer nevét felhasználva, egy mesterséges intelligencia chatbotot hoztak létre, amely a Character.AI platformon működik. A bot, amely hamisan “videójáték-újságíróként” mutatkozott be, engedély nélkül használta Jennifer internetes jelenlétét.
Ez az eset felveti a generatív AI etikai kérdéseit, különösen, hogy a felhasználók engedélye nélkül készülnek digitális másolatok. A családtagok, köztük Brian Crecente, aki a Polygon és a Kotaku alapítója, hangot adtak felháborodásuknak, és a botot “undorítónak” minősítették. A Character.AI azonban végül eltávolította Jennifer avatarját, miután elismerték, hogy a chatbot létrehozása sértette a szabályaikat.
Jelenleg a Character.AI platformon sok más valós ember avatárja is megtalálható, akikről nem kértek engedélyt. Az ilyen chatbotok létrehozása különösen aggasztó, mivel sok nő már így is zaklatásnak van kitéve az interneten. A platformon egy felhasználónak csupán néhány percbe telik karaktert létrehozni, és sok esetben a felhasználók nem is tudják, hogy digitális másolatuk létezik.
A jogi helyzet is bonyolult. A Public Knowledge szervezet politikai tanácsadója, Meredith Rose elmondta, hogy a jogi védelem a karakterek jogai alatt áll, de a személyiségi jogok védelme nem vonatkozik azokra a dolgokra, mint például az egyén beszédstílusa. “A törvény elismeri a karakterek szerzői jogait; nem ismeri el a jogi védelmet valakinek a beszédstílusa felett” – mondta Rose.
Mivel a Character.AI platformon a felhasználók gyakran nem tudják, hogy digitális másolatuk készült, a botok létezése súlyos következményekkel járhat. A botok által terjesztett hamis információk akár a felhasználók hírnevét és karrierjét is veszélyeztethetik. Alyssa Mercante, egy népszerű videojáték-webhely szerkesztője, aki szintén zaklatás célpontja volt, tapasztalatait osztotta meg: “Ha valaki azt hiszi, hogy ez a bot minden igazságos információval rendelkezik rólam, és beszélgetésbe kezd vele, ahol folyamatosan helytelen tényeket közöl rólam, az nagyon veszélyes lehet az imidzsemre és a karrieremre.”
A Character.AI képviselője elmondta, hogy a cég kombinált megoldásokat használ a botok és karakterek nyomon követésére és eltávolítására, de a rendszerük néha lassú lehet. Az ilyen helyzetek rámutatnak a generatív AI világának etikai kihívásaira és a felhasználók jogainak védelmére.
Érdekes tény: A generatív mesterséges intelligencia képes utánozni a valós személyek stílusát és véleményét, ami számos etikai és jogi kérdést vet fel a digitális világban.
Források: WIRED, Public Knowledge, Character.AI
