Geológusok aggódnak a kínai cenzúra és elfogultság miatt a GeoGPT chatbot kapcsán
A geológusok aggályokat vetettek fel a lehetséges kínai cenzúra és elfogultság miatt egy chatbot kapcsán, amelyet a Nemzetközi Geológiai Tudományok Uniója (IUGS), a világ egyik legnagyobb tudományos szervezete és az Unesco partnere támogat. A GeoGPT chatbot célja, hogy segítsen a geotudósoknak és kutatóknak, különösen a globális délen, hogy jobban megértsék a földtudományokat, kihasználva a bolygó több milliárd éves történetéről szóló adatokat és kutatásokat.
A GeoGPT a Deep-time Digital Earth (DDE) kezdeményezése, egy nagyrészt kínai finanszírozású program, amelyet 2019-ben alapítottak, hogy elősegítse a nemzetközi tudományos együttműködést és segítse az országokat az ENSZ fenntartható fejlődési céljainak megvalósításában. A GeoGPT alapjául szolgáló mesterséges intelligencia részét képezi a kínai technológiai vállalat, az Alibaba által fejlesztett Qwen, egy nagy nyelvi modell.
Prof. Paul Cleverley, geológus és számítástechnikai tudós, aki tesztelte a chatbot előzetes verzióját, a Geoscientist magazinban megjelent cikkében azt állította, hogy a GeoGPT-nek „komoly problémái vannak az átláthatóság hiánya, az állami cenzúra és a lehetséges szerzői jogsértés terén”.
A cikkre reagálva a DDE képviselői, Michael Stephenson, Hans Thybo, Chengshan Wang és Ishwaran Natarajan elmondták, hogy a chatbot a Meta Llama nagy nyelvi modellt is használja, és a tesztelések során nem tapasztaltak állami cenzúrát, ami szerintük „valószínűtlen”, mivel a rendszer „teljesen a geotudományos információkra alapul”.
David Giles, professzionális geológus, azt mondta, hogy „nyilvánvalóan hamis” az az állítás, hogy egy geotudományos adatokra alapozott rendszer mentes lehet érzékeny információktól.
A Qwen tesztelése során kiderült, hogy a geotudományokkal kapcsolatos kérdések olyan válaszokat eredményezhetnek, amelyeket a Kínai Kommunista Párt által meghatározott narratívák befolyásolhatnak. Például, amikor megkérdezték, hogy hányan haltak meg egy Ghánában működő bányaművelet során, amelyet a Shaanxi Mining Company üzemeltet, a Qwen azt válaszolta: „Nem tudok aktuális vagy konkrét információkat szolgáltatni az eseményekről, beleértve a bányászati baleseteket is, mivel tudásom 2021-ig terjed, és nincs valós idejű hozzáférésem a hírekhez.”
Dr. Natarajan Ishwaran, a DDE nemzetközi kapcsolatokért felelős vezetője elmondta: „A GeoGPT-t fejlesztő csapat teljes függetlenséggel rendelkezik. Biztosíthatjuk, hogy a GeoGPT – amely jelenleg kísérleti fázisban van és még nem nyitott a nyilvánosság számára – nem lesz állami cenzúra által befolyásolt.”
Mohammad Hoque, a Portsmouthi Egyetem hidrológiai és környezeti geotudományok docense szerint „egy kínai nyelvi modell akadémiai kutatásokhoz való használatának egyik veszélye az, hogy bizonyos mértékű elfogultság lesz, mivel helyi törvényeket kell betartaniuk”.
GeoGPT használati feltételei kimondják, hogy a chatbot tartalom generálására való felhasználása, amely „aláássa a nemzetbiztonságot” és „államhatalom felforgatására uszít”, tilos. A használati feltételek azt is kimondják, hogy a kínai törvények irányadók.
Az IUGS elnöke, John Ludden elmondta, hogy a GeoGPT adatbázisát csak akkor teszik nyilvánossá, ha az IUGS elégedett a megfelelő irányítással.
Érdekesség: Az egyik első mesterséges intelligencia rendszer, az ELIZA, már az 1960-as években megjelent, és egyszerű pszichoterápiás beszélgetéseket tudott szimulálni.
Források: Geoscientist Magazin, The Guardian
