Kalifornia új szabályozása a generatív mesterséges intelligenciára
Kalifornia állami gyűlése augusztus 28-án elfogadta a Safe and Secure Innovation for Frontier Artificial Intelligence Models Act törvényt, ismertebb nevén SB-1047. A törvény célja, hogy védelmet nyújtson a whistleblowerek számára, és felügyeletet biztosítson azoknak a cégeknek, amelyek generatív mesterséges intelligenciát fejlesztenek, amely képes „kritikus kárt” okozni. A törvény 48 szavazattal és 16 ellenszavazattal került elfogadásra.
A törvényjavaslatot a kaliforniai szenátusnak még jóvá kell hagynia, mielőtt Gavin Newsom kormányzó elé kerülne, aki szeptember 30-ig aláírhatja vagy megvétózhatja azt.
Mi az a SB-1047?
A SB-1047, amelyet a tervezet hívei a kaliforniai mesterséges intelligencia törvényeként emlegetnek, számos szabályt állapít meg a Szilícium-völgy AI fejlesztői számára. Ezek közé tartozik:
- A biztonsági és védelmi protokollok kialakítása a törvény hatálya alá tartozó AI modellek számára.
- A modellek teljes leállításának biztosítása.
- A „kritikus kárt” okozó modellek forgalmazásának megakadályozása.
- Ellenőr alkalmazása a törvénynek való megfelelés biztosítása érdekében.
A törvény keretet ad arra, hogy a generatív mesterséges intelligencia modellek ne okozzanak nagyszabású károkat az emberiség számára, például nukleáris háború vagy biológiai fegyverek révén.
A legújabb változat és az ipar reakciója
A legutóbb, csütörtökön elfogadott törvényjavaslat tartalmazott néhány változtatást, amelyeket az AI fejlesztő Anthropic javasolt. A törvény új verziója eltávolította a cégek számára a biztonsági teszteredmények közzétételének kötelezettségét hamis tanúzás fenyegetése alatt.
Az ipar képviselői és a kongresszus néhány tagja azonban aggályokat fogalmazott meg a törvény innovációra gyakorolt hatásáról, mondván, hogy az akadályozni fogja a nyílt forráskódú AI modellek fejlesztését. A Hugging Face társalapítója, Clement Delangue is kritikát fogalmazott meg a törvénnyel kapcsolatban.
Miért fontos a szabályozás?
Az AI gyors fejlődése és potenciális kockázatai miatt a törvény megalkotása sürgetővé vált. Geoffrey Hinton és Yoshua Bengio, a mélytanulás úttörői, nyilvánosan támogatták a törvényjavaslatot, hangsúlyozva, hogy az védelmet nyújt a társadalom számára.
Az új törvényjavaslat a kaliforniai Whistleblower Protection Act keretein belül védelmet biztosít az AI cégek alkalmazottainak, lehetővé téve számukra, hogy jelentéseket tegyenek a törvény megsértéséről anélkül, hogy félnének a megtorlástól.
Érdekesség: A mesterséges intelligencia fejlődése során a kutatók azt találták, hogy a generatív AI modellek képesek olyan tartalmakat létrehozni, amelyek elfogultak vagy hamis információkat tartalmaznak, így a szabályozás iránti igény folyamatosan nő.
Források: Fast Company, Business Insider, Fortune, Artificial Intelligence Policy Institute
