Kihívásokkal teli kaliforniai mesterséges intelligencia törvény előrelépése: Az Anthropic módosításai átalakítják a jövőt!

Kalifornia új szabályozása a generatív mesterséges intelligenciára

Kalifornia állami gyűlése augusztus 28-án elfogadta a Safe and Secure Innovation for Frontier Artificial Intelligence Models Act törvényt, ismertebb nevén SB-1047. A törvény célja, hogy védelmet nyújtson a whistleblowerek számára, és felügyeletet biztosítson azoknak a cégeknek, amelyek generatív mesterséges intelligenciát fejlesztenek, amely képes „kritikus kárt” okozni. A törvény 48 szavazattal és 16 ellenszavazattal került elfogadásra.

A törvényjavaslatot a kaliforniai szenátusnak még jóvá kell hagynia, mielőtt Gavin Newsom kormányzó elé kerülne, aki szeptember 30-ig aláírhatja vagy megvétózhatja azt.

Mi az a SB-1047?

A SB-1047, amelyet a tervezet hívei a kaliforniai mesterséges intelligencia törvényeként emlegetnek, számos szabályt állapít meg a Szilícium-völgy AI fejlesztői számára. Ezek közé tartozik:

  • A biztonsági és védelmi protokollok kialakítása a törvény hatálya alá tartozó AI modellek számára.
  • A modellek teljes leállításának biztosítása.
  • A „kritikus kárt” okozó modellek forgalmazásának megakadályozása.
  • Ellenőr alkalmazása a törvénynek való megfelelés biztosítása érdekében.

A törvény keretet ad arra, hogy a generatív mesterséges intelligencia modellek ne okozzanak nagyszabású károkat az emberiség számára, például nukleáris háború vagy biológiai fegyverek révén.

A legújabb változat és az ipar reakciója

A legutóbb, csütörtökön elfogadott törvényjavaslat tartalmazott néhány változtatást, amelyeket az AI fejlesztő Anthropic javasolt. A törvény új verziója eltávolította a cégek számára a biztonsági teszteredmények közzétételének kötelezettségét hamis tanúzás fenyegetése alatt.

Az ipar képviselői és a kongresszus néhány tagja azonban aggályokat fogalmazott meg a törvény innovációra gyakorolt hatásáról, mondván, hogy az akadályozni fogja a nyílt forráskódú AI modellek fejlesztését. A Hugging Face társalapítója, Clement Delangue is kritikát fogalmazott meg a törvénnyel kapcsolatban.

Miért fontos a szabályozás?

Az AI gyors fejlődése és potenciális kockázatai miatt a törvény megalkotása sürgetővé vált. Geoffrey Hinton és Yoshua Bengio, a mélytanulás úttörői, nyilvánosan támogatták a törvényjavaslatot, hangsúlyozva, hogy az védelmet nyújt a társadalom számára.

Az új törvényjavaslat a kaliforniai Whistleblower Protection Act keretein belül védelmet biztosít az AI cégek alkalmazottainak, lehetővé téve számukra, hogy jelentéseket tegyenek a törvény megsértéséről anélkül, hogy félnének a megtorlástól.

Érdekesség: A mesterséges intelligencia fejlődése során a kutatók azt találták, hogy a generatív AI modellek képesek olyan tartalmakat létrehozni, amelyek elfogultak vagy hamis információkat tartalmaznak, így a szabályozás iránti igény folyamatosan nő.

Források: Fast Company, Business Insider, Fortune, Artificial Intelligence Policy Institute