Califórnia obriga gigantes de IA a revelar planos de segurança

O governador da Califórnia, Gavin Newsom, assinou uma lei estadual que impõe às principais empresas de inteligência artificial a divulgação pública das suas práticas de segurança destinadas a prevenir riscos graves associados aos modelos avançados.

Exigências da SB 53

Designada SB 53, a legislação abrange organizações como OpenAI, Google, Meta, Nvidia e Anthropic, que desenvolvem ou gerem sistemas de IA de larga escala. As companhias terão de detalhar as medidas adoptadas para mitigar eventuais cenários catastróficos, bem como manter documentação sobre testes de robustez, protecção de dados e protocolos de actualização dos modelos.

Motivações e impacto

A Califórnia reúne grande parte do sector de IA dos Estados Unidos e pretende posicionar-se como referência regulatória. Ao apresentar a nova lei, Newsom afirmou ser possível conciliar a salvaguarda das comunidades com o crescimento económico do segmento tecnológico. O gabinete do governador sublinhou ainda que o Congresso norte-americano não avançou, até agora, com uma regulamentação abrangente, criando um vazio que o estado procurou colmatar. A SB 53 é encarada como potencial modelo para futura legislação federal.

Imagem: uol.com.br