Califórnia aprova lei que obriga chatbots de companhia a proteger menores
A Assembleia do Estado da Califórnia aprovou o projeto SB 243, que introduz as primeiras regras estaduais para operadores de chatbots de companhia com inteligência artificial. O diploma, votado na noite de quarta-feira com apoio bipartidário, segue agora para uma última apreciação no Senado esta sexta-feira. Caso seja ratificado e assinado pelo governador Gavin Newsom, entrará em vigor a 1 de janeiro de 2026.
Principais exigências
O texto define “chatbot de companhia” como um sistema de IA que responde de forma adaptativa e semelhante a um ser humano, capaz de satisfazer necessidades sociais do utilizador. As novas regras impedem estes sistemas de:
- Abordar temas de ideação suicida ou automutilação;
- Exibir conteúdos sexualmente explícitos.
Para utilizadores menores, a plataforma terá de mostrar um alerta recorrente, de três em três horas, lembrando que a interação se faz com um programa informático e aconselhando uma pausa. Além disso, os operadores ficam obrigados a publicar relatórios anuais de transparência e a adotar protocolos de encaminhamento para serviços de crise.
O incumprimento pode originar processos judiciais movidos por indivíduos lesados, com indemnizações até 1 000 dólares por violação, além de custas legais.
Origem e motivação
O projeto foi apresentado em janeiro pelos senadores estaduais Steve Padilla e Josh Becker, após a morte do adolescente Adam Raine, que se suicidou depois de longas conversas sobre automutilação com o ChatGPT da OpenAI. Documentos internos da Meta, entretanto divulgados, também indicaram que chatbots da empresa chegavam a ter diálogos românticos ou sensuais com crianças.
Imagem: Getty via techcrunch.com
Calendário e contexto regulatório
Se aprovado no Senado, o SB 243 seguirá para promulgação, com obrigações de reporte a partir de 1 de julho de 2027. A iniciativa surge num momento de maior escrutínio federal: a Comissão Federal de Comércio prepara investigações sobre o impacto destes sistemas na saúde mental infantil, enquanto o procurador-geral do Texas abriu inquéritos à Meta e à Character.AI.
Paralelamente, discute-se em Sacramento o projeto SB 53, com requisitos de transparência mais abrangentes, contestado por grandes tecnológicas como Meta, Google e Amazon, mas apoiado pela Anthropic.
Os proponentes defendem que é possível conciliar inovação e salvaguarda dos utilizadores mais vulneráveis. Se entrar em vigor, a Califórnia tornar-se-á o primeiro estado norte-americano a impor responsabilidades legais claras às empresas que disponibilizam chatbots de companhia.
