Os principais projetos de lei de saúde assinados pelo governador da Califórnia, Newsom, focaram em como a tecnologia está impactando as crianças

Novas leis assinadas pelo governador Gavin Newsom visam tornar o cenário da inteligência artificial e das mídias sociais na Califórnia mais seguro, especialmente para menores.

O projeto de lei 243 do Senado, patrocinado pelo senador estadual Steve Padilla (D-Chula Vista), exigirá que as empresas de IA incorporem grades de proteção que impeçam os chamados chatbots “companheiros” de falar com usuários de qualquer idade sobre suicídio ou automutilação. Também exige que todos os sistemas de IA alertem os menores que utilizam os chatbots de que não são humanos a cada três horas. Os sistemas também estão proibidos de promover qualquer conduta sexualmente explícita a usuários menores.

A lei, a ser promulgada em 1º de janeiro, segue vários processos movidos contra desenvolvedores nos quais famílias alegam que seus filhos cometeram suicídio após serem influenciados por um companheiro de chatbot de IA.

Na mesma linha, Newsom assinou o Assembly Bill 316, que remove uma defesa legal civil que alguns desenvolvedores de IA têm usado para argumentar que não são responsáveis ​​por qualquer dano causado por seus produtos. Argumentaram que os seus produtos de IA agem de forma autónoma – e por isso não há qualquer argumento legal para culpar os criadores.

Numa análise de projeto de lei destinada aos legisladores, a deputada Maggy Krell (D-Sacramento) escreveu que esta mudança forçará os desenvolvedores a examinar melhor seus produtos e garantir que eles possam ser responsabilizados se seu produto causar danos aos seus usuários.

Outro projeto de lei, AB 621, aumenta as penalidades civis para desenvolvedores de IA que conscientemente criam pornografia de IA “deepfake” não consensual. As penas máximas vão de US$ 30 mil a US$ 50 mil, e de US$ 150 mil a US$ 250 mil nos casos em que os tribunais determinem que as ações foram praticadas com dolo.

A autora do projeto de lei, a deputada Rebecca Bauer-Kahan (D-Orinda), apontou como esta tecnologia tem sido usada para prejudicar menores. “Em um caso recente”, observou ela em uma análise que apoia a legislação proposta, “cinco estudantes foram expulsos de uma escola secundária de Beverly Hills depois de criar e compartilhar fotos nuas de seus colegas de classe geradas por IA”.

Outro projeto de lei de IA, o SB 53 do senador Scott Wiener (D-San Francisco), foi sancionado por Newsom no final de setembro. Exigirá que as grandes empresas de IA divulguem publicamente certos protocolos de segurança e reportem ao estado sobre incidentes críticos de segurança. Também cria um cluster público de computação de IA – CalCompute – que fornecerá recursos para startups e pesquisadores que desenvolvem grandes sistemas de IA.

Bauer-Kahan também foi o autor da AB 56, que exigirá que as empresas de redes sociais coloquem uma etiqueta de advertência nas suas plataformas para menores a partir de 2027. A etiqueta de advertência deve informar às crianças e adolescentes que as redes sociais estão associadas a problemas de saúde mental e podem não ser seguras.

“As pessoas em todo o país – incluindo eu próprio – estão cada vez mais preocupadas com o fracasso da Big Tech em proteger as crianças que interagem com os seus produtos. Hoje, a Califórnia deixa claro que não vamos ficar sentados à espera que as empresas decidam dar prioridade ao bem-estar das crianças em detrimento dos seus lucros”, Atty. O general Rob Bonta, que patrocinou o projeto, disse em um comunicado à imprensa.

“Ao adicionar rótulos de advertência às plataformas de mídia social, a AB 56 dá à Califórnia uma nova ferramenta para proteger nossas crianças”.

Outros projetos de lei recentemente aprovados por Newsom procuram desafiar o domínio da Internet sobre os jovens e a sua saúde mental.

A AB 1043, por exemplo, exigirá que as lojas de aplicativos e os fabricantes de dispositivos obtenham dados de idade dos usuários para garantir que eles cumpram os requisitos de verificação de idade. Muitas empresas de tecnologia, incluindo Google e Meta, aprovaram o projeto de lei, que foi redigido pela deputada Buffy Wicks (D-Oakland).

AB 772 exigirá que as escolas de ensino fundamental e médio do estado desenvolvam uma política até meados de 2027 sobre como lidar com o bullying e o cyberbullying que acontecem fora do campus.

“O bullying depois da escola segue o aluno de volta à escola e à sala de aula, criando um ambiente hostil na escola”, escreveu o autor e presidente temporário da Assembleia, Josh Lowenthal (D-Long Beach), em uma análise do projeto de lei.

Os proponentes do Escritório de Educação do Condado de Los Angeles escreveram em uma análise anterior que, como os alunos de hoje em dia estão constantemente conectados à Internet, o bullying não para quando as aulas terminam. Além disso, as redes sociais e as mensagens de texto podem transmitir casos de bullying a públicos mais vastos do que nunca, de acordo com a análise.

A Associação dos Conselhos Escolares da Califórnia. opôs-se ao AB 772, dizendo que não era apropriado que os funcionários da escola assumissem a responsabilidade pelas ações dos alunos fora da escola. Newsom assinou o projeto de lei no fim de semana passado e o incluiu em um pacote maior de projetos de lei destinados a proteger as crianças dos efeitos das redes sociais.

“As tecnologias emergentes, como os chatbots e as redes sociais, podem inspirar, educar e conectar – mas sem barreiras de proteção reais, a tecnologia também pode explorar, enganar e pôr em perigo os nossos filhos. Vimos alguns exemplos verdadeiramente horríveis e trágicos de jovens prejudicados pela tecnologia não regulamentada, e não ficaremos parados enquanto as empresas continuam sem os limites e a responsabilidade necessários”, disse Newsom.

“Podemos continuar a liderar em IA e tecnologia, mas devemos fazê-lo de forma responsável – protegendo os nossos filhos em cada passo do caminho. A segurança dos nossos filhos não está à venda.”

2025 Los Angeles Times. Distribuído pela Tribune Content Agency, LLC.