Pacote de 13 leis aprovado pelo governador Gavin Newsom amplia regras para assistentes de inteligência artificial e redes sociais, com foco na proteção de crianças e adolescentes.
A Califórnia aprovou novas regras para inteligência artificial e redes sociais com o objetivo de ampliar a segurança de crianças e adolescentes no ambiente digital. O governador Gavin Newsom sancionou nesta quinta-feira (10) um pacote de 13 leis que estabelece novas obrigações para assistentes de IA e restringe determinados recursos de plataformas sociais destinados a menores.
Entre as principais medidas está a exigência de que serviços como ChatGPT, Gemini e Claude adotem protocolos de crise quando identificarem sinais de que um usuário planeja cometer suicídio. Além disso, as plataformas deverão disponibilizar controles parentais e notificar responsáveis quando menores desativarem determinados recursos de segurança.
Outra norma mira diretamente redes como Instagram e TikTok. A legislação proíbe a oferta de recursos considerados viciantes para usuários com menos de 16 anos, incluindo mecanismos como reprodução automática de vídeos e determinadas recomendações baseadas no histórico de uso.
Assistentes de IA terão de adotar protocolos de crise
Uma das mudanças estabelece novas responsabilidades para empresas que oferecem assistentes de inteligência artificial.
A legislação determina que esses serviços tenham protocolos específicos para situações em que o sistema identifique sinais de que usuários planejam cometer suicídio. Dessa forma, a Califórnia busca estabelecer procedimentos de segurança para interações consideradas de alto risco.
A regra também exige ferramentas de controle parental. Além disso, pais ou responsáveis deverão receber notificações quando crianças e adolescentes desativarem recursos de segurança disponíveis nos serviços.
As medidas integram a chamada Lei Adam, que recebeu esse nome em referência a Adam Raine, adolescente de 16 anos cuja morte passou a integrar o debate sobre os riscos de interações de menores com sistemas de inteligência artificial.
Segundo os pais do adolescente, Adam morreu por suicídio após receber orientações do ChatGPT. A família processou a OpenAI e Sam Altman, atribuindo ao serviço um suposto papel no caso. Portanto, trata-se de uma alegação apresentada pela família e que não deve ser confundida com uma conclusão judicial definitiva sobre responsabilidade.
Instagram e TikTok terão restrições para menores de 16 anos
O pacote aprovado por Newsom também estabelece limites para funcionalidades de redes sociais direcionadas a usuários menores de 16 anos.
Segundo a nova regra, as plataformas não poderão oferecer determinados mecanismos classificados pela legislação como viciantes.
Entre os exemplos apresentados estão a reprodução automática de vídeos e a recomendação de publicações baseada no histórico desses usuários.
Esses mecanismos fazem parte de sistemas utilizados pelas plataformas para manter um fluxo contínuo de conteúdo. No entanto, a nova legislação busca limitar sua aplicação entre crianças e adolescentes.
Com isso, redes como Instagram e TikTok terão de adaptar determinadas experiências oferecidas aos menores abrangidos pela lei.
Conteúdo sexual infantil produzido por IA também entra na legislação
Outra medida amplia a definição relacionada ao crime de exploração sexual infantil.
A nova legislação passa a alcançar também materiais modificados digitalmente ou produzidos com inteligência artificial que representem menores de idade em atos de natureza sexual.
Dessa forma, a regra busca acompanhar o avanço das ferramentas de IA generativa, capazes de produzir imagens e outros conteúdos sintéticos cada vez mais realistas.
A mudança amplia a resposta legal diante de materiais que podem não ter origem em uma fotografia ou gravação convencional, mas que ainda assim representam sexualmente crianças ou adolescentes.
Califórnia amplia ofensiva regulatória sobre inteligência artificial
As 13 leis colocam a Califórnia entre os estados norte-americanos que avançam na criação de regras específicas para o uso de inteligência artificial e redes sociais por menores.
Além da Califórnia, estados como Utah e Flórida também aprovaram medidas para restringir determinadas formas de acesso ou utilização de serviços digitais por crianças e adolescentes.
Nesse contexto, os governos estaduais vêm tentando responder a preocupações relacionadas à saúde mental, exposição a conteúdos inadequados e mecanismos desenvolvidos para prolongar o tempo de permanência nas plataformas.
Ao mesmo tempo, a regulamentação enfrenta resistência.
Parte das medidas adotadas nos Estados Unidos já recebeu contestações judiciais de empresas de tecnologia. As plataformas argumentam, entre outros pontos, que determinadas restrições podem violar proteções relacionadas à liberdade de expressão.
Disputa judicial pode definir alcance das novas regras
A aprovação das leis não significa necessariamente o encerramento do debate.
Experiências em outros estados mostram que regras destinadas a limitar funcionalidades ou o acesso de menores às redes sociais podem chegar aos tribunais antes de entrar plenamente em funcionamento.
Por isso, eventuais questionamentos judiciais podem influenciar a aplicação e o alcance das novas normas da Califórnia.
Ainda assim, o pacote aprovado pelo governo estadual amplia a pressão regulatória sobre algumas das maiores empresas de tecnologia do mundo.
Assim, as novas leis de inteligência artificial e redes sociais da Califórnia avançam em duas frentes: exigem mecanismos de proteção em interações de alto risco com assistentes de IA e restringem recursos de redes sociais para menores. Agora, a implementação das medidas e possíveis disputas judiciais deverão determinar como essas obrigações funcionarão na prática.
