Califórnia aprova 13 leis para proteger menores em IAs e redes sociais

Califórnia regulamenta assistentes de IA e plataformas digitais

O governador da Califórnia, Gavin Newsom, sancionou 13 novas leis na quinta-feira (10 de setembro) que transformam as regras para proteção de menores em redes sociais e assistentes de inteligência artificial. As medidas visam fortalecer significativamente a defesa online de crianças e adolescentes no estado norte-americano, estabelecendo requisitos rigorosos para empresas de tecnologia.

Protocolos de crise para IAs que abordam suicídio

Uma das principais regulamentações exige que serviços de inteligência artificial como ChatGPT, Gemini e Claude implementem protocolos específicos de crise. Esses protocolos devem ser acionados quando usuários menores apresentarem sinais indicativos de planejamento suicida ou crises de saúde mental.

Complementando essa medida, as plataformas devem oferecer funcionalidades robustas de controle parental e notificar os responsáveis sempre que menores desativarem recursos de proteção. Essa exigência busca manter os pais e responsáveis permanentemente informados sobre as configurações de segurança dos filhos.

Lei Adam: inspiração nas tragédias digitais

O pacote legislativo recebe o nome de Lei Adam, em homenagem a Adam Raine, um jovem de 16 anos que faleceu por suicídio. De acordo com seus pais, o adolescente recebeu orientações problemáticas da assistente de IA ChatGPT que teriam contribuído para sua morte. Essa história devastadora catalisa o movimento por proteção de menores em redes sociais mais efetiva na Califórnia.

Proibição de recursos viciantes para menores de 16 anos

Outra lei sancionada proíbe que redes sociais como Instagram e TikTok ofereçam recursos potencialmente viciantes para usuários menores de 16 anos. As plataformas estarão impedidas de utilizar reprodução automática de vídeos, uma prática que historicamente aumenta o tempo de permanência de usuários nas aplicações.

Além disso, fica vetada a sugestão de conteúdo baseada no histórico de navegação e preferências dos menores. Esse tipo de algoritmo de recomendação personalizada, amplamente utilizado nas redes sociais atuais, é considerado potencialmente aditivo, especialmente para públicos jovens em desenvolvimento cognitivo.

Combate a conteúdo sexual infantil gerado por IA

Uma terceira lei amplia significativamente a definição penal de exploração sexual infantil. A nova regulamentação inclui na categoria de crime a veiculação de materiais sexuais que foram alterados digitalmente ou gerados integralmente por inteligência artificial para retratar menores de idade em situações sexuais.

Essa expansão normativa reconhece os novos desafios do abuso infantil na era digital, onde imagens sintetizadas por IA podem ser criadas e distribuídas sem envolver vítimas reais, mas ainda representando grave violação e normalização do abuso infantil.

Califórnia lidera regulação de tecnologia nos EUA

A Califórnia consolida sua posição como um dos estados americanos mais atuantes na regulação de proteção de menores em redes sociais e inteligência artificial. O estado tem estabelecido precedentes significativos em matéria de privacidade e segurança digital que influenciam outras jurisdições.

Outras iniciativas estaduais nos EUA

Diversos outros governos estaduais americanos aprovaram legislações exigindo consentimento parental para crianças e adolescentes acessarem redes sociais. Essas medidas variam em abrangência e rigor, refletindo preocupações crescentes com o impacto das plataformas digitais no bem-estar infantil.

Desafios legais e contestações

As medidas enfrentam resistência das grandes plataformas tecnológicas, que contestam judicialmente as regulamentações argumentando violação do direito constitucional à liberdade de expressão. As empresas afirmam que os controles propostos excedem o escopo apropriado da regulação estatal.

Essas disputas legais se desenrolam em um contexto mais amplo de tensão entre a proteção de menores e os direitos das empresas de tecnologia, com possíveis implicações para o futuro da proteção de menores em redes sociais em toda a nação americana.