O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) emitiram uma nova manifestação conjunta sobre a plataforma X, após avaliarem as respostas apresentadas pela empresa em relação à sua ferramenta de inteligência artificial (IA), o Grok. De acordo com as instituições, as providências informadas pela empresa foram consideradas insuficientes em relação ao uso indevido da ferramenta para a geração e circulação de imagens de pessoas em contexto de sexualização, sem autorização prévia.
No mês passado, essas três entidades já haviam emitido uma série de recomendações à plataforma X, que incluíam a adoção de medidas técnicas e operacionais para identificar, revisar e remover conteúdos inapropriados gerados pelo Grok a partir de comandos de usuários.
No entanto, em sua resposta à recomendação conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. No entanto, após avaliação das instituições, essas informações não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem sua efetividade. Além disso, testes preliminares realizados por equipes técnicas indicaram a persistência das falhas, com a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações já emitidas.
Com base nesse parecer, as instituições determinaram que a plataforma X implemente de forma imediata medidas efetivas para impedir a produção de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem seu consentimento através do Grok. Além disso, exigiram a prestação de informações detalhadas sobre as providências já adotadas pela empresa para solucionar os problemas apontados na recomendação. O MPF ainda ordenou que a plataforma X forneça relatórios mensais sobre suas ações em relação ao tema e ressaltou a falta de transparência da empresa em sua resposta.
É importante destacar que a ANPD, o MPF e a Senacon atuam de forma coordenada na apuração dos fatos relacionados ao uso indevido do Grok, cada um seguindo sua área de competência. A medida preventiva exigida pela ANPD abrange todas as versões, planos e modalidades do Grok e busca impedir o uso indevido da ferramenta de IA. Já o MPF ordenou o envio de relatórios mensais sobre as ações da plataforma X para impedir e reprimir a produção de deepfakes envolvendo crianças, adolescentes e adultos sem autorização prévia. E a Senacon, por sua vez, exigiu a comprovação de medidas já adotadas para conter os riscos identificados e sanar os problemas apontados na recomendação conjunta.
Caso não sejam cumpridas, a empresa pode sofrer multas diárias e outras medidas punitivas, além de responder pelo crime de desobediência. Essa ação conjunta das três instituições visa garantir o cumprimento das leis e a proteção dos direitos dos usuários na internet.
É importante ressaltar que a plataforma X se comprometeu a adotar as medidas necessárias para solucionar o problema, mas até o momento não apresentou efetividade em suas ações. É necessário que a empresa se comprometa com a transparência e adote medidas efetivas para garantir a segurança e privacidade de seus usuários.
O uso indevido da inteligência artificial para a geração e circulação de imagens de cunho sexual é uma questão grave e que deve ser combatida. Cada vez mais, a tecnologia tem sido utilizada de forma irrespons
