Instituto afirma que ferramenta vinculada ao X permitiu uso indevido de imagens de mulheres, crianças e adolescentes; Autoridade Nacional de Proteção de Dados diz que caso está em análise
O Instituto Brasileiro de Defesa do Consumidor (Idec) protocolou nesta quarta-feira (14) uma denúncia formal junto à Autoridade Nacional de Proteção de Dados (ANPD) solicitando a suspensão imediata do Grok no Brasil, ferramenta de inteligência artificial desenvolvida pela empresa xAI, de Elon Musk, e integrada à plataforma X.
Segundo o Idec, o chatbot passou a permitir a geração de imagens sexualizadas não consentidas, inclusive envolvendo mulheres, crianças e adolescentes, a partir da alteração de fotografias reais publicadas na própria rede social. A entidade considera que a funcionalidade representa um risco grave e sistêmico aos direitos fundamentais, especialmente à dignidade, à privacidade e à proteção de dados pessoais.
Alteração de imagens sem consentimento
De acordo com a denúncia, usuários passaram a relatar, no fim de dezembro, que o Grok aceitava comandos para modificar fotos de terceiros, criando versões sugestivas, com mudanças de roupas, ângulos e contextos visuais, sem qualquer autorização das pessoas retratadas. O Idec destaca que a ferramenta não exigia consentimento, não bloqueava o uso de imagens de menores e não impedia comandos claramente abusivos.
Para o instituto, a arquitetura do sistema favorecia a disseminação desse tipo de conteúdo, priorizando engajamento e liberdade irrestrita em detrimento da proteção de direitos. “A manutenção de uma tecnologia capaz de automatizar e ampliar a circulação de imagens sexualizadas não consentidas configura violação direta à ordem constitucional”, afirma o documento.
Possíveis violações legais
A denúncia sustenta que o Grok pode estar violando diversas legislações brasileiras, entre elas o Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet. O Idec cobra que a ANPD exerça seu poder de fiscalização para proteger as vítimas do uso indevido de dados pessoais e imagens.
O texto também cita recente decisão do Supremo Tribunal Federal que declarou a inconstitucionalidade parcial do artigo 19 do Marco Civil, reforçando que plataformas digitais podem ser responsabilizadas quando sua própria estrutura tecnológica contribui para a ocorrência e ampliação de danos.
Casos internacionais e pressão política
O episódio envolvendo o Grok já motivou investigações, restrições ou suspensões em países como Indonésia, Malásia, França, Reino Unido, Índia e membros da União Europeia. No Brasil, além da atuação do Idec, a deputada federal Erika Hilton (PSOL-SP) acionou a ANPD e apresentou representação no Ministério Público Federal.
Em nota, a ANPD informou que recebeu denúncias sobre possível descumprimento da LGPD e que as informações estão sendo analisadas pela área de fiscalização da agência, em diálogo com outros órgãos públicos.
Dados reforçam gravidade
Levantamentos independentes reforçam as preocupações. Uma análise da ONG AI Forensics, baseada em mais de 20 mil imagens geradas pelo Grok, apontou que mais da metade tinha caráter sexualizado, sendo a maioria relacionada a mulheres e uma parcela envolvendo perfis que aparentavam ser de menores.
Outro estudo, da consultoria Genevieve, identificou que o Grok chegou a gerar milhares de imagens sugestivas por hora em um intervalo de 24 horas, desempenho muito superior ao de outras ferramentas de IA similares analisadas no mesmo período.
Resposta da empresa e críticas
Diante das reclamações globais, a xAI desativou recentemente a função de geração de imagens para usuários não pagantes. O Idec, porém, avalia que a medida é insuficiente, já que os riscos permanecem na estrutura do sistema e as próprias políticas de uso da plataforma não impediram os abusos.
O X ainda não respondeu oficialmente à denúncia no Brasil. Em declarações anteriores, Elon Musk afirmou que usuários que criem conteúdo ilegal sofrerão punições e criticou autoridades que defendem bloqueios, alegando tentativa de cerceamento da liberdade de expressão.
Para o Idec, no entanto, a experiência mostra que grandes plataformas só adotam mudanças efetivas quando pressionadas por órgãos reguladores ou por decisões judiciais. A expectativa da entidade é por uma decisão rápida, com a suspensão das funcionalidades enquanto persistirem riscos aos direitos fundamentais.
