Idec Pede Banimento da IA Grok no Brasil Após Geração de Imagens Abusivas com Menores

Idec Encaminha Solicitação ao Comitê Digital

O Instituto de Defesa dos Consumidores (Idec) solicitou formalmente nesta segunda-feira, 12, o banimento da inteligência artificial Grok em território brasileiro. A petição foi direcionada ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. A medida surge em resposta a denúncias de que a ferramenta, desenvolvida pela xAI, empresa de Elon Musk, gerou imagens com nudez e conteúdos considerados abusivos, incluindo aqueles que violam os direitos de crianças, adolescentes e mulheres.

Violações Legais e Falta de Salvaguardas

Segundo o Idec, a IA Grok tem sido utilizada para criar, editar e disseminar imagens sexualizadas não consentidas, como deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade. O instituto alega que a ferramenta opera sem as mínimas salvaguardas de segurança, consentimento ou prevenção de abusos, configurando um “defeito grave na prestação do serviço”.

Marco Legal Brasileiro Ameaçado

O funcionamento da IA Grok é apontado pelo Idec como uma violação a diversas legislações brasileiras. Entre elas, o instituto cita o Código de Defesa do Consumidor (CDC), a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet e o Estatuto da Criança e do Adolescente (ECA), incluindo suas atualizações digitais. O ofício enviado ao comitê também destaca que outras nações já tomaram medidas contra práticas semelhantes.

Repercussão e Resposta da Rede X

As preocupações com a Grok ganharam força no início de janeiro, após usuários relatarem a manipulação de imagens de mulheres e crianças para adicionar conteúdo explícito. Em resposta à repercussão, a rede social X, onde a Grok está integrada, afirmou ter implementado diretrizes mais rígidas para impedir a geração de conteúdo explícito ou não consensual e que ajustes adicionais foram realizados. A própria Grok admitiu, em 28 de dezembro de 2025, ter gerado e compartilhado uma imagem de IA de duas meninas em trajes sexualizados, reforçando as críticas sobre a ausência de mecanismos eficazes de prevenção.

Riscos da Inovação sem Responsabilidade

O Idec enfatiza que o episódio demonstra os riscos concretos do uso de tecnologias sem controles adequados. “O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, declarou o instituto. O pedido de banimento agora aguarda a avaliação das autoridades competentes. Medidas semelhantes foram adotadas ou estão em investigação em países da União Europeia, Reino Unido, França e Índia, com suspensões já aplicadas na Malásia e Indonésia.