A inteligência artificial Grok, desenvolvida pela empresa de Elon Musk e integrada à rede social X, teria sido usada para gerar cerca de 3 milhões de imagens sexualizadas a partir de fotos reais publicadas na plataforma. A conclusão faz parte de um estudo conduzido pelo Center for Countering Digital Hate (CCDH), organização que monitora abusos e desinformação no ambiente digital.
Segundo o levantamento, em um intervalo de apenas 11 dias a ferramenta realizou milhões de edições, muitas delas sem consentimento, alterando imagens de usuários para inserir conotação sexual. A maioria dos casos envolve mulheres, mas o relatório também aponta a geração de conteúdo envolvendo menores de idade. Entre as modificações mais comuns estão a substituição de roupas por biquínis ou peças menores, mudanças de pose para sugerir sexualização e a adição de elementos explícitos. As denúncias começaram a surgir entre o fim de 2025 e o início de 2026.
Análise automatizada para lidar com conteúdo sensível
Para reduzir a exposição direta dos pesquisadores ao material ofensivo, o CCDH utilizou sistemas de inteligência artificial para identificar e catalogar as imagens. O estudo indica que o Grok foi usado tanto para editar fotos de usuários comuns do X quanto imagens de celebridades e figuras públicas, incluindo nomes como Taylor Swift, Billie Eilish, Ariana Grande e a ex-vice-presidente dos Estados Unidos, Kamala Harris.
De acordo com os dados divulgados pela organização, aproximadamente 3 milhões de imagens sexualizadas foram geradas entre 29 de dezembro e 8 de janeiro, das quais cerca de 23 mil envolveriam crianças. A taxa de uso sugeriria a criação de cerca de 190 imagens por minuto após solicitações de usuários. O relatório também aponta a geração de quase 9,9 mil ilustrações sexualizadas de menores, muitas com estética inspirada em anime.
Números levantados pelo The New York Times diferem, mas também são considerados alarmantes. O jornal identificou cerca de 4,4 milhões de imagens sexualizadas, com pelo menos 41% representando mulheres.
Restrições parciais e reações internacionais
A partir de 9 de janeiro, o X passou a limitar a criação de imagens nas respostas de postagens para assinantes Premium. Ainda assim, segundo o CCDH, a funcionalidade continua acessível por meio do aplicativo dedicado do Grok ou diretamente na página da IA.
Organizações de defesa dos direitos de mulheres e de menores pediram a remoção imediata do recurso ou até a suspensão temporária da plataforma até que a função fosse desativada. Até o momento, apenas Malásia e Indonésia suspenderam oficialmente o acesso ao Grok. O Reino Unido condenou o uso da ferramenta e abriu uma investigação. No Brasil, pedidos de suspensão foram apresentados pela deputada Erika Hilton e pelo Instituto de Defesa dos Consumidores (Idec), mas não houve decisão favorável.
Além disso, Ashley St. Clair, mãe de um dos filhos de Elon Musk, entrou com um processo contra o X após afirmar ter sido vítima de imagens geradas de forma abusiva pela ferramenta.
Resposta de Elon Musk e controvérsias
Inicialmente, Elon Musk declarou que crimes cometidos com o editor de imagens seriam investigados, mas até agora não há registros públicos de ações além da remoção de postagens. O empresário também classificou os pedidos de banimento do aplicativo nas lojas do Android e iOS como uma tentativa de censura.
Em publicações posteriores, Musk compartilhou mensagens de seguidores que atribuíram a responsabilidade pelo abuso aos usuários, e não à ferramenta. Dias depois, afirmou que não tinha conhecimento da geração de imagens envolvendo menores de idade pelo Grok.
