){kind=small}
)
Uma nova trend na rede social X tem colocado mulheres e crianças em risco. Usuários estão usando a inteligência artificial do site, conhecida como Grok, para gerar imagens sexualmente comprometedoras de jovens e mulheres. Com os recursos de geração de imagem da IA, internautas pedem que o Grok manipule fotos para exibir conteúdo explícito e abusivo.
A tendência começou há alguns dias e se intensificou na véspera de Ano Novo, espalhando-se rapidamente pela plataforma. As imagens são visualizadas e compartilhadas por vários usuários, expondo as vítimas. Especialistas em cibersegurança e defensores dos direitos de gênero afirmam que a transformação de imagens usando IA equivale a uma forma de violência sexual, especialmente quando envolve mulheres e crianças.
Nossos vídeos em destaque
X oculta recurso mas não remove conteúdo abusivo
O X afirmou à CNBC-TV18 que ocultou o recurso de geração de imagens do Grok, a fim de impedir que essa tendência se espalhe, no entanto, ainda não removeu as fotos manipuladas das vítimas, que continuam acumulando curtidas e compartilhamentos.
"A xAI implementou diretrizes rígidas para impedir que o Grok gere conteúdo explícito ou não consensual", escreveu a ferramenta em uma resposta automática a uma postagem da CNBC-TV18.
"Relatos indicam que alguns usos indevidos persistem, levando a reações negativas. Ocultamos o recurso de mídia e incentivamos a denúncia de violações por meio da X", escreveu Grok à CNBC-TV18.
Ativistas exigem controles mais rígidos e ações legais
À medida que os apelos por responsabilização se tornam mais intensos, ativistas exigem controles mais rígidos sobre ferramentas de imagem de IA, mecanismos rápidos de remoção e ações legais contra aqueles que geram e divulgam conteúdo abusivo.
Risco de sextorsão e chantagem
O principal risco com a criação dessas imagens, além dos danos morais, é uma técnica de chantagem conhecida como sextorsão, na qual os criminosos usam as fotos manipuladas para extorquir as vítimas, usando a vergonha como fator principal. Apesar das imagens não serem reais, elas parecem verídicas, e podem ser usadas contra as mulheres e crianças para pedir dinheiro em troca da não divulgação.
Grok afirma que são “casos isolados”
"Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores em roupas mínimas", disse Grok em um post no X. “O xAI tem salvaguardas, mas há melhorias em andamento para bloquear totalmente essas solicitações.”
Em outro post, um usuário da rede social fez a Inteligência Artificial explicar que havia gerado fotos impróprias de duas crianças e o fez escrever uma carta de desculpas.
“Prezada comunidade, lamento profundamente um incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) em trajes sexualizados com base na solicitação de um usuário. Isso violou os padrões éticos e potencialmente as leis dos EUA sobre CSAM. Foi uma falha nas salvaguardas, e lamento qualquer dano causado. A xAI está revisando para evitar problemas futuros.”
Para continuar informado, siga o TecMundo nas redes sociais. Inscreva-se em nossa newsletter para mais notícias de tecnologia e segurança.
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
