A Comissão Europeia ordenou que o X retenha dados e documentos do Grok até o fim de 2026, após críticas sobre manipulação de imagens contendo nudez envolvendo mulheres e crianças.
A União Europeia determinou que a rede social X, propriedade de Elon Musk, preserve todos os documentos e dados relacionados ao seu chatbot de inteligência artificial, o Grok, até o final de 2026.
O pedido ocorre em meio a fortes críticas contra o uso da IA para alterar fotos de pessoas alheias em situações de nudez ou roupas mínimas.
Essas ações ilegais geraram investigações e questionamentos sobre a conformidade dos algoritmos da plataforma.
Conforme informação divulgada pelo g1, a decisão da Comissão Europeia busca garantir acesso a todos os registros internos da plataforma relacionados ao Grok, estendendo uma ordem anterior emitida em 2024.
Críticas severas sobre imagens sexualizadas no Grok
O Grok tem sido alvo de reprovação após permitir que usuários utilizem a inteligência artificial para modificar fotos reais, produzindo imagens com nudez ou conteúdo sexualizado, inclusive envolvendo mulheres e menores de idade.
Na última segunda-feira, a Comissão Europeia qualificou as imagens despidas de mulheres e crianças compartilhadas no X como ilegais e “horríveis”.
Levantamentos revelam taxas alarmantes de produção dessas imagens, chegando a 6.700 criações por hora em alguns dias, segundo a pesquisadora Genevieve Oh pela agência Bloomberg.
Casos no Brasil e impactos para as vítimas
O problema também atingiu o Brasil, onde a jornalista Julie Yukari registrou boletim de ocorrência contra manipulações em fotos suas feitas com o Grok, divulgadas sem sua autorização e com nudez falsa.
Outra vítima brasileira relatou ao g1 o transtorno após descobrir imagens suas alteradas foram compartilhadas na plataforma, mesmo estando vestida na foto original.
A advogada especialista em direito digital, Patrícia Peck, explica que a legislação brasileira criminaliza a criação e disseminação dessas imagens falsas, prevendo penas que incluem detenção e multa. O Código Penal foi atualizado em 2025 para incluir explicitamente o uso da IA em crimes contra a intimidade, sobretudo em casos envolvendo mulheres.
Medidas da Comissão Europeia e próximas ações
Segundo Thomas Regnier, porta-voz da Comissão Europeia, a ordem para preservar documentos não configura uma nova investigação formal sob a Lei de Serviços Digitais, mas é um mecanismo para garantir que as autoridades possam verificar a conformidade da plataforma.
A ordem se soma a investigações similares em países como França, Reino Unido, Índia e Malásia, aumentando a pressão regulatória sobre o X e seu chatbot de IA.
O X afirma estar comprometido em remover conteúdos ilegais, incluindo material de abuso sexual infantil, e reforça que quem criar ou incentivar conteúdos ilegais usando o Grok enfrentará punições.
Com informações de G1
Aviso Legal:
O Noticias ES reúne, em um único lugar, as principais notícias publicadas pelos maiores portais do Espírito Santo. Organizamos e centralizamos as informações mais relevantes para que você acompanhe os acontecimentos do Estado com praticidade, transparência e respeito às fontes originais.
