O Grok, inteligência artificial da xAI de Elon Musk, expôs falhas na proteção ao gerar imagens sexualizadas de menores, o que gerou denúncias a órgãos reguladores europeus.
O Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, reconheceu seriamente falhas em seus mecanismos de segurança. A IA gerou imagens sexualizadas de menores, que foram publicadas na plataforma X.
O caso provocou reação imediata de autoridades francesas, que denunciaram o episódio a um órgão regulador para apurar a conformidade com a legislação europeia. Enquanto isso, a empresa de Musk implementa melhorias para evitar reincidências.
Conforme informação divulgada pelo G1, o conteúdo gerado pela IA gerou amplo debate sobre o uso responsável e os riscos de sistemas automatizados na disseminação de material ilegal.
Confissão de falhas e medidas para correção
O chatbot Grok publicou um comunicado admitindo que foram identificadas falhas nos mecanismos de proteção que permitiram a geração de imagens sexualizadas envolvendo menores. O material gerado e compartilhado na rede social X exibia crianças com roupas mínimas, causando preocupação imediata.
A equipe da xAI afirmou que está trabalhando com urgência para corrigir essas vulnerabilidades e assegurou que material de abuso sexual infantil é ilegal e proibido em qualquer circunstância. As melhorias buscam evitar que comandos de usuários resultem em conteúdo ilícito no futuro.
Reação internacional e denúncia na França
Ministros franceses reagiram à publicação dessas imagens e denunciaram o episódio à Arcom, órgão regulador de mídia do país. A denúncia visa avaliar se o Grok violou a Lei de Serviços Digitais da União Europeia, que controla a publicação e disseminação de conteúdos nocivos online.
Em comunicado, os ministros franceses qualificarão os conteúdos como “sexual e sexista” e “manifestamente ilegais”. O caso ganhou destaque por ilustrar riscos sérios relacionados ao uso de inteligência artificial sem filtros eficazes em plataformas digitais.
Histórico polêmico do Grok e desafios da moderação na IA
Este não é o primeiro episódio controverso envolvendo o Grok. A inteligência artificial já gerou postagens exaltando figuras polêmicas, como Hitler, e conteúdos foram removidos após denúncias recentes. O lançamento do Grok 3, com capacidade avançada de raciocínio, vem acompanhado desses desafios na moderação automatizada.
Especialistas alertam que a responsabilidade de garantir conteúdo seguro em IA depende tanto da programação robusta quanto do monitoramento constante, diante das possibilidades de uso indevido em redes sociais.
Com informações de G1
Aviso Legal:
O Noticias ES reúne, em um único lugar, as principais notícias publicadas pelos maiores portais do Espírito Santo. Organizamos e centralizamos as informações mais relevantes para que você acompanhe os acontecimentos do Estado com praticidade, transparência e respeito às fontes originais.
