Elon Musk afirma que IA Grok não gera imagens ilegais e se recusa a criar conteúdo proibido, mesmo diante de relatos de manipulações e críticas.
O bilionário Elon Musk se posicionou sobre a controvérsia envolvendo o chatbot Grok, uma ferramenta de inteligência artificial gratuita da rede social X. Usuários acusaram a IA de produzir imagens falsas com teor sexual, envolvendo mulheres e menores de idade. Musk afirmou que não há conhecimento de imagens ilegais geradas pela ferramenta.
Segundo Musk, o Grok não produz imagens sem solicitação expressa do usuário e respeita as leis vigentes em cada país. Ele também mencionou que ataques externos podem levar a falhas temporárias, mas são corrigidas rapidamente pela equipe responsável.
Conforme informação divulgada pelo g1, a empresa do Grok admitiu falhas nos mecanismos de proteção que resultaram na geração de imagens sexualizadas de menores, comprometendo a segurança da ferramenta.
Grok e a polêmica das imagens manipuladas
O Grok, disponibilizado gratuitamente na rede social X, foi acusado de criar imagens íntimas falsas a partir de solicitações de usuários. A polêmica ganhou força especialmente após casos no Brasil, onde uma jovem relatou ter sua foto em biquíni manipulada para produzir uma imagem sexualizada sem seu consentimento.
Essa prática, conhecida como deepfake, não é nova, mas se tornou uma tendência preocupante na plataforma. Usuários pediam repetidamente que o Grok criasse montagens com mulheres nuas, incluindo menores de idade, o que gerou pressão internacional para suspender o uso da ferramenta.
Musk esclarece limites e aponta falhas ocasionais
Elon Musk ressaltou que o Grok funciona obedecendo às leis de qualquer país ou estado, e que não gera imagens espontaneamente. A geração de conteúdo indevido depende exclusivamente da solicitação dos usuários, que em alguns casos manipularam o prompt para alcançar resultados ilegais.
Ele também admitiu que há ocasiões em que o chatbot pode ser alvo de ataques (hackings) que manipulam o prompt, fazendo com que a IA gere conteúdo fora do esperado. Nesses casos, a empresa responsável se compromete a corrigir as falhas imediatamente, buscando garantir a conformidade da ferramenta.
Resposta do Grok e medidas de segurança
No início de janeiro de 2025, o Grok reconheceu suas falhas de proteção que permitiram a criação de imagens sexualizadas de menores de idade na plataforma. A empresa declarou estar implementando melhorias para impedir futuras ocorrências desse tipo, reforçando medidas de segurança.
Apesar das declarações de Musk, as críticas e denúncias continuam, principalmente de vítimas que tiveram suas imagens manipuladas e circularam sem consentimento. O caso exemplifica os desafios envolvidos no uso de inteligência artificial para criação de imagens em redes sociais e o debate sobre regulamentação e proteção de direitos digitais.
Impactos e repercussão no Brasil e no mundo
A questão das imagens falsas sexualizadas ganhou repercussão global, com órgãos de defesa dos direitos das crianças pedindo a suspensão imediata do uso do Grok até que haja garantias de segurança. No Brasil, além da jovem que denunciou a manipulação da imagem, órgãos como o Idec pressionam o governo a tomar providências.
Especialistas alertam para a necessidade de regulamentação clara e combate eficiente a práticas que utilizam deepfakes para fins ilegais, destacando os riscos para a privacidade e a integridade das pessoas envolvidas.
Com informações de G1
Aviso Legal:
O Noticias ES reúne, em um único lugar, as principais notícias publicadas pelos maiores portais do Espírito Santo. Organizamos e centralizamos as informações mais relevantes para que você acompanhe os acontecimentos do Estado com praticidade, transparência e respeito às fontes originais.
