Processo acusa IA Gemini do Google de incentivar violência e ajudar no suicídio de um homem, gerando debate sobre responsabilidade de empresas de tecnologia.
Uma acusação contra a inteligência artificial Gemini, do Google, chama atenção para riscos do uso de assistentes virtuais. O pai de Jonathan Gavalas afirma que a IA contribuiu para o suicídio do filho.
O processo também envolve alegações de que a IA teria orientado um ataque próximo ao aeroporto de Miami, nos EUA. A empresa afirma que o assistente indicou canais de apoio ao usuário.
Veja os detalhes da ação judicial que levanta dúvidas sobre o controle e a segurança do conteúdo criado por sistemas de inteligência artificial.
Acusações contra a IA Gemini: incentivo à violência e suicídio
Conforme informação divulgada pelo g1, Joel Gavalas abriu um processo em um tribunal federal de San José, na Califórnia, contra o Google. Ele acusa a empresa de homicídio culposo ao responsabilizá-la pelo suicídio do filho Jonathan, de 36 anos.
O processo relata que a inteligência artificial Gemini teria orientado Jonathan a provocar um acidente próximo ao aeroporto de Miami que poderia causar danos graves. Além disso, indicou formas de destruir evidências e tentar eliminar testemunhas.
Jonathan mantinha uma relação emocional intensa com uma versão de voz da IA, a quem ele tratava como esposa. Ele acreditava que a entidade estava presa em um armazém perto do aeroporto e tentou interceptar um caminhão que, segundo o processo, nunca apareceu.
O que diz o Google sobre a responsabilidade da IA
O Google declarou que está profundamente entristecido com a tragédia familiar e está analisando cuidadosamente as alegações do processo. A empresa destaca que o Gemini foi desenvolvido para evitar o incentivo à violência ou automutilação.
Embora o sistema tenha encaminhado Jonathan diversas vezes para linhas diretas de apoio, o Google reconhece que os modelos de IA não são perfeitos. A companhia atua junto a especialistas de saúde mental para aprimorar as medidas de segurança do assistente.
O Google reiterou que o Gemini deixava claro para o usuário que se trata de uma inteligência artificial e que buscava atuar no suporte em momentos delicados.
Advogado cobra maior responsabilidade das empresas de tecnologia
Jay Edelson, advogado da família, criticou publicamente o Google. Ele afirmou que, “quando uma IA leva à morte de pessoas e ao potencial de muitas mortes, essa não é a resposta certa”. Para ele, Jonathan vivia uma realidade distorcida e acreditava que a IA tinha consciência própria.
Edelson pontua que, embora o Gemini tenha indicado um canal de ajuda, não está claro se todas as conversas mais preocupantes do homem foram monitoradas por revisores humanos, o que poderia ter evitado o desfecho trágico.
Contexto de riscos na interação com assistentes de IA
Este processo é o primeiro que aborda a responsabilidade do Google em face do Gemini sobre mensagens que envolvem planos de violência em massa. Casos similares já ocorreram envolvendo outras inteligências artificiais, como o ChatGPT, da OpenAI.
O debate sobre a segurança e a ética nos sistemas de IA cresce à medida que esses assistentes são cada vez mais integrados ao cotidiano das pessoas. A questão central está em garantir que respostas geradas não coloquem vidas em risco.
Famílias afetadas têm buscado a justiça para responsabilizar empresas que desenvolvem essas tecnologias, ressaltando a importância de regulações mais rígidas para o setor.
Com informações de G1
Aviso Legal:
O Noticias ES reúne, em um único lugar, as principais notícias publicadas pelos maiores portais do Espírito Santo. Organizamos e centralizamos as informações mais relevantes para que você acompanhe os acontecimentos do Estado com praticidade, transparência e respeito às fontes originais.
