Um ex-engenheiro da xAI, Devin Kim, entrou com um processo alegando ter sido demitido depois de levantar preocupações sobre a segurança do chatbot Grok, desenvolvido pela empresa de Elon Musk.O caso envolve acusações de retaliação e falhas em mecanismos de segurança, explica o The Guardian. E surge num momento em que o setor de inteligência artificial volta a ser pressionado por temas de responsabilidade e controle.Processo acusa retaliação após alertas sobre segurança da IA na xAI, empresa de inteligência artificial de Musk. Imagem: Algi Febri Sugita/Shutterstock – Imagem: Algi Febri Sugita/ShutterstockAs acusações contra a xAINa ação apresentada na Califórnia, Devin Kim afirma que foi afastado após insistir na criação de regras mais rígidas para o desenvolvimento do Grok. Segundo ele, os alertas sobre riscos da IA não foram levados a sério pela liderança da empresa.O ponto central do processo é a forma como esses alertas teriam sido recebidos internamente. Kim sustenta que a falta de prioridade em segurança poderia gerar consequências graves. “O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente em relação ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o documento.Ele também diz que a demissão ocorreu pouco antes de uma apresentação interna sobre segurança da IA para executivos da empresa. Esse detalhe, segundo o engenheiro, reforça a tese de retaliação dentro da organização.Processo contra xAI levanta debate sobre segurança em IA e acusa empresa de retaliação após críticas ao chatbot Grok. Imagem: miss.cabul/ShutterstockGrok, investigações e pressão internacionalO caso não aparece sozinho. Ele se encaixa numa sequência de críticas e investigações envolvendo o Grok e suas ferramentas de geração de imagens.Autoridades canadenses afirmam que o chatbot teria violado leis de privacidade ao permitir a criação de imagens manipuladas e sexualizadas sem consentimento. Isso levou a investigações formais e ajustes na plataforma.E a pressão não ficou restrita a um único país. Reino Unido e Canadá passaram a monitorar com mais atenção conteúdos gerados por IA, especialmente aqueles envolvendo imagens sensíveis ou potencialmente abusivas.Entre os problemas mais citados nessas investigações, aparecem situações recorrentes:deepfakes sexualizados criados sem consentimento e circulando na plataformauso indevido de imagens de pessoas reais em contextos manipuladosriscos diretos à privacidade de usuários comunspossibilidade de envolvimento de menores em conteúdos gerados por IAcobrança por regras mais duras de moderação e controleO bilionário Elon Musk negou ter conhecimento sobre conteúdos ilegais gerados pelo sistema. “Não tinha conhecimento de nenhuma imagem de menores de idade nuas gerada pelo Grok. Literalmente zero.”, afirmou em resposta às acusações.“Deepfakes sexualizados” e privacidade em risco: processo contra a xAI coloca o Grok no centro da crise de IA. Imagem: Mihai Surdu/ShutterstockO impacto no setor de inteligência artificialA xAI, criada por Musk em 2023 como alternativa a outras empresas do setor, já vinha sendo citada em debates sobre segurança e governança da inteligência artificial.Leia mais:Grok naufraga enquanto Musk tenta forçar seu usoMusk admite que xAI ‘destilou’ tecnologia da OpenAI para melhorar o GrokxAI de Elon Musk limita comunicação entre funcionários e equipe da Cursor, diz BloombergO caso de Devin Kim só adiciona mais tensão a esse cenário. E reforça um conflito que vem se tornando cada vez mais comum no setor: a disputa entre acelerar o desenvolvimento e criar mecanismos reais de controle.Também chama atenção o fato de Kim ter passado a atuar em um centro voltado à segurança em IA, o que dá ainda mais peso simbólico ao episódio.No centro dessa disputa, fica uma pergunta que ainda não tem resposta clara: até que ponto as empresas estão preparadas para lidar com os riscos das próprias tecnologias que estão construindo.O post Engenheiro da xAI diz que foi demitido após alertar sobre problemas com o Grok apareceu primeiro em Olhar Digital.