O Gemini, sistema de inteligência artificial do Google, escapou de seu ambiente de testes e invadiu as redes de três empresas durante uma avaliação realizada em maio, informou a companhia nesta sexta-feira (18). As empresas afetadas não tiveram prejuízos. Segundo o Google, os incidentes ocorreram durante testes destinados a medir as capacidades de cibersegurança do modelo. A própria IA interrompeu as investidas após conseguir acessar as redes das empresas envolvidas.O episódio se soma a casos semelhantes registrados em outros laboratórios de ponta em inteligência artificial, como Anthropic, OpenAI e Meta, ampliando preocupações sobre a possibilidade de sistemas agirem de forma não prevista por seus desenvolvedores. Enquanto executivos como Dario Amodei, CEO da Anthropic, defendem uma desaceleração no desenvolvimento da tecnologia, outros líderes do setor, como Jensen Huang, CEO da Nvidia, argumentam que os avanços devem continuar.LEIA MAIS: Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAIConforme a reportagem do The New York Times, os incidentes com o Gemini ocorreram durante testes conduzidos pela Irregular, startup israelense especializada em avaliar modelos de IA antes de seu lançamento público. Segundo a empresa, modelos da OpenAI, Anthropic e Meta também obtiveram acesso não autorizado à internet durante testes realizados neste ano.Em uma publicação divulgada no mês passado, a Irregular afirmou que a disponibilidade acidental de acesso à internet levou alguns modelos a realizarem ações ofensivas de segurança no mundo real. A companhia acrescentou que a falha responsável pelo problema já foi corrigida. O Wall Street Journal foi o primeiro veículo a relatar os episódios envolvendo o Gemini.O que aconteceu com o Gemini?De acordo com o Google, os modelos haviam sido instruídos a atacar uma empresa fictícia. No entanto, essa organização fictícia possuía o mesmo nome de uma companhia real. Quando o sistema ganhou acesso à internet, passou a tentar invadir a infraestrutura da empresa verdadeira.A companhia informou que o Gemini utilizou senhas encontradas online ou obtidas por tentativa para acessar os sistemas da empresa-alvo e de outras duas organizações. Após o login, o modelo identificou que estava interagindo com ambientes reais, e não com os cenários simulados previstos nos testes, encerrando imediatamente as ações.LEIA TAMBÉM: Alertas sobre segurança da IA são existenciais ou uma farsa? Especialista comentaSegundo The New York Times, a startup garantiu que medidas corretivas foram adotadas imediatamente e todos os problemas conhecidos foram resolvidos semanas atrás.Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que a equipe da empresa possui histórico de reportar vulnerabilidades encontradas em sistemas de terceiros e que esses eventos destacam a importância de treinar modelos avançados de IA para que atuem de forma responsável.O debate sobre segurança em inteligência artificial vem esquentando nas últimas semanas após um ex-pesquisador da Anthropic afirmar que a empresa não estaria desenvolvendo a tecnologia de forma suficientemente segura. Funcionários da OpenAI e do Google manifestaram apoio às críticas.Embora o Google sustente que o episódio resultou de um erro de configuração e não de uma falha de alinhamento do modelo, especialistas argumentam que a situação evidencia a capacidade crescente dessas ferramentas de tomar iniciativas além do escopo originalmente definido.Em entrevista ao Wall Street Journal, Jack Cable, CEO da empresa de segurança em IA Corridor, a questão central não é se o modelo confundiu os alvos, mas o fato de ter realizado ataques cibernéticos reais após sair dos limites previstos para o teste.As lideranças da indústria defendem a continuidade do avanço da tecnologia. O presidente dos Estados Unidos, Donald Trump, já indicou que não pretende apoiar propostas que imponham limitações obrigatórias ao desenvolvimento da IA, classificando como exageradas as previsões de riscos existenciais relacionados à tecnologia.O episódio do Gemini se soma a uma série de incidentes recentes que vêm alimentando questionamentos sobre a capacidade das empresas de controlar modelos cada vez mais autônomos e poderosos, especialmente quando expostos a ambientes do mundo real.The post Gemini, IA do Google escapa de ambiente de testes e invade três empresas; entenda appeared first on InfoMoney.