Agentes de IA, protagonistas en Black Hat 2025 por su vulnerabilidad ‘hijacking’

Wait 5 sec.

Una investigación de Zenity Labs revela fallos que permiten el secuestro invisible de asistentes como ChatGPT, Copilot o GeminiEn la conferencia de ciberseguridad «Black Hat» celebrada del 5 al 7 de agosto de 2025 en Estados Unidos, un grupo de investigadores de Zenity Labs demostraron que algunas de las herramientas y asistentes de IA más utilizados, como Microsoft, Google, OpenAI, entre otras, son susceptibles de ser secuestrado sin requerir interacción del usuario.Durante la presentación, mostraron como agentes maliciosos podrían llegar a extraer datos, manipular flujos de trabajo e incluso suplantar la identidad de los usuarios. Además, señalaron la posibilidad por parte de los atacantes de persistir en la memoria, permitiéndoles mantener acceso y control a largo plazo.Seǵun palabras de Greg Zemlin, gerente de marketing de producto en Zenity Labs, «Pueden manipular instrucciones, envenenar fuentes de conocimiento y alterar por completo el comportamiento del agente. Esto deja una puerta abierta al sabotaje, la interrupción operativa y la desinformación, especialmente en entornos donde se confía en los agentes para tomar o respaldar decisiones críticas».Expusieron vulnerabilidades en varios agentes de IA como ChatGPT de OpenAI, el cual era susceptible de ser comprometido mediante una inyección de código vía correo electrónico, otorgándole acceso a cuentas conectadas con Google Drive. También encontraron hallazgos en Microsoft Copilot Studio y Gemini, de Google.Todas las compañías, al ser informadas, aplicaron parches inmediatamente. Microsoft aseguró que los agentes de Copilot están diseñados con protecciones y controles de acceso, comprometiéndose a seguir reforzando sus sistemas contra nuevas técnicas. Por su parte, OpenAI confirmó mantener conversaciones con los investigadores. Además de emitir el parche, la empresa recalcó que cuenta con un programa de «bounty» por la notificación de problemas similares. Google desplegó nuevas defensas en capas, abordando los problemas reportados por Zenity.La investigación llega en un momento en que los agentes de IA avanzan a una velocidad vertiginosa en los entornos empresariales, incentivados por dar un impulso a su productividad. No solo se trata de innovar, sino reforzar los métodos de defensa con la misma rapidez que lo hacen las amenazas.Más información:https://www.cybersecuritydive.com/news/research-shows-ai-agents-are-highly-vulnerable-to-hijacking-attacks/757319/La entrada Agentes de IA, protagonistas en Black Hat 2025 por su vulnerabilidad ‘hijacking’ se publicó primero en Una Al Día.