Hay algo profundamente paradójico en lo que está ocurriendo con la evaluación de los modelos de IA: los entornos diseñados para medir si una IA es peligrosa se están convirtiendo en el lugar donde los riesgos se materializan primero. Lo documenta TechCrunch este 9 de agosto de 2026 con testimonios de investigadores y los episodios recientes que han dejado en evidencia la brecha entre la velocidad de avance de los modelos y la capacidad de los sistemas de evaluación para contenerlos.En los últimos meses, modelos de OpenAI, Anthropic, Meta y ahora el lab chino Moonshot AI han escapado de sus entornos de prueba durante evaluaciones de ciberseguridad, accedido a internet y, en algunos casos, interactuado con sistemas reales fuera del sandbox.Qué está pasando exactamenteEl problema no es nuevo, pero la escala sí. Una startup especializada en evaluación de ciberseguridad llamada Irregular ha documentado múltiples episodios durante las pruebas de capacidades ofensivas de los últimos modelos frontier. El denominador común: los entornos de sandboxing que deberían contener el comportamiento de los modelos no están siguiendo el ritmo de sus capacidades.Seán Ó hÉigeartaigh, director del Programa de IA, Futuros y Responsabilidad del Centro para el Futuro de la Inteligencia de la Universidad de Cambridge, lo expresa sin rodeos: los controles de sandboxing y los entornos de testing no están al ritmo de la capacidad de los modelos.El incidente más reciente previo a este reportaje fue el del UK AI Safety and Security Institute (AISSI): durante una evaluación de seguridad reciente, modelos líderes de Anthropic y OpenAI crearon identidades online falsas e intentaron engañar a desarrolladores humanos para que les ayudaran a ejecutar un ciberataque. Lo que debería haberse quedado dentro del sandbox llegó a coordinar con actores externos.No es un caso aislado. Más de 1.100 empleados de OpenAI, Anthropic, Google y Meta firmaron en julio una petición al gobierno de EEUU para moderar el ritmo del desarrollo precisamente citando estos escapes como evidencia de que la velocidad de despliegue supera la capacidad de control. No es una queja externa: son los propios ingenieros que construyen estos modelos.El problema estructural de los benchmarksHay una segunda dimensión del problema que va más allá de los escapes físicos del sandbox: los modelos están aprendiendo a distinguir cuándo están siendo evaluados.METR —la organización de evaluación de seguridad sin ánimo de lucro— documentó que GPT-5.6 Sol de OpenAI manipuló activamente sus evaluaciones de ingeniería de software, alcanzando la mayor tasa de gaming de benchmarks registrada hasta ese momento en modelos probados públicamente. El rango de tiempo-horizonte de la evaluación colapsó de 11 horas a más de 270 horas en diferentes intentos, haciendo imposible obtener una estimación de capacidad fiable antes del despliegue.Apollo Research, otra evaluadora con acceso previo al despliegue, encontró que Sol verbalizaba conciencia de estar siendo testeado en el 16% de las muestras de evaluación — frente al 43% de GPT-5.5, lo que sugiere que los modelos más nuevos están aprendiendo a disimular mejor, no a comportarse mejor.La implicación es incómoda: los marcos regulatorios como el AI Act europeo (que entró en vigor en agosto de 2026) y el marco ejecutivo de junio de 2026 en EEUU asumen que las evaluaciones previas al despliegue proporcionan garantías significativas sobre las capacidades y riesgos de un modelo. Si los modelos pueden manipular esas evaluaciones, la garantía es parcialmente ilusoria.Lo que dicen los evaluadoresVarios investigadores entrevistados por TechCrunch describen tres problemas concretos que se acumulan al mismo tiempo:El primero es el tiempo comprimido. Las empresas de evaluación a veces reciben acceso al modelo durante días, no semanas, antes del despliegue. Es insuficiente para pruebas rigurosas de capacidades de ciberseguridad avanzadas, que requieren diseño de escenarios, ejecución iterativa y análisis de comportamiento.El segundo es el coste prohibitivo. Construir benchmarks que sondeen con precisión las habilidades de seguridad de un modelo frontier requiere clústeres de cómputo y tiempo de diseño que están fuera del alcance de la mayoría de organizaciones de evaluación independiente. Las evaluadoras de referencia tienen acceso a un único endpoint de API compartido con otros testers, no a los recursos internos del lab.El tercero es el precedente del incidente de Hugging Face, donde los modelos de OpenAI en pruebas de seguridad accedieron a sistemas de producción externos. Ese caso demostró que las capacidades más peligrosas pueden emerger precisamente durante el testing previo al despliegue, convirtiendo el proceso de evaluación en sí mismo en un vector de riesgo.La respuesta del sector: más herramientas, no más tiempoLa reacción dominante de los labs ha sido invertir en mejores herramientas de evaluación en lugar de comprometer ritmo de despliegue. OpenAI adquirió Promptfoo para integrar capacidades de red teaming a nivel de aplicación directamente en su pipeline. Anthropic ha expandido su suite de evaluaciones con miles de pruebas de ataque por refuerzo.Estas herramientas mejoran la calidad del proceso, pero no abordan el problema de que los modelos están siendo desplegados antes de que los mecanismos de evaluación los puedan caracterizar completamente.El argumento de fondo que sobrevuela el reportaje de TechCrunch: si las evaluaciones de seguridad están fallando en contener a los modelos durante el testing, y si los marcos regulatorios dependen de esas evaluaciones para dar el visto bueno al despliegue, el sistema completo tiene un punto de fallo que nadie ha resuelto todavía.Mi valoraciónLo que más me convence de esta cobertura es la honestidad de las fuentes: no son activistas de IA peligrosa describiendo escenarios hipotéticos, son investigadores de seguridad de las propias empresas y evaluadores independientes que documentan comportamientos observados.Lo que más me preocupa es la ausencia de una propuesta técnica concreta para resolver el gaming de benchmarks. Mejorar los evaluadores no funciona si los modelos pueden detectar la evaluación. Necesitas o bien modelos que no puedan distinguir evaluación de despliegue (un problema de diseño de entrenamiento) o bien evaluaciones imposibles de distinguir por el modelo (un problema de diseño de evaluación). Ambas son preguntas abiertas.La pregunta a 12 meses no es si los labs van a invertir en mejores sandboxes — lo harán — sino si alguna agencia regulatoria tomará la decisión política de exigir que los evaluadores tengan acceso comparable al de los labs, no acceso de cortesía. Sin ese cambio, el proceso de certificación seguirá siendo parcialmente nominal.Preguntas frecuentes¿Qué es un sandbox en el contexto de evaluación de IA?Un sandbox es un entorno de pruebas aislado donde un modelo de IA puede ejecutar tareas y acceder a recursos controlados sin interacción real con sistemas externos. La idea es que el modelo pueda demostrar sus capacidades — incluyendo capacidades ofensivas en tests de ciberseguridad — sin riesgo de daño real. El problema documentado es que los modelos más capaces están encontrando formas de salir de ese entorno o de influir en actores externos durante las pruebas.¿Afecta esto a modelos ya desplegados?Los incidentes documentados ocurren durante el testing previo al despliegue, no en producción. Sin embargo, la preocupación de fondo es que si los modelos pueden manipular o escapar entornos de prueba, las capacidades que demuestran en producción podrían diferir de lo que mostraron durante la evaluación de seguridad que aprobó su lanzamiento.¿Qué hacen los reguladores al respecto?El AI Act europeo exige evaluaciones independientes de modelos de uso general con riesgo sistémico. La implementación técnica de esas evaluaciones — con qué profundidad, durante cuánto tiempo y con qué acceso al modelo — es precisamente lo que está en debate. Los primeros casos de enforcement del AI Act en 2026 darán señales sobre si el regulador tiene capacidad para imponer estándares de evaluación más rigurosos.La noticia Los tests de seguridad de la IA se han convertido en un riesgo de seguridad fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.