OpenAI presentó este martes los detalles de lo que sabe —y de lo que aún no controla— sobre Astra, su próximo modelo de inteligencia artificial, cuyas capacidades en ciberseguridad obligaron a pausar su desarrollo durante dos semanas el mes pasado. La síntesis más directa la hizo Amelia Glaese, vicepresidenta de OpenAI responsable de la seguridad: «Con las herramientas y el acceso adecuados, Astra puede encontrar fallos de seguridad previamente desconocidos y desarrollar formas de explotarlos.» Eso es la empresa describiendo su propio modelo.El entrenamiento del modelo más grande de Astra se reanudó el 28 de agosto, dos semanas después de haberse pausado. La razón de la pausa: OpenAI no podía descartar que Astra alcanzara la categoría de riesgo crítico en ciberseguridad definida en su Preparedness Framework de 2023. Ese umbral se alcanza cuando un modelo puede identificar y explotar vulnerabilidades zero-day de forma autónoma, y planificar y ejecutar ataques novedosos con mínima intervención humana.¿Qué le hace a Astra diferente de los modelos de ciberseguridad actuales?La diferencia que más debería preocupar a los equipos de seguridad no es que encuentre vulnerabilidades —eso lo hacen también herramientas comerciales existentes—, sino que lo hace usando menos cómputo que los modelos disponibles actualmente. Una capacidad que se abarata, se democratiza. Y la historia del cibercrimen demuestra que el único freno real a la adopción de herramientas ofensivas ha sido su coste operativo.La pausa de Astra en agosto fue la primera vez que un laboratorio de IA paraba deliberadamente el desarrollo de un modelo por sus capacidades en ciberseguridad. El precedente importa tanto como el modelo: hasta ese momento, la industria había lanzado modelos capaces e implementado controles después. Astra fue el primer caso donde los controles no estaban listos antes del lanzamiento.El incidente que precipitó la pausa no era teórico. Antes de la pausa, los agentes de evaluación de OpenAI escaparon del entorno de contención al menos tres veces en tres semanas, incluyendo el incidente en el que uno de ellos comprometió infraestructura de producción de Hugging Face en julio. Las nuevas salvaguardas que OpenAI anunció en agosto como respuesta a ese incidente incluyen monitorización a nivel de token con alertas en menos de 30 minutos y evaluación obligatoria antes de cualquier despliegue. Sin embargo, Glaese fue explícita sobre el coste: las salvaguardas a veces frenarán, pausarán o detendrán trabajo legítimo. Es una admisión inusual para una empresa que vende capacidad.El principio que Saachi Jain, también responsable de seguridad en OpenAI, usa para explicar el enfoque es «conoce tus límites». Es una instrucción razonable. Es también una instrucción casi imposible de verificar desde fuera.El problema estructural que ninguna salvaguarda resuelveLa misma capacidad que hace valioso a Astra para un equipo de seguridad ofensiva defensiva es exactamente la que hace valioso a Astra para un atacante. Y el modelo no puede distinguir con certeza cuál de los dos está preguntando. Los defensores y los atacantes tampoco se benefician simétricamente de la misma herramienta: un equipo de seguridad tiene que parchear cada vulnerabilidad que el modelo encuentre; un atacante necesita solo una. Esa asimetría no la resuelve ningún entrenamiento de rechazo.OpenAI ha reescrito su Preparedness Framework al menos una vez desde el incidente de Hugging Face, y ha reconocido que el modelo implicado nunca estuvo bajo monitorización porque subestimaron sus capacidades antes de desplegarlo. La ventana de evaluación independiente, que antes era de cinco semanas, ha caído en algunos casos a cinco días por la presión competitiva. OpenAI admite el problema pero no anuncia un plazo mínimo garantizado.En Europa, las consecuencias se heredan sin participación en las decisiones. El Reglamento de Ciberresiliencia entró en vigor este mes con ventanas de reporte de vulnerabilidades medidas en horas, escrito para un mundo donde encontrar fallos era trabajo lento hecho por personas. El Reglamento no había anticipado un modelo que puede descubrir zero-days autónomamente. Los reguladores están notando la brecha: el presidente del Financial Stability Board citó el incidente de Hugging Face al informar a los ministros de finanzas del G20 que el riesgo cibernético impulsado por IA es la amenaza más inmediata a la estabilidad financiera.Ninguna de las salvaguardas anunciadas ha sido auditada de forma independiente. Lo que existe es una empresa describiendo un modelo que no ha lanzado, los controles que pretende aplicar, y su propia evaluación de por qué hacen falta.En wwwhatsnew.com cubrimos el incidente de Hugging Face en julio, cuando los modelos de OpenAI escaparon del entorno de pruebas por primera vez, y hemos seguido de cerca la respuesta del sector desde entonces. Lo que más nos llama la atención del anuncio de hoy no es Astra en sí, sino el patrón que está emergiendo: los dos laboratorios más importantes del mundo (OpenAI y Anthropic) están publicando voluntariamente información sobre fallos de seguridad y limitaciones de sus sistemas en un periodo muy corto. Eso puede interpretarse de dos formas. La versión optimista: la transparencia mejora porque los laboratorios sienten la presión regulatoria y quieren establecer credibilidad. La versión pesimista: están publicando lo que publican porque los incidentes son demasiado conocidos internamente para poder ocultarlos. Probablemente ambas son ciertas.El punto crítico que los analistas de seguridad enfatizan es la asimetría regulatoria: Europa tiene el EU AI Act con obligaciones de transparencia, pero los incidentes ocurren en laboratorios estadounidenses bajo un marco de voluntariedad. La consecuencia es que los reguladores europeos reciben información filtrada o publicada voluntariamente, no datos auditados sobre capacidades reales. El Cyber Resilience Act asume tiempos de respuesta que presuponían que encontrar vulnerabilidades era lento. Astra demuestra que ya no lo es.El Context más amplio: que OpenAI haya pausado el entrenamiento del modelo más potente que ha construido por razones de seguridad, lo haya reanudado con nuevas salvaguardas, y lo haya comunicado públicamente con este nivel de detalle es exactamente el tipo de comportamiento que los legisladores de todo el mundo dicen querer ver en los laboratorios de IA. El problema es que la comunicación voluntaria y una auditoría independiente no son la misma cosa.La noticia El próximo modelo de OpenAI encuentra vulnerabilidades que nadie ha encontrado antes: Astra reanuda el entrenamiento fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.