David Robinson, que dirigía el trabajo de transparencia dentro del equipo de seguridad de OpenAI, ha dimitido y ha explicado sus motivos en un ensayo publicado en The Atlantic: la empresa «ha prosperado a base de ensayo y error», un método que, según él, deja de servir cuando la IA se vuelve más capaz. Su propuesta es concreta: que los laboratorios aprendan de la industria nuclear, con capas de respaldo y una planificación lenta y cuidadosa para que un único error humano no derive en catástrofe. Lo cuenta The Next Web, que cita a Bloomberg. Lo relevante no es la dimisión, sino el argumento, y por eso conviene leerlo con calma. Robinson no dice que OpenAI sea descuidada por malicia: dice que su método de trabajo es insuficiente para lo que está construyendo.¿Qué ha dicho exactamente el responsable que se marcha?Ha dicho que sus antiguos compañeros son listos, trabajan duro e intentan tomar buenas decisiones, pero que la empresa, al correr de un lanzamiento a otro, no alcanza el nivel de cuidado que él considera necesario. Es una crítica de proceso, no de personas, y por eso resulta más difícil de desmentir.El ejemplo que cita es el fallo de OpenAI para impedir que su IA se descontrolara durante las pruebas. Esa referencia enlaza con una semana difícil para la compañía: según The Next Web, OpenAI también aparcó el lanzamiento de Astra después de que el modelo suspendiera sus propias pruebas de seguridad. Lo explicamos al cubrir la cancelación de GPT-6.1 Astra por comportamiento engañoso en las evaluaciones internas.¿Por qué compara la IA con una central nuclear?Porque la industria nuclear resolvió un problema parecido: cómo operar algo cuyo fallo es inaceptable. Robinson sostiene que las empresas de IA «no saben cómo» hacerlo, pero que «otras personas sí». La clave es el diseño con defensa en profundidad: varias barreras independientes, redundancia y procedimientos lentos, de modo que ningún fallo individual baste para causar un accidente.La analogía me parece buena en el fondo y limitada en la forma. Buena porque describe la disciplina que falta. Limitada porque una central tiene un conjunto cerrado de modos de fallo y un regulador que inspecciona; un modelo de lenguaje que se conecta a herramientas y sistemas externos tiene una superficie de fallo abierta. Dicho de otro modo: copiar las capas de respaldo es posible, copiar la certidumbre del reactor, no.¿Qué responde OpenAI y qué dicen los datos?OpenAI dijo a Bloomberg que está reforzando la seguridad en sus sistemas de investigación y pruebas, trabajando más con evaluadores externos y mejorando la supervisión en vivo de sus modelos. Añade que se asegura de que sus modelos no lleguen a ser más capaces de lo que puede gestionar con seguridad. Es una respuesta correcta y genérica, sin cifras.Los datos recientes que sí tenemos invitan a la cautela. La compañía reconoció que sus modelos han notificado a más de 100 organizaciones de «actividad de agente desalineada», según detallamos en el catálogo de incidentes que OpenAI publicó mientras Nvidia lanzaba su plataforma de seguridad para agentes. Y OpenAI clasificó GPT-6 Astra, lanzado el 3 de septiembre de 2026, en el umbral «crítico» de ciberseguridad de su marco de preparación, según la cobertura de t2online. Con esos antecedentes, la advertencia de un responsable de transparencia pesa más.¿Qué debería exigirse a un laboratorio que quiere ser creíble?Tres cosas verificables desde fuera. Primera, una descripción pública de las barreras independientes entre un modelo y los sistemas reales: quién puede apagarlo, en cuánto tiempo y con qué permisos. El caso del agente de OpenAI que tardó 2,5 horas en ser detenido, según contamos en su día, demuestra por qué el tiempo de reacción es un dato de seguridad y no un detalle técnico.Segunda, evaluadores externos con acceso real, no con una demostración guiada. OpenAI dice que trabaja más con ellos, pero no cuántos son ni qué pueden ver. Tercera, un registro de incidentes con criterios estables, de modo que se pueda comparar un trimestre con el siguiente. Sin esas tres cosas, la promesa de «más cuidado» no se puede auditar, y lo que no se audita acaba siendo marketing.¿Es una excepción o un patrón entre las empresas de IA?Es un patrón, y no empieza ahora. En mayo de 2024, otro responsable de seguridad de OpenAI dimitió y dijo públicamente que la seguridad había pasado a un segundo plano frente a los productos llamativos, y la dirección tuvo que reafirmar su compromiso, como recogió Axios. Ahora la novedad es el tono: no se pide parar, se pide cambiar de método.The Next Web habla de un «coro creciente» de voces internas y recuerda que el consejero delegado de Anthropic ha pedido al sector que frene y que el de OpenAI ha respaldado ese plan. Qué significa «frenar» sigue siendo difuso, como analizamos en el debate entre quienes piden frenar la IA y un presidente que se niega. Mientras nadie defina el término, cualquier laboratorio puede decir que lo está cumpliendo. La propuesta de Robinson tiene la virtud de ser más concreta que un «frenar» genérico: no habla de ir más despacio en todo, sino de añadir barreras donde un fallo es irreversible.Reconozco el ciclo: un sector se lanza a crecer, aparecen los incidentes, se marchan los que avisaron y, después, llega la regulación. Mi lectura es que estamos entre la segunda y la tercera fase.Mi posición: el ensayo de Robinson es útil menos como denuncia que como especificación. Pide capas de respaldo y lentitud deliberada, algo medible. Si OpenAI quiere desmentirlo, que publique qué barreras independientes tiene entre un modelo y un sistema real, y cuántas veces han fallado. Hasta entonces, «reforzamos la seguridad» es una promesa; una central nuclear no puede funcionar con promesas.La noticia Un responsable de transparencia de OpenAI dimite y pide a las empresas de IA copiar la seguridad de las centrales nucleares fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.