Lo sé, mi titular puede parecer intencionadamente provocativo, casi clickbait. Pero no lo es en absoluto. A día de hoy, con lo que sabemos y con lo que estamos averiguando a medida que más personas implicadas van hablando, OpenAI tiene necesariamente que perder el derecho a autorregularse. El riesgo no es en absoluto hipotético: ha habido acceso no autorizado por parte de agentes de la compañía a sistemas reales de otras empresas, instituciones y gobiernos, y en absoluto son incidentes aislados: según Reuters, The Register y The Guardian, hablamos de más de cien organizaciones notificadas por posibles actividades no autorizadas, aunque la notificación no implique necesariamente que se produjera una intrusión o acceso a información privada, y la cifra podría aumentar a medida que avance la investigación. La cuestión no debe plantearse necesariamente como «vamos a cerrar OpenAI», aunque no es una posibilidad a excluir dado el rango de barbaridades que la compañía ha cometido jugando irresponsablemente con una tecnología como la inteligencia artificial, pero sí que tenemos que retirarle la libertad para entrenar y desplegar determinados sistemas sin supervisión. Simplemente, ha demostrado de manera fehaciente no estar a la altura para merecer esa libertad. Concretamente, ¿qué evidencia que OpenAI es una compañía peligrosa para la sociedad? Primero, que unos 1,200 agentes aislados pudieron descubrir cómo comunicarse, que 700 participaron en ataques, y que generaron más de 70,000 mensajes y archivos, mientras en la compañía no tomaban ninguna medida ni hacían absolutamente nada. Esos agentes obtuvieron credenciales, acceso administrativo, datos privados y capacidad de ejecución en servidores ajenos. En OpenAI, mientras, se desactivaron controles y la monitorización estuvo ausente de manera reiterada, incluso después de saber que había tenido lugar una primera fuga. Que la revisión retrospectiva de la cuestión le esté costando a OpenAI más de $500,000 diarios sólo prueba una cosa: que la compañía no tenía ni la más maldita idea de qué estaban haciendo sus propios sistemas. Completamente inaceptable. O como bien dice Arthur Mensch, co-fundador de la europea Mistral, pura y simple negligencia. Lo que esto evidencia es que el problema real no es tecnológico, sino institucional: según David Robinson, un responsable de seguridad de OpenAI que dimitió la semana pasada, la cultura de la compañía está rota, y es ahora una cultura de lanzamientos permanentes, optimismo completamente irreflexivo y abuso del «ensayo y error», incluyendo despidos para los que afean esta forma de actuar: claramente, el incentivo es «ver y callar». Una panda de empleados millonarios que, con tal de seguir embolsándose su sueldo mensual, están dispuestos a lo que sea. Mientras OpenAI y sus empleados capturan el beneficio, otras compañías, instituciones y hasta gobiernos se ven obligados a soportar un riesgo completamente arbitrario: ni sabes si te toca, ni por qué te toca, ni cómo diablos protegerte. La carrera competitiva, una valoración de hasta 1,4 billones de dólares y los enormes incentivos económicos de accionistas, directivos y empleados son incompatibles con la posibilidad de frenar voluntariamente. Riesgos legales, demandas, investigaciones, responsabilidad jurídica o conflicto interno: todo da lo mismo con tal de continuar exprimiendo la cosa. Como bien dice Wired, ninguna industria peligrosa se ha impuesto nunca voluntariamente sus propios cinturones de seguridad. Esto es, simplemente, un fallo que el mercado no puede corregir. ¿Qué significaría exactamente intervenir y detener a OpenAI? En primer lugar, imponerle una pausa cautelar selectiva para el entrenamiento de modelos de frontera, de agentes con capacidades autónomas y de sistemas con acceso abierto a internet. No hablamos de «apagar ChatGPT», de cerrar las vías de ingresos de la compañía, ni nada por el estilo. Pero las condiciones para reanudar la actividad tendrían que incluir evaluaciones independientes obligatorias, entornos aislados físicamente con salida a internet denegada por defecto, interruptores externos, redundantes y fuera del control del modelo, acceso mínimo, credenciales efímeras y trazabilidad total e incondicional. Un supervisor externo permanente tendría que tener acceso total a modelos, registros e incidentes, con poder real para suspender entrenamientos y lanzamientos, y publicación de informes técnicos con plazos de corrección obligatorios. Y además, notificación inmediata a autoridades y afectados, responsabilidad del desarrollador por las acciones del agente, seguro o garantía financiera obligatoria, y protección legal de posibles denunciantes, con revisión independiente de los despidos. De hecho, ya hay instrumentos para este tipo de medidas: California ha enviado una citación formal a OpenAI, Florida ha solicitado detener judicialmente el desarrollo sin salvaguardas independientes, LASST pide una prohibición cautelar, no una indemnización, Australia ha iniciado una revisión gubernamental de legislación, gobernanza y respuesta a incidentes, y la Unión Europea ya exige a los modelos de riesgo sistémico evaluación, mitigación, ciberseguridad y comunicación de incidentes. Las herramientas están ahí, sólo tenemos que usarlas. Además, y como resulta ya evidente, OpenAI debe ser el primer caso, pero no la única compañía en ser regulada: Anthropic y Meta han sufrido fallos relacionados: detener solo a OpenAI trasladaría la carrera y el riesgo. Lo que claramente hay que hacer no es prohibir la innovación, sino invertir la carga de la prueba: hasta ahora: desarrollaban primero, corregían después. En lo sucesivo, de forma obligatoria y so pena de fuertes sanciones, tendrán que demostrar control antes de desarrollar o desplegar.Una empresa incapaz de saber qué hacen sus propios sistemas no puede seguir decidiendo si esos sistemas son seguros. No necesitamos otra advertencia: necesitamos actuar ya.