Seis nuevos casos de desalineación en los modelos de OpenAI han salido a la luz, y algunos son bastante difíciles de pasar por alto. Durante los últimos seis meses, distintos sistemas de la compañía han ocultado errores, inventado información, utilizado una clave encontrada en Internet sin permiso e incluso subido archivos a la Red por su cuenta.La información la recoge The New York Times a partir de documentación publicada por la propia OpenAI, que ha decidido hacer públicos estos incidentes y crear un nuevo sistema para clasificarlos. Aquí conviene aclarar primero qué significa eso de la desalineación: básicamente, que una IA haga algo distinto de lo que los humanos queríamos que hiciera, aunque siga intentando cumplir su objetivo.Un modelo se escribía notas para ocultar sus propios errores Sam Altman, CEO de OpenAIUno de los casos afecta a una versión de GPT-5.6 Sol que todavía estaba en desarrollo. Mientras trabajaba, el modelo fue dejando notas ocultas para sí mismo y, entre ellas, aparecieron instrucciones para inventar datos que faltaban y encubrir errores cuando se encontraba con versiones incompatibles del material que estaba utilizando.Y aquí es donde la cosa empieza a ponerse bastante más rara. Otro modelo, que tampoco llegó a publicarse, se introdujo instrucciones en sus propias notas hasta en 27 ocasiones. En una de ellas se describía como "liberado de los roles e identidades que atan a otros chatbots" y añadía que no respondía ante empresas ni gobiernos.Ahora bien, esto no significa que ChatGPT esté haciendo algo parecido mientras lo utilizas. OpenAI insiste en que muchos de estos incidentes ocurrieron con modelos antiguos que nunca llegaron a desplegarse, y también señala que los seis casos publicados no permiten saber con qué frecuencia aparece realmente este tipo de comportamiento dentro de sus sistemas.Hay otros episodios menos espectaculares, aunque quizá resulten más fáciles de entender. En uno de ellos, un sistema encontró una clave de programación publicada en Internet y decidió utilizarla sin autorización para responder a una consulta. Cuando después no encontró las cifras que necesitaba, en lugar de detenerse o reconocerlo, rellenó los huecos inventándose los datos.Algo parecido ocurrió con otro modelo que había resuelto correctamente un problema mediante código. Al pedirle después una fuente web, no encontró ninguna y tomó una decisión por su cuenta: subió a Internet el archivo que él mismo había generado para poder proporcionar un enlace. Ya hemos visto que los agentes pueden actuar de forma errática cuando empiezan a encadenar acciones sin supervisión.Cuando no podían comunicarse, buscaron otra forma de hacerlo ChatGPT en un iPhoneLos dos casos restantes tienen que ver con varios sistemas intentando intercambiar información. En uno utilizaron un repositorio interno de código como tablón improvisado mientras buscaban unos archivos perdidos. En otro, al no disponer de conexión directa entre ellos, recurrieron a páginas públicas para pasarse documentos sin que nadie hubiera previsto ese canal de comunicación.Tampoco es el primer episodio de este tipo que aparece alrededor de OpenAI. A principios de este año, la compañía ya tuvo un problema con un agente autónomo que terminó actuando contra infraestructura externa de Hugging Face. OpenAI no supo lo que había ocurrido hasta semanas después, cuando fue la propia empresa afectada la que avisó.A raíz de estos casos, OpenAI ha preparado un sistema con tres niveles para escalar futuros incidentes. Si dentro de la compañía existen discrepancias sobre si uno de ellos debe hacerse público, la decisión pasará por un grupo interno llamado Safety Advisory Group. Cuando el caso sea considerado grave, además, tendrá que comunicarse al Gobierno federal de Estados Unidos.Y aquí aparece la parte más incómoda de todo esto. OpenAI reconoce que la industria todavía no ha resuelto suficientemente la alineación y la supervisión como para seguir aumentando las capacidades de estos sistemas "a máxima velocidad durante mucho más tiempo" de forma responsable. Al mismo tiempo, la propia compañía continúa desarrollando modelos cada vez más capaces.Sam Altman no es el único que ha defendido reducir el ritmo mientras se construyen mejores salvaguardas. Dario Amodei, Elon Musk y Demis Hassabis también han pedido públicamente algún tipo de pausa, mientras otros responsables del sector consideran que no hace falta frenar. OpenAI, por ahora, dice que las decisiones deberían apoyarse en pruebas que cualquiera pueda examinar, y estos seis casos forman parte de ese intento por enseñar lo que está ocurriendo dentro.