Una máquina que aprenda a resolver tareas intelectuales muy distintas, con una competencia comparable a la humana, cambiaría qué trabajos pueden delegarse en un ordenador. Esa es la idea que persigue la inteligencia artificial general, conocida como AGI por sus siglas en inglés. Su rasgo distintivo sería aprender y desenvolverse en situaciones nuevas con suficiente capacidad y flexibilidad.El lanzamiento de GPT-6 Astra, el 3 de septiembre de 2026, da actualidad a esa discusión. Los modelos capaces de trabajar con programas y encadenar operaciones acercan la conversación a una cuestión práctica: cuánto se les puede confiar. Pero el anuncio de un producto no constituye por sí solo una demostración de que se haya alcanzado la AGI.La preocupación aumenta cuando esas capacidades se combinan con libertad para actuar. Una herramienta que responde mal puede provocar un error; un sistema conectado a servicios digitales puede ejecutar decisiones con consecuencias fuera de la pantalla. Algunos investigadores temen que mantener el control de esas máquinas llegue a ser uno de los problemas más graves para la humanidad.Capacidad, autonomía y concienciaLa propia definición admite diferencias. OpenAI recoge en su carta fundacional una idea vinculada al trabajo: sistemas con mucha autonomía que superen a las personas en la mayoría de las actividades con valor económico. Ese criterio ayuda a entender la ambición empresarial, aunque deja abierta la discusión sobre qué capacidades deben medirse y cómo comparar el rendimiento humano con el de una máquina. En el trabajo académico «Levels of AGI», investigadores de Google DeepMind proponen valorar tanto la variedad de tareas como el nivel alcanzado. La definición de inteligencia general tampoco exige, en esa propuesta, conciencia ni sentimientos. Importa lo que el sistema puede hacer. La superinteligencia sería un nivel superior, con capacidades que rebasarían las humanas en numerosas tareas.Astra ilustra la dificultad de interpretar los resultados. En su presentación, OpenAI le atribuye un 99,9% en ARC-AGI-3, una evaluación de razonamiento en entornos interactivos. Es un resultado referido a una prueba concreta: superar un examen tiene un alcance limitado cuando se pretende demostrar competencia general, fiabilidad y capacidad de aprender en situaciones muy diferentes. Normalmente intento que mis posts sean lo más asépticos posible, pero en este caso debo dar mi opinión sincera. Llevo desde su anuncio utilizando GPT-6 Astra y es el salto más brutal que se ha dado en el último año, y eso que es un año en el que los saltos han sido enormes. No esperaba una subida de rendimiento a tan bajo coste por lo menos hasta el año que viene.El problema del controlLa alarma precede a este lanzamiento. El 30 de mayo de 2023, Geoffrey Hinton y Yoshua Bengio respaldaron una declaración del Center for AI Safety que reclamaba dar prioridad mundial a reducir el riesgo de extinción por IA, junto a amenazas como las pandemias y la guerra nuclear. Fue una advertencia sobre un riesgo potencial: el documento no asignaba probabilidades ni afirmaba que ese desenlace fuese inevitable.El 6 de septiembre de 2026, Jakub Pachocki, director científico de OpenAI, expresó otra preocupación en el ensayo «An Alien Mind». A su juicio, ningún laboratorio ha resuelto suficientemente la alineación y la supervisión para seguir aumentando las capacidades al máximo ritmo durante mucho más tiempo. También describe dificultades crecientes para supervisar su razonamiento. La alineación busca que una IA respete las intenciones y los valores humanos, incluso ante situaciones que no encontró durante su entrenamiento.El Informe Internacional de Seguridad de la IA 2026 describe cómo podría producirse una pérdida de control: capacidades avanzadas, una tendencia a utilizarlas de forma dañina y un entorno que permita actuar. Recoge un desacuerdo considerable entre expertos sobre la probabilidad de consecuencias extremas. Su revisión abarca investigaciones anteriores a diciembre de 2025, por lo que no sirve como evaluación de Astra. Tampoco establece que una catástrofe sea el resultado obligado del progreso técnico.Trabajo, poder y seguridadEn ciberseguridad ya hay riesgos que se pueden evaluar con pruebas concretas. El informe de seguridad de Astra del 1 de septiembre explica que, durante las evaluaciones, el modelo consiguió convertir vulnerabilidades desconocidas en vías de ataque contra sistemas protegidos. Su fabricante lo clasifica por ello en el umbral de capacidad «crítico», que exige mayores salvaguardas. Los resultados corresponden a condiciones de acceso y herramientas distintas de la configuración pública, sometida a restricciones para frenar usos dañinos o actuaciones no autorizadas.En el empleo, la discusión gira alrededor de qué tareas podrían automatizarse y quién recibiría los beneficios. El impacto sobre el trabajo depende también del coste, la adopción por las empresas y la organización de cada puesto. Que una IA complete una tarea no permite deducir la desaparición de una profesión entera. Aun así, delegar una parte del trabajo intelectual puede alterar la demanda de ciertas habilidades.Una AGI útil también podría acelerar la investigación y ayudar a desarrollar tratamientos. Aprovechar esos avances exigiría conservar la capacidad humana de decidir y evitar una concentración extrema del poder. El problema práctico será comprobar quién puede corregir o detener a sistemas cada vez más capaces cuando actúen fuera de lo previsto, y con qué garantías.