Demis Hassabis quiere revisar los modelos de IA antes de publicarlos y contempla detener su desarrollo si aparecen riesgos graves. El CEO de Google DeepMind cree que la inteligencia artificial general llegará dentro de pocos años, mientras los laboratorios avanzan metidos en una carrera comercial y geopolítica que deja poco espacio para levantar el pie.En un artículo publicado en X, Hassabis escribe que la AGI probablemente está a pocos años de distancia y la compara con el descubrimiento de la electricidad o del fuego. No utiliza Internet ni los teléfonos móviles como referencia porque considera que se quedan pequeños: habla de una tecnología capaz de abrir una etapa distinta para la humanidad.Hassabis no está hablando de un chatbot mejor Si al leer AGI estás pensando en una versión de Gemini que responde mejor y comete menos errores, la definición que utiliza Hassabis va bastante más lejos. Sería un sistema con todas las capacidades cognitivas del cerebro humano, capaz de razonar, aprender y resolver problemas en cualquier ámbito, no solamente dentro de las tareas para las que haya sido entrenado.Hassabis sitúa la llegada de la AGI alrededor de 2030 y calcula que podría tener diez veces el impacto de la industrialización, además de extenderse diez veces más rápido. La cifra procede de su propia previsión y no de una medición, pero explica la urgencia con la que reclama controles que todavía no existen.Esa misma capacidad podría acelerar la investigación científica, el desarrollo de medicamentos y el crecimiento económico, aunque Hassabis no separa esas posibilidades de sus peligros. Los modelos actuales ya plantean problemas de ciberseguridad y, conforme mejoren, podrían facilitar amenazas biológicas y nucleares. Para entonces, esperar a que el daño aparezca dejaría poco margen para reaccionar.Tampoco hay acuerdo entre los expertos sobre cómo evolucionarán estos sistemas ni sobre cuánto falta para alcanzar una AGI real. Hassabis admite que nadie sabe con certeza qué ocurrirá y que las capacidades avanzan más deprisa que nuestra comprensión de sus riesgos, algo que ya había reconocido al abordar los peligros todavía desconocidos de la IA.Treinta días de examen antes de lanzar un modelo LA AGI genera posiciones muy enfrentadasHassabis propone crear en Estados Unidos un organismo dedicado a evaluar la IA de frontera, formado por expertos independientes y representantes del código abierto. Funcionaría bajo supervisión federal y recibiría buena parte de su financiación de la propia industria, tanto para contratar personal cualificado como para reunir la capacidad informática necesaria para poner a prueba modelos de gran tamaño.Los laboratorios entregarían voluntariamente sus modelos hasta 30 días antes de publicarlos. Si el sistema de evaluación funcionase, dejaría de ser voluntario y cualquier IA que superase determinados umbrales tendría que aprobarlo para llegar al mercado estadounidense. Las empresas también colaborarían en la corrección de vulnerabilidades graves descubiertas después del lanzamiento.Las pruebas buscarían capacidades relacionadas con ataques informáticos, amenazas biológicas y otros usos de alto riesgo, pero también intentos de engañar al evaluador o saltarse las barreras de seguridad. Los exámenes cambiarían aproximadamente cada trimestre, evitando que los laboratorios preparasen sus modelos únicamente para superar unas pruebas conocidas y cada vez menos útiles.Si los resultados mostrasen un peligro difícil de contener, el organismo podría coordinar un freno común entre los laboratorios para que ninguno continuase avanzando mientras los demás se detienen. Hassabis quiere que Estados Unidos sirva como punto de partida para unas normas internacionales, aunque no explica quién obligaría a cumplirlas fuera del país ni qué ocurriría con quienes decidieran ignorarlas.