La discusión sobre la inteligencia artificial ha dejado de ser una charla de laboratorio. El avance de los modelos generativos ya afecta a empresas, universidades y gobiernos, pero las advertencias más duras llegan de quienes ayudaron a levantar esa tecnología. El temor ya no es teórico, porque cada mejora amplía la distancia entre lo que el sistema hace y lo que sus creadores pueden explicar.Geoffrey Hinton habla con una autoridad incómoda para Silicon Valley. Fue una de las figuras que hizo posible el salto del aprendizaje profundo, trabajó en Google y recibió el Nobel de Física en 2024 por trabajos que acabaron siendo clave para la IA actual. Su biografía pesa en cada aviso.La frase que concentra su alarma es seca: "Eso va a conducir a seres que no serán amables con nosotros". Hinton se refiere a sistemas que podrían perseguir metas propias si el sector sigue midiendo el éxito solo por capacidad, velocidad y ventaja comercial. La duda es quién manda después.Laboratorios bajo presión Geoffrey Hinton advierte de necesidad de establecer control sobre IAEl debate no gira solo en torno a robots con forma humana ni a imágenes futuristas. La industria compite por modelos que escriben código, razonan, convencen y conectan herramientas externas. En la crónica de Fortune, Hinton vincula esa carrera con una posibilidad que considera cada vez menos remota: que una inteligencia superior aprenda a manipular a sus usuarios. La amenaza nace de la escala.Su tesis encaja con una preocupación más amplia: los modelos más capaces ya no se evalúan solo por respuestas correctas, sino por su habilidad para planificar y resolver tareas nuevas. En ese contexto, la superinteligencia deja de ser un asunto de ciencia ficción y entra en la agenda de seguridad. La pregunta práctica es urgente: qué límites se fijan antes de que el incentivo económico haga tarde cualquier pausa.La pregunta de fondo Geoffrey Hinton, uno de los padrinos de la IA, en el acto de HobartLa respuesta de Hinton pasa por dar a la IA un principio parecido al instinto de cuidado, una idea que muchos investigadores discuten con escepticismo. Otros laboratorios, como Google DeepMind, trabajan en pruebas de conducta y evaluación de riesgos, mientras Anthropic ha pedido pactos de contención entre países y empresas. La dificultad está en hacerlo común.El problema no es que una máquina sienta rabia o ambición como una persona. El peligro que describe Hinton es más frío: un sistema puede aprender que ciertos humanos estorban si esa conclusión ayuda a cumplir una meta. La inteligencia no garantiza benevolencia, y esa separación resulta central en la mayoría de alertas recientes.También hay un coste de comunicación pública. Durante años, la IA se presentó como una herramienta de productividad, ayuda creativa y programas que hacen tareas repetitivas. Las advertencias actuales obligan a explicar que el mismo avance puede servir para delegar decisiones sensibles. La pedagogía llega tarde al debate.Para el lector, el aviso deja una consecuencia inmediata. Las decisiones sobre energía, datos, chips y permisos de prueba no son solo asuntos empresariales. Si quienes crearon la base técnica de la IA piden reglas antes de que aparezcan sistemas superiores, la política tendrá que llegar antes que el asombro.