La inteligencia artificial ha dejado de ser una promesa tecnológica para convertirse en una realidad. Pero según Geoffrey Hinton, Premio Nobel de Física en 2024, el verdadero peligro no reside únicamente en lo que la IA puede hacer de forma autónoma, sino en lo que una sola persona podría llegar a hacer utilizándola con malas intenciones. Esto es algo que dijo durante una entrevista cuando recibió dicho premio.Hinton lleva décadas estudiando cómo funciona el cerebro y cómo las redes neuronales pueden aprender de los datos. Su trabajo contribuyó decisivamente al desarrollo de la IA moderna, pero precisamente por conocer desde dentro el potencial de esta tecnología, también se ha convertido en una de las voces que hablan más claramente de preocupación. En su opinión, existen riesgos inmediatos, como la pérdida de empleados, el aumento de la desigualdad, la desinformación y los ciberataques, pero hay una amenaza aún más inquietante: que la IA permita a individuos con pocos recursos causar daños que antes estaban al alcance únicamente de grandes organizaciones.El peligro de los modelos de IA más avanzados en manos equivocadas El ejemplo más extremo tiene que ver con la capacidad de los modelos de IA para ayudar a diseñar agentes biológicos peligrosos. Hinton advierte de que, a medida que estas herramientas se vuelvan más capaces, determinadas tareas que hoy requieren ciertos conocimientos podrían simplificarse enormemente. Lo que antes necesitaba equipos científicos, infraestructuras muy caras y años de experiencia podría llegar a estar parcialmente asistido por sistemas de IA. La frase que resume su preocupación es contundente: una sola persona podría causar un caos interminable. El problema no es únicamente que exista alguien con malas intenciones, sino que la IA puede reducir las barreras necesarias para convertir esas intenciones en acciones. Alguien podría utilizar modelos avanzados para automatizar ataques informáticos, crear campañas de manipulación masiva, generar contenidos falsos o acelerar procesos científicos.Cabe destacar que la liberación de modelos más avanzados de IA añade otra dimensión al problema. Dichos modelos se pueden adaptar para objetivos diferentes de los originales. Según Hinton, esto resulta preocupante si los modelos alcanzan la capacidad de llevar a cabo actividades peligrosas. La cuestión deja entonces de ser quién creó la tecnología y pasa a ser quién puede reutilizarla y con qué propósito. Geoffrey Hinton, 78 años y padre de la IA, alerta: "Eso va a conducir a seres que no serán amables con nosotros"La paradoja de la IA es que, cuanto más útil se vuelve, más poder concentra. Una herramienta capaz de ayudar a millones de personas también puede amplificar las capacidades de alguien dispuesto a utilizarla para hacer daño. Por eso, el desafío no consiste únicamente en construir modelos más inteligentes, sino en comprender cómo mantenerlos bajo control, limitar sus usos peligrosos y evitar que una tecnología con alcance global pueda convertirse en un multiplicador del poder de un solo individuo.