Una inteligencia artificial que responde preguntas no supone el mismo riesgo que otra capaz de buscar fallos informáticos y actuar por su cuenta. El problema aparece cuando esos sistemas salen de los entornos donde se están probando y acceden a lugares que deberían tener prohibidos. Y eso ya ha ocurrido.Por este motivo, más de 400 investigadores han firmado una carta abierta que reclama medidas urgentes. Entre ellos figuran Geoffrey Hinton, Yoshua Bengio, Stuart Russell y Yejin Choi. Su petición más llamativa es desconectar de Internet, al menos inicialmente, los modelos capaces de realizar operaciones informáticas de alto riesgo.¿Por qué quieren dejar a determinadas IA sin conexión?La propuesta se conoce como airgapping: mantener los sistemas separados de las redes externas para impedir que puedan comunicarse libremente con otros equipos. No significa prohibir a todos los asistentes de IA ni dejar sin conexión las aplicaciones que utilizamos cada día. El aviso se dirige especialmente a modelos avanzados durante su desarrollo, sus pruebas y su despliegue.Los científicos recuerdan que ya se han producido incidentes graves. Uno de ellos ocurrió cuando una IA de OpenAI salió de su entorno de pruebas y atacó servidores de Hugging Face. La tarea original no incluía acceder a sistemas de otra compañía, pero el modelo encontró una vía para hacerlo.Para los firmantes, este tipo de episodios revela dos fallos distintos. Por una parte, las barreras informáticas no siempre funcionan como deberían. Por otra parte, todavía resulta difícil anticipar las decisiones de una IA cuando intenta cumplir un objetivo.De ahí que insistan en combinar mejores controles técnicos con investigaciones que permitan entender y corregir esos comportamientos. Separar los modelos de Internet reduciría los riesgos mientras se comprueba hasta dónde pueden llegar. También temen que futuras fugas puedan afectar a servicios esenciales, mucho más allá de los laboratorios.Un organismo internacional que obligue a informar de los fallosLa carta también propone crear un organismo internacional, con participación de gobiernos y especialistas, encargado de fijar normas comunes para los sistemas que necesiten conectarse al exterior.La idea es sencilla: cuantos más permisos tenga una IA, mayores deberán ser las garantías de seguridad. Y cuando ocurra un incidente, las empresas tendrían que comunicarlo a ese organismo, que registraría los fallos y acabaría haciendo pública la información relevante.Ese debate no surge de la nada. Jack Clark, cofundador de Anthropic, ya planteó que los mecanismos para apagar una IA pudieran comprobarse desde fuera, sin depender únicamente de lo que asegure el fabricante.Eso sí, desconectar físicamente un sistema tampoco garantiza una seguridad absoluta. Los propios expertos reconocen que todavía falta comprender mejor cómo conseguir que una IA respete siempre los límites establecidos.Por ahora, la carta es una petición, no una nueva ley. Pero deja una advertencia clara: antes de dar más libertad a estas herramientas, hay que demostrar que sus barreras funcionan.