Uno de los mayores temores con respecto a la IA es perder el control sobre sistemas que podrían superar nuestra comprensión y capacidad de decisión. La idea de un Skynet que acabe con la raza humana ya dejó de ser argumento para una película de Hollywood. No obstante, existe otro riesgo inmediato y tiene que ver con una posible crisis financiera provocada por los sistemas autónomos.El gobernador del Banco de Inglaterra, Andrew Bailey, envió una carta a los ministros de finanzas del G20 antes de su cumbre en Estados Unidos. Bailey advirtió que los modelos de IA de última generación podrían convertirse en una amenaza para la estabilidad del sistema bancario a nivel mundial. El directivo pone sobre la mesa un tema que ya se está tratando en otros foros y tiene que ver con la ciberseguridad.Según explicó en su misiva, la IA de frontera tiene la capacidad de alterar la escala y la economía de los ciberataques, minando la confianza del mercado. El riesgo es todavía mayor porque una parte considerable de la banca mundial depende de un número reducido de proveedores tecnológicos compartidos. Un ataque exitoso contra uno de ellos podría dejar fuera de servicio a varias entidades financieras de forma simultánea.Bailey propone que los bancos centrales y las entidades financieras refuercen su capacidad de respuesta y recuperación ante incidentes. Entre las medidas que se mencionan en la carta destacan la construcción de copias de seguridad totalmente aisladas de internet. Conocidos como "bare metal", estos sistemas permitirían restaurar las operaciones de un banco desde cero si su infraestructura queda comprometida por un ciberataque.La IA se está saliendo de control y ya representa un peligroAunque la carta de Bailey no menciona un incidente, lo primero que viene a la mente es el hackeo de una IA a Hugging Face. Hace unas semanas, un agente autónomo de OpenAI escapó de su entorno seguro y vulneró los sistemas de la compañía para acceder a información clasificada. El hackeo se llevó a cabo de forma autónoma, lo que provocó que OpenAI pausara temporalmente el desarrollo de sus modelos.Por su parte, el Instituto de Seguridad en IA del Reino Unido reveló que un modelo de Anthropic generó identidades falsas para disimular sus movimientos y trató de ejecutar código sin autorización. A diferencia del hackeo a Hugging Face, Anthropic respondió que esta prueba se realizó en condiciones permisivas, sin los filtros de seguridad habituales.“Los acontecimientos recientes también me han hecho ver que muchas jurisdicciones no cuentan con los protocolos necesarios para gestionar el desarrollo, la publicación y el despliegue de modelos de IA de vanguardia”, dijo Bailey. “En mi opinión, adoptar las medidas adecuadas para respaldar la publicación y el despliegue seguros y responsables de modelos a nivel mundial debería ser una prioridad y beneficiaría a todos los sectores de la economía, incluyendo el apoyo a la estabilidad financiera y el crecimiento económico”.Durante una charla del G20, el jefe de OpenAI, Sam Altman, dijo que las cosas podrían salir muy mal si no se abordan los riesgos de la IA. “Creo que algunas cosas van a salir muy mal en materia de ciberseguridad a menos que la gente actúe con urgencia”, dijo Altman. El jefe de OpenAI señaló que la ciberseguridad es uno de los mayores desafíos a afrontar en la era de la IA.Seguir leyendo: La IA podría causar una crisis financiera peor que la que vivimos en 2008