La parafernalia que se ha organizado en torno a las declaraciones de los líderes de las compañías de inteligencia artificial norteamericanas diciendo que ven hasta recomendable una pausa pero no planteándose hacerla porque no se puede controlar que la hagan todos, con China diciendo que se ven amenazados y Donald Trump por el medio desestimando el tema y diciendo que ya lo controla él, como si hubiese sabido alguna vez de algo en su vida, me han evocado muy claramente una película, «Juegos de Guerra» (1983), y su conclusión evidente: la única jugada ganadora es no jugar. De hecho, incluso he visto una referencia por ese camino en The Guardian utilizando la misma película. Los principales líderes de la industria dicen que quieren frenar, pero nadie quiere hacerlo. Aquí vemos desde teorías de la conspiración sobre una hipotética captura regulatoria que dicen que lo que quieren es quedarse como las únicas «autorizadas» a seguir desarrollando, hasta los que afirman que no es exactamente frenar, sino acompasar capacidades y seguridad, mientras todos condicionan su propuesta a que los demás hagan lo mismo. De los protagonistas de esta obra, Anthropic y OpenAI son los que están forzando más el guión. Google, con capacidades de sobra que justificarían llamar la atención sobre el tema, permanece fundamentalmente callada, y Microsoft, básicamente, reclama sentido común. ¿Estamos, como algunos pretenden, al borde de un desastre existencial? ¿Qué hay de realista en todo esto? ¿Puede realmente la inteligencia artificial acabar con la humanidad? Sabemos que es capaz de hacer cosas malas cuando se la instruye para ello o cuando se descuidan las precauciones, y sabemos que esas capacidades escalan a medida que los modelos se convierten en más potentes. Sabemos también de su capacidad de desarrollar bucles de retroalimentación que se mejoran de forma auto-recursiva, y todos vemos la evidente posibilidad de que capacidades así puedan caer en malas manos y ser convertidas en amenazas. ¿Suficiente como para justificar la paranoia que estamos viviendo? Al menos, suficiente como para exigir un control, una regulación y responsabilidades adecuadas sobre lo que algunos irresponsables están haciendo. Eso, sin duda.Mi reflexión sobre esto tiene que ver con lo absurdo que resulta convertir la prudencia en una desventaja. Ninguna de las compañías implicadas está actuando de manera irracional: quien ralentiza unilateralmente pierde talento, mercado, clientes, contratos, capital y posicionamiento estratégico. La reacción inmediata de los mercados refuerza esta idea: todos están dispuestos a sacrificar la seguridad a cambio de más crecimiento y dinero, como si lo segundo importase lo más mínimo sin lo primero. Claramente, la estupidez no está en cada participante, sino en el resultado colectivo producido por incentivos individualmente racionales.Además, la carrera entre compañías se convierte en carrera geopolítica: los Estados Unidos y China temen cosas distintas, pero ninguno puede protegerse unilateralmente de una hipotética catástrofe tecnológica capaz de cruzar cualquier frontera. ¿Hay alternativas? Mi impresión es que un desafío así sólo puede asumirse mediante la colaboración. Pero antes de que empecemos con tópicos al estilo Lennon, con llamamientos a la fraternidad universal mientras entonamos el «Imagine», nos damos todos las manos e imaginamos que no hay países (es fácil si lo intentas), pensemos que la humanidad ya ha cooperado anteriormente frente a tecnologías costosas o peligrosas: el CERN, por ejemplo, nació como un proyecto de ciencia para la paz, el Organismo Internacional de Energía Atómica (IAEA) usa declaraciones, inspecciones, vigilancia y mecanismos de alerta precisamente porque los países no se fían los unos de los otros. Para cooperar no es necesario que «seamos todos amiguitos», sino convertir la desconfianza en procedimientos accionables. ¿Sería viable un CERN para la inteligencia artificial? ¿Una institución internacional capaz de reunir talento, capacidad de computación e investigación sobre seguridad, capaz de someter los modelos de frontera a evaluaciones independientes, y de desarrollar aplicaciones de interés público en cuestiones como medicina, educación, ciencia o clima? No soy el primero que lo plantea: RAND ha analizado cinco posibles escenarios y funciones para una organización de ese tipo, empezando por la creación de un entorno seguro, la resolución de problemas de coordinación, o el desarrollo de usos que el mercado seguramente no querría financiar voluntariamente. Una organización así podría ser abierta en el sentido de distribuir sus beneficios, pero no irresponsablemente abierta para que cualquiera pudiese hacer lo que quisiera con los resultados, manteniendo las capacidades de frontera bajo custodia y los accesos controlados. Los modelos abiertos, como bien afirma Stanford, son buenos para reducir la concentración, favorecer la innovación y facilitar el escrutinio independiente, aunque como también afirma Nature, también pueden propiciar abusos si la apertura se lleva a cabo sin auditorías ni gobernanza adecuadas. El objetivo de algo así debería ser universalizar los beneficios, sin regalar a nadie capacidades catastróficas para obtener posiciones de fuerza, amenazar o hacer el mal. Poner en marcha algo así no es idealismo: de hecho, hay embriones posibles que pueden utilizarse: Estados Unidos, China, la Unión Europea y otros países ya firmaron en su momento la Declaración de Bletchley, y compañías estadounidenses, europeas y chinas aceptaron en Seúl evaluaciones, umbrales de riesgo y la posibilidad de no desarrollar modelos que no puedan gestionarse de forma segura. El Carnegie Endowment for International Peace propone empezar con una pragmática «seguridad en paralelo” entre Estados Unidos y China: prohibiciones sobre usos concretos, intercambio de incidentes y pruebas comunes. Volviendo a «Juegos de Guerra»: todavía podemos desarrollar la tecnología y, de hecho, es seguro que lo haremos. Lo que debemos abandonar es una carrera en la que incluso el supuesto vencedor puede terminar desapareciendo junto con todos los demás. La única jugada ganadora no es dejar de desarrollar inteligencia artificial: es dejar de competir por ella como si fuese un arma con la que alguien pudiera conquistar el mundo sin destruirlo.