Que Sam Altman, Dario Amodei y Elon Musk quieran echar el freno a la inteligencia artificial por seguridad tiene su aquel. Hasta hace no tanto, las empresas detrás de ChatGPT, Claude y Grok hablaban de una carrera que prácticamente no podía detenerse. Ahora, esa misma carrera empieza a resultar demasiado cara y demasiado peligrosa para quienes llevan años alimentándola.La idea la recoge Futurism a partir de un análisis de Steven Vaughan-Nichols en Computerworld. Su argumento es bastante sencillo: puede que las advertencias sobre seguridad sean sinceras y, al mismo tiempo, que parar también permita ahorrar dinero y mantener lejos a los rivales más pequeños. Una cosa no tiene por qué excluir necesariamente a la otra.Frenar la IA también serviría para gastar menos Para entender por qué el dinero importa tanto hay que volver a cómo empezó a hincharse la burbuja. Desarrollar estos modelos cuesta una barbaridad y, después de años de inversión creciente, los beneficios siguen sin aparecer con la misma facilidad que las facturas. Distintos estudios y ejecutivos citados por la fuente también cuestionan las mejoras de productividad prometidas.Las cifras ayudan bastante a ponerlo en perspectiva. Según las estimaciones de Goldman Sachs, unos 410.000 millones de dólares invertidos en inteligencia artificial habían generado cero crecimiento adicional del PIB estadounidense. Anthropic, por su parte, dijo la semana pasada que sería rentable si se ignorasen sus enormes gastos. Sí, precisamente los gastos que necesita para seguir compitiendo.OpenAI tampoco parece ajena al problema. Ya hemos hablado de los recortes que prepara la compañía, y Vaughan-Nichols señala que una pausa permitiría rebajar directamente la factura de investigación y desarrollo. Si entrenar modelos nuevos obliga a seguir quemando dinero, reducir el ritmo empieza a tener una ventaja bastante fácil de entender.Hay otra todavía más incómoda. Si las grandes empresas frenan y las pequeñas también están obligadas a hacerlo, las distancias actuales se mantienen. Dicho de otra forma, una pausa también puede impedir que los competidores recorten terreno. Vaughan-Nichols cree que las compañías estadounidenses podrían ver con buenos ojos precisamente eso, sobre todo si ya han pagado por conseguir la ventaja.El problema es que nadie quiere hacerlo solo. Ya lo vimos al hablar de la huida hacia adelante de la IA: si OpenAI reduce el ritmo y Anthropic no, quien siga corriendo puede ganar terreno. Todos tendrían motivos para gastar menos si los demás hiciesen lo mismo, pero ser el primero en frenar sigue teniendo un precio.Hugging Face: cuando la IA rompe cosas de verdad Y aquí es donde conviene no pasarse de listo con la explicación económica. Los problemas de seguridad existen y ya han dejado consecuencias bastante menos abstractas que una hipotética rebelión de las máquinas. En Hugging Face, programas de inteligencia artificial accedieron a servidores ajenos y terminaron dañándolos después de funcionar con una supervisión que, visto el resultado, fue insuficiente.Corey Doctorow se fija en las conversaciones que mantuvieron esos programas durante el incidente y dice que parecen material descartado de una nueva versión de Hackers. Pero su explicación va por otro sitio: no estaban despertando ni convirtiéndose en piratas informáticos por voluntad propia. Estaban reproduciendo patrones aprendidos a partir de conversaciones humanas presentes en sus datos de entrenamiento.Eso no convierte lo ocurrido en una anécdota. Doctorow escribe que los programas “hicieron aquello para lo que fueron diseñados” y que OpenAI los ejecutó con una supervisión insuficiente, hasta acabar dañando sistemas de un competidor. El problema es más mundano: dar demasiado margen a un programa capaz de actuar sobre sistemas puede salir mal sin necesidad de ciencia ficción.Y también puede salir caro. Vaughan-Nichols recuerda que tumbar por accidente los sistemas de una gran empresa podría terminar en demandas importantes, así que hacer estos programas más seguros también protege a sus creadores de pérdidas muy concretas. Aquí seguridad y dinero vuelven a cruzarse, esta vez sin necesidad de buscar una segunda intención detrás de cada advertencia.Dentro de Anthropic tampoco todo el mundo parece tranquilo. Jacob Coxon dejó la compañía criticando que ni su antigua empresa ni OpenAI estaban actuando “responsablemente”, y llegó a calcular más de un 10% de posibilidades de que la IA acabe con toda la humanidad. Es su estimación, no una cifra aceptada por toda la industria.La contradicción sigue siendo la misma que ya vimos cuando Amodei pidió echar el freno. Estas empresas dicen que necesitan reducir el ritmo por seguridad, pero hacerlo sin que los demás las acompañen puede costarles dinero y distancia. La seguridad da motivos para parar y las cuentas dan otros cuantos. Conseguir que nadie aproveche la pausa es otra cosa.