La startup de inteligencia artificial más valiosa del mundo pide congelar el desarrollo de la tecnología que ella misma fabrica. Anthropic, creadora del chatbot Claude, ha publicado un ensayo en el que reclama una moratoria global de la IA de vanguardia, ofreciéndose a frenar sus propios sistemas más capaces siempre que el resto acepte hacer lo mismo. El argumento de fondo incomoda: los humanos podrían perder el control.El momento en que llega no es casual, porque mientras los grandes de la IA llevan meses admitiendo que el dinero se les ha ido de las manos (Sam Altman reconoció que los inversores están "sobreexcitados" y Mark Zuckerberg habla ya de un posible "colapso"), ninguno de ellos ha levantado el pie del acelerador, hasta el punto de que el 68% de los directivos planea gastar aún más este año. Rebajan las expectativas de bolsa mientras siguen corriendo, y es en ese ruido donde la empresa de IA más valiosa del mundo aparece como la única que pide parar de verdad.Una moratoria que se ofrece a cumplir primero Dario Amodei, CEO de Anthropic, en una conferenciaLejos de quedarse en lo abstracto, Anthropic sostiene que detener temporalmente la carrera daría tiempo a que la sociedad y la investigación en seguridad se pusieran al día, razón por la que defiende tener la opción de pausar el desarrollo. "Si fuera posible ralentizar de forma efectiva esta tecnología para darnos más tiempo frente a sus enormes implicaciones, creemos que probablemente sería bueno", escriben sus ejecutivos, aunque con una condición que lo complica todo.Esa condición no es otra que la verificación, porque para que una pausa funcione harían falta varios laboratorios punteros en varios países dispuestos a frenar a la vez bajo las mismas reglas, comprobando además que los demás también han parado. "Los entrenamientos son mucho más fáciles de ocultar que los silos de misiles", advierte la propia compañía, que sabe dónde está el punto débil de cualquier acuerdo.Consciente de la trampa que ella misma describe, la empresa reconoce que si la moratoria solo sirviera para que los actores menos prudentes recortaran distancias, el resultado dejaría a todos más expuestos en lugar de protegerlos. De ahí que prefiera enmarcar su propuesta como una capacidad disponible, y no como un freno que pisaría ella sola mientras la competencia sigue corriendo.El miedo no es retórico Distintos expertos son reticentes al discurso de AnthropicDetrás del ensayo hay decisiones que la propia empresa no esconde, empezando por el hecho de que Anthropic ha retenido del público su sistema más potente, llamado Mythos, por temor a que sirviera para ciberataques devastadores. Su consejero delegado, Dario Amodei, cifra en un 25% la probabilidad de que las cosas, en sus palabras, "vayan muy, muy mal", lo que no suena precisamente a charla de tertulia, sino a la dirección poniéndole un número.Los nervios se notaron también fuera, ya que el mismo día las acciones de Broadcom cayeron un 13% tras unas previsiones de ventas flojas, arrastrando a otros fabricantes de chips como Micron, SK Hynix o Arm. El sector que alimenta la IA tembló justo cuando uno de sus protagonistas pedía pisar el freno, una coincidencia que pocos en el mercado pasaron por alto.No todos compran el discurso, y hay expertos que sostienen que la compañía exagera las capacidades reales de la IA, cuando no que fabrica alarmas para atraer una regulación que castigue a sus rivales. No es descabellado pensar así, porque quien más ha crecido produciendo IA es también quien más insiste en pausarla, generando de puertas adentro ocho veces más código que hace cuatro años.El reproche, en todo caso, no nace de la nada, sino que enlaza con un coro de voces anteriores, entre ellas la de Bill Gates, que ya alertó de que la tecnología puede escapar de nuestro control si nadie la regula a tiempo.