La inteligencia artificial vive una paradoja difícil de digerir: cuanto más útil parece, mayor es la presión para sacar versiones nuevas. Esa presión no viene solo de la curiosidad científica. También nace de inversores, contratos, clientes y rivales. El calendario pesa tanto como la seguridad.Yoshua Bengio conoce ese mecanismo desde dentro. Su trabajo ayudó a abrir el camino del aprendizaje profundo, la técnica que sostiene buena parte de los sistemas generativos actuales. A los 62 años, su mensaje se ha vuelto más severo porque ve una brecha entre capacidad y garantías. La velocidad industrial le preocupa.La advertencia que resume su cambio de tono es clara: "Estábamos construyendo algo que podría volverse extremadamente poderoso y que no sabemos controlar". La frase apunta al núcleo del dilema: crear una herramienta de enorme alcance antes de saber cómo detenerla si actúa mal. Ese orden inquieta a muchos científicos.Incentivos y velocidadEl mercado premia al primero que lanza una mejora visible, aunque el coste de probarla recaiga después en usuarios, empresas o Estados. 24/7 Wall St. recoge esa preocupación de Bengio al situarla en un punto muy concreto: los laboratorios pueden tener incentivos para reducir tiempos de revisión cuando creen que un competidor está cerca. El negocio empuja hacia delante.La discusión se entiende mejor al mirar la dimensión financiera de la IA. OpenAI ya habla de salida a bolsa, mientras sus rivales pelean por chips, talento y acuerdos con gobiernos. El nuevo chip Jalapeño muestra hasta qué punto la infraestructura se ha convertido en poder estratégico. No basta con medir respuestas útiles. A esa presión se suma una cultura empresarial acostumbrada a corregir productos después de lanzarlos. En redes sociales o aplicaciones de consumo, ese método ya creó problemas; aplicado a sistemas capaces de escribir código, persuadir y coordinar herramientas, el margen de error cambia de tamaño. La prueba pública tiene otro coste.Seguridad con costeBengio teme en especial los usos de doble filo: código ofensivo, manipulación política, diseño de agentes autónomos o ayuda a ataques contra redes críticas. La reciente alerta por un ataque con IA ilustra cómo un avance técnico puede saltar de la demostración al riesgo operativo. El problema llega antes de estar listo el manual.La solución que propone el sector más prudente pasa por auditorías externas, pruebas compartidas y límites a ciertos entrenamientos. La petición de Anthropic de congelar desarrollos avanzados va en esa línea, aunque choca con países y empresas que no quieren ceder terreno. La seguridad tiene un precio político.El reto consiste en convertir esas pruebas en una obligación, no en una carta voluntaria. Una empresa puede publicar compromisos de seguridad y, a la vez, competir por cuota de mercado, talento y financiación. El conflicto de intereses queda dentro del laboratorio si no hay supervisión externa.El aviso de Bengio no pide apagar la investigación. Pide aceptar que una herramienta capaz de escribir código, convencer personas y operar servicios críticos exige reglas antes de convertirse en una pieza invisible de la vida diaria. La confianza no puede depender de promesas privadas.