Una respuesta bien escrita puede contener un dato falso. Los asistentes de inteligencia artificial son capaces de presentar información equivocada de manera convincente e incluso construir nuevas explicaciones sobre ese error inicial. En tareas donde importa acertar, la apariencia de seguridad resulta insuficiente para dar una respuesta por buena.El coronel José Luis Carbonell, entonces jefe de la sección de Transformación Digital del Ejército de Tierra, sitúa parte del problema en la información que recibe la máquina. Su advertencia es clara: la calidad de los datos importa.El Ejército ya trabaja con un asistente propio llamado Gonzalo. El proyecto permite observar una dificultad que trasciende los cuarteles: cómo comprobar de dónde sale una respuesta. Localizar un documento, entender lo que dice y ofrecer una contestación correcta son pasos que requieren sus propias comprobaciones.Gonzalo y el origen de cada respuestaCarbonell explicó en La Vanguardia, el 2 de abril de 2026, que Gonzalo funciona en una nube privada, aislada de internet, y ayuda a preparar actas y presentaciones. El tratamiento de documentos sensibles explica esa precaución. Controlar dónde circulan los archivos y comprobar que la contestación es correcta son, aun así, dos tareas diferentes.El desarrollo tiene antecedentes públicos. La revista oficial Tierra Digital, en su número de mayo de 2025, describía el trabajo sobre búsquedas capaces de reconocer el significado y el contexto de una consulta. También detallaba la división de los documentos en párrafos para que el usuario pudiera conocer el origen de la información. Esa forma de consulta de documentos ayuda a contrastar la respuesta con su fuente.La misma publicación identificaba las alucinaciones, esos errores que el sistema presenta como si fueran ciertos, como una de las dificultades del proyecto. Mostrar el pasaje utilizado permite que quien consulta lo revise y compruebe si respalda la contestación. Tener una referencia no elimina el error: hace posible volver al texto y examinarlo. Esa comprobación cobra valor cuando un resumen omite una condición que sí aparece en el documento original.La precisión se comprueba con pruebasLa estrategia revisada de inteligencia artificial de la OTAN, de julio de 2024, considera los datos de calidad una condición previa para desarrollar sistemas fiables. Además, pide instalaciones capaces de probar las aplicaciones en distintas condiciones técnicas y operativas. El objetivo es evaluar su uso en situaciones concretas, algo que va más allá de que un asistente de inteligencia artificial produzca una demostración convincente o conteste deprisa a una pregunta.Las recomendaciones del instituto estadounidense NIST sobre fiabilidad añaden una exigencia práctica: medir la precisión con pruebas que representen las condiciones de uso previstas y explicar cómo se han realizado. También contemplan controles durante el funcionamiento, porque superar una evaluación inicial no acredita cualquier uso posterior. La revisión humana puede ser necesaria cuando el sistema no detecta ni corrige sus propios errores.Carbonell describió asimismo el trabajo para que la herramienta propusiera alternativas en la planificación táctica. Lo presentó como una capacidad en desarrollo destinada a apoyar al mando. La decisión corresponde a la persona que debe valorar esas propuestas. Recibir más información con rapidez solo resulta útil si se puede establecer qué merece confianza y qué necesita otra comprobación antes de actuar.