La startup Pangram ha lanzado dos detectores de contenido generado con inteligencia artificial: Image 1.0, para imágenes fijas, e Image Flash 1.0, una versión más rápida que analiza vídeo fotograma a fotograma. Image 1.0 incluso genera un mapa de calor que señala qué zonas de una foto parecen sintéticas. La compañía presume de aciertos casi perfectos, pero una parte importante de esas cifras procede de pruebas diseñadas por ella misma. Lo cuenta TheNextWeb.El contexto importa: distinguir lo real de lo generado se ha vuelto un problema cotidiano, y cada cifra de precisión en este terreno merece leerse con cuidado.¿Qué hacen los nuevos detectores y dónde funcionan?Analizan imágenes y vídeos y estiman si son obra de una IA, con herramientas pensadas tanto para el usuario como para empresas. Según TheNextWeb, ambos modelos están en la aplicación web y en la API. Image 1.0 llega además a una extensión de Chrome que marca contenido de IA en redes sociales, tiendas y webs de alquiler, y los usuarios pueden subir vídeos a la aplicación web para que Image Flash los revise.Una mejora técnica concreta: ahora funcionan con imágenes de hasta 256×256 píxeles, cuando antes el mínimo era 512×512. Eso sí, los resultados por debajo de 512 píxeles llevan una advertencia de menor confianza, un reconocimiento honesto de que con poca resolución la detección es más frágil. El mapa de calor de Image 1.0 es el rasgo más útil para el usuario: no solo dice «esto es IA», sino que apunta dónde.¿Qué dicen las cifras y por qué hay que leerlas con cautela?Pangram afirma que Image 1.0 detecta el 99,2 % de las imágenes de IA y marca por error solo el 0,27 % de las reales; y que Image Flash logra un 98,7 % en el banco de pruebas académico DF26. Son números impresionantes, pero con matices que el propio TheNextWeb subraya.El primero: en una prueba con copias de IA de 100 fotos reales, generadas con 12 herramientas distintas, Pangram declara un 99,96 % de precisión. Esa prueba «la diseñó Pangram, no revisores externos», lo que no la invalida pero obliga a tomarla como lo que es: una cifra de la casa. El segundo matiz pesa más: DF26, el único banco de pruebas independiente, contiene 2.691 clips de personas hablando a cámara y se publicó en septiembre; sus autores concluyeron que tanto las personas como los detectores punteros «apenas superan el azar». Que Image Flash saque un 98,7 % ahí, 29 puntos por encima del segundo mejor según Pangram, es notable, pero choca con ese retrato general de dificultad.La fiabilidad de estos sistemas es justo el nervio del asunto, porque un falso positivo tiene consecuencias. La propia herramienta de texto de Pangram marcó en agosto como «parcialmente escrito por IA» un artículo de opinión de una profesora de Berkeley, que lo negó. Y, según pruebas de Reuters, el detector de imágenes de Meta falló más de la mitad de las veces con imágenes recortadas. El problema no es solo cazar lo falso, sino no acusar a lo auténtico, algo clave cuando hablamos de imágenes retocadas con IA que, según un estudio del MIT, duplican los errores de memoria.¿Por qué hay mercado para esto?Porque el contenido sintético ya se usa para estafar, manipular y falsear reseñas, y hace falta algo que lo marque. Pangram es una startup de Nueva York conocida por detectar texto escrito con IA; su detector de texto ya funciona en Substack, y en julio levantó 9 millones de dólares (unos 8 millones de euros) en una ronda liderada por Menlo Ventures, cuando presentó por primera vez la detección de imágenes.El caso de uso es evidente en fenómenos como los anuncios con famosos que «recomiendan» invertir y que son deepfakes o las reseñas falsas que la ley ya persigue y que conviene saber detectar antes de comprar.Mi lectura es que detectores como estos son necesarios y, a la vez, peligrosos si se les cree a ciegas. Necesarios porque la alternativa —un internet donde nadie distingue lo real de lo generado— es peor. Peligrosos porque una cifra del 99 % invita a tratar su veredicto como prueba, y ningún detector lo es: el propio historial de Pangram con aquella profesora y el de Meta con las fotos recortadas lo demuestran. Lo sensato es usarlos como lo que son, una señal más entre varias, nunca como juez único. Y exigir que las pruebas que sostienen esos porcentajes las hagan terceros independientes, no la empresa que vende el producto. Mientras el único banco de datos externo diga que detectar IA «apenas supera el azar», cualquier 99 % de la casa pide, como mínimo, una ceja levantada.La noticia Pangram lanza detectores de imágenes y vídeos hechos con IA, con cifras casi perfectas que conviene mirar con lupa fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.