El equipo de investigadores que pertenece al Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT ha publicado un nuevo estudio relacionado con los generadores de imágenes en cuanto a retratos. La duda es sobre la procedencia o autoría del trabajo realizado. Puede ser importantísimo debido a regulaciones, licencias o hasta litigios si nos vamos a un aspecto legal. El inconveniente es que, al meter a los modelos entrenados con grandes conjuntos de datos en la ecuación, la respuesta es incierta. Se identificó un fenómeno llamado "decaimiento de la atribución" en el que, cuantos más datos se utilizan para entrenar a un modelo generativo, menos relevancia tiene cada ejemplo del entrenamiento individual en el resultado final. A una escala más grande, se elimina cualquier imagen de los datos de entrenamiento, por lo que las imágenes originales de un artista pueden correr peligro. Se eliminan sus imágenes o todas aquellas atribuibles a una persona; la muestra generada no cambia.La atribución de ciertos contenidos en plena era de la IA podría desaparecerDe acuerdo con Zheng Dai, un antiguo investigador del laboratorio del MIT y el autor principal del estudio, indica que si se elimina un dato y el resultado del modelo no cambia, el dato evidentemente no afectó el resultado. Para él, no tiene sentido atribuir el resultado al dato. Si se hace la repetición del proceso con otros datos y se observa el mismo comportamiento, tampoco tiene sentido atribuir el resultado a todo lo demás. David Gifford, profesor del MIT e investigador principal, señala que no se podía demostrar de forma absoluta este hecho. Por lo que llevaron a cabo el primer método absoluto del hecho, eliminando las entradas y las influencias de las mismas. Partiendo del punto inicial en la prueba, ¿qué se hubiera reproducido con el modelo si nunca hubiera visto una imagen en particular? Es un entrenamiento desde cero sin la imagen y repetir el proceso sucesivamente. Llevarlo a un ejemplo de millones de ejemplos, los cálculos se hacen prohibitivos, por lo que pensar en un trabajo de atribución se basa solo en aproximaciones que estiman dicha influencia de un ejemplo de entrenamiento, en lugar de caer en la eliminación. Los generadores de imágenes con IA provocarían en algún punto la pérdida de atribución originalPor suerte, idearon una solución al respecto. Una arquitectura denominada "conjunto de difusión". Se compone de varios componentes más pequeños, cada uno entrenado con una cantidad diferente de datos. ¿Qué haría el modelo sin una imagen particular? Se desactivan las partes que procesaron sin reentrenar y sin aproximaciones; se obtiene un modelo contrafactual real sin caer en estimaciones. El equipo comparó esos modelos con otros 24 modelos de difusión convencionales que se entrenan con los mismos datos. Las imágenes tuvieron una calidad similar. Lo que quedó en evidencia es que, si el modelo tenía más datos de entrenamiento, mejor se comportaba frente a aquellos de un solo modelo. La situación es que se planteó la pregunta a gran escala; partiendo de una imagen generada, se imaginaron las versiones alternativas; cada una se producía al eliminar una parte de datos de entrenamiento. Un "universo contrafactual de la imagen": la diferencia entre la imagen original y la alternativa queda evidenciada (radio contrafactual), por lo que sí es relevante la influencia de los datos del entrenamiento. Entrenaron 24 modelos con conjuntos de datos desde 256 imágenes hasta 160.000. La conclusión fue que, cuanto mayor era el conjunto de entrenamiento, menor era el radio contrafactual. La investigación completa fue publicada en la revista Nature Communications.