La IA cae en su propia trampa: quienes debían entrenarla están usando otros chatbots

Wait 5 sec.

La próxima generación de modelos de inteligencia artificial necesita datos cada vez más precisos y mejores. No basta con rascar internet como antes, pues ahora muchas empresas pagan a personas para mantener conversaciones, crear pruebas y evaluar respuestas con un toque más humano.El problema es que algunos de esos trabajadores están usando otros chatbots para hacer el trabajo por ellos. Es decir, la IA podría acabar entrenándose con textos generados por IA, justo lo que las compañías intentan evitar a toda costa.El atajo que puede contaminar los datosSegún un informe de New Scientist, que recoge el testimonio de varios trabajadores del sector, la situación encierra una paradoja irónica. Mientras las tecnológicas buscan desesperadamente datos generados por humanos para que sus modelos sean más naturales y precisos, parte del personal contratado admite que recurre a herramientas como ChatGPT para acelerar el ritmo de trabajo.Y, si lo analizamos con detenimiento, no es difícil de entender por qué ocurre. Muchos de estos trabajos dependen de plataformas externas, contratos temporales y pagos ajustados. Si a eso se suman instrucciones largas, revisiones estrictas y el miedo de perder el acceso al proyecto por cometer errores, el incentivo para apoyarse en un chatbot aparece casi solo.Asimismo, algunos trabajadores aseguran que las compañías intentan detectarlo, con normas internas e incluso herramientas que capturan pantallas durante la jornada. Pero también admiten que, si alguien sabe disimular los rasgos más evidentes de un texto generado por IA, no siempre resulta fácil pillarlo. Basta con pedir al chatbot que escriba de forma más natural, evite ciertos signos o que no repita patrones demasiado reconocibles.El verdadero peligro de esto no es que alguien haga trampa para sacarse un trabajo de encima, sino que se están metiendo datos de segunda mano en una cadena que depende sí o sí de la calidad. Si una empresa está convencida de que recibe respuestas humanas, pero en realidad le llegan textos que ya pasaron por el filtro de otra IA, todo el entrenamiento pierde el sentido.El riesgo no es apocalíptico, pero sí realLos expertos llevan tiempo alertando del llamado “colapso de modelos”, una degradación que puede aparecer cuando una IA se entrena una y otra vez con contenido producido por otras IA. En el peor escenario, el sistema empieza a perder variedad, matices y capacidad para representar bien el mundo real.Eso no significa que los próximos modelos vayan a romperse de golpe. De hecho, si todavía hay una cantidad suficiente de datos humanos mezclados en el proceso, el daño puede reducirse. Pero el riesgo sí apunta a algo más sutil: modelos menos finos, menos creativos y menos capaces de resolver tareas que requieren criterio humano.La realidad es que las compañías necesitan personas para mejorar sus modelos, pero las condiciones de ese tipo de trabajo pueden empujar a esas mismas personas a delegar en la IA. Y si el objetivo era conseguir conversaciones auténticas, ejemplos variados y evaluaciones humanas, el resultado puede acabar siendo una copia de una copia.El caso también deja una pregunta bien incómoda para la industria. Si las empresas quieren datos de calidad, quizá no baste con vigilar más a los trabajadores. También tendrán que pagar mejor, diseñar tareas más razonables y asumir que el factor humano no puede sustituirse por completo sin que la propia IA acabe cayendo en su trampa.