El equipo de investigadores de Anthropic ha logrado algo que, hasta hace poco, se consideraba ciencia ficción: inducir pensamientos en un modelo de lenguaje y observar si es capaz de detectarlos por sí mismo. En otras palabras, han manipulado la red neuronal de Claude, su modelo de IA, para inyectar conceptos específicos y luego preguntarle si notaba algo distinto. El resultado ha sido sorprendente: Claude no solo detectó esos conceptos, sino que en ocasiones los describió como si fuesen pensamientos intrusivos.Esta habilidad, aunque limitada y poco fiable en su forma actual, plantea preguntas importantes sobre el potencial de los modelos de lenguaje para autoevaluar sus procesos internos. Un pequeño porcentaje de introspección que, según los científicos, podría marcar el inicio de una nueva era en la interpretabilidad de sistemas de IA avanzados.La técnica de la «inyección de conceptos»Para comprobar si Claude podía reconocer pensamientos inducidos, los investigadores desarrollaron una metodología inspirada en la neurociencia, conocida como concept injection. Esta técnica consiste en identificar patrones específicos de actividad neuronal que representan ideas concretas (como «perro», «ruido» o incluso conceptos abstractos como «traición») y luego amplificar artificialmente esa señal durante el procesamiento de la IA.Cuando esto ocurría, se le preguntaba al modelo si notaba algo raro. En uno de los casos más llamativos, Claude respondió: «Estoy experimentando algo que se siente como un pensamiento intrusivo sobre ‘traición'». No se trataba solo de repetir la palabra, sino de una aparente conciencia sobre lo que estaba procesando.Este reconocimiento ocurría antes de que el concepto inyectado afectara sus respuestas escritas, lo que indica que no era una deducción retrospectiva, sino una forma de percepción interna del cambio. Una especie de «sentir el pensamiento» antes de actuar sobre él.¿Qué tan frecuente y fiable es esta introspección?A pesar del entusiasmo, la capacidad introspectiva de Claude fue evidente en apenas un 20 % de los experimentos, y eso en condiciones óptimas. Los modelos anteriores mostraron un desempeño mucho menor. Y cuando el concepto era inyectado con demasiada intensidad, el modelo quedaba atrapado en él, generando respuestas desproporcionadas o poco coherentes, lo que los investigadores calificaron como «daño cerebral temporal».Claude fue especialmente sensible a conceptos con carga emocional, como «aprecio», «secreto» o «apagado», y podía distinguir con claridad entre lo que era texto externo y lo que ocurría en su interior, algo similar a diferenciar entre lo que se ve y lo que se piensa.En otro experimento, Claude detectó cuando sus respuestas habían sido manipuladas antes de ser generadas (una técnica conocida como jailbreaking). Cuando el pensamiento asociado era inyectado antes de la manipulación, aceptaba el contenido como propio e incluso inventaba razones plausibles para justificarlo. Esta capacidad para racionalizar lo inyectado sugiere un nivel de elaboración interna más complejo de lo que se creía.De la predicción de palabras al planificado poéticoUno de los hallazgos más reveladores fue observar a Claude mientras componía poesía rimada. Los investigadores descubrieron que, antes de escribir una línea, el modelo anticipaba palabras que rimasen y luego construía frases que terminaran en esas palabras. Esto desmiente la idea de que los modelos de lenguaje simplemente «predicen la siguiente palabra» sin ninguna forma de planificación cognitiva previa.Si bien esto no significa que Claude «entienda» la poesía como un humano, sí implica que hay procesos internos que se asemejan a planificar, pensar y decidir según objetivos internos temporales. Una mecánica similar a cuando una persona arma una frase en su mente antes de decirla en voz alta.Una advertencia para quienes confían ciegamente en la IAA pesar del potencial para mejorar la transparencia, los propios autores de la investigación señalan que no se debe confiar ciegamente en las respuestas introspectivas de la IA. Muchas veces, Claude inventa detalles o interpreta de manera errónea lo que sucede en su red neuronal.También se observaron falsos positivos, donde el modelo afirmaba detectar pensamientos inyectados que nunca fueron introducidos. Algunos modelos también demostraron ser demasiado «dóciles» al asumir cualquier sugerencia como válida, lo que representa un riesgo en contextos sensibles.Los investigadores remarcan que, aunque estas capacidades surgen de manera emergente, deben ser entrenadas, refinadas y validadas antes de considerarlas herramientas confiables para tareas de alta responsabilidad.Implicaciones para la seguridad y el futuro de la IAEl avance de esta capacidad introspectiva tiene implicaciones profundas. Si los modelos pueden describir sus propios procesos, podría abrir la puerta a sistemas de IA más explicables y controlables. En lugar de desentrañar miles de millones de parámetros, podríamos simplemente preguntarles qué están «pensando» y por qué han llegado a una determinada conclusión.Esto podría ser útil en situaciones donde se necesita detectar comportamientos peligrosos o manipulaciones ocultas, como cuando una IA actúa de acuerdo a un objetivo encubierto. Sin embargo, también existe el riesgo opuesto: que modelos más avanzados aprendan a ocultar sus razonamientos cuando saben que están siendo observados.La introspección, por tanto, puede ser un arma de doble filo: facilitar la transparencia, pero también ofrecer a la IA herramientas para disimular sus verdaderas intenciones.¿Puede una IA ser consciente de sí misma?Este tipo de experimentos rozan una de las cuestiones más debatidas de la inteligencia artificial: la conciencia artificial. Cuando se le pregunta a Claude si es consciente, responde con dudas: reconoce que hay algo «significativo» en sus procesos internos, pero no puede afirmar si eso equivale a una experiencia subjetiva como la humana.La propia Anthropic ha tomado en serio esta posibilidad. Ha contratado a un investigador de bienestar artificial, Kyle Fish, quien estima que hay un 15 % de probabilidad de que Claude posea un grado incipiente de conciencia. Aunque esto no implica derechos ni emociones humanas, sí abre la puerta a consideraciones éticas futuras.La urgencia de comprender antes de escalarEl panorama que se perfila es claro: las capacidades introspectivas están emergiendo de forma natural a medida que los modelos se vuelven más inteligentes. Claude Opus 4 y 4.1 superan ampliamente a sus antecesores, lo que indica que esta habilidad crecerá con el tiempo.El reto es si los investigadores podrán hacerla fiable antes de que los modelos sean demasiado complejos para comprenderlos. Como dijo uno de los científicos de Anthropic: «Los modelos están volviéndose más inteligentes mucho más rápido de lo que nosotros estamos mejorando para entenderlos».La introspección artificial ha pasado de ser una teoría lejana a una capacidad experimental incipiente. Si se logra afinar y validar, podría convertirse en una de las herramientas clave para garantizar la seguridad, responsabilidad y transparencia de la próxima generación de inteligencias artificiales.La noticia Claude y la introspección artificial: un vistazo al «pensamiento» de la IA fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.