No es la primera ocasión en que se pone el foco en la capacidad que tienen las redes sociales de dirigir el discurso público. La presencia de bots hace que, desde hace tiempo, exista una duda sobre cuánto de lo que se traslada en las plataformas como X o Facebook es orgánico y tiene una base natural y cuánto está orquestado por quienes tienen intereses en ellas. La influencia a través de estos espacios se ha convertido en un arma con el que todos quieren contar pero solo unos pocos tienen capacidad de gestionar.Precisamente por eso, instituciones como el Parlamento Europeo se plantean acotar el momento en que los más jóvenes pueden acceder a ese tipo de espacios. El riesgo de manipulación se hace mayor si cabe a causa de otro elemento central en el discurso tecnológico de los últimos tiempos como lo es la inteligencia artificial. Los modelos generativos cuentan con una base que, a la vista del último estudio responsabilidad de la Universidad de Oxford, puede acelerar el sesgo de los mensajes publicados en redes.Así se desprende de la investigación efectuada por el Oxford Internet Institute (OII) y el Instituto Hasso Plattner de la Universidad de Potsdam, que han evaluado algunos de los asistentes conversacionales más empleados para adaptar publicaciones en plataformas digitales y han percibido que la manipulación del discurso en línea no obedece solo a los algoritmos que muestran contenido basado en la interacción del usuario.El papel de los asistentes conversacionales en la deriva del discursoLos investigadores han detectado un peligro latente: los modelos de lenguaje (LLM) alteran de manera sistemática y sutil la dirección o el tono de los mensajes cuando abordan temas polémicos, incluso si el usuario les da la instrucción explícita de mantener intacto el significado original. Esta alteración, por la naturaleza de las propias redes, se amplifica a gran escala en ellas, multiplicando exponencialmente el riesgo de manipulación.Este punto resulta especialmente preocupante en un momento en que los distintos laboratorios buscan asentar sus asistentes conversacionales como copilotos a la hora de publicar contenido en redes. Grok en X o Meta AI en las plataformas sociales de la compañía presidida por Mark Zuckerberg han ganado una cuota de protagonismo que no hace sino elevar el riesgo de que se materialice el escenario descrito por el estudio de Oxford.El estudio bautiza este suceso como "comunicación mediada por IA" y lo plasma en una investigación publicada en arXiv bajo el título La comunicación mediada por IA puede influir en la opinión colectiva. En ella, las pruebas efectuadas tanto en X como en Facebook mostraron al equipo liderado por la autora principal, Sandra Wachter, que las herramientas generativas son capaces de efectuar ligeras pero perceptibles modificaciones en el tono y el fondo del mensaje original, incluso cuando se le pide explícitamente al asistente que mantenga intacto su sentido.La capacidad de amplificación de las redes sociales hace el restoEl análisis centró su atención en temas de gran controversia social como el control de armas, la legalización de la marihuana y el feminismo, aspectos que los asistentes conversacionales tendieron a reforzar de manera positiva. Sin embargo, en cuestiones como el ateísmo o la pena de muerte, su dirección se encaminaba más hacia la oposición. Unos hallazgos que confirman la sutil tendencia ideológica hacia la que los chatbots pueden reconducir el debate público de forma invisible.Cualquier modificación en un mensaje publicado por un usuario con seguidores, amigos y contactos es el primer paso de este fenómeno. Esa audiencia inicial ejerce de altavoz hacia sus propios nexos en las plataformas, logrando que el eco de una publicación con un ligero cariz ideológico adicional termine llegando a todos los rincones. La amplificación que ofrecen las redes sociales no es la culpable de la distorsión, pero sí se convierte en su aliada necesaria.Este estudio demuestra que los asistentes de inteligencia artificial integrados en entornos sociales actúan ya como moldeadores invisibles de las opiniones que los usuarios vierten en la red. Bajo el punto de vista del equipo investigador, esto no hace sino reafirmar la necesidad de una legislación que ponga límites al alcance de los grandes modelos de lenguaje, así como de exigir una mayor responsabilidad a las empresas tecnológicas que los incorporan a sus plataformas sin calibrar convenientemente la neutralidad requerida en los espacios de discurso público.