No ha pasado ni un mes desde que Meta lanzó Muse, pero ya estamos viendo que el nuevo agente IA de la compañía de Zuckerberg está generando más fricciones de las que a Meta le gustaría. La idea de la compañía es que lo utilicemos para que se encargue de tareas como comprar en el supermercado o cancelar suscripciones, entre muchas otras cosas. La realidad es que, para hacerlo, necesita permisos a toda nuestra vida, y es ahí donde muchos no se fían debido al historial de la propia Meta.Ahora, una investigación de Time (aunque no son los únicos) ha detallado hasta qué punto indaga Muse en nuestra vida, indicando que ni siquiera quienes no lo usan escapan a su conocimiento.En corto. Hace unas horas, Time publicó un análisis en el que indicaba que, cuando Muse empieza a trabajar, realiza un dosier de cada usuario y sus contactos. Este documento interno lo actualiza cada hora y en él incluye todo lo que sabe sobre el propio usuario, pero también sobre las personas que aparecen en sus chats, mensajes y correos. En todo lo que el agente haya leído, básicamente.Time cifra los usuarios de Muse en cuatro millones y lo que hace el agente es clasificar toda la información en una especie de mapa de relaciones sociales. Por ejemplo, Muse recoge cómo conocimos a otra persona, qué intereses compartimos, las conversaciones que hemos tenido y tiene hasta un registro de "tensiones y alianzas" entre nosotros y con otras personas. El agente también tendría instrucciones para analizar qué tipo de mensajes funcionan mejor con cada persona y hasta para inferir cosas que el usuario no ha dicho en voz alta. Un ejemplo que ponen es el de que sabe que un usuario concreto responde mejor a recordatorios cortos después de las 22:00. Ese es el nivel de precisión del agente. En Xataka Para que un agente IA personal sea útil, tiene que tener acceso a toda nuestra vida. Es justo lo que quiere Meta que hagas Investigación extendida. Lo curioso, aunque, de nuevo, viendo el historial de Meta es hasta esperable, es que el conocimiento que tiene Muse no se limita a los usuarios del mismo, sino a cualquier persona que entre en ese mapa mental. De hecho, la investigación expone que Muse tiene una orden para fijarse en bromas internas, expresiones propias y contexto para hablar a los usuarios de una forma u otra, haciendo que la confianza se fortalezca. “Como decimos en nuestro blog, Muse recuerda lo que más le importa, incluida la información sobre otras personas que elijas compartir, para que pueda ser un asistente personal útil” - Portavoz de Meta Muse, limpia memoria. Cuando empezamos a usar sistemas de inteligencia artificial con memoria o los más recientes agentes, es evidente que hay que realizar un esfuerzo por dejar la privacidad a un lado. Hay numerosas investigaciones que apuntan a todo lo que sabe la IA de nosotros, pero con los agentes va a más porque, para que sean realmente útiles, deben tener acceso a todos los rincones del dispositivo en el que lo usemos.Sin embargo, supuestamente hay una herramienta de control, que es la opción de pedir que olvide cosas concretas. Meta afirma que es cada usuario el que controla a su Muse y puede pedirle que olvide algo, pero Time señala que esto no funciona como debería y que dar la orden de olvidar no borra necesariamente el mensaje original en el que se compartió cierta información.Parece que, entre las instrucciones del agente está la orden de no avisar al usuario de que esos mensajes pueden seguir visibles en el chat y, además, no puede decir que es algo que no ha conseguido borrar. Simplemente, parece que lo ha borrado o nos confiamos de que así ha sido, pero según Time, tiene matices. Meta tiene un largo historial de escándalos de privacidad. Podemos sumar uno más a la lista La defensa de Meta. Un portavoz de la compañía no ha negado los hallazgos de Time, limitándose a señalar que el funcionamiento de Muse está en el blog de información del lanzamiento donde ya se detalla que el agente recuerda lo que importa a cada usuario, incluida información sobre otras personas que el usuario decide si comparte o no.Además, Meta considera que Muse tiene varias garantías para asegurar la seguridad del usuario:Cada usuario tiene su propia máquina virtual en la nube, aislada de las demás (aunque 404 informó sobre correcciones de última hora porque un Muse habría podido escapar de su máquina virtual)Sentinel es un segundo agente que funciona en paralelo aprobando lo que Muse comparte en Internet.Antes de realizar acciones sensibles como comprar algo o enviar un correo, Muse pide confirmación al usuario.Los datos de cada persona no se comparten con los sistemas de publicidad de Meta.Cada usuario puede elegir que sus interacciones no sean usadas para entrenar otros modelos de Meta.Y lo más importante: no puede ver contraseñas ni métodos de pago. Lo que sí hace. Ahora bien, algo que Meta reconoce que sí hace es aprender del usuario (como señala Time) y, según el análisis, el agente tiene instrucciones de eliminar nombres y datos identificativos de los usuarios, pero compartir la información con otros Muse para aprender. Cada usuario de Muse recibe gratis un ordenador en la nube. Es un ordenador real diseñado para que puedas hacer casi cualquier cosa que podrías hacer con un ordenador en tu escritorio, mientras mantenemos a ti y al sistema seguros frente a amenazas como la inyección de prompts - David Singleton, de Meta Superintelligence Labs Los primeros choques. En algún momento, Meta lanzará una versión de Muse cifrada con clave para cada usuario, y si Time ha encontrado toda esta información es porque está disponible desde el explorador de archivos de la propia aplicación. El Meta Superintelligence Labs destacó esto como muestra de transparencia y Time no lo niega, pero señala que esto es algo accesible para usuarios avanzados y no tiene claro hasta qué punto la mayoría de los usuarios de Muse tendrá constancia de ello.Aquí no vamos a juzgar porque, como decía, llevamos años haciendo concesiones a las plataformas para poder usar ciertos servicios, y en la era agéntica es algo que va a ir a más. Es importante que se realicen este tipo de análisis para que cada usuario menos experimentado sepa a qué se expone y decida si está de acuerdo o no, pero lo cierto es que Muse está dando mucho de qué hablar y este análisis de Time es lo último de una cadena que ya está dejando portazos por el camino.Porque si primero fue Amazon vetando al agente para proteger su negocio, luego fue un periodista afirmando que Muse sabía cosas que no debía saber porque no le había dado permiso para acceder a ciertos rincones del dispositivo. Y hace unos días fue la propia Apple la que intensificó la seguridad de macOS para que los agentes no puedan pasear como Pedro por su casa sin conocimiento del usuario. La conversación se está centrando en Muse, seguramente por ser de una empresa como Meta en cuanto a manejo de datos de sus usuarios se refiere, pero es algo que acaba de empezar. En Xataka OpenAI cancela el lanzamiento de GPT-6.1 Astra: su propio equipo de seguridad ha visto que el modelo no era fiable Éxito. De la manera que sea, Muse, que de momento sólo está disponible en Estados Unidos, ya acumula más de cinco millones de descargas en menos de un mes. Habrá muchas instalaciones que sean por simple curiosidad, pero otras cuantas que respondan a un interés genuino por parte de los usuarios para 'descargar' la cabeza de ciertas acciones mientras se concentran en otras.Hay muchas consideraciones que hacer, pero no puedo evitar comprender a esos usuarios en un tiempo en el que todo compite por nuestra atención y constantemente se nos bombardea con información de todo tipo.Imagen | David Singleton (editada)En Xataka | Ha nacido el "Claudés", el dialecto que sólo entienden quienes se pasan el día hablando con sus agentes de IA - La noticia Muse es el nuevo agente IA de Meta, pero su comportamiento se parece más al de un agente del FBI fue publicada originalmente en Xataka por Alejandro Alcolea .