Zuckerberg en Sources: los laboratorios que retienen modelos de IA son «bastante peligrosos», Llama 4 fue un fracaso y la privacidad de Muse sigue sin probar

Wait 5 sec.

Mark Zuckerberg grabó la entrevista el viernes 5 de septiembre en la sede de Meta, días antes de que la empresa lanzara Muse. Se publicó el miércoles 10. En ella deja tres afirmaciones que van a tener recorrido: que los laboratorios que entrenan modelos avanzados y no los publican son «bastante peligrosos»; que Meta calculó mal con Llama 4 y que lo están corrigiendo; y que tiene pensado que Meta no pueda leer el contenido de la VM confidencial de Muse —pero todavía no puede demostrarlo.El podcast es Sources, con Alex Heath. La conversación tiene el tono de una empresa que quiere convencer al mercado de que ha aprendido de sus errores y que los justifica con principios. Tres de esos principios: empoderar a las personas genera prosperidad, la IA sirve para inventar cosas nuevas más que para automatizar las antiguas, y la seguridad viene de los contrapesos en lugar del acceso restringido. El tercero, trasladado a ciberseguridad, da este argumento: si una IA puede hackear sistemas, la respuesta es dar a todo el mundo una IA para defender los suyos.¿Qué admitió Zuckerberg sobre Llama 4 y qué está cambiando?Fue directo. Asumió que calculó mal al suponer que escalar los modelos de lenguaje se parecía al resto del aprendizaje automático de Meta. Sobre Llama 4 dijo: «Cuando lo lanzamos, creo que estábamos fuera de la trayectoria que necesitábamos seguir.»La corrección ha sido organizativa: un equipo pequeño, de densidad de talento alta, que puede mantener todo el proyecto en su cabeza, construido literalmente alrededor de donde él trabaja. El clúster Prometheus, en Ohio, está entrenando los modelos que vienen tras Watermelon —el nombre en clave del gran modelo siguiente—. Sobre Watermelon dijo que es un entrenamiento previo «significativamente más avanzado» y que sale pronto. Cuando Heath le preguntó si llega al nivel de la frontera, no se comprometió.Llevamos en wwwhatsnew.com siguiendo el arco de Meta en IA desde el lanzamiento de Muse Spark, el primer modelo de Meta Superintelligence Labs, que cerró la era Llama y fue de código cerrado hasta Muse Glimmer, el modelo de 30B parámetros en Apache 2.0 que puede correr en un solo ordenador. La admisión de Zuckerberg sobre Llama 4 es la primera vez que un ejecutivo de Meta reconoce públicamente que el modelo fue un fracaso de estrategia, no solo de comunicación.¿Qué promete Muse en privacidad y qué falta por demostrar?Zuckerberg dijo que él y Nat Friedman ficharon personalmente a Moxie Marlinspike —fundador de Signal, la referencia global en mensajería privada— para construir la VM confidencial de Muse: una máquina virtual donde todo el agente opera cifrado de forma que «ni Meta puede ver el contenido que hay dentro.» Añadió que no conoce a nadie que ofrezca algo parecido.También dijo que Meta publicará más sobre el sistema en las próximas semanas, antes del despliegue amplio. Hasta que eso ocurra, nadie fuera de Meta puede verificar la afirmación. Las salvaguardas que sí ha detallado: un almacén seguro de credenciales separado del propio agente, agentes centinela que monitorizan el tráfico para detectar inyecciones de prompt, y permisos mínimos al inicio (el email empieza en modo solo lectura).El modelo de negocio que esbozó: Muse empieza con unos 100 millones de tokens semanales gratuitos más la VM, con suscripción de pago para usuarios intensivos. A largo plazo, Meta tomará «una pequeña comisión de las transacciones» que ejecute el agente. Las Ray-Ban Meta están entre los primeros dispositivos donde llegará la función.Sobre las gafas inteligentes y los vetos que están imponiendo cines y escuelas, defendió el piloto de grabación: «Si alguien intenta manipular la luz, deberíamos básicamente bloquearlo en el dispositivo.» Admitió que Meta relajó la comunicación sobre esas salvaguardas a medida que crecían las ventas. «Creo que lo dejamos un poco de lado,» dijo. Y sobre los menores: quiere que YouTube y TikTok firmen las mismas condiciones que Instagram. Si no lo hacen, argumentó, restringir Instagram solo manda a los adolescentes a las plataformas de la competencia.El lanzamiento de Muse como agente que compra y negocia en tu nombre ocurrió tres días después de esta entrevista. Muse ahora tiene dirección de email propia —anunciada hoy también— y un socio en credenciales, 1Password. La arquitectura que Zuckerberg describió en Sources es la infraestructura del Muse que ya está funcionando.El detalle sobre el podcast Sources merece contexto. Sources es un podcast de Vox que Alex Heath conduce en exclusiva sobre el mundo tecnológico. Las entrevistas suelen ser largas y sin cortes, lo que permite que los ejecutivos hablen con más matiz del que aparece en declaraciones preparadas. La de Zuckerberg no es la primera que da allí: en Sources también explicó la operación de limpiar Instagram de contenido político y la apuesta de Meta por el hardware de realidad mixta.Lo que hace especialmente relevante esta entrevista es el momento: se grabó el viernes 5 de septiembre, cuatro días antes del lanzamiento de Muse y el mismo día que Apple anunciaba el iPhone Duo en Cupertino. Zuckerberg habló de Muse antes de que existiera para el público, describiendo en detalle un producto que sus competidores más directos —OpenAI con Instinct y Google con Gemini— están intentando construir en paralelo.El modelo de negocio de Muse que describió Zuckerberg tiene lógica a largo plazo: si el agente ejecuta transacciones en nombre del usuario —reserva restaurantes, compra billetes, cancela suscripciones—, Meta puede cobrar una comisión pequeña sobre cada una de ellas. Para Meta, con 3.580 millones de usuarios diarios en sus apps, incluso una comisión del 1-2% sobre una fracción de esas transacciones representaría una nueva línea de ingresos de escala relevante. Es un modelo más parecido a Amazon que a una suscripción de software. Watermelon será la primera prueba seria de si los nuevos sistemas internos de Meta están a la altura del ambicioso pitch que Zuckerberg acaba de lanzar.La noticia Zuckerberg en Sources: los laboratorios que retienen modelos de IA son «bastante peligrosos», Llama 4 fue un fracaso y la privacidad de Muse sigue sin probar fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.