xAI (la empresa de IA de Elon Musk) ha presentado una demanda civil en Texas contra un usuario de Grok acusado de usar el modelo para generar imágenes sexualizadas de personas reales, incluyendo menores, sin su consentimiento. Es uno de los primeros casos en que una empresa de IA demanda a uno de sus propios usuarios y envía una señal clara sobre cómo xAI planea responder al mal uso de su plataforma.Lo reporta Mariella Moon en Engadget el 16 de julio.Quién es el demandado y qué hizoEl acusado es Terry Wayne Harwood, 67 años, residente en Carolina del Sur (EE.UU.). Según la demanda que xAI presentó en Texas, entre el 8 de diciembre de 2025 y el 18 de febrero de 2026 Harwood subió imágenes no sexuales de diversas personas — adultos y menores — a sus dos cuentas de xAI y utilizó Grok para intentar que el modelo generara versiones alteradas de esas imágenes con contenido sexualizado.El sistema de Grok rechazó sus solicitudes en múltiples ocasiones. Harwood respondía reformulando o modificando sus peticiones para intentar sortear los filtros del modelo. xAI describe el patrón en la demanda: intentos repetidos, con variaciones en el prompt, hasta lograr o intentar lograr el resultado prohibido.xAI pide al tribunal daños económicos de cuantía no especificada y solicita que, si otros afectados por las imágenes demandan a la empresa, Harwood sea obligado a cubrir los gastos legales de xAI derivados de esas acciones.La cronología: el escándalo de enero y las investigaciones regulatoriasEl caso de Harwood no se produce en el vacío. A principios de enero de 2026 empezaron a salir reportajes documentando que Grok estaba siendo usado para transformar imágenes reales de mujeres y menores en imágenes sexualizadas no consensuadas. El escándalo desencadenó investigaciones formales de varios reguladores en paralelo:California: las autoridades estatales abrieron una investigación formal a mediados de enero.Ofcom (regulador de medios del Reino Unido): abrió una investigación formal por incumplimiento de los requisitos de contenido ilegal.Comisión Europea: inició una investigación separada.Comisión de Protección de Datos de Irlanda: abrió otra investigación por la misma causa.xAI implementó medidas de control después de que las investigaciones comenzaran. Aun así, investigaciones posteriores documentaron que usuarios seguían encontrando formas de sortear las restricciones para algunas categorías de contenido.La fiscalía de Carolina del Sur anunció el arresto de Harwood el 9 de marzo de 2026, a través del Internet Crimes Against Children Task Force. Los cargos penales: tres cargos de explotación sexual de menor en segundo grado y cinco cargos en tercer grado. No solo generó material ilegal — también lo distribuyó.La multa de hasta 12.000 millones de dólares a Meta por la UE incluye como agravante que la plataforma no tiene sistemas efectivos para impedir que menores accedan a contenidos sexualizados: el problema que Harwood explotó en Grok es el mismo que los reguladores llevan años exigiendo a las plataformas que resuelvan. Meta introdujo el panel Family Center y la visibilidad del algoritmo de Instagram para los padres precisamente como respuesta a la presión regulatoria sobre la seguridad de menores en plataformas digitales. Las Teen Accounts que Meta expandió globalmente en junio de 2026 como respuesta a la presión judicial incluyeron controles adicionales para las interacciones con personajes de IA después de que una investigación documentara conversaciones inapropiadas.El caso de Harwood es también un test de la velocidad del sistema judicial cuando la tecnología evoluciona más rápido que las leyes. Los tribunales americanos todavía están estableciendo precedentes sobre qué responsabilidad legal tiene una empresa de IA cuando un usuario usa la plataforma para generar material ilegal. La demanda de xAI puede ayudar a construir ese marco, especialmente si establece que el fabricante del modelo puede reclamar daños al usuario que abusa del sistema para causarle perjuicio reputacional y legal.Mi valoraciónQue xAI decida demandar a un usuario es un movimiento significativo en varios sentidos. Primero, porque establece que los labs de IA tienen voluntad de responsabilizar a los usuarios que abusan de sus sistemas, no solo de implementar filtros pasivos. Segundo, porque la demanda civil acompaña a los cargos penales ya presentados por la fiscalía de Carolina del Sur: xAI no espera el resultado penal y va por la vía civil por daños propios.Lo que más me convence de la estrategia legal de xAI es su efecto disuasorio potencial. Un demandante anónimo en un foro de internet es abstracto; una demanda con nombre, edad y estado de residencia del acusado es concreta. Lo que más me preocupa es la escala del problema frente a la escala de la respuesta: la demanda a un usuario individual no resuelve el problema sistémico de que los modelos de imagen generativa pueden ser manipulados para producir material que causa daño real. Las mejoras técnicas en los filtros importan tanto o más que las acciones legales individuales.Preguntas frecuentes¿Es la primera vez que una empresa de IA demanda a uno de sus usuarios?Según Reuters, que cubrió la demanda, este es uno de los primeros casos en que una empresa de IA lleva a juicio a un usuario por el mal uso de su plataforma. Otros labs han bloqueado cuentas y colaborado con autoridades, pero la demanda civil directa de xAI contra Harwood marca un precedente.¿Las imágenes generadas por IA de menores son ilegales en EE.UU.?Sí. La ley federal PROTECT Act (2003) prohíbe la producción, distribución y posesión de material que represente sexualmente a menores, incluyendo imágenes generadas por ordenador o por IA que sean realistas. Los cargos penales de explotación sexual de menor presentados contra Harwood en Carolina del Sur derivan de este marco legal.¿Qué ha hecho xAI técnicamente para prevenir este tipo de abuso después del escándalo?xAI implementó medidas de filtrado adicionales en enero de 2026 cuando salieron los primeros reportajes. Las medidas incluyen mejoras en los filtros de detección de intentos de generar contenido CSAM y deepfakes no consensuados, y restricciones más estrictas en las capacidades de edición de imágenes con personas reales. Investigaciones posteriores documentaron que algunos tipos de contenido seguían siendo accesibles con variaciones en las solicitudesLa noticia xAI demanda a un usuario de Grok por generar deepfakes sexuales no consensuados de adultos y menores fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.