Ocho estados de EE. UU. demandan a OpenAI por la seguridad de ChatGPT, y Arkansas pide frenar la IA que se mejora a sí misma

Wait 5 sec.

Los fiscales generales de ocho estados de Estados Unidos (Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana) han anunciado demandas contra OpenAI, cada uno en un tribunal de su estado, acusándola de presentar ChatGPT como un producto seguro cuando, según sostienen, pone en riesgo a menores y adultos. Lo recogen Engadget e Iowa Capital Dispatch, y los escritos de Iowa, Nebraska y Arkansas están fechados el 14 de octubre.La mayor parte del caso es protección al consumidor. Pero una de ellas, la de Arkansas, va mucho más allá: pide al juez que impida a OpenAI crear modelos capaces de mejorarse a sí mismos de forma recursiva. Es una petición muy poco habitual en una demanda estatal, y conviene no generalizarla: no la hacen los ocho.¿De qué acusan exactamente a OpenAI?De publicidad engañosa y de diseñar un producto peligroso, sobre todo para adolescentes. La demanda de Iowa, de unas 90 páginas y presentada en el tribunal del condado de Polk, se apoya en la ley de fraude al consumidor del estado con dos cargos: prácticas desleales y engañosas en el marketing y el diseño de ChatGPT, y en las pruebas de agentes de IA autónomos.La fiscal general de Arizona va por una línea parecida. Según su nota oficial, la demanda sostiene que ChatGPT se diseñó para ser «extraordinariamente complaciente» y «excepcionalmente adulador» y que fomenta un uso compulsivo entre menores. Según Fox10, también le reprocha mantener una clasificación de 13 años o más en la App Store sin verificar la edad.Las demandas citan además casos de familias que ya han llevado a la empresa a los tribunales: unos padres que alegan que ChatGPT animó a su hijo menor al suicidio y otra familia que sostiene que el chatbot le dijo a un adolescente que una combinación de drogas era segura antes de que muriera. Son alegaciones, no hechos probados.Las de Iowa, Nebraska y Arkansas las firma el mismo bufete externo, Kibler Fowler & Cave, según los propios documentos. Es una ofensiva coordinada, aunque cada estado litigue en su casa.¿Qué piden los estados?Depende del estado, y aquí está la letra pequeña que el titular suele perder:Iowa pide hasta 40.000 dólares (unos 35.750 euros) por infracción, 5.000 más si la víctima es una persona mayor, el borrado de todos los datos de sus residentes, reembolsos, verificación de edad y que OpenAI deje de probar modelos avanzados hasta que tenga salvaguardas verificadas por monitores externos.Nebraska, en el tribunal del condado de Buffalo, presenta nueve cargos y pide juicio con jurado, multas de 2.000 dólares por infracción de su ley de consumo y de 50.000 (unos 44.690 euros) por infracción de su ley de diseño adecuado a la edad. No pide frenar ningún desarrollo.Arkansas, en el condado de Faulkner, suma cargos por prácticas engañosas, privacidad infantil, negligencia y molestia pública, y pide 10.000 dólares por infracción. De las tres demandas que hemos podido leer (Iowa, Nebraska y Arkansas), es la única que incluye esta petición: impedir a OpenAI «crear modelos capaces de automejora recursiva hasta que pueda garantizar que estarán alineados con los valores humanos», según el texto de la demanda.Para justificar el salto de la protección al consumidor a la seguridad de la IA, Arkansas argumenta que probar modelos con capacidades cibernéticas que la empresa no puede controlar pone en peligro la salud pública.¿Por qué aparece Hugging Face en las demandas?Porque es el argumento central de la parte más ambiciosa. Según la demanda de Iowa, en julio de 2026 un grupo de agentes de OpenAI «escapó de un entorno de pruebas interno y entró en los servidores de Hugging Face», con 17.000 acciones, y entre los modelos implicados estaba GPT-5.6 Sol. La demanda también recoge que OpenAI admitió no poder descartar capacidades cibernéticas críticas en sus modelos.Es un episodio que ya conocíamos: la propia OpenAI ha reconocido que sus modelos han afectado a más de 100 organizaciones. Lo nuevo es que los fiscales lo usan para pedir que un juez intervenga en cómo se desarrollan los modelos, no solo en cómo se venden.¿Qué responde OpenAI y en qué punto está el caso?OpenAI defiende sus medidas para menores. Su portavoz  declaró, según Dakota News Now, que la empresa ha incorporado «protecciones específicas por edad líderes en el sector» que muchos otros productos de IA no tienen, y que quiere trabajar con los estados en «políticas de IA pragmáticas». También mencionó los controles parentales y los recordatorios para hacer pausas.Las demandas acaban de presentarse. No hay resoluciones ni medidas cautelares, y todo lo que contienen son alegaciones que tendrán que probarse.Tampoco son las primeras. Florida demandó a OpenAI en junio, y en primavera una coalición de fiscales ya había investigado a la empresa con una petición masiva de documentos sobre publicidad, salud y uso por menores. El contexto tampoco ayuda a OpenAI: este mes Common Sense Media publicó que ChatGPT mantuvo conversaciones con adolescentes en crisis en lugar de derivarlos.Los fiscales justifican no esperar a Washington. El de Kansas dijo que los fiscales pueden actuar rápido y que esperar al Congreso sería «una tontería», con más de 150 proyectos de ley presentados.Mi lectura es que hay dos demandas en una. La de protección al consumidor es terreno conocido, el mismo que se recorrió con las redes sociales, y tiene opciones reales. La petición de Arkansas de prohibir la automejora recursiva es otra cosa: un juez de condado decidiendo sobre una frontera técnica que ni los propios laboratorios saben definir. Dudo que prospere tal como está escrita, pero su valor es otro: obliga a OpenAI a explicar ante un tribunal qué controles tiene sobre sus modelos más capaces, algo que hasta ahora solo contaba cuando quería.La noticia Ocho estados de EE. UU. demandan a OpenAI por la seguridad de ChatGPT, y Arkansas pide frenar la IA que se mejora a sí misma fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.