«¿Ve usted las noticias? ¿Escucha la radio? ¿Lee algo de lo que está pasando en el mundo? Porque el problema de los abogados que confían en las alucinaciones de la IA es una noticia de portada cada día.» La frase la pronunció la magistrada C. Shannon Bacon desde el estrado del Tribunal Supremo de Nuevo México, dirigiéndose al abogado Stephen Aarons el 21 de agosto. El 10 de septiembre, el tribunal emitió su resolución: 5.000 dólares de multa, desacato y remisión al colegio de abogados para investigación disciplinaria.El caso es sencillo en los hechos y revelador en lo que demuestra. Aarons aceptó el recurso de apelación de un cliente condenado por asesinato. Asumió el caso el año pasado y, según su propio relato, alimentó a ChatGPT con la transcripción del juicio y otros materiales para que le generara «un resumen a prueba de balas.» Lo que el sistema generó incluía declaraciones de testigos policiales que no existen, descripción de ropa del presunto tirador que no figura en el expediente y, en resumen, un recurso que el tribunal calificó de «contenido falso procedente de testigos completamente fabricados.»¿Qué dice Aarons y qué conclusión saca el tribunal?Aarons dijo ante el tribunal que no entendía «el grado en el que la IA puede alucinar hechos.» Su declaración a Reuters fue igualmente directa: «Me arrepiento, pero espero que el colegio de abogados tenga en cuenta que fue un error honesto. Es una lección para todos los profesionales que confían en esta tecnología, potente pero a veces inestable.»El tribunal no fue compasivo con el argumento del desconocimiento. En la resolución, el panel señaló que Aarons «ha demostrado una falta de remordimiento y una falta de preocupación por su cliente.» El resultado para el cliente, cuyo apellido es Sandoval, es que el tribunal anuló todo el recurso previamente presentado, designó la Oficina Pública de Defensa para representarle y permitirá que se presente un nuevo recurso con representación nueva. La apelación del caso de asesinato continuará, pero sin el trabajo de Aarons.Llevamos en wwwhatsnew.com documentando las alucinaciones de la IA desde que un estudio de OpenAI demostró matemáticamente que las alucinaciones no son errores de ingeniería sino consecuencias inevitables del diseño de los LLMs: los modelos están entrenados para generar texto plausible y coherente, no para distinguir entre lo que saben y lo que inventan. Cuando les pides un resumen de un documento, buscan patrones que «encajen» aunque no estén en el documento original. En contextos narrativos —como un juicio con muchos testigos y declaraciones— ese comportamiento produce exactamente lo que le ocurrió a Aarons: testigos que suenan plausibles pero no existen.¿Por qué este caso importa más allá del anécdota?Este no es el primero caso de un abogado sancionado por usar ChatGPT en documentos legales. En 2023, el juez Castel de Nueva York multó al abogado Peter Schwartz por citar jurisprudencia inexistente generada por la IA. En 2024, hubo al menos seis casos similares documentados en distintos estados. Lo que hace diferente el caso de Nuevo México es la gravedad: no son citas bibliográficas inventadas, son testigos de un caso de asesinato con nombres y declaraciones que no figuran en el expediente real. Y la jueza Bacon lo dijo explícitamente: el problema ya no es que los abogados no sepan que la IA alucina. Eso es «noticia de portada cada día.»Lo que el caso revela sobre el uso profesional de la IA es más profundo que el error de un abogado descuidado. Las guías para evitar las alucinaciones de la IA en entornos profesionales existen y son abundantes: verificar siempre las fuentes, no pedir al modelo que genere hechos sino que organice hechos que tú le das, usar sistemas de Retrieval-Augmented Generation que citan la fuente de cada afirmación. Aarons hizo lo contrario: entregó un documento extenso y complejo al modelo y confió en que el resultado era fiable.El mercado de herramientas de IA legal está creciendo rápidamente. Las herramientas diseñadas específicamente para abogados como AI Lawyer están construidas precisamente para evitar este tipo de problema: usan RAG para responder solo con información que puede rastrear hasta una fuente concreta, y no generan texto libre sobre hechos que no están en el corpus. ChatGPT en modo conversacional no es una de estas herramientas. Usarlo para redactar un recurso penal sin verificación posterior es, en retrospectiva, tan imprudente como usar Wikipedia como única fuente en un escrito judicial.El precedente del caso Schwartz-Mata de 2023 —los abogados de Nueva York que citaron seis casos inexistentes en un caso de aerolínea y fueron multados también con 5.000 dólares— se diferencia del caso de Aarons en una dimensión crucial: la gravedad del contexto. Citar jurisprudencia inexistente en un caso de daños personales tiene consecuencias procesales; incluir testigos fabricados en un recurso de asesinato tiene consecuencias que afectan a la libertad de una persona. El tribunal de Nuevo México fue explícito al señalar que Aarons «demostró falta de preocupación por su cliente» —no solo por el proceso o por el tribunal.La pregunta que el caso levanta sobre la supervisión profesional tiene implicaciones que van más allá de los abogados. Los médicos que usan IA para redactar informes clínicos, los auditores que usan LLMs para revisar contratos, los periodistas que usan ChatGPT para escribir perfiles de personas reales —todos se exponen a distintas variantes del mismo problema: los modelos generan texto que «suena» como si viniera de una fuente real aunque no lo haga. El riesgo específico en contextos donde los hechos importan —hechos judiciales, diagnósticos clínicos, datos financieros— es proporcional a la consecuencia del error.El argumento de Aarons —»no entendía el grado en el que la IA puede alucinar»— ya no puede funcionar como defensa en 2026. La magistrada Bacon lo dijo con esa precisión brutal: es noticia de portada todos los días. Las barras de abogados de múltiples estados han publicado guías sobre el uso responsable de IA en la práctica legal. Las herramientas especializadas como Harvey, Casetext y AI Lawyer incluyen advertencias explícitas sobre la necesidad de verificación. El contexto de ignorancia que podría haber funcionado en 2023 no funciona tres años después de que el problema se documentara de forma tan pública y repetida.El cliente Sandoval, mientras tanto, tendrá su apelación. Con representación nueva. Y sin la carga adicional de que el recurso anterior contuviera testigos que no existen.La noticia Un abogado usó ChatGPT para preparar un recurso de asesinato. El Tribunal Supremo de Nuevo México le ha multado por incluir testigos que no existen fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.