El uso de herramientas de inteligencia artificial para simplificar procesos y reducir tiempos se encuentra a la orden del día. Lamentablemente para quienes hacen uso de ellas, también lo están las alucinaciones de los diferentes asistentes conversacionales más populares. Ya sea ChatGPT, Gemini o Claude, todos ellos cometen errores fáciles de detectar para el ojo experto, si al menos se toma la molestia de buscarlos.Recientes estudios señalan que una de cada diez consultas efectuadas en Google y que responden las AI Overviews tienen fallos e información inexacta. Este es un problema de calidad y cantidad, pues al extrapolar la cifra a términos globales hablamos de un millón de mentiras por minuto.Por fortuna para la firma de abogados Sullivan & Cromwell, en su escrito no había tantos fallos, pero sí los suficientes como para que el bufete al que se enfrentaban detectase de manera clara que el escrito planteado por el primero de los juristas bebía de referencias sacadas de inteligencia artificial. ¿La pista? Que muchas de ellas eran inexactas, erróneas o simplemente inventadas, tal como le pasó meses atrás al abogado Richard Bednar.Rectificación y petición de disculpas ante el juez instructor del casoLos protagonistas de esta historia que destaca Futurism son tres: el despacho ya presentado de Sullivan & Cromwell, su rival en el caso, Boies Schiller Flexner, y el juez federal del tribunal de quiebras de Manhattan Martin Glenn. A la hora de revisar desde el segundo de los gabinetes jurídicos la documentación presentada por el primero de ellos algo no encajaba. Referencias mal identificadas, citas erróneas a la legislación marco del caso que centraba la demanda (una moción de quiebras) y enumeración de otros casos que ni siquiera existían. Por supuesto, la información acabó en manos del juez instructor del caso y ello obligó a Andrew Dietderich, codirector del grupo de reestructuración del bufete Sullivan & Cromwell a redactar un escrito de disculpa con el que subsanar el error y tratar de evitar la sanción que podría conllevar el uso de IA ante la justicia.Dietderich lamentó "profundamente" lo sucedido y trató de exculpar a su bufete de abogados de una responsabilidad que podría acarrear otro tipo de consecuencias para la firma. No en vano, para poder aplicar este tipo de herramientas se exige que su capacitación en el ámbito jurídico sea lo más rigurosa posible, cuestión a la que no respondió el escrito presentado por Sillivan & Cromwell.Pese a ello, Dietderich confirmó que su estudio jurídico subsanó los errores de la moción presentada y anunció una investigación interna para detectar en qué punto habían podido fallar las políticas de IA de su despacho, pues el punto en que falló la inteligencia artificial quedó claro con el escrito inicial que desmontó por completo la parte contraria implicada en la moción.El caso pone de manifiesto que la fiabilidad de los asistentes conversacionales debe estar en entredicho y sujeta en todo momento a una revisión exhaustiva y meticulosa por parte de personas con capacidad de contrastar y corregir. Más si cabe cuando en juego está un caso judicial y el prestigio de un bufete de abogados cuya imagen queda en entredicho tras este acontecimiento.