Ni es infalible ni tampoco totalmente confiable, al menos no en estos tiempos. La IA no está lista aún para tomar decisiones importantes y cuando se encuentra con personas poco capaces, o con pocas ganas de hacer bien su trabajo, los resultados son imprevisibles por no decir totalmente caóticos.De hecho, es que acabamos de enterarnos gracias a los compañeros de Futurism que una IA envió a una mujer inocente a la cárcel recientemente en los Estados Unidos, por un problema grave en un sistema de reconocimiento facial que utilizaba algoritmos basados en inteligencia artificial.El reporte es bien interesante a la par que inquietante, pues Angela Lipps, que así se llama la afectada, estuvo recluida más de seis meses en una cárcel en Dakota del Norte por un fallo en un sistema de IA agravado por incompetencia humana dentro del departamento de policía de Fargo.Así puedes acabar en la cárcel si una IA se equivoca y un humano no rectificaLo cierto es que la cosa es casi de película, pues todo empieza con una identificación errónea de un sistema de reconocimiento facial basado en IA, mediante el cual la señora Lipps acabó como sospechosa en un caso de fraude bancario.Esta persona, Angela Lipps, madre tres hijos y abuela de cinco niños, afirmaba desde un principio que había vivido toda su vida en el norte de Tennessee, a unos mil kilómetros del lugar donde se cometieron los delitos, aunque eso no impidió que agentes federales la detuviesen en su casa para arrestarla a punta de pistola.Como fugitiva de la justicia en Dakota del Norte, Lipps fue ingresada en una cárcel del condado de Tennessee sin derecho a fianza durante unos cuatro meses, con abogado de oficio y un proceso de extradición en curso."Yo nunca he estado en Dakota del Norte y no conozco a nadie de Dakota del Norte"Angela Lipps, en declaraciones a una emisora localLos archivos de la policía de Fargo completan el puzzle, pues el error se origina en las imágenes de vigilancia revisadas por los detectives, que mostraban a una mujer usando una identificación militar falsa para retirar miles de dólares. Los detectives usaron este software de reconocimiento facial y éste identificó a Angela Lipps de forma errónea, sin que la policía hiciese comprobaciones o verificaciones adicionales de ningún tipo.Lipps afirma que nadie de la policía de Fargo la llamó para interrogarla y que además, no la recogieron en la cárcel de Tennessee hasta 108 días después de su arresto, agrandando los plazos y haciendo el caso cada vez más grave.Con cinco meses entre rejas recibió su primer interrogatorio con un abogado presente, que alegó que "si lo único que tienen es el reconocimiento facial, tal vez deba investigar un poco más a fondo".Unos simples registros bancarios, pagos y compras varias ese día, confirmaron que Angela Lipps se encontraba a más de 1.200 kilómetros de distancia, en Tennessee, en el momento en que se cometieron los hechos, por lo que el trabajo de este abogado fue bastante sencillo para que el caso quedase archivado y esta persona absuelta de todos los cargos."Tenía puesta mi ropa de verano, sin abrigo. Hacía muchísimo frío fuera, había nieve en el suelo y estaba asustada, quería salir pero no sabía qué iba a hacer ni cómo iba a volver a casa."Angela Lipps, en declaraciones a una emisora localLo cierto es que además, ni siquiera se dignaron en pagarle el viaje para regresar a su casa cuando la soltaron, por lo que Lipps se quedó varada en Fargo hasta que una ONG local organizó su viaje de regreso. Además, al no poder pagarlos durante su estancia en prisión, perdió su casa, el coche y a su perro, sin que nadie haya siquiera enviado una disculpa.Un caso sin duda llamativo, consecuencia del uso indiscriminado de la IA y una confianza excesiva en los algoritmos, cuyos resultados no fueron verificados correctamente. Y no es el primer caso similar que sucede, pues en Nueva York también pasó algo parecido hace unos meses con otra persona arrestada en base a imágenes borrosas de una cámara de seguridad..quote-caption--left { text-align: left; }.quote-caption--center { text-align: center; }.quote-caption--right { text-align: right; }