Cómo la tecnología basada en la IA llevó a un hombre a la cárcel con escasas pruebas

https://apnews.com/article/artificial-intelligence-algorithm-technology-police-crime-7e3345485aa668c97606d4b54f9b6220

La esposa de Michael Williams le rogaba que recordara sus viajes de pesca con los nietos, cómo solía trenzarle el pelo, cualquier cosa que le hiciera volver a su mundo fuera de los muros de hormigón de la cárcel del condado de Cook.

Sus tres llamadas diarias se habían convertido en un salvavidas, pero cuando se redujeron a dos, luego a una y después a unas pocas por semana, Williams, de 65 años, sintió que no podía seguir adelante. Hizo planes para quitarse la vida con un alijo de pastillas que había almacenado en su dormitorio.

Williams fue encarcelado el pasado agosto, acusado de matar a un joven del barrio que le pidió que le llevara durante una noche de disturbios por la brutalidad policial en mayo. Pero las pruebas clave contra Williams no procedían de un testigo o de un informante, sino de un clip de vídeo de seguridad sin ruido que mostraba un coche atravesando una intersección y un fuerte golpe captado por una red de micrófonos de vigilancia. Los fiscales dijeron que la tecnología impulsada por un algoritmo secreto que analizaba los ruidos detectados por los sensores indicaba que Williams disparó y mató al hombre.

«No dejaba de pensar en cómo pueden salirse con la suya utilizando la tecnología así contra mí», dijo Williams, hablando públicamente por primera vez sobre su calvario. «No es justo».

Williams estuvo entre rejas durante casi un año antes de que un juez desestimara el caso contra él el mes pasado a petición de los fiscales, que dijeron que no tenían pruebas suficientes.

El equipo de ShotSpotter domina la intersección de South Stony Island Avenue y East 63rd Street en Chicago el martes 10 de agosto de 2021. Una investigación de Associated Press, basada en una revisión de miles de documentos internos, correos electrónicos, presentaciones y contratos confidenciales, junto con entrevistas con docenas de defensores públicos en comunidades donde se ha desplegado ShotSpotter, ha identificado una serie de graves defectos en el uso de ShotSpotter como apoyo probatorio para los juicios. (AP Photo/Charles Rex Arbogast)

El equipo de ShotSpotter domina la intersección de South Stony Island Avenue y East 63rd Street en Chicago el martes 10 de agosto de 2021. (AP Photo/Charles Rex Arbogast)

La experiencia de Williams pone de manifiesto las repercusiones en el mundo real de la creciente dependencia de la sociedad de los algoritmos para ayudar a tomar decisiones importantes sobre muchos aspectos de la vida pública. En ningún lugar es más evidente que en las fuerzas del orden, que han recurrido a empresas tecnológicas como la empresa de detección de disparos ShotSpotter para luchar contra la delincuencia. Las pruebas de ShotSpotter se han admitido cada vez más en los tribunales de todo el país, y ya suman unas 200. El sitio web de ShotSpotter dice que es «un líder en soluciones tecnológicas policiales de precisión» que ayuda a detener la violencia armada mediante el uso de «sensores, algoritmos e inteligencia artificial» para clasificar 14 millones de sonidos en su base de datos patentada como disparos u otra cosa.

Pero una investigación de Associated Press, basada en una revisión de miles de documentos internos, correos electrónicos, presentaciones y contratos confidenciales, junto con entrevistas con docenas de defensores públicos en comunidades donde se ha desplegado ShotSpotter, ha identificado una serie de graves defectos en el uso de ShotSpotter como apoyo probatorio para los fiscales.

La investigación de AP descubrió que el sistema puede pasar por alto disparos en vivo justo debajo de sus micrófonos, o clasificar erróneamente como disparos los sonidos de los fuegos artificiales o de los coches que retroceden. Los informes forenses elaborados por los empleados de ShotSpotter se han utilizado en los tribunales para afirmar indebidamente que un acusado disparó contra la policía, o para proporcionar recuentos cuestionables del número de disparos supuestamente efectuados por los acusados. Los jueces de varios casos han desestimado las pruebas.

*** Translated with http://www.DeepL.com/Translator (free version) ***

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Crea tu sitio web con WordPress.com
Comenzar
A %d blogueros les gusta esto: