Un triángulo amoroso en Silicon Valley: La contratación de algoritmos, la pseudociencia y la búsqueda de la auditabilidad

https://arxiv.org/abs/2106.12403

En este documento, sugerimos un enfoque sistemático para desarrollar una evaluación sociotécnica para la contratación de ADS. Sugerimos el uso de una matriz para exponer los supuestos subyacentes arraigados en entendimientos esencializados pseudocientíficos de la naturaleza y la capacidad humanas, y para investigar críticamente las normas y prácticas de auditoría emergentes que no abordan estos supuestos.

El Diablo está en los Detalles

La “auditoría algorítmica” es el nuevo tema candente desde las salas de juntas hasta los laboratorios de inteligencia artificial y los pasillos de varios edificios gubernamentales. Las auditorías, el arma más reciente en el arsenal de IA responsable, se han convertido en una palanca mediante la cual las corporaciones, los legisladores y los expertos en IA ética compiten por influir sobre esta tecnología.

Sin embargo, perdido en la mezcla está lo que es exactamente una auditoría. Nuestro campo no tiene definiciones claras del término; los reguladores y los formuladores de políticas aún no han aprobado pautas claras sobre lo que implica una auditoría (aunque múltiples políticas las exigen); ninguna industria ha creado todavía una metodología estándar para las auditorías de IA; ningún organismo normativo ha publicado uno que se utilice habitualmente. Tenemos algunas incursiones en las «evaluaciones de impacto», puede considerarlas «audit lite», lo que proporciona algún indicador de hacia dónde se dirige.

Para comprender por qué esto es fundamental, tracemos un mapa de los eventos de la decisión fundamental de HireVue de detener el análisis facial en sus evaluaciones de contratación. Enterrada en el texto del artículo está esta frase críptica: «HireVue dice que una ‘auditoría algorítmica’ de su software realizada el año pasado muestra que no alberga prejuicios».

Términos que llaman la atención a alguien que ha trabajado en este campo: «algoritmo», «auditoría», «software», «no alberga sesgos». Profundicemos en los detalles.

https://parity.substack.com/p/the-devil-is-in-the-details

Crea tu sitio web con WordPress.com
Comenzar