Meaningful human control: actionable properties for AI system development

https://link.springer.com/article/10.1007/s43681-022-00167-3?s=03#Sec3

Resumen

¿Cómo pueden los seres humanos mantener el control de los sistemas basados en la inteligencia artificial (IA) diseñados para realizar tareas de forma autónoma? Estos sistemas son cada vez más omnipresentes, lo que genera ventajas, pero también situaciones indeseables en las que la responsabilidad moral de sus acciones no puede atribuirse adecuadamente a ninguna persona o grupo en particular. Se ha propuesto el concepto de control humano significativo para abordar las lagunas de responsabilidad y mitigarlas estableciendo condiciones que permitan atribuir adecuadamente la responsabilidad a los seres humanos; sin embargo, todavía no existen requisitos claros para los investigadores, diseñadores e ingenieros, lo que dificulta el desarrollo de sistemas basados en la IA que permanezcan bajo un control humano significativo. En este artículo abordamos la brecha existente entre la teoría filosófica y la práctica de la ingeniería identificando, mediante un proceso iterativo de pensamiento abductivo, cuatro propiedades procesables para los sistemas basados en IA bajo control humano significativo, que analizamos haciendo uso de dos escenarios de aplicación: los vehículos automatizados y la contratación basada en IA. En primer lugar, un sistema en el que interactúen humanos y algoritmos de IA debería tener un dominio explícitamente definido de situaciones con carga moral dentro de las cuales el sistema debería operar. En segundo lugar, los humanos y los agentes de la IA dentro del sistema deben tener representaciones apropiadas y mutuamente compatibles. En tercer lugar, la responsabilidad atribuida a un ser humano debe ser proporcional a su capacidad y autoridad para controlar el sistema. En cuarto lugar, debe haber vínculos explícitos entre las acciones de los agentes de IA y las acciones de los humanos que son conscientes de su responsabilidad moral. Sostenemos que estas cuatro propiedades ayudarán a los profesionales con mentalidad práctica a dar pasos concretos hacia el diseño y la ingeniería de sistemas de IA que faciliten un control humano significativo.

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Crea tu sitio web con WordPress.com
Comenzar
A %d blogueros les gusta esto: