problemas de datos desconocidos conocidos y sistemas autónomos militares

https://unidir.org/known-unknowns

Los caprichos de los datos son fundamentales para la

debate entre los responsables de la formulación de políticas sobre los daños

que pudieran derivarse del uso de autónomos

sistemas de armas (AWS) y otras formas de militar

inteligencia artificial (IA). Sin duda, ha sido

postuló que los sistemas autónomos podrían exhibir un mejor desempeño en ciertas tareas

que los medios o métodos tradicionales de guerra,

lo que lleva a una reducción de algunos tipos de

dañar. Pero debido a que los problemas de datos pueden resultar en fallas del sistema autónomo que podrían aumentar el daño, 1

Tales cuestiones son relevantes para las deliberaciones sobre

si tales tecnologías podrían «realizar tareas

según lo previsto o pueda ser utilizado de conformidad con [el derecho internacional humanitario] ”. 2

Los problemas de datos y las fallas que causan también son

entrelazados con cualquier noción de directa o indirecta

control o juicio humano, fundamental

principio para el uso de todos los letales autónomos

armas. En cualquier operación militar, la posibilidad de fallas del sistema debe tener en cuenta la

decisión humana sobre si y cómo utilizar tales

armas.3 Además, la capacidad de autonomía

sistemas para adherirse a las restricciones o barandas que sus operadores humanos establecen para ellos4

dependerá, en sí mismo, de datos fiables. Más fundamentalmente, aunque los humanos podrían ejercitar formas

de control sobre los sistemas autónomos en todo

todas las etapas de su desarrollo y uso, 5 una

nunca puede controlar completamente los datos del mundo real que

estos sistemas dependen para funcionar correctamente y

seguramente. De hecho, aunque es difícil, como muchos han

señaló, para anticipar exactamente qué forma tomarán las armas autónomas en el futuro, estos sistemas

siempre lidiará con datos que son problemáticos

e impredecible.

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Crea tu sitio web con WordPress.com
Comenzar
A %d blogueros les gusta esto: