Lo que los futuristas de la tecnología se equivocan sobre la autonomía humana

Un espectro recorre nuestros imaginarios tecnológicos: el espectro de la autonomía. El problema es que no sabemos muy bien de qué ni para quién. 

Dos movimientos con aspiraciones transformadoras dominan hoy el mundo de la tecnología: el primero en torno al blockchain y el segundo en torno a la IA. Están animados por dos conceptos de autonomía muy diferentes. La IA promete inaugurar una era de paz y abundancia para la humanidad que nos libere de la carga del trabajo y la necesidad, siempre que juguemos bien nuestras cartas para evitar el riesgo de una catástrofe existencial. Mientras tanto, blockchain proporciona la infraestructura para, según nos dicen, el ejercicio sin precedentes de la agencia individual y colectiva, abriendo las puertas a la automatización, el autogobierno y la coordinación global.

Al principio, estos conceptos pueden parecer contradictorios. La visión del mundo de la IA premia la autonomía de los resultados con una mínima participación activa en la toma de decisiones, mientras que su contraparte criptográfica desea una autonomía del proceso, con resultados supeditados a la voluntad individual y a la participación en el diseño de las infraestructuras tecnológicas. Mientras que la comunidad de la cadena de bloques sostiene que la descentralización es un valor normativo fundamental, la IA a menudo empuja hacia la centralización como algo necesario para la escala y la seguridad. 

Pero por mucho que difieran, ambas comparten un deseo subyacente: abstraer implícita o explícitamente la falibilidad humana al servicio de una visión totalmente automatizada de la perfección. En este sentido, corren el riesgo de caer en la creencia errónea de que la automatización puede alcanzar una autonomía significativa. 

En una época de extinción masiva y catástrofe climática provocada por el ser humano, el sueño de un poder superior tecnológico que nos salve de nosotros mismos es tentador. En una época de fracasos de coordinación y corrupción en los niveles más altos, la aspiración a una coordinación descentralizada entre individuos empoderados también lo es. La combinación de estas visiones colectivas del progreso tecnológico y científico pinta una visión seductora de la libertad, tanto de las limitaciones del ser humano natural como de las limitaciones de la sociedad humana emergente.

Sin embargo, el objetivo de trascender lo que nos hace humanos no es el camino para servir a la humanidad.

La autonomía está necesariamente circunscrita por la comunidad y la sociedad. La independencia significativa sólo existe a través de la interdependencia, algo que es imposible en los mundos que estas visiones tecnológicas imaginan. 

Libertad de la necesidad

La aspiración a la autonomía tanto individual como colectiva ha impulsado a los pensadores políticos y a los sistemas políticos durante siglos. Los filósofos de todo el espectro político occidental pregonan la autonomía individual. Es un valor central de la democracia liberal, un principio fundamental de la filosofía moral kantiana, un principio fundacional del utilitarismo de Mill y el núcleo del concepto de «espíritu libre» de Nietzsche. 

La autonomía también ha sido un grito de guerra de los movimientos sociales de todo el mundo, sobre todo de los movimientos indígenas y anticoloniales, que defienden desde la soberanía nacional hasta la recuperación de tierras. El respeto a las distintas manifestaciones de la autonomía -la autonomía corporal, la autonomía en la toma de decisiones, la autonomía a través de la intimidad- está consagrado en la ley de diversas maneras. Sin embargo, el vínculo entre la autonomía individual y el bien colectivo siempre ha sido pernicioso, y en ninguna parte más que en las visiones de la tecnología que prometen darnos ambas cosas en una medida sin precedentes. 

En el mundo que imaginan los defensores de la IA, las máquinas desarrollan su autonomía, es decir, se autogobiernan, se autodefinen, aprenden y se autodirigen. En este mundo, construiremos inteligencias artificiales que se aproximen y luego superen la inteligencia humana, conocidas como inteligencia general artificial o AGI. Con el tiempo, serán capaces de mejorarse a sí mismas de forma independiente hasta el punto de que se produzca un despegue exponencial de la capacidad inteligente de las máquinas. 

En este punto, pueden ocurrir dos cosas. La primera es una utopía: hemos hecho un trabajo lo suficientemente bueno «alineando» estas inteligencias con los valores humanos (incluida la santidad de la vida humana) como para que estos sistemas superinteligentes y autónomos sean capaces de satisfacer nuestras necesidades y deseos, tomar mejores decisiones que nosotros en todas las esferas de la vida, marcar el comienzo de un futuro posterior a la escasez y apoyar potencialmente la inmortalidad en el ámbito cibernético. Según las esperanzas de los transhumanistas, podríamos alcanzar literalmente la autonomía de nuestros cuerpos renunciando a nuestro «wet-ware» para integrarnos con los ordenadores y liberar nuestras mentes. 

*** Translated with http://www.DeepL.com/Translator (free version) ***

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Crea tu sitio web con WordPress.com
Comenzar
A %d blogueros les gusta esto: