El 1 de marzo, la Comisión de Seguridad Nacional en Inteligencia Artificial (NSCAI) dio a conocer su Informe Final y Recomendaciones al Presidente y al Congreso. Si bien el Informe es el resultado de un período prolongado de discusión y consulta, las recomendaciones de la Comisión se basan en una serie de supuestos no examinados y muy cuestionables.

1. La seguridad nacional proviene de la ventaja militar, que proviene del dominio tecnológico (específicamente la IA).

Los comisionados aconsejan que la adopción acelerada de sistemas de armas habilitados por IA es necesaria para mantener la ventaja militar de Estados Unidos. Prometen que la IA puede permitir el logro de un sistema de mando y control interoperable y totalmente integrado. Para la comunidad de inteligencia, el comisionado Jason Matheny afirma: «Los responsables de la toma de decisiones deberían poder acceder a un panel en tiempo real de las amenazas en el mundo con pronósticos en tiempo real» (Plenaria pública, 25 de enero de 2021). El pensamiento aquí es condicional y deseoso.

Captura de pantalla de la grabación de la reunión pública de la Comisión de Seguridad Nacional sobre Inteligencia Artificial (NSCAI)

2. La NSCAI es un organismo «independiente», sin conflictos de intereses.

Los miembros de NSCAI incluyen directores ejecutivos actuales y anteriores y otros altos directivos de (grandes) empresas de tecnología (Amazon, Google, In-Q-Tel, Microsoft, Oracle), miembros actuales y anteriores de las agencias de Defensa e Inteligencia y miembros senior de universidades con fondos extensos del DoD (Caltech, CMU). Es de suponer que han sido nominados para servir basándose en que tienen la experiencia pertinente, pero sin reconocer sus intereses creados en una mayor financiación para la investigación y el desarrollo de la IA. Esto a pesar de la declaración del presidente Eric Schmidt en el Plenario de NSCAI del 25 de enero de 2021 de que «Terminamos con un equipo representativo de Estados Unidos».

3. La IA es un campo coherente y novedoso de desarrollo tecnológico.

La primera oración del Informe final de NSCAI dice: «Las tecnologías de inteligencia artificial (IA) prometen ser las herramientas más poderosas en generaciones para expandir el conocimiento, aumentar la prosperidad y enriquecer la experiencia humana». Más basada en la fe que demostrable, esta declaración también desmiente los caprichos de lo que es la IA. Si bien los tecnólogos entienden la «IA» como una abreviatura conveniente (y altamente vendible) para un conjunto de técnicas y tecnologías basadas en estadísticas para automatizar el análisis de datos, el término implica falsamente algo singular y sin precedentes.

4. Estados Unidos se encuentra en una carrera armamentista ineludible con China.

Las recomendaciones del Informe apuntan a dominar lo que los Comisionados postulan como una competencia global entre las dos «superpotencias de IA» del mundo, Estados Unidos y China. En la Introducción al Informe, la Comisión declara que “los estadounidenses deben reconocer el papel asertivo que el gobierno tendrá que desempeñar para asegurar que Estados Unidos gane esta competencia de innovación. El Congreso y el Presidente deberán apoyar la escala de recursos públicos necesarios para lograrlo ”. No se reconoce que la propia NSCAI ayude a crear esta carrera armamentista al tomarla como una premisa incuestionable (por no mencionar el interés propio) de su trabajo, o cualquier discusión sobre cómo tal carrera por el dominio podría reducirse.

5. Cualquier amenaza, límite o vulnerabilidad demostrada de las tecnologías de inteligencia artificial existentes es motivo para una mayor inversión.

Junto con la premisa de una carrera armamentista inevitable, esta propuesta descarta cualquier cuestión de decisiones de no perseguir el desarrollo de tecnologías de IA fuera de la mesa. Ya sea que el foco esté en las amenazas o en los límites de las tecnologías existentes, la solución es una mayor inversión. Esta premisa ignora el historial de fallas en la investigación de IA en dominios que requieren interacción en tiempo real con entornos abiertos y cambiantes. Esta historia muestra que no todos los problemas se pueden resolver con más dinero.

6. Los sistemas de armas autónomos son inevitables y su desarrollo redunda en interés de Estados Unidos.

Mientras promueve la incorporación de la IA en los sistemas militares, la Comisión advierte que «la IA comprimirá los plazos de decisión de minutos a segundos, ampliará la escala de los ataques y exigirá respuestas que pondrán a prueba los límites de la cognición humana» (Informe final, p. 25). Se deduce que la solución debe ser sistemas de armas cada vez más autónomos, basados ​​en la «promesa de la IA: que una máquina puede percibir, decidir y actuar más rápidamente, en un entorno más complejo, con más precisión que un humano» (Informe final p. .24). A pesar de la falta de evidencia para sustentar esta promesa, y el continuo debate internacional sobre la legalidad y moralidad de los sistemas de armas autónomos, la Comisión concluye que Estados Unidos debe continuar con su desarrollo. Sobre esta base y a pesar de los crecientes pedidos, la Comisión argumenta que no sería de interés para los Estados Unidos apoyar una prohibición global de los sistemas de armas autónomas letales.

Las conclusiones de la investigación de la NSCAI, en resumen, se ignoran: la dinámica de autorreforzamiento de una carrera armamentista en aumento justifica una inversión masiva de fondos públicos en investigación y desarrollo. 

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Crea tu sitio web con WordPress.com
Comenzar
A %d blogueros les gusta esto: