IA en servicios financieros

La inteligencia artificial (IA) juega un papel central en los procesos actuales de cambio tecnológico en

servicios financieros. Su lugar destacado en las agendas de innovación habla de los importantes beneficios

que las tecnologías de IA pueden permitir a las empresas, los consumidores y los mercados. Al mismo tiempo, los sistemas de IA

tienen el potencial de causar un daño significativo. A la luz de este hecho, en los últimos años se ha observado una creciente

reconocimiento de la importancia de que la adopción de la IA se guíe por consideraciones de responsabilidad

innovación.

El objetivo de este informe es informar y promover el debate sobre la IA responsable en el contexto

de servicios financieros. Proporciona una introducción a conceptos tecnológicos relevantes, analiza

desafíos generales y principios rectores para la adopción de la IA, traza los beneficios potenciales

y los daños asociados con el uso de IA en los servicios financieros, y examina los aspectos fundamentales

papel de la transparencia de la IA en la búsqueda de una innovación responsable.

Introducción a la IA

El campo de la IA tiene una historia de décadas y vínculos sustanciales con métodos estadísticos con

Aplicaciones de larga data en servicios financieros. La adopción de la IA en los servicios financieros está

respaldado por tres elementos distintos de innovación: aprendizaje automático (ML), no tradicional

datos y automatización. Los sistemas de IA pueden combinar los tres elementos o un subconjunto de ellos. Cuándo

considerando un uso particular de IA, es útil distinguir entre estos tres elementos de

innovación y examinar su papel respectivo. Hacerlo es crucial para una comprensión adecuada

del riesgo relacionado con la IA, ya que cada elemento puede dar lugar a desafíos distintos.

El EDPB y el SEPD piden la prohibición del uso de inteligencia artificial para el reconocimiento automático de características humanas en espacios de acceso público y algunos otros usos de la inteligencia artificial que pueden conducir a una discriminación injusta

Noticia

https://edpb.europa.eu/news/news/2021/edpb-edps-call-ban-use-ai-automated-recognition-human-features-publicly-accessible_en

Postura

El EDPB y el SEPD han adoptado un dictamen conjunto sobre la propuesta de Reglamento de la Comisión Europea por la que se establecen normas armonizadas sobre inteligencia artificial (IA).

El EDPB y el SEPD acogen con gran satisfacción el objetivo de abordar el uso de sistemas de inteligencia artificial en la Unión Europea, incluido el uso de sistemas de inteligencia artificial por parte de instituciones, organismos o agencias de la UE. Al mismo tiempo, el EDPB y el SEPD están preocupados por la exclusión de la cooperación policial internacional del ámbito de la propuesta.

El EDPB y el SEPD también hacen hincapié en la necesidad de aclarar explícitamente que la legislación de protección de datos de la UE existente (RGPD, EUDPR y LED) se aplica a cualquier tratamiento de datos personales que esté incluido en el ámbito de aplicación del proyecto de Reglamento sobre IA.

Si bien el EDPB y el SEPD acogen favorablemente el enfoque basado en el riesgo que sustenta la propuesta, consideran que el concepto de “riesgo para los derechos fundamentales” debe alinearse con el marco de protección de datos de la UE. El EDPB y el SEPD recomiendan que también se evalúen y mitiguen los riesgos sociales para grupos de personas. Además, están de acuerdo con la propuesta de que la clasificación de un sistema de IA como de alto riesgo no significa necesariamente que sea legal per se y que el usuario pueda implementarlo como tal. El EDPB y el SEPD también consideran que el cumplimiento de las obligaciones legales derivadas de la legislación de la Unión, incluida la protección de datos personales, debe ser una condición previa para entrar en el mercado europeo como producto con la marca CE.

Teniendo en cuenta los riesgos extremadamente elevados que plantea la identificación biométrica remota de personas en espacios de acceso público, el EDPB y el SEPD piden una prohibición general de cualquier uso de la IA para el reconocimiento automático de rasgos humanos en espacios de acceso público, como el reconocimiento de rostros. , marcha, huellas dactilares, ADN, voz, pulsaciones de teclas y otras señales biométricas o de comportamiento, en cualquier contexto. Del mismo modo, el EDPB y el SEPD recomiendan la prohibición de los sistemas de inteligencia artificial que utilizan datos biométricos para clasificar a las personas en grupos según su origen étnico, género, orientación política o sexual, u otros motivos por los que la discriminación está prohibida en virtud del artículo 21 de la Carta de los Derechos Fundamentales. Además, el EDPB y el SEPD consideran que el uso de IA para inferir emociones de una persona física es altamente indeseable y debería prohibirse, excepto en casos muy específicos, como algunos fines de salud, donde el reconocimiento de las emociones del paciente es importante, y que Debería prohibirse el uso de IA para cualquier tipo de puntuación social.

Crea tu sitio web con WordPress.com
Comenzar