Vehículos autónomos, robots sociales y mitigación del riesgoRiesgo: hacia un nuevo enfoque consecuencialista de la seguridad de la IA

En este artículo, argumentaré, sobre bases consecuencialistas, que la principal preocupación ética

que debería informar y guiar tanto el diseño de los sistemas de IA como la regulación de la sociedad

de la sociedad sobre el tratamiento de los robots sociales es la mitigación del riesgo. Demostraré que el consecuencialismo tradicional

que el consecuencialismo tradicional no puede servir de guía adecuada para la toma de decisiones en estos

de decisiones en estos dos proyectos porque está mal equipado para tratar con escenarios de decisión en los que hay un alto nivel de incertidumbre sobre los posibles resultados.

de incertidumbre sobre los posibles resultados de una o más de las acciones

de las acciones disponibles para el agente, pero en los que hay un alto nivel de certeza de que al menos uno de los

de los posibles resultados implicaría un daño grave.

A estos escenarios de decisión los llamo escenarios de riesgo grave inescrutables. Argumentaré que las situaciones de decisión

de decisión en el diseño de la IA ética y la regulación de los robots sociales son tales

escenarios. Por último, argumentaré que una versión convenientemente modificada del consecuencialismo tradicional, a la que llamo

una versión adecuadamente modificada del consecuencialismo tradicional, a la que llamo consecuencialismo del riesgo, está mejor equipada para tratar estos casos.

de estos casos. Los consecuencialistas del riesgo, cuando se enfrentan a escenarios de riesgo graves e inescrutables

deberían tratar de minimizar el riesgo de que se produzcan los resultados que saben que

causarían un daño grave

Requisitos de seguridad frente a la ética de la colisión: lo que más importa en las políticas sobre vehículos autónomos

https://link.springer.com/article/10.1007/s00146-020-00964-6

La literatura filosófico-ética y el debate público sobre los vehículos autónomos se han obsesionado con las cuestiones éticas relacionadas con la colisión. En este artículo, se evaluarán críticamente estos debates, incluidas las investigaciones más empíricas. Se argumenta que una cuestión relacionada y más apremiante son las cuestiones relativas a la seguridad. Por ejemplo, ¿qué debemos exigir a los vehículos autónomos en materia de seguridad? ¿Qué entendemos por «seguridad»? ¿Cómo la medimos? En respuesta a estas preguntas, el artículo presentará una base para un debate continuado sobre estas cuestiones y un argumento de por qué los debates sobre la seguridad deberían tener prioridad sobre las preocupaciones éticas relacionadas con las colisiones.

Toyota detiene los autobuses autoconducidos de los Juegos Paralímpicos después de que uno atropellara a un atleta con discapacidad visual

https://www.theguardian.com/technology/2021/aug/28/toyota-pauses-paralympics-self-driving-buses-after-one-hits-visually-impaired-athlete

Toyota se ha disculpado por el «exceso de confianza» de un autobús autoconducido tras atropellar a un judoka paralímpico en la villa de los atletas y ha dicho que suspenderá temporalmente el servicio.

El atleta japonés, Aramitsu Kitazono, no podrá competir este fin de semana en su categoría de 81 kilos tras quedar con cortes y contusiones después del impacto con el vehículo «e-Palette». Sus lesiones provocaron la intervención personal del presidente de Toyota, Akio Toyoda.

«Lamentamos mucho que el accidente haya preocupado a mucha gente», dijo Toyoda. «Un vehículo es más fuerte que una persona, así que obviamente me preocupé por cómo estaban. Demuestra que los vehículos autónomos aún no son realistas para las carreteras normales».

Como parte de su patrocinio de Tokio 2020, Toyota ha estado mostrando sus vehículos autónomos a través de un servicio de transporte, que ha estado funcionando las 24 horas del día en la villa de los atletas.

El jueves, sin embargo, uno de los autobuses se salió de un cruce en T y atravesó un paso de peatones mientras Kitazono, un atleta con discapacidad visual, cruzaba a pie.

La policía de Tokio declaró que los operarios del vehículo les habían dicho que «eran conscientes de que había una persona allí, pero pensaron que [la persona] se daría cuenta de que venía un autobús] y dejaría de cruzar la [calle]», según el periódico Asahi Shimbun.

Un Volvo autoconducido

Uber cierra su operación de autoconducción en Arizona tras un accidente mortal

Más información

El viernes, Toyoda se disculpó por el incidente y dijo que se suspendería temporalmente el uso de los autobuses e-Palette.

Toyoda visitó el lugar del accidente y también revisó las imágenes de vídeo del incidente. Admitió que «había habido un exceso de confianza» en la tecnología de conducción autónoma.

El entrenador de Kitozano, Yoshiyasu Endo, declaró al Japan Times que el atleta de 30 años se estaba recuperando bien. «Quería cuidarse bien. Nos sentimos apenados, pero creo que él es el más decepcionado», dijo Endo.

Toyota dijo en un comunicado: «Llevaremos a cabo nuestra propia investigación exhaustiva sobre la causa del accidente, y seguiremos coordinándonos estrechamente con el Comité Organizador de los Juegos Olímpicos y Paralímpicos de Tokio para asegurarnos de evitar que se produzcan incidentes en el futuro.»

*** Translated with http://www.DeepL.com/Translator (free version) ***

Li Xiang, CEO de Li Auto, habla alto y claro sobre el error de usar el término «conducción autónoma» para vender más coches

Según Li Xiang, CEO del fabricante chino de coches eléctricos Li Auto, el término conducción autónoma está llevando a equívocos a los consumidores. Si bien hasta la fecha ninguna marca está ofreciendo una conducción completamente autónoma, se está dando a entender erróneamente que un conductor puede despreocuparse de la conducción durante su trayecto, pudiendo provocar graves accidentes.

Esta advertencia de Li Xiang llega a raíz de un reciente accidente donde estuvo implicado un coche eléctrico de la marca Nio (modelo ES8). Su conductor tenía el sistema de ayuda a la conducción encendido y falleció al arrollar por detrás a otro coche en la autopista.

EL CEO de Li Auto, apuntó también que términos como «autónomo» y «self driving», son conflictivos a la hora de trasladar al usuario que la conducción, en último término, está bajo su responsabilidad.

Preocupación también en Occidente

La preocupación por estos términos no solo se está dando en el país asiático. En Estados Unidos, la Administración Nacional de Seguridad del Tráfico en Autopistas (National Highway Traffic Safety Administration) ha abierto una investigación a Tesla y su sistema Autopilot, ya que se ha visto involucrado en casi una docena de accidentes.

Diferenciar es clave

Los sistemas avanzados de asistencia a la conducción ayudan a los coches a aparcar, a mantenerse en su carril o a evitar objetos mediante cámaras, radares y otros sensores electrónicos. Mientras que un coche totalmente autónomo, cuando sea una realidad, podrá conducir por todas partes y bajo cualquier condición.

Empresas como Waymo, empresa desarrolladora de coches autónomos perteneciente al conglomerado Alphabet, ya no usa el término de conducción autónoma.

Li Xiang va más allá, y urge a la industria y prensa a adoptar una nomenclatura china unificada para las tecnologías de conducción asistida y autónoma en lugar de los niveles de conducción autónoma utilizados generalmente.  A este respecto declaró que: «esto haría que todo se entendiera mejor y sería más sencillo de explicar. Se debe evitar la magnificación de la realidad en el marketing de venta».

Los accesorios de los vehículos «autónomos

https://journals.sagepub.com/doi/full/10.1177/03063127211038752

El ideal del coche autoconducido sustituye a un humano propenso a cometer errores por un conductor infalible y artificialmente inteligente. Esta narrativa de la autonomía promete la liberación de los inconvenientes de la automovilidad, aunque eso signifique quitarle el control a los individuos autónomos que se mueven libremente. Miramos detrás de esta narrativa para entender los vínculos que los llamados vehículos «autónomos» (AV) pueden tener con el mundo. A partir de 50 entrevistas con desarrolladores de vehículos autónomos, investigadores y otras partes interesadas, exploramos los vínculos sociales y tecnológicos que las partes interesadas ven dentro del vehículo, en la carretera y con el mundo en general. Estos vínculos van desde el software y el hardware hasta los comportamientos de otros usuarios de la carretera y la infraestructura material, social y económica que apoya la conducción y la autoconducción. Describimos el modo en que los innovadores entienden, se comprometen o tratan de escapar de estos vínculos en tres categorías: «fuerza bruta», que ve los vínculos como problemas que deben resolverse con más datos, «resolver el mundo de un lugar a la vez», que ve los vínculos como límites al alcance de la tecnología y «reducir la complejidad del espacio», que ve los vínculos como soluciones a los problemas que encuentran los desarrolladores de tecnología. La comprensión de los apegos proporciona una poderosa manera de anticiparse a las distintas constituciones posibles de la tecnología.

Posibles índices de colisión para los vehículos automatizados

La mayoría de los fabricantes de automóviles y varias empresas tecnológicas están probando los vehículos automatizados (AV) en las vías públicas. Aunque se espera que la automatización de las tareas de conducción reduzca las colisiones, no hay consenso sobre el grado de seguridad que debe tener un AV antes de poder desplegarse. Un vehículo automático debería ser al menos tan seguro como un conductor medio, pero los índices nacionales de colisiones incluyen la conducción bajo los efectos del alcohol y la distracción, lo que significa que un vehículo automático que colisiona al ritmo medio se encuentra en un punto intermedio entre la conducción bajo los efectos del alcohol y la sobriedad. En este artículo se analizan los puntos de referencia de seguridad de los vehículos inteligentes desde tres perspectivas. En primer lugar, se utilizan los índices de colisión de los estudios de conducción natural para determinar el riesgo de colisión del conductor modelo (es decir, sobrio, descansado, atento y precavido). En segundo lugar, se revisan las encuestas de preferencias declaradas en la literatura para estimar el riesgo de AV aceptable para el público. En tercer lugar, se comparan los índices de colisiones, lesiones y muertes de otros medios de transporte como niveles de seguridad de referencia. Se presenta un abanico de posibles objetivos de seguridad como guía para que los responsables políticos, los reguladores y los desarrolladores de AV puedan evaluar la seguridad de las tecnologías de conducción automatizada para uso público.

Vigilancia y privacidad – Más allá del panóptico. Una exploración de la observación de 720 grados en la automatización de vehículos de nivel 3 y 4.

https://www.sciencedirect.com/science/article/pii/S0160791X21001421

En el camino hacia la automatización de los vehículos de alto nivel, el grado de vigilancia tanto dentro como fuera del coche aumenta considerablemente. Por consiguiente, las consideraciones éticas se están convirtiendo en el centro de las cuestiones relativas a los regímenes de vigilancia y la privacidad de los datos implícitos en la automatización de vehículos de nivel 3 y 4. En este artículo, nos centramos en los resultados del proyecto Horizonte 2020 de la UE Sistemas de asistencia al conductor inspirados en la visión (VI-DAS). En particular, evaluamos la tecnología de observación de 720 grados de VI-DAS, fundamental para garantizar una interacción hombre-máquina (HMI) segura, desde múltiples perspectivas teóricas para contribuir a una mejor comprensión del fenómeno de la privacidad. Como sinónimo de vigilancia, comenzamos nuestra evaluación con la ideación de Bentham sobre el panóptico. Desde ahí, hay un paso relativamente corto hasta las críticas radicales foucaultianas que ofrecían tecnologías de poder más distópicas. Sin embargo, ambos teoremas demuestran una comprensión limitada de la cuestión de la privacidad de los datos en el contexto del transporte seguro a lo largo de la evolución de los vehículos altamente automatizados. Así pues, para permitir que el debate vaya más allá de las discusiones más binarias sobre la privacidad frente al control/poder y para escapar en cierta medida de la sombra del panóptico, aplicamos el marco de las cuatro tesis de Nissenbaum sobre la Integridad Contextual (IC). Su heurística de la decisión nos permitió introducir una estructura y un grado de precisión en nuestro pensamiento sobre la cuestión de la privacidad que representa un paso adelante hacia los fenómenos de la privacidad en un contexto específico. Nuestro planteamiento concluye que la tecnología de observación de 720 grados VI-DAS puede respetar la privacidad del usuario mediante un flujo adecuado de información personal. Sin embargo, los flujos de datos personales deben estar fuertemente regulados para garantizar que los datos se consideren un valor en términos de mercancía para proteger la vida humana y no se vean como un activo que necesita ser convertido en valor en términos de capital o la facilitación de relaciones de poder asimétricas.

Ai mediados de 2021. El automóvil autónomo se encuentra con la realidad

https://blog.piekniewski.info/2021/05/12/ai-mid-2021/

La pandemia ha abrumado en gran medida el ciclo de noticias durante el año pasado y, por lo tanto, ha influido y desinflado en gran medida el tren de la IA. Sin embargo, hubo algunos desarrollos que consideraría significativos. Algunas de ellas muy bien predichas por los artículos de este blog, y otras sorprendentes. Saltemos de inmediato.

Millones de robotaxis en el país de las maravillas

Dado que, después de todo, es 2021, el fracaso de la IA más inmediato está relacionado con la robotaxis de Tesla o, más bien, la falta de ella. Elon Musk prometió que Tesla alcanzaría la autonomía L5 para fines de 2020 en abril de 2019 cuando necesitaba recaudar dinero [y reiteró en abril de 2020]. El famoso día de la autonomía fue un bombo publicitario y mostró demostraciones limitadas disponibles para algunos invitados del programa. Estos paseos de demostración no fueron diferentes de la demostración que se mostró en 2016 (como resultó más tarde, grabada finalmente después de muchos intentos fallidos). De hecho, Elon Musk afirmó en 2016 que el problema de conducción autónoma está esencialmente resuelto, aquí una cita de esta entrevista:

Esto fue seguido más tarde por varias promesas de conducción autónoma de costa a costa a fines de 2017, luego empujadas y finalmente canceladas por completo. Para ser justos, Musk no fue el único pez grande de Silicon Valley cegado por esta visión de túnel autónomo, en 2013 Marc Andreessen, un prominente VC del área de la bahía en una discusión con Peter Thiel, dijo lo siguiente:

Los coches autónomos están muy cerca. Google básicamente los tiene funcionando. De hecho, Mercedes casi los tiene funcionando. Mercedes, su nuevo sedán de primera línea que viene este verano, casi tienen, tenían una gran cantidad de tecnología de conducción autónoma, lo tiraron en el último minuto porque no creían que las leyes a nivel estatal aún estuvieran listas. para manejar coches autónomos.

Aquí estamos en 2021 (8 años después de que se dijeron las palabras anteriores) y los autos autónomos siguen siendo una curiosidad limitada a pequeñas implementaciones geovalladas en áreas con gran infraestructura y buen clima. El estado de Tesla Full Self Driving fue recientemente resumido bastante bien por algunas personas con acceso temprano al software en un video:

Lleno de numerosas desconexiones y situaciones peligrosas en las que el coche realmente no sabía qué hacer, en condiciones de conducción prácticamente perfectas, sin condiciones meteorológicas adversas y con buena infraestructura. Debe quedar claro para todos que esto ni siquiera está cerca de estar listo para la autonomía. Desafortunadamente, un número cada vez mayor de personas tuvo que pagar el precio máximo por creer en este delirio de la FSD [1] [2] [3] [4]. Afortunadamente, recientemente parece que esto finalmente llamó la atención de los policías de tránsito, ya que el primer «conductor del asiento trasero de tesla» fue arrestado.

Como es esto posible? ¿Cómo es que los magnates de Silicon Valley estaban tan seguros de que esta tecnología está al alcance de la mano? Por supuesto, los magnates fueron seguidos por una multitud interminable de técnicos y la última generación de niños de aprendizaje profundo en un circuito de retroalimentación de cámara de eco que se refuerza a sí mismo. ¿Cómo es posible que esa multitud de geeks aparentemente súper inteligentes se haya equivocado tanto?

En realidad, siempre fue un engaño gigante y un engaño alimentado por una comprensión incorrecta de los desarrollos en IA y una gran subestimación de la dificultad del problema. La mayoría de la gente todavía cree en él, pero esa creencia ya está sometida a un estrés significativo y se está agrietando por todas partes. Dado que hubo tantos que creyeron profundamente en esta historia [aparentemente hay personas que compraron flotas de Teslas con un margen para administrar una pequeña empresa de taxis una vez que la autonomía estuviera disponible] y tanto dinero se invirtió en esto, será un duro y doloroso choque con la realidad para muchos. Al menos la mayoría de estos técnicos perderán un montón de dinero, no sus vidas como las desafortunadas víctimas del piloto automático.

Para agregar un poco de sabor a toda esta debacle, resulta que, si bien Tesla está anunciando engañosamente «conducción autónoma total» (que, por cierto, en letra pequeña es en realidad «capacidad de conducción autónoma total», que en realidad no es conducción autónoma total en absoluto), confiesa al DMV de California que lo que sea que estén vendiendo / probando en este momento es una mera asistencia al conductor de nivel 2 de SAE. En una serie reciente de intercambios de correo oficiales revelados como parte de las solicitudes de FOIA por PlainSite, leemos:

y más recientemente, en otro intercambio de correo electrónico revelado, se cita a un ingeniero de Tesla, CJ Moore, diciendo:

Todo esto indica que internamente la empresa es completamente consciente de su inadecuado estado de la tecnología (esa es la impresión que se tiene al ver las charlas de Andrej Karpathy también) y toda esta evidencia pone a Elon Musk en una posición bastante incómoda, porque si todos estos correos electrónicos son correctos (y no hay razón para creer lo contrario), entonces su aumento de capital como parte del día de la autonomía de 2019 fue fraudulento al nivel de Theranos.

A medida que Tesla se prepara para lanzar ‘Full Self-Driving’ a miles de conductores más, los videos continúan mostrando sus defectos

https://www.businessinsider.com/tesla-full-self-driving-beta-videos-show-flaws-wide-release-2021-3

Cuando Tesla emitió una versión prototipo de su tecnología «Full Self-Driving» (FSD) para seleccionar a los propietarios de Tesla en octubre, videos del sistema de asistencia al conductor manipulando situaciones de tráfico normales, desde no seguir las reglas de la carretera hasta casi entrar en autos estacionados. y barricadas de cemento – inundaron la red.

Ahora Elon Musk quiere que cualquier propietario de Tesla que haya pagado FSD tenga acceso a la versión beta el próximo mes. Pero los clips que aparecen en línea continúan generando dudas sobre si la tecnología es lo suficientemente segura como para probarla en la vía pública.

Un video del 12 de marzo publicado por el usuario de Youtube AI Addict muestra un Model 3 que ejecuta FSD beta versión 8.2 navegando torpemente por el centro de San José al anochecer. Con el FSD encendido, el vehículo casi choca contra una mediana, intenta conducir por las vías del tren y casi derriba una fila de pilones que separan la carretera de un carril para bicicletas. Todas esas situaciones peligrosas se evitaron por poco solo porque el conductor rápidamente tomó el control.

En otro clip publicado el 18 de marzo, el propietario del Model Y, Chuck Cook, prueba la capacidad de la versión beta para hacer giros a la izquierda sin protección. El software funciona admirablemente unas cuantas veces, esperando hasta una interrupción en el tráfico para cruzar la carretera de tres carriles. Sin embargo, más de una vez Cook tiene que frenar bruscamente para evitar entrar en el tráfico que se aproxima. Y en su último intento, el Tesla casi choca de cabeza contra una camioneta con un bote a remolque.

Los videos de prueba FSD se han convertido en todo un género en YouTube. Muchos de ellos representan automóviles que navegan cómodamente por cambios de carril, paradas de cuatro vías e intersecciones concurridas. Sin embargo, los clips de buggy ilustran los peligros potenciales de permitir que los conductores aficionados experimenten con un software prototipo en la vía pública.

Tesla está usando a sus dueños como «conejillos de indias para la tecnología», dijo a Insider Jason Levine, director ejecutivo del Center for Auto Safety, un grupo de defensa del consumidor. «Y lo que es mucho más preocupante, francamente, es que están utilizando a los consumidores, transeúntes, otros pasajeros, peatones y ciclistas como ratas de laboratorio para un experimento en el que ninguna de estas personas se inscribió».

FSD, una opción adicional de $ 10,000, es una versión más avanzada del piloto automático de Tesla, su función estándar de asistencia al conductor que permite a los automóviles mantener su carril y mantenerse al día con el tráfico de la carretera mediante un sistema de cámaras y sensores. FSD actualmente aumenta el piloto automático con características como estacionamiento automático, reconocimiento de semáforos y señales de alto, y la capacidad de tomar rampas y salidas de la autopista.

El software beta limitado en cuestión agrega una capacidad crítica para cualquier sistema que pretenda llamarse completamente autónomo: la capacidad de navegar por las calles locales, que, a diferencia de las carreteras, tienen un entorno de conducción mucho más complejo que incluye giros a la izquierda. a través del tráfico, peatones, ciclistas y similares.

Por qué la revolución de los vehículos autónomos se ha estancado

 Para 2021, según varias luminarias de Silicon Valley, políticos entusiastas y firmas de taxis líderes en los últimos años, los autos autónomos habrían estado cruzando durante mucho tiempo los EE. UU., Comenzarían a circular por las autopistas de Gran Bretaña y estarían listos para proporcionar robotaxis en Londres.

Sin embargo, el 1 de enero no ha traído una revolución sin conductor. De hecho, en las últimas semanas de 2020, Uber, uno de los principales actores y supuestos beneficiarios, decidió aparcar sus planes para taxis autónomos, vendiendo su división autónoma a Aurora en un acuerdo por un valor de alrededor de $ 4 mil millones (£ 3 mil millones), aproximadamente la mitad. en qué se valoró en 2019.

La decisión, protestó el director ejecutivo de Uber, no significó que la compañía ya no creyera en los vehículos autónomos. “Pocas tecnologías prometen tanto mejorar la vida de las personas con un transporte seguro, accesible y respetuoso con el medio ambiente”, dijo Dara Khosrowshahi. Pero ahora más personas podrían tomar esa promesa con una pizca de sal.

https://www.theguardian.com/technology/2021/jan/03/peak-hype-driverless-car-revolution-uber-robotaxis-autonomous-vehicle

Crea tu sitio web con WordPress.com
Comenzar