Errores más rápidos que la velocidad del pensamiento

https://mempko.wordpress.com/2021/06/30/bugs-faster-than-the-speed-of-thought/

Tuve acceso al GPT-3 de OpenAI el año pasado y una de las primeras cosas que hice fue solicitarle una estructura de interfaz en C++ y hacer que escribiera la implementación. En general me sorprendieron los resultados. Algunas de las terminaciones eran incluso código que era claramente de proyectos de Github con enlaces válidos de Github. Mi pensamiento fue «Vaya, esto sería un autocompletado impresionante». Hoy, Github acaba de lanzar Copilot, que es una función de autocompletar impulsada por GPT-3. Es muy impresionante.

Cualquiera que haya creado un sistema de IA de producción sabrá que sólo el 20% del trabajo consiste en crear los modelos, el andamiaje alrededor es el 80% restante. Estoy seguro de que ha costado mucho trabajo pasar de utilizar el campo de juego de la GPT-3 a algo bien integrado en un IDE como Copilot.

Estar bien integrado es la clave del éxito de Copilot y va a ser utilizado por cientos de miles de programadores, si no un millón, muy rápidamente. Eso es precisamente lo que lo hace tan peligroso.

En Code Complete, Steve McConnell escribió extensamente sobre los defectos en los sistemas de producción. La tasa media de defectos de la industria es de unos 15 a 50 bugs por cada 1000 líneas de código. Algunas técnicas utilizadas por la NASA pueden conseguir que el recuento de errores sea casi nulo. El software de código abierto probablemente tiene MÁS errores por cada 1000 líneas de código porque la mayoría de los proyectos de código abierto tienen un desarrollador y no tienen ojos.

El copiloto no es mágico y, por término medio, funcionará peor que un programador humano. Si se entrena en el gigantesco corpus de 100 millones de proyectos de Github, seguramente tendrá más de 50 errores por cada 1000 líneas de código. Esto es más rápido que copiar y pegar fragmentos de código porque Copilot autocompletará el código que probablemente compilará y requerirá menos corrección humana. Todos los programadores entienden por qué copiar y pegar código es malo. Es probable que introduzca errores. Con Copilot, los errores se transmitirán más rápido que la velocidad del pensamiento.

¿Cuáles pueden ser las consecuencias de que el software con errores se escriba a un ritmo vertiginoso? El accidente mortal del Boeing 737 MAX8 de Ethiopian Airlines en 2019 fue el resultado de una IA que salió mal. Tomaron un sistema de seguridad que se suponía que solo debía participar en situaciones críticas y lo expandieron a situaciones no críticas. Los sistemas de caja negra matan. Imagina esto por un segundo, construir sistemas de IA es el futuro del software. Ya no escribirás algoritmos, sino el andamiaje de los sistemas de aprendizaje. Ahora imagina que tu andamiaje está escrito en su mayoría por Copilot. Los errores se propagarán de nuevas maneras, a través de sistemas que construyen sistemas.

Construir software es construir un pequeño mundo. Se trata de significado, y sabemos que GPT-3 no entiende de significado. Tampoco entenderá tu problema. Cuando los programadores se acostumbren a autocompletar el código que se compila, ¿hasta qué punto van a profundizar en él? ¿Lo revisarán cuidadosamente? Construir la interacción hombre-máquina es difícil y no quieres que los humanos escriban software dormidos al volante.

¿Se pierde el ser humano en el proceso de contratación?

 El proceso de contratación se está volviendo cada vez más automatizado, y las empresas implementan algoritmos para realizar búsquedas de palabras clave y análisis de videos. Entonces, ¿dónde está el lugar de la humanidad en este sistema cada vez más automatizado? Para demostrar esto, me refiero a los esfuerzos tanto federales como estatales para preservar su posición, con los esfuerzos individualizados de la ciudad también destacando de manera prominente en este esfuerzo. Luego considero cómo las empresas pueden navegar en este campo y asegurarme de que también mantengan el lugar de la humanidad en el proceso. A pesar de que el control se cede cada vez más a la automatización, los esfuerzos estatales y federales han asegurado que parte de esto haya regresado a los candidatos involucrados.

Gracias al poder de la automatización, cada vez más empresas utilizan procesos de contratación automatizados para ayudar con el procesamiento de candidatos. Desde el análisis de videos con inteligencia artificial (IA) hasta las búsquedas de palabras clave, el proceso de contratación está cediendo lentamente su toque humano a los algoritmos. Entonces, ¿cómo se está adhiriendo el proceso de contratación a qué aspectos humanos quedan? Aquí, echaré un vistazo al papel fundamental que todavía juega la Ley de Derechos Civiles, al tiempo que me refiero a cómo diferentes estados y ciudades han abordado el problema. Para terminar, analizaré cómo se aconseja a las empresas que superen este nuevo desafío y cómo el toque humano aún se puede preservar adecuadamente en un campo cada vez más automatizado.

Una vez diseñada, la Ley de Derechos Civiles iba a durar cientos de años, protegiendo los derechos de la población en general, mientras enfrentaba el sesgo y la injusticia de frente. De esta manera, el acto orientado al impacto aún protege a la humanidad contra los sustos del proceso de contratación automatizado. Cualquier algoritmo que discriminara a los candidatos en función de cualidades como la raza o condiciones como el estado civil se encontrará cara a cara con el acto en sí. Por ejemplo, un algoritmo solo puede descartar candidatos en función de la raza si la empresa involucrada está en el proceso de comprometerse con la acción afirmativa. De esta manera, el ser humano todavía puede verse como algo protegido dentro del proceso de contratación automatizado. Sin embargo, ¿qué pasa con otros aspectos de la vida, como la información económica, matrimonial y religiosa? En los pasos de la Comisión de Igualdad de Oportunidades en el Empleo (EEOC).

https://montrealethics.ai/is-the-human-being-lost-in-the-hiring-process/

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

La tecnología es más eficaz cuando se considera un medio para un fin en lugar de una panacea

 Como equipo legal, hemos pasado mucho tiempo buscando qué software y herramientas utilizadas por la empresa se pueden reutilizar o incorporar a nuestros propios flujos de trabajo para que la empresa ya esté familiarizada con su funcionamiento y pueda usarlos fácilmente al interactuar con nosotros. La tecnología es más eficaz cuando se ve como un medio para un fin en lugar de una panacea. Todos los equipos legales internos enfrentan desafíos similares al hacer más con menos y al mismo tiempo brindar un servicio rápido y eficiente a sus clientes internos. La tecnología realmente puede ayudar con mejoras en los procesos (por ejemplo, a través de sistemas de emisión de boletos «de entrada» para que los clientes lo utilicen para contactarlo con consultas y solicitudes de asistencia) y en minimizar el tiempo dedicado a trabajos repetidos de gran volumen y bajo valor. Es poco probable que la tecnología (y la inteligencia artificial) por sí misma marquen una diferencia significativa en el servicio al cliente. He descubierto que a menudo las soluciones tecnológicas más simples impulsan las mayores mejoras en el servicio al cliente (por ejemplo, incorporar un sistema de gestión de contratos realmente bueno con la empresa para que los contratos clave se puedan encontrar y buscar fácilmente y renovar o modificar dentro de los plazos adecuados).

https://www.thelawyer.com/the-60-second-interview-embracing-new-ways-of-doing-old-things/

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

Compitiendo en la era de la IA

 La era de la IA está marcando el comienzo de la aparición de este nuevo tipo de empresa. La cohorte de Ant Financial incluye gigantes como Google, Facebook, Alibaba y Tencent, y muchas empresas más pequeñas y de rápido crecimiento, desde Zebra Medical Vision y Wayfair hasta Indigo Ag y Ocado. Cada vez que usamos un servicio de una de esas empresas, sucede lo mismo notable: en lugar de depender de los procesos comerciales tradicionales operados por trabajadores, gerentes, ingenieros de procesos, supervisores o representantes de servicio al cliente, el valor que obtenemos proviene de algoritmos . El CEO de Microsoft, Satya Nadella, se refiere a la IA como el nuevo «tiempo de ejecución» de la empresa. Es cierto que los gerentes e ingenieros diseñan la IA y el software que hace que los algoritmos funcionen, pero después de eso, el sistema entrega valor por sí solo, a través de la automatización digital o aprovechando un ecosistema de proveedores fuera de la empresa. AI fija los precios en Amazon, recomienda canciones en Spotify, relaciona a compradores y vendedores en el mercado de Indigo y califica a los prestatarios para un préstamo de Ant Financial.

Después de cientos de años de mejoras incrementales en el modelo industrial, la empresa digital ahora está cambiando radicalmente la escala, el alcance y el paradigma de aprendizaje. Los procesos impulsados por IA se pueden escalar mucho más rápidamente que los procesos tradicionales, permiten un alcance mucho mayor porque pueden conectarse fácilmente con otras empresas digitalizadas y crear oportunidades increíblemente poderosas para el aprendizaje y la mejora, como la capacidad de producir con mayor precisión. y modelos sofisticados de comportamiento del cliente y luego adaptar los servicios en consecuencia.

https://hbr.org/2020/01/competing-in-the-age-of-ai

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

Crea tu sitio web con WordPress.com
Comenzar