Humanizando la Automatización

https://issues.org/humanizing-automation-shneiderman-pasquale-new-laws-robotics/

El objetivo de Pasquale con sus cuatro nuevas leyes está admirablemente centrado en el ser humano: "Las nuevas leyes de la robótica pueden ayudarnos a imaginar futuros en los que la IA respete y ayude a preservar la dignidad y la identidad humanas". A medida que los investigadores, ingenieros y programadores se apresuran a desarrollar sistemas robóticos y de inteligencia artificial cada vez más potentes, los responsables políticos y el público están debidamente preocupados por el efecto de estas tecnologías en la sociedad. Al defender la primacía de la humanidad en un mundo cada vez más automatizado, Pasquale rechaza la noción concebida en la ciencia ficción (y perseguida por muchos diseñadores) de que la tecnología robótica transformará inevitablemente el espacio humano en un mundo de y para máquinas.

La primera ley de Pasquale asume la noción ampliamente difundida de que todas las profesiones son vulnerables a la automatización a través de robots e IA. Incluso los profesionales altamente especializados y bien remunerados no son inmunes: los estudios han demostrado, por ejemplo, que las computadoras son más precisas para detectar cánceres de mama que los radiólogos. Este tipo de comparación llevó a un importante investigador de inteligencia artificial, Geoffrey Hinton, a argumentar en 2016 que las escuelas de medicina “deberían dejar de formar radiólogos ahora. Es completamente obvio que dentro de cinco años el aprendizaje profundo [una estrategia central de inteligencia artificial] funcionará mejor que los radiólogos ". Pero Pasquale tiene una regla que Hinton haría bien en tener en cuenta: "Los sistemas robóticos y la IA deben complementar a los profesionales, no reemplazarlos". Los radiólogos hacen mucho más que buscar tumores en su evaluación de la enfermedad y sugerencias de tratamiento. Los médicos están muy capacitados al tener herramientas de inteligencia artificial poderosas pero bien diseñadas, que se convertirán en parte de su práctica, junto con radiografías, electrocardiogramas, análisis de sangre y otras herramientas existentes. "No deberíamos desmantelar o inhabilitar profesiones", escribe Pasquale, "como aspiran a hacer muchos defensores de la innovación disruptiva".

La segunda nueva ley de Pasquale ataca directamente el trabajo de los investigadores y empresarios que desarrollan robots sociales similares a los humanos: "Los sistemas robóticos y la inteligencia artificial no deberían falsificar a la humanidad". Parece errónea la afirmación de que los robots bípedos de tamaño humano o más pequeños, con rostros expresivos y brazos diestros, podrían usarse para cuidar a los adultos mayores, enseñar a los niños o guiar a las personas a través de aeropuertos concurridos. A pesar de ser prominentes en la ciencia ficción y el tema de videos virales de fabricantes de robots como Boston Dynamics, los dispositivos humanoides han sido fallas constantes en el mercado. Esto se debe en parte a que imitar el movimiento humano no es muy eficaz ni eficiente en la práctica (al igual que imitar el aleteo de un pájaro no es un enfoque eficaz para el diseño de aviones). Pasquale sostiene que los principios de diseño más efectivos podrían motivar a los innovadores a ir más allá de la noción limitante de la imitación humana para crear productos y servicios más útiles.

"No deberíamos desmantelar o inhabilitar profesiones", escribe Pasquale, "como aspiran a hacer muchos defensores de la innovación disruptiva".

La tercera ley, "Los sistemas robóticos y la inteligencia artificial no deben intensificar las carreras de armamentos de suma cero", busca limitar las contiendas militares entre las naciones que están ansiosas por construir sistemas de armas autónomos letales, incluidos los Estados Unidos, Rusia, China, Israel y los Estados Unidos. Reino. Esta ley se alinea con los esfuerzos de más de dos docenas de países en las Naciones Unidas para prohibir ciertas armas que pueden tomar decisiones mortales sin controles humanos, una prohibición que tanto Estados Unidos como Rusia han tratado de bloquear. Además, Pasquale condena la carrera de los gobiernos y los departamentos de policía para aumentar la vigilancia a través del reconocimiento facial, rastrear los movimientos de los ciudadanos mediante datos de ubicación de teléfonos inteligentes y usar lo que el gobierno chino llama "puntajes de crédito social" para evaluar y restringir el comportamiento humano.

Por último, la cuarta ley exige transparencia para los robots y los algoritmos: "Los sistemas robóticos y la inteligencia artificial siempre deben indicar la identidad de sus creadores, controladores y propietarios". Pasquale amplía esta ley para aclarar que solo los humanos son responsables de las máquinas que construyen: los automóviles autónomos, por ejemplo, no eximen a los creadores o propietarios de los vehículos de responsabilidad por fallas. La responsabilidad recae en los seres humanos para garantizar que las máquinas no produzcan resultados peligrosos, dañinos o problemáticos.