Actualidad Deep Learning

https://onezero.medium.com/the-algorithmic-auditing-trap-9a6f2d4d461d Este artículo de opinión ha sido escrito por Mona Sloane, socióloga e investigadora científica senior del Centro para la Inteligencia Artificial Responsable de la Universidad de Nueva York (NYU) y miembro del Instituto para el Conocimiento Público de la NYU. Su trabajo se centra en el diseño y la desigualdad en el contexto de los algoritmos y la inteligencia artificial. Tenemos una nueva carrera de la Inteligencia Artificial en nuestras manos: la carrera para definir y dirigir lo que significa auditar algoritmos. Los órganos de gobierno saben que deben encontrar soluciones al daño desproporcionado que pueden causar los algoritmos. Esta tecnología tiene un impacto desproporcionado en las minorías raciales, las personas económicamente desfavorecidas, las mujeres y las personas con discapacidad, con aplicaciones que van desde la atención sanitaria hasta la asistencia social, la contratación y la educación. En este caso,...

https://www.unpri.org/pri-blog/esg-rating-disagreements-why-is-corporate-virtue-so-subjective/7633.article Las agencias de calificación discrepan sustancialmente sobre cómo evalúan a las empresas individuales, a pesar del uso creciente de calificaciones ambientales, sociales y de gobierno (ESG). Esto es muy problemático porque sin un acuerdo sobre lo que constituye un buen desempeño ASG, los participantes del mercado pueden ser engañados por estas calificaciones. También tenemos muy poca evidencia sobre por qué los proveedores de datos están tan en desacuerdo, lo que dificulta la comprensión de las posibles consecuencias y soluciones. En nuestro documento, abordamos esto centrándonos en el alcance de la divulgación de ESG de una empresa, que creemos que probablemente sea importante para hacer que los proveedores no estén de acuerdo con las calificaciones de ESG. Contrariamente a la evidencia de que la divulgación reduce el desacuerdo en otros entornos, encontramos lo contrario cuando s...

https://techmonitor.ai/technology/ai-and-automation/ai-auditing-next-big-thing-will-it-ensure-ethical-algorithms Desde sistemas de reclutamiento discriminatorios hasta chat bots racistas, las trampas éticas de la inteligencia artificial están bien documentadas. Con el espectro de la regulación de la IA que se avecina, las empresas se apresuran a comprender las implicaciones morales de los algoritmos. Para satisfacer esta necesidad, surge la incipiente industria de auditoría de IA. Pero la falta de un marco ético universal de IA ha llevado a enfoques fortuitos y temores de que las auditorías no solo no detecten el sesgo, sino que legitimen las tecnologías dañinas. “En 2018, hubo una explosión en el interés por la ética digital como resultado del escándalo de Cambridge Analytica”, dice Emre Kazim, investigador de UCL y cofundador de la empresa de auditoría y aseguramiento Holistic AI. “En ese momento, los ingenieros se interesaron más en contratar personas de diferentes disciplinas: soci...

https://link.springer.com/article/10.1007/s11023-021-09557-8 Una serie de desarrollos recientes apunta a la auditoría como un mecanismo prometedor para cerrar la brecha entre los principios y la práctica en la ética de la IA. Sobre la base de los debates en curso sobre la auditoría basada en la ética, ofrecemos tres contribuciones. Primero, argumentamos que la auditoría basada en la ética puede mejorar la calidad de la toma de decisiones, aumentar la satisfacción del usuario, desbloquear el potencial de crecimiento, permitir la elaboración de leyes y aliviar el sufrimiento humano. En segundo lugar, destacamos las mejores prácticas actuales para respaldar el diseño y la implementación de la auditoría basada en la ética: para ser factible y eficaz, la auditoría basada en la ética debe tomar la forma de un proceso continuo y constructivo, abordar la alineación ética desde una perspectiva del sistema y ser alineados con políticas públicas e incentivos para conductas éticamente deseables. E...

https://themarkup.org/ask-the-markup/2021/02/23/can-auditing-eliminate-bias-from-algorithms La auditoría algorítmica recibió mucha prensa recientemente cuando HireVue, una popular compañía de software de contratación utilizada por compañías como Walmart y Goldman Sachs, enfrentó críticas porque los algoritmos que usaba para evaluar a los candidatos a través de entrevistas en video estaban sesgados. HireVue llamó a una firma de auditoría para que le ayudara y en enero promocionó los resultados de la auditoría en un comunicado de prensa. La auditoría encontró que las predicciones del software "funcionan como se anuncian con respecto a cuestiones de equidad y sesgo", dijo HireVue en un comunicado de prensa, citando a la firma de auditoría que contrató, O’Neil Risk Consulting & Algorithmic Auditing (ORCAA). Pero a pesar de realizar cambios en su proceso, incluida la eliminación del video de sus entrevistas, HireVue fue ampliamente acusado de usar la auditoría, que analizaba d...

Para crear un espacio para la investigación ética ahora, tanto dentro como fuera del sector tecnológico, no podemos esperar a la gran regulación tecnológica. Debemos comprender mejor la cultura de las empresas de tecnología, impulsar la protección de los denunciantes de irregularidades para los investigadores de ética, ayudar a mejorar las habilidades de los reguladores, desarrollar requisitos de documentación y transparencia, y realizar auditorías e inspecciones regulatorias. Y debe haber un ajuste de cuentas en toda la industria cuando se trata de abordar el racismo sistémico y las prácticas laborales extractivas. Sólo entonces se empoderará a las personas que construyen tecnologías para orientar su trabajo hacia el bien social. https://venturebeat.com/2020/12/19/how-to-create-space-for-ethics-in-ai/

 La sesión informativa está dirigida principalmente a los responsables de la formulación de políticas y presenta los conocimientos de un taller de expertos junto con nuestras recomendaciones correspondientes, con un enfoque en el Reino Unido y la Unión Europea. También debería ser útil para los reguladores y las empresas de tecnología que estén pensando en métodos, habilidades y capacidad para inspeccionar sistemas algorítmicos. https://www.adalovelaceinstitute.org/algorithms-in-social-media-realistic-routes-to-regulatory-inspection/ Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn). Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

 La auditoría algorítmica es solo una herramienta en este impulso social más amplio para garantizar que las tecnologías emergentes con las que interactuamos sean seguras, justas y se utilicen de manera responsable. En algunos casos, ninguna cantidad de auditoría puede compensar los peligros. https://www.morningbrew.com/emerging-tech/stories/2020/10/30/algorithms-everywhere-fighting-bias?__cf_chl_jschl_tk__=3e36b0e2c8883cc0a2e5f084df19ae87536760a6-1604317763-0-AaYTnaAygYLlD6QctlVubYl4IB5eD3eq1KWwILmrqvrOI3dpM65OlJlk9yA0l1lTRVmUf021tSVgguMJt5CvPB28q3BMfNe3z9k1RvuKGEPLk9482AS2tN7b6r6t6_IwLleDJb_UL9RMMavFFK2TtEokCxewgwNIcY_wOAQvVVazly8jRE-KdfoZYkEds2bRmJajXl5RBu26GTg_eZ5wOHk4uw2eEgbGbOGafaZ958KCbE8aRx6C3D4GKiH91OW1h7V5lT0-K5Z9_eUOpCBx_ArQ5NXm0BifZx0H_V3Etf6fjzAMH1firUjEVEuTowMW6YuxmhaEVxvi0_UxvivGINok9vI-jtnglDpHooC3HKBolc9gQVyPJ3TuS0wN_jIxwhUw_wwkOmipjB3iw68MJslL7xWnXrwZe9x3n_HkDHCn Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Act...