El derecho a impugnar la IA

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3965041

La inteligencia artificial (IA) se utiliza cada vez más para tomar decisiones importantes, desde la selección de las admisiones universitarias hasta la determinación de los préstamos y la distribución de las vacunas COVID-19. Estos usos de la IA suscitan una serie de preocupaciones sobre la discriminación, la precisión, la equidad y la responsabilidad.

En Estados Unidos, las propuestas recientes para regular la IA se centran en gran medida en la gobernanza ex ante y sistémica. Este artículo defiende, en cambio -o en realidad, además-, un derecho individual a impugnar las decisiones de IA, basado en el debido proceso pero adaptado a la era digital. La Unión Europea, de hecho, reconoce tal derecho, y un número creciente de instituciones de todo el mundo reclaman ahora su establecimiento. Este artículo sostiene que, a pesar de las considerables diferencias entre Estados Unidos y otros países, el establecimiento del derecho a impugnar las decisiones en materia de IA estaría en consonancia con una larga tradición de la teoría del debido proceso.

A continuación, este artículo llena un vacío en la literatura, estableciendo un andamiaje teórico para debatir cómo debería ser el derecho de impugnación en la práctica. Este artículo establece cuatro arquetipos de impugnación que deberían servir de base para los debates sobre la impugnación tanto para el derecho a impugnar la IA como en otros contextos políticos. Los arquetipos de impugnación varían en dos ejes: desde las reglas de impugnación hasta las normas y desde el énfasis en el procedimiento hasta el establecimiento de derechos sustantivos. A continuación, este artículo analiza cuatro procesos que ilustran estos arquetipos en la práctica, incluido el primer examen en profundidad del derecho de impugnación del RGPD para un público estadounidense. Por último, este artículo integra las conclusiones de estas investigaciones para desarrollar una orientación normativa y práctica para establecer un derecho de impugnación de la IA.