Orgullo, prejuicio y predicciones sobre las personas

https://www.scu.edu/ethics/internet-ethics-blog/pride-prejudice-and-predictions-about-people/

Es una verdad universalmente reconocida, o al menos una creencia compartida por muchos investigadores de inteligencia artificial y aprendizaje automático, que, dada una amplia base de datos y un modelado sofisticado, un algoritmo podrá predecir el comportamiento de los seres humanos individuales.

Jane Austen puede parecer la autoridad equivocada a la que acudir para disputar esto. Pero ella tiene algunas ideas relevantes sobre el tema.

Quizás recuerdes que en su novela Orgullo y prejuicio, Austen presenta a una heroína llamada Elizabeth que tiene muchas interacciones con un personaje llamado Sr. Darcy, con quien eventualmente se casa. Inicialmente, sin embargo, en el transcurso de varias reuniones y de varias historias que otros personajes le cuentan, Elizabeth recopila información sobre Darcy que la lleva a no gustarle y a creer que a él no le gusta ella a cambio. Como resultado, ella se sorprende cuando finalmente, de repente, le propone matrimonio. Ese no era el comportamiento que ella habría predicho de él.

Por supuesto, su predicción se basó en una cantidad limitada de información sobre él, parte de ella recopilada y entregada por fuentes motivadas (sesgadas). Por lo tanto, la novela es una advertencia relevante para el orgullo y el prejuicio injustificados incrustados en la creencia de que la IA puede anticipar efectivamente el comportamiento de las personas individuales.

En el otoño de 2020, dos profesores de Princeton enseñaron conjuntamente un curso de informática titulado "Límites de la predicción". Como explicaron en un ensayo previo a la lectura muy útil, “los investigadores y las empresas han hecho muchas afirmaciones optimistas sobre la capacidad de predecir fenómenos que van desde crímenes hasta terremotos utilizando métodos estadísticos basados ​​en datos. Estas afirmaciones son ampliamente aceptadas por el público y los responsables políticos ". Sin embargo, al observar la precisión de los algoritmos predictivos actuales, los profesores (Arvind Narayanan y Matt Salganik) preguntan si existen "límites prácticos para las predicciones que permanecerán con nosotros en el futuro previsible", y explican la importancia de determinar esto: "Si estamos entrando en un mundo donde el futuro es predecible, necesitamos empezar a prepararnos para las consecuencias, tanto buenas como malas. Si, por otro lado, las afirmaciones comerciales están sobrevaloradas, necesitamos el conocimiento para hacer retroceder de manera efectiva ".

En su ensayo, los profesores ofrecen varias hipótesis sobre los límites de la predicción. En cuanto a las predicciones sobre las acciones de los seres humanos, una de ellas parece particularmente aplicable: lo llaman "Shocks". “Las trayectorias de la vida”, escriben, “a veces se ven trastornadas por el tipo de aportaciones que parece probable que sigan siendo inconmensurables en el futuro previsible: un premio mayor de lotería; un accidente; un crimen pasional cometido al calor del momento; una admisión a la universidad para la que uno acaba de hacer el corte. Lo que no está claro es qué tan comunes son estos en el curso de la vida típico y hasta qué punto limitan la previsibilidad ". Sin embargo, la gama de "shocks" que alteran sustancialmente el comportamiento humano pero que probablemente seguirán siendo insumos inconmensurables es mucho más amplia, y algunas son mucho más comunes: el nacimiento de un niño; emigración; enfermedad; desamor viajar a diferentes países, etc.

En Orgullo y prejuicio, por ejemplo, descubrimos que el comportamiento de Darcy ha cambiado enormemente, en parte, por la conmoción del rechazo atónito y enojado de Elizabeth a su primera propuesta de matrimonio. Su segundo va mucho mejor.

Por supuesto, Elizabeth no había anticipado correctamente el primero; eso podría deberse en parte a otro factor que los profesores enumeran como una hipótesis separada para los límites de las predicciones: "Insumos no observados o no observables". En lo que respecta a los seres humanos, esto parece más un axioma. Como señalan Narayanan y Salganik, "los atributos relevantes a menudo no están disponibles para la predicción"; como ejemplo, añaden que "mientras los pensamientos de las personas permanezcan inaccesibles a los algoritmos predictivos, eso impondrá límites a la previsibilidad de algunos tipos de eventos". En Orgullo y prejuicio, a menudo se acusa al Sr. Darcy de ser inescrutable, y en el mundo de Jane Austen muchos tipos de "insumos" no se podían decir ni hacer. Incluso hoy, sin embargo, muchas personas son difíciles de leer, y la variedad de respuestas humanas a diferentes situaciones y contextos hace que sea probable que todos seamos malinterpretados, al menos a veces. Es probable que las entradas no observadas, no observables o interpretadas incorrectamente limiten para siempre las predicciones sobre el comportamiento humano.

El hecho de que Elizabeth base su predicción de las acciones de Darcy en una cantidad insuficiente de información se incluiría en lo que los profesores de Princeton llaman "El problema de los 8 mil millones", y su aceptación de la información sobre Darcy por parte de algunas personas que tienen motivos para no agradarle y tergiversarlo. señala el tema más amplio del sesgo en los conjuntos de datos, que son en sí mismos, como ha señalado el investigador Solon Barocas, "artefactos de la intervención humana, no registros impartidos por la naturaleza misma". En el contexto de los modelos predictivos de IA, estos problemas también pueden conducir a predicciones inexactas sobre personas o grupos particulares.

Irónicamente, en Orgullo y prejuicio, la propia Elizabeth inicialmente falla