Zombies morales:por qué los algoritmos no son agentes morales

https://link.springer.com/article/10.1007/s00146-021-01189-x

En filosofía de la mente, los zombis son criaturas imaginarias que son duplicados físicos exactos de sujetos conscientes para quienes no existe una experiencia personal. Los zombis están destinados a mostrar que el fisicalismo, la teoría de que el universo está compuesto enteramente por componentes físicos, es falso. En este artículo, aplico el experimento mental zombi al ámbito de la moralidad para evaluar si la agencia moral es algo independiente de la sensibilidad. Los algoritmos, en mi opinión, son una especie de zombi moral funcional, de modo que pensar en los últimos puede ayudarnos a comprender y regular mejor los primeros. Sostengo que la razón principal por la que los algoritmos no pueden ser autónomos ni responsables es que carecen de sensibilidad. Los zombis y algoritmos morales son incoherentes como agentes morales porque carecen de la comprensión moral necesaria para ser moralmente responsables. Para comprender lo que significa infligir dolor a alguien, es necesario tener un conocimiento experimental del dolor. A lo sumo, para un algoritmo que no siente nada, los "valores" serán elementos en una lista, posiblemente priorizados de cierta manera de acuerdo con un número que representa la ponderación. Pero las entidades que no sienten no pueden valorar, y los seres que no valoran no pueden actuar por razones morales.