Inteligencia artificial, ética humanista

https://www.amacad.org/publication/artificial-intelligence-humanistic-ethics

La ética se ocupa de lo que significa vivir una vida floreciente y de lo que debemos moralmente a los demás. La mentalidad optimizadora que prevalece entre los informáticos y los economistas, entre otros poderosos actores, ha llevado a un enfoque centrado en la maximización de la satisfacción de las preferencias humanas, enfoque que ha adquirido una considerable influencia en la ética de la IA. Pero este utilitarismo basado en las preferencias está abierto a serias objeciones. Este ensayo esboza una ética alternativa, "humanista", para la IA que sea sensible a los aspectos del compromiso humano con la ética que a menudo se pasan por alto en el enfoque dominante. Se esbozan tres elementos de este enfoque humanista: su compromiso con una pluralidad de valores, su énfasis en la importancia de los procedimientos que adoptamos, no sólo de los resultados que producen, y la importancia que concede a la participación individual y colectiva en nuestra comprensión del bienestar y la moralidad humanos. El ensayo concluye con una reflexión sobre la forma en que la perspectiva de la inteligencia artificial general influye en esta perspectiva humanista.

La ética es, ante todo, un ámbito del pensamiento humano ordinario, no una disciplina académica especializada. Presupone la existencia de opciones humanas que pueden ser apreciadas por referencia a una gama distintiva de valores.

La delimitación de esta gama, entre otros valores como los estéticos o religiosos, es filosóficamente controvertida. Pero, según una lectura bastante estándar, en el corazón de la ética se encuentran dos cuestiones muy generales e interrelacionadas: ¿Qué es vivir una vida buena o floreciente? ¿Y qué es lo que debemos a los demás, sobre todo a los seres humanos, pero también a los animales no humanos o incluso a la naturaleza inanimada? La primera pregunta nos lleva al terreno del bienestar individual; la segunda, al de la moral, especialmente a las obligaciones que debemos a los demás y a los derechos que nos asisten. Los filósofos exponen teorías sobre el bienestar y la moral y sus interrelaciones, pero todos nosotros, al vivir nuestras vidas, tomamos constantemente decisiones que reflejan las respuestas a estas preguntas, por muy incipientes o inconscientes que sean.