Reiniciar el sistema: Por qué debe cambiar la industria tecnológica

https://hai.stanford.edu/news/rebooting-system-why-tech-industry-must-change

Mucha gente cree que la revolución digital nos ha arrastrado como un maremoto y que no tenemos ningún control sobre ella. Nosotros escribimos el libro porque creemos que la gente puede y debe desempeñar un papel activo en la configuración de la tecnología.

Imagen de la portada del libro System ErrorY como académicos de diversos campos, también tuvimos nuestras razones individuales para escribir el libro. Jeremy Weinstein, que trabajó en la administración de Obama, quería ayudar a los responsables políticos a adquirir los conocimientos técnicos necesarios para enfrentarse a los retos de las grandes tecnologías. Mehran Sahami, como profesor de ciencias de la computación que trabajó en Google, quería ayudar a sus estudiantes a entrar en la fuerza de trabajo con una sólida comprensión de las consecuencias sociales potencialmente negativas de la tecnología, ayudar a los trabajadores de la tecnología a garantizar que los productos que están desarrollando son beneficiosos para la sociedad, y ayudar a los inversores a tomar decisiones éticas en las empresas que deciden apoyar. Y yo, como filósofo político, quería mostrar cómo los ciudadanos pueden marcar la diferencia y la democracia puede estar a la altura del reto de aprovechar los grandes beneficios de la tecnología y al mismo tiempo mitigar los daños que ahora son tan evidentes para todos nosotros.  

Los tecnólogos suelen pensar en la optimización: cómo crear la herramienta más eficaz. ¿Qué riesgos conlleva la mentalidad de optimización de los tecnólogos para una sociedad democrática?

La mentalidad de optimización del tecnólogo se inculca desde el principio en la formación de ciencias informáticas o de ingeniería. Y aunque tiene su lugar, a menudo parece convertirse en una visión del mundo en la que todo en la vida es un problema de optimización. 

La optimización no es intrínsecamente buena. Es un medio para conseguir un fin, nada más. No queremos optimizar cosas que son malas. Es más, la optimización depende de que algo sea medible matemáticamente, o computacionalmente manejable, y eso puede llevar a los ingenieros a elegir medidas imperfectas o engañosas. Facebook, por ejemplo, pretendía conectar a la gente, pero su principal medida de éxito era el número de personas en la plataforma, que no es una buena medida de la conexión humana.  

En última instancia, sin embargo, el mayor problema de la mentalidad de optimización es que lleva a la gente a ser escéptica o incluso cínica con respecto a las instituciones democráticas que a menudo parecen disfuncionales y subóptimas a la hora de ofrecer las cosas que queremos como ciudadanos. Pero es un error pensar que las instituciones democráticas se concibieron para optimizar en primer lugar. Esto se debe a que, en una sociedad democrática, los ciudadanos tienen preferencias y valores diferentes. Apreciamos el pluralismo y la tolerancia hacia las personas con ideas diferentes sobre la mejor manera de vivir. La democracia no es un aparato institucional para optimizar algún resultado. Es esencialmente un diseño tecnológico para arbitrar y resolver equitativamente los desacuerdos que tenemos como ciudadanos, y eso es lo que hace que la democracia sea importante y valiosa. 

*** Translated with www.DeepL.com/Translator (free version) ***