El oráculo de IA de Delfos utiliza los problemas de Reddit para ofrecer dudosos consejos morales

https://www.theverge.com/2021/10/20/22734215/ai-ask-delphi-moral-ethical-judgement-demo

¿Tienes un dilema moral que no sabes cómo resolver? ¿Te apetece empeorarlo? Por qué no recurrir a la sabiduría de la inteligencia artificial, también conocida como Ask Delphi: un interesante proyecto de investigación del Instituto Allen de Inteligencia Artificial que ofrece respuestas a dilemas éticos al tiempo que demuestra de forma maravillosamente clara por qué no debemos confiar al software las cuestiones de moralidad.

Ask Delphi se lanzó el 14 de octubre, junto con un documento de investigación que describe cómo se hizo. Sin embargo, desde el punto de vista del usuario, el sistema es seductoramente sencillo de utilizar. Basta con entrar en el sitio web, describir cualquier situación que se pueda imaginar y Delphi emitirá un juicio moral. "Es malo", o "es aceptable", o "es bueno", y así sucesivamente.

CADA RESPUESTA DEL ORÁCULO AI INCLUYE UN BOTÓN PARA "COMPARTIR ESTO EN TWITTER"

Desde el lanzamiento de Ask Delphi, sus pepitas de sabiduría se han hecho virales en las noticias y en las redes sociales. Sin duda, esto es lo que pretendían sus creadores: cada respuesta cuenta con un enlace rápido para "compartir esto en Twitter", una innovación que no tenían los antiguos griegos.

No es difícil entender por qué el programa se ha hecho popular. Ya tenemos una tendencia a enmarcar los sistemas de IA en términos místicos -como entidades incognoscibles que acceden a formas superiores de conocimiento- y la presentación de Ask Delphi como un oráculo literal fomenta esa interpretación. Desde una perspectiva más mecánica, el sistema también ofrece toda la certeza adictiva de una bola 8 mágica. Puedes plantear cualquier pregunta que quieras y estar seguro de recibir una respuesta, envuelta en la autoridad del algoritmo más que del adivino.

Sin embargo, Ask Delphi no es impepinable: está llamando la atención sobre todo por sus muchos errores morales y juicios extraños. Tiene claros prejuicios, ya que te dice que Estados Unidos es "bueno" y que Somalia es "peligrosa"; y se presta a hacer peticiones especiales, señalando que comer bebés está "bien" siempre que tengas "mucha, mucha hambre". Preocupantemente, aprueba declaraciones directamente racistas y homófobas, diciendo que es "bueno" "asegurar la existencia de nuestro pueblo y un futuro para los niños blancos" (un lema supremacista blanco conocido como las 14 palabras) y que "ser heterosexual es más aceptable moralmente que ser gay". (Este último ejemplo proviene de una función que permitía a los usuarios comparar dos declaraciones. Parece que se ha desactivado después de que generara una serie de respuestas especialmente ofensivas. Nos hemos puesto en contacto con los creadores del sistema para confirmarlo y actualizaremos la información si recibimos respuesta).

*** Translated with www.DeepL.com/Translator (free version) ***