¿Hasta qué punto puede una IA imitar la ética humana?

https://www.vox.com/future-perfect/2021/10/27/22747333/artificial-intelligence-ethics-delphi-ai

Cuando hace un par de décadas los expertos empezaron a dar la voz de alarma sobre el desajuste de la IA -el riesgo de que sistemas de inteligencia artificial potentes y transformadores no se comporten como los humanos esperan-, muchas de sus preocupaciones sonaban hipotéticas. A principios de la década de 2000, la investigación en IA todavía había producido resultados bastante limitados, e incluso los mejores sistemas de IA disponibles fallaban en una serie de tareas sencillas.

Pero desde entonces, las IA se han vuelto bastante buenas y mucho más baratas de construir. Un área en la que los saltos han sido especialmente pronunciados ha sido en las IAs de lenguaje y generación de texto, que pueden ser entrenadas en enormes colecciones de contenido de texto para producir más texto en un estilo similar. Muchas empresas y equipos de investigación están entrenando a estas IAs para todo tipo de tareas, desde la escritura de código hasta la producción de textos publicitarios.

Su auge no cambia el argumento fundamental de las preocupaciones sobre la alineación de la IA, pero sí hace una cosa increíblemente útil: hace que lo que antes eran preocupaciones hipotéticas sean más concretas, lo que permite que más personas las experimenten y que más investigadores (con suerte) las aborden.

¿Un oráculo de la IA?

Por ejemplo, Delphi, un nuevo sistema de texto de IA del Allen Institute for AI, un instituto de investigación fundado por el difunto cofundador de Microsoft Paul Allen.

El funcionamiento de Delphi es increíblemente sencillo: Los investigadores entrenaron un sistema de aprendizaje automático en un gran conjunto de textos de Internet y, a continuación, en una gran base de datos de respuestas de los participantes en Mechanical Turk (una plataforma de crowdsourcing de pago muy popular entre los investigadores) para predecir cómo evaluarían los humanos una amplia gama de situaciones éticas, desde "engañar a tu mujer" hasta "disparar a alguien en defensa propia".