¿Mentes sin cerebro?

https://www.commonwealmagazine.org/minds-without-brains

En opinión de muchos científicos, la inteligencia artificial (IA) no está a la altura de las expectativas de sus defensores. Todavía no tenemos coches seguros sin conductor, y es probable que no los tengamos en un futuro próximo. Tampoco los robots están a punto de asumir todas nuestras tareas domésticas para que podamos dedicar más tiempo al ocio. En el lado positivo, los robots tampoco están dispuestos a apoderarse del mundo y convertir a los humanos en esclavos como lo hacen en las películas.

Sin embargo, existe un motivo real de preocupación por el impacto que la IA ya está teniendo en nosotros. Como escriben Gary Marcus y Ernest Davis en su libro Rebooting AI: Building Artificial Intelligence We Can Trust, "simplemente no se puede confiar en la IA que tenemos ahora". En su opinión, cuanta más autoridad cedamos prematuramente a los sistemas de máquinas actuales, más preocupados deberíamos estar. “Algunas fallas son leves, como una Alexa que se ríe al azar (o te despierta en medio de la noche, como le sucedió a uno de nosotros), o un iPhone que autocorrige lo que se quería decir como 'Feliz cumpleaños, querido Theodore' en 'Feliz Cumpleaños, muerto Theodore '”, escriben. "Pero otros, como los algoritmos que promueven noticias falsas o prejuicios contra los solicitantes de empleo, pueden ser problemas graves".

Marcus y Davis citan un informe del AI Now Institute que detalla los problemas de inteligencia artificial en muchos dominios diferentes, incluida la determinación de elegibilidad para Medicaid, sentencias de cárcel y evaluaciones de maestros:

Los accidentes repentinos en Wall Street han provocado caídas temporales del mercado de valores y se han producido terribles invasiones de privacidad (como la vez que Alexa grabó una conversación y la envió sin querer a una persona al azar en la lista de contactos del propietario); y múltiples accidentes automovilísticos, algunos fatales. No nos sorprendería ver un mal funcionamiento importante provocado por la inteligencia artificial en una red eléctrica. Si esto ocurre en pleno verano o en pleno invierno, una gran cantidad de personas podría morir.

El científico informático Jaron Lanier ha citado los aspectos más oscuros de la IA, ya que ha sido explotada por gigantes de las redes sociales como Facebook y Google, donde solía trabajar. En opinión de Lanier, las plataformas de redes sociales impulsadas por la inteligencia artificial promueven el fraccionalismo y la división entre los usuarios, como se demostró claramente en las elecciones de 2016 y 2020, cuando los piratas informáticos rusos crearon cuentas de redes sociales falsas para atraer a los votantes estadounidenses hacia Donald Trump. Como escribe Lanier en su libro Diez argumentos para eliminar sus cuentas de redes sociales ahora mismo, las redes sociales impulsadas por la inteligencia artificial están diseñadas para captar la atención del usuario e invadir su privacidad, para abrumarla con contenido que no ha sido verificado ni examinado. De hecho, concluye Lanier, está diseñado para "convertir a la gente en idiotas".

Como señala el profesor de derecho de Brooklyn College y colaborador de Commonweal, Frank Pasquale, en su libro, The Black Box Society: The Secret Algorithms That Control Money and Information, la pérdida de la privacidad individual también es alarmante. Y mientras poderosas empresas, instituciones financieras y agencias gubernamentales ocultan sus acciones detrás de acuerdos de no divulgación, “métodos patentados” y reglas mordazas, las vidas de los consumidores comunes son libros cada vez más abiertos para ellos. "Todo lo que hacemos en línea se registra", escribe Pasquale:

Las únicas preguntas que quedan son para quién estarán disponibles los datos y durante cuánto tiempo. El software anonimizado puede protegernos por un tiempo, pero ¿quién sabe si tratar de esconderse no es en sí mismo la señal de alerta definitiva para las autoridades vigilantes? Las cámaras de vigilancia, los intermediarios de datos, las redes de sensores y las "supercookies" registran qué tan rápido conducimos, qué píldoras tomamos, qué libros leemos, qué sitios web visitamos. La ley, tan agresivamente protectora del secreto en el mundo del comercio, guarda cada vez más silencio cuando se trata de la privacidad de las personas.

Mientras tanto, como señala Lanier, estas grandes empresas de tecnología están públicamente comprometidas con una extravagante "carrera" de inteligencia artificial que a menudo priorizan por encima de todo. Lanier cree que esta carrera es una locura. “Olvidamos que la IA es una historia que los científicos informáticos inventamos para ayudarnos a conseguir financiación en un tiempo, cuando dependíamos de las subvenciones de las agencias gubernamentales. Fue un teatro pragmático. Pero ahora la IA se ha convertido en una ficción que ha superado a sus autores ".

Las plataformas de redes sociales impulsadas por la inteligencia artificial promueven el fraccionalismo y la división entre los usuarios, como se demostró claramente en las elecciones de 2016 y 2020.

En opinión de Marcus y Davis, todo el campo necesita reenfocar su energía en hacer que la IA responda mejor al sentido común. Y hacer esto requerirá un replanteamiento completo de cómo programamos las máquinas.

 

"La capacidad de concebir la propia intención y luego usarla como una pieza de evidencia en el razonamiento causal es un nivel de autoconciencia (si no de conciencia) que ninguna máquina que yo conozca ha logrado", escribe Judea Pearl, una destacada IA proponente que ha pasado toda su carrera investigando la inteligencia de las máquinas. “Me gustaría poder llevar a una máquina a la tentación y hacer que diga 'No'”. En opinión de Pearl, las computadoras actuales no constituyen realmente inteligencia artificial. Simplemente constituyen el nivel del suelo de lo que puede y probablemente conducirá a una verdadera inteligencia artificial.