Olvídese de la experiencia del usuario. La IA debe centrarse en la "experiencia ciudadana"

 Los gigantes tecnológicos y sus plataformas y soluciones digitales impulsadas por inteligencia artificial pueden afectar el destino de los líderes mundiales, los estados nacionales, las corporaciones multinacionales, el mercado de valores global y las personas por igual.

Los creadores de las principales plataformas digitales, así como los diseñadores y desarrolladores de sistemas de IA ubicuos, tratan a las personas como meros usuarios, clientes o puntos de datos, a menudo ignorando por completo el papel y los derechos del individuo como ciudadano.

Como resultado, los usuarios y clientes individuales se eliminan del contexto social con terribles consecuencias. El individuo puede convertirse inconscientemente en un usuario que difunde información errónea. Un cliente mal informado puede convertirse en un insurgente violento. O puede ser tratada injustamente por un sistema de inteligencia artificial sesgado mientras solicita un trabajo o actualiza su póliza de seguro.

¿Por qué el diseño de experiencias ciudadanas?

Ahora, a medida que el impacto social de las soluciones de IA se está volviendo obvio, sus efectos, así como sus principios de diseño y desarrollo, deben considerarse desde el punto de vista de los ciudadanos y la sociedad.

Ya en la actualidad, estamos viendo un trabajo increíble realizado para descubrir los efectos de los sistemas de IA sesgados y su impacto en varios campos, desde la atención médica hasta la investigación científica y desde la justicia penal hasta los servicios financieros. Al mismo tiempo, hemos sido testigos de desarrollos positivos en torno a los derechos y prácticas de los datos.

Pero la regulación de las empresas de tecnología, como GDPR o iniciativas de gobernanza de datos, no es suficiente. De manera similar, el campo emergente de la auditoría algorítmica aún no tiene los medios suficientes para afectar directamente el desarrollo de la IA y sus prácticas. Las juntas de ética de la IA actuales tampoco están cambiando el curso del desarrollo de la IA a una escala mayor con la suficiente rapidez.

El impacto más efectivo y sostenible en el campo de la IA solo se logrará si se garantiza que el diseño y el desarrollo de soluciones de IA se guíen concretamente por valores y principios centrados en los ciudadanos.

Anteriormente, se consideraba que la “experiencia ciudadana” pertenecía únicamente al ámbito del servicio público. Pero no más. Hoy en día, necesitamos un enfoque reflexivo centrado en el ciudadano que pertenezca a la caja de herramientas general de todo diseñador y desarrollador de IA.

Concretamente, necesitamos empresas de inteligencia artificial, científicos de datos y diseñadores que piensen y actúen como ciudadanos. Necesitamos expertos en experiencia ciudadana que lleven la comprensión social al núcleo del pensamiento, el diseño y el desarrollo de productos.

Cómo empezar a pensar en el diseño de experiencias ciudadanas para la IA

Entonces, ¿cómo podemos crear una base para la práctica sostenible del diseño de experiencias ciudadanas que realmente tenga como objetivo crear soluciones de inteligencia artificial que tengan en cuenta al individuo como ciudadano, que pertenece a un tejido más amplio de la sociedad?

https://venturebeat.com/2021/01/31/forget-user-experience-ai-must-focus-on-citizen-experience/