INTELIGENCIA ARTIFICIAL Y AUTONOMÍA HUMANA

La aparición de la inteligencia artificial (IA) está dando lugar a debates muy prolíficos en materia de ética aplicada y despertando un gran interés social. Sin embargo, adolecen de ambigüedad conceptual y de una falta de desarrollo sistemático de las cuestiones involucradas. Por lo tanto, los estudios que contribuyen a estos debates son a menudo superficiales y se limitan a indicar que los sistemas de IA tendrán consecuencias deseables o indeseables, o a derivar conclusiones éticas del mero análisis de sistemas de IA particulares.

El proyecto de investigación AutAI pretende superar estas deficiencias mediante un estudio en profundidad de la autonomía, uno de los conceptos centrales de la ética en general, y de la ética de la IA en particular. Creemos que este estudio permitirá romper el impasse al que han conducido las diferentes teorías al respecto. Así, a partir de una concepción ecléctica de la autonomía que reúne las virtudes de diferentes teorías, intentaremos determinar distintos criterios para identificar los posibles riesgos y beneficios de la IA para la autonomía. Estos criterios se aplicarán al estudio de tres tecnologías de IA en particular: sistemas de recomendación, robots sociales y realidad virtual.

Como resultado de este trabajo preliminar, se intentará formular una propuesta de principios éticos que sirvan de base para un diseño y uso de tecnologías respetuosas y facilitadoras de la autonomía humana. Finalmente, se considerarán los aspectos técnicos, sociopolíticos y educativos de la implementación de la propuesta normativa alcanzada.