PROYECTO AUTAI
INTELIGENCIA ARTIFICIAL Y AUTONOMÍA HUMANA
HACIA UNA ÉTICA PARA LA PROTECCIÓN Y MEJORA DE LA AUTONOMÍA EN SISTEMAS RECOMENDADORES, ROBÓTICA Y REALIDAD VIRTUAL
PROYECTO DE INVESTIGACIÓN
2023 – 2026
Resumen
La aparición de la inteligencia artificial (IA) está dando lugar a debates muy prolíficos en materia de ética aplicada y despertando un gran interés social. Sin embargo, adolecen de ambigüedad conceptual y de una falta de desarrollo sistemático de las cuestiones involucradas. Por lo tanto, los estudios que contribuyen a estos debates son a menudo superficiales y se limitan a indicar que los sistemas de IA tendrán consecuencias deseables o indeseables, o a derivar conclusiones éticas del mero análisis de sistemas de IA particulares.
El proyecto de investigación AutAI pretende superar estas deficiencias mediante un estudio en profundidad de la autonomía, uno de los conceptos centrales de la ética en general, y de la ética de la IA en particular. Creemos que este estudio permitirá romper el impasse al que han conducido las diferentes teorías al respecto. Así, a partir de una concepción ecléctica de la autonomía que reúne las virtudes de diferentes teorías, intentaremos determinar distintos criterios para identificar los posibles riesgos y beneficios de la IA para la autonomía. Estos criterios se aplicarán al estudio de tres tecnologías de IA en particular: sistemas de recomendación, robots sociales y realidad virtual.
Como resultado de este trabajo preliminar, se intentará formular una propuesta de principios éticos que sirvan de base para un diseño y uso de tecnologías respetuosas y facilitadoras de la autonomía humana. Finalmente, se considerarán los aspectos técnicos, sociopolíticos y educativos de la implementación de la propuesta normativa alcanzada.
grupo
INVESTIGADORES PRINCIPALES
Francisco Lara
Blanca Rodríguez López
EQUIPO DE INVESTIGACIÓN
Alberto Fernández
Miguel Moreno
Catia Faria
Marcos Alonso
GRUPO DE TRABAJO
Julián Savulescu
Jorge Enrique Linares
Aníbal M. Astobiza
Juan Ignacio Del Valle
Robert Gamboa
Mark Coeckelbergh
Marcelo de Araujo
Pablo García Barranquero
Joan Llorca Albareda
Pedro Fior
Jan Deckers
Murilo Vilaça
Jon Rueda
Tyra Díez
Koji Tachibana
Paloma García
Gonzalo Díaz Cobacho
Pablo Neira
eventos y resultados
PUBLICACIONES
Llorca Albareda, J. (2024). Anthropological crisis or crisis in moral status: a philosophy of technology approach to the moral consideration of artificial intelligence. Philosophy and Technology.
Linares-Peralta, R. & Llorca-Albareda, J. (2024). Repensando la antropología digital: estructuralismo, mediación tecnológica e implicaciones epistémicas y morales. Enrahonar.
Moreno Muñoz, M. (2024). Gradualismo vs singularidad en la interpretación de riesgos asociados con la inteligencia artificial. Revista de la Sociedad de Lógica, Metodología y Filosofía de la Ciencia en España.
Llorca Albareda, J. (2023). El estatus moral de las entidades de inteligencia artificial. Disputatio.
Rodríguez, B. & Rueda, J. (2023). Artificial moral experts: asking for ethical advice to artificial intelligent assistants. AI & Ethics.
Neira Castro, P. (2024). De la biomejora moral a la IA para la mejora moral: asistentes morales artificiales en la era de los riesgos globales. Enrahonar.
Del Valle, J.I., Llorca Albareda, J. & Rueda, J. (2023). Ethics of Virtual Assistants. En Lara, F. & Deckers, J. (eds.) (2023). Ethics of Artificial Intelligence, Springer.
Del Valle, J.I. & Moreno, M. (2023). Ethics of Autonomous Weapon Systems. En Lara, F. & Deckers, J. (eds.) (2023). Ethics of Artificial Intelligence, Springer.
Llorca Albareda, J., Garcia P. & Lara, F. (2023). The Moral Status of AI Entities. En Lara, F. & Deckers, J. (eds.) (2023). Ethics of Artificial Intelligence, Springer.
Martínez-López, M.V., Díaz-Corbacho, G., Astoriza, A.M. & Rodríguez, B. (2023). Exploring the Ethics of Interacción with Care Robots. En Lara, F. & Deckers, J. (eds.) (2023). Ethics of Artificial Intelligence, Springer.
Lara, F. & Deckers, J. (eds.) (2023). Ethics of Artificial Intelligence, Springer.
Lara, F. & Rodríguez-López, B. (2023). Socratic nudges, virtual moral assistants and the problem of autonomy. AI & Society.
Del Valle, J.I. & Lara, F. (2023). AI-powered systems and the preservation of personal autonomy. AI & Society.
PARTICIPACIÓN EN EVENTOS
Papers presented at the II Ibero-American Seminar on Technological Ethics, held in Granada (Spain), May 22-24, 2024:
Miguel Moreno Muñoz: “Benchmarks to Evaluate High Levels of Autonomy in AI Systems”
Blanca Rodríguez: “Realidad virtual y autonomía”
Francisco Lara: “Autonomía personal y sistemas opacos de decisión algorítmica”
Paloma García Díaz: “Robots profesores y autonomía”
Marcos Alonso: “Máquinas, humanos y la «paradoja de la imitación»”
Pablo García-Barranquero y Joan Llorca Albareda: “Old by obsolescence: The paradox of aging in the digital era”
Joan Llorca Albareda: “Uncovering the gap: challenging the agential nature of AI responsibility problems”
Catia Faria: “Mapping Interspecies Autonomy in AI”
Juan Ignacio del Valle: “Beyond Responsible AI Principles: embedding ethics in the system’s lifecycle”
Isabella Pederneira y Murilo Vilaça: “Large Language Models/Generative AI: A Generative Linguistics Approach to Understanding Philosophical Issues”
Aníbal M. Astobiza, Ramón Ortega y Rafael Mestre: “IA y cognición moral: Investigando el desarrollo moral con Grandes Modelos Lingüísticos”
Mar Díaz-Millón y Gonzalo Díaz-Cobacho: “Inteligencia Artificial, Traducción y Ética: Una aproximación”
Marcelo de Araujo, José Luiz Nunes y Guilherme Almeida: “LLMany: On the use of LLM (Large Language Models) as substitutes for multi-voice groups”
Murilo Vilaça: “Regulation and governance of human enhancement technologies: a basic framework for a complex challenge”
Pablo Neira: “Por qué la mejora moral interna podría ser políticamente peor que la mejora moral externa”
Pedro Fior: “The Value of AI Output for Human Creative Cognition: 3 Case Studies”
Jon Rueda: “Autonomía reproductiva en la era de la inteligencia artificial”
Jorge Enrique Linares: “La inteligencia artificial y la razón de fuerza mayor»
ORGANIZACIÓN DE EVENTOS
II Iberoamerican Seminar on Technological Ethics, May 22-24, 2024, Granada (Spain)
proyectos anteriores
Contacto
Francisco Lara
Departamento de Filosofía I
Facultad de Psicología
Campus de Cartuja
Universidad de Granada
18071 Granada
España
Correo electrónico: flara@ugr.es
Proyecto AUTAI 2023-26
Diseñada por Alejandro Doncel