Algoritmos y derechos fundamentales
Tensiones entre la inteligencia artificial y la dignidad, privacidad y no discriminación en el ordenamiento jurídico contemporáneo
DOI:
https://doi.org/10.46661/respublica.13622Palabras clave:
inteligencia artificial, derechos fundamentales, discriminación algorítmica, gobernanza de la IAResumen
El presente artículo analiza las tensiones que los sistemas de inteligencia artificial (IA) generan respecto de tres derechos fundamentales de especial proyección en el Estado de Derecho: la dignidad humana, la privacidad y el derecho a la no discriminación. A través de una metodología de análisis normativo y jurisprudencial comparado, se examina cómo la automatización de decisiones con efectos jurídicamente relevantes puede comprometer el núcleo esencial de estos derechos, aun cuando los sistemas actúen dentro de márgenes estadísticamente aceptables. El trabajo revisa el marco regulatorio vigente, con especial atención al Reglamento General de Protección de Datos, al Reglamento de Inteligencia Artificial de la Unión Europea (2024) y a los instrumentos internacionales de derechos humanos, para concluir que la tutela efectiva exige superar la lógica meramente tecnocrática y articular una gobernanza centrada en derechos, con mecanismos de rendición de cuentas, auditoría algorítmica y participación democrática en el diseño de los sistemas.
Descargas
Citas
BYGRAVE, Lee A. (2020). «Minding the Machine: Article 22 of the GDPR and its Mind the Gap Problem». European Data Protection Law Review, vol. 6, núm. 4, pp. 492-506.
COMITÉ EUROPEO DE PROTECCIÓN DE DATOS (2018). Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a efectos del Reglamento 2016/679. WP251 rev.01: CEPD.
COTINO HUESO, Lorenzo (2019). «Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho». Revista Catalana de Dret Públic, núm. 58, pp. 29-48.
DANAHER, John; HOGAN, Michael J.; NOONE, Colin; KENNEDY, Rónán; BEHAN, Anthony; DE PAOR, Aisling; FELZMANN, Heike; HAKLAY, Muki; KHOO, Su-Ming; MORISON, John; MURPHY, Maria Helen; SULLIVAN, Niall; VILIAMS, Olga y JOYCE, Joe (2017). «Algorithmic governance: Developing a research agenda through the power of collective intelligence». Big Data & Society, vol. 4, núm. 2, pp. 1-21. https://doi.org/10.1177/2053951717726554
DÍAZ LAFUENTE, José (2022). «El Reglamento Europeo de Inteligencia Artificial: análisis crítico desde la perspectiva de los derechos fundamentales». Revista de Derecho Político, núm. 114, pp. 13-48.
FROSIO, Giancarlo F. y MENDIS, Sunimal (2020). «Reconciling Human and Automated Authorship». Journal of Internet Law, vol. 23, núm. 9, pp. 3-14.
GANGI GUILLEN, Giuseppe. Kodjack. VII. (2025). United States’ strategic shift and International Humanitarian Law: Implications for the Russia-Ukraine war. Revista Científica General José María Córdova, 23(49), 299–315. https://doi.org/10.21830/19006586.1467
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2023). Dinámicas migratorias en la frontera colombo venezolana y su relación con la criminalidad transnacional. Revista Científica General José María Córdova, 21(44), 907-924. https://doi.org/10.21830/19006586.984
GANGI GUILLÉN, Giuseppe. Kodjack. VII. & Delgado Morán, Juan José. (2025). Derechos Humanos y Terrorismo. El terrorismo en Europa: la salvaguarda de la seguridad y la protección de las víctimas. Ed. Sindéresis. ISBN: 979-13-87929-25-1
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2026). Innovación en la enseñanza del Derecho Internacional Humanitario: simulaciones para asesores jurídicos operacionales. “Revolución en las aulas: cómo la innovación está reescribiendo la universidad”. Ed. Colex. https://doi.org/10.69592/979-13-7011-516-6-CAP-6
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2023). An exploration of socio-cultural and liguistic issues for a sustainable migration in the global north. Aranzadi
GANGI GUILLÉN, Giuseppe. Kodjack. (2025). Derechos humanos y derecho penal en la era de la inteligencia artificial: retos y propuestas. Cuadernos de RES PUBLICA en derecho y criminología, https://doi.org/10.46661/respublica.11635
MALGIERI, Giancarlo (2022). «Automated Decision-Making and the Right to Explanation under EU Data Protection Law: A Systematic Analysis». Computer Law & Security Review, vol. 43, pp. 1-19.
MIKIANS, Jakub; GYARMATI, László; ERRAMILLI, Vijay & LAOUTARIS, Nikolaos (2012). «Detecting Price and Search Discrimination on the Internet». Proceedings of the 11th ACM Workshop on Hot Topics in Networks. ACM Press, pp. 79-84. https://doi.org/10.1145/2390231.2390245
PARLAMENTO EUROPEO Y CONSEJO DE LA UNIÓN EUROPEA (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial., L 2024/1689, de 12 de julio de 2024.
PARLAMENTO EUROPEO Y CONSEJO DE LA UNIÓN EUROPEA (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (RGPD) L 119, de 4 de mayo de 2016, pp. 1-88.
SIMÓN CASTELLANO, Pere (2020). El régimen constitucional del derecho al olvido digital. Tirant lo Blanch.
TADDEO, Mariarosaria & FLORIDI, Luciano (eds.) (2018). The Responsibilities of Online Platforms. Philosophical, Legal and Empirical Perspectives. Oxford University Press.
TRIBUNAL EUROPEO DE DERECHOS HUMANOS (2008). Sentencia de 4 de diciembre de 2008, asunto S. y Marper c. Reino Unido, demandas nº 30562/04 y 30566/04.
TRIBUNAL DE JUSTICIA DE LA UNIÓN EUROPEA (2014). Sentencia de 13 de mayo de 2014, asunto C-131/12, Google Spain SL y Google Inc. c. Agencia Española de Protección de Datos (AEPD) y Mario Costeja González. ECLI:EU:C:2014:317.
WACHTER, Sandra; MITTELSTADT, Brent y FLORIDI, Luciano (2017). «Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation». International Data Privacy Law, vol. 7, núm. 2, pp. 76-99. https://doi.org/10.1093/idpl/ipx005
ZAVRŠNIK, Aleš (ed.) (2020). Criminal Justice, Transitional Justice and Reconciliation. Cheltenham: Edward Elgar Publishing.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 Karisma Etienne Karamañites Testa
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
