Algoritmos e direitos fundamentais
Tensões entre a inteligência artificial e a dignidade, a privacidade e a não discriminação nos sistemas jurídicos contemporâneos
DOI:
https://doi.org/10.46661/respublica.13622Palavras-chave:
inteligência artificial, direitos fundamentais, discriminação algorítmica, governação da IAResumo
Este artigo analisa as tensões que os sistemas de inteligência artificial (IA) geram no que diz respeito a três direitos fundamentais de particular relevância no Estado de Direito: a dignidade humana, a privacidade e o direito à não discriminação. Através de uma análise comparativa normativa e jurisprudencial, examina como a automatização de decisões juridicamente relevantes pode comprometer o cerne essencial destes direitos, mesmo quando os sistemas operam dentro de margens estatisticamente aceitáveis. O artigo analisa o atual quadro regulamentar, com especial atenção para o Regulamento Geral sobre a Proteção de Dados, a Lei da União Europeia sobre Inteligência Artificial (2024) e os instrumentos internacionais de direitos humanos, concluindo que uma proteção eficaz exige ir além de uma lógica puramente tecnocrática e articular uma governação centrada nos direitos, com mecanismos de responsabilização, auditoria algorítmica e participação democrática na conceção dos sistemas.
Downloads
Referências
BYGRAVE, Lee A. (2020). «Minding the Machine: Article 22 of the GDPR and its Mind the Gap Problem». European Data Protection Law Review, vol. 6, núm. 4, pp. 492-506.
COMITÉ EUROPEO DE PROTECCIÓN DE DATOS (2018). Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a efectos del Reglamento 2016/679. WP251 rev.01: CEPD.
COTINO HUESO, Lorenzo (2019). «Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho». Revista Catalana de Dret Públic, núm. 58, pp. 29-48.
DANAHER, John; HOGAN, Michael J.; NOONE, Colin; KENNEDY, Rónán; BEHAN, Anthony; DE PAOR, Aisling; FELZMANN, Heike; HAKLAY, Muki; KHOO, Su-Ming; MORISON, John; MURPHY, Maria Helen; SULLIVAN, Niall; VILIAMS, Olga y JOYCE, Joe (2017). «Algorithmic governance: Developing a research agenda through the power of collective intelligence». Big Data & Society, vol. 4, núm. 2, pp. 1-21. https://doi.org/10.1177/2053951717726554
DÍAZ LAFUENTE, José (2022). «El Reglamento Europeo de Inteligencia Artificial: análisis crítico desde la perspectiva de los derechos fundamentales». Revista de Derecho Político, núm. 114, pp. 13-48.
FROSIO, Giancarlo F. y MENDIS, Sunimal (2020). «Reconciling Human and Automated Authorship». Journal of Internet Law, vol. 23, núm. 9, pp. 3-14.
GANGI GUILLEN, Giuseppe. Kodjack. VII. (2025). United States’ strategic shift and International Humanitarian Law: Implications for the Russia-Ukraine war. Revista Científica General José María Córdova, 23(49), 299–315. https://doi.org/10.21830/19006586.1467
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2023). Dinámicas migratorias en la frontera colombo venezolana y su relación con la criminalidad transnacional. Revista Científica General José María Córdova, 21(44), 907-924. https://doi.org/10.21830/19006586.984
GANGI GUILLÉN, Giuseppe. Kodjack. VII. & Delgado Morán, Juan José. (2025). Derechos Humanos y Terrorismo. El terrorismo en Europa: la salvaguarda de la seguridad y la protección de las víctimas. Ed. Sindéresis. ISBN: 979-13-87929-25-1
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2026). Innovación en la enseñanza del Derecho Internacional Humanitario: simulaciones para asesores jurídicos operacionales. “Revolución en las aulas: cómo la innovación está reescribiendo la universidad”. Ed. Colex. https://doi.org/10.69592/979-13-7011-516-6-CAP-6
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2023). An exploration of socio-cultural and liguistic issues for a sustainable migration in the global north. Aranzadi
GANGI GUILLÉN, Giuseppe. Kodjack. (2025). Derechos humanos y derecho penal en la era de la inteligencia artificial: retos y propuestas. Cuadernos de RES PUBLICA en derecho y criminología, https://doi.org/10.46661/respublica.11635
MALGIERI, Giancarlo (2022). «Automated Decision-Making and the Right to Explanation under EU Data Protection Law: A Systematic Analysis». Computer Law & Security Review, vol. 43, pp. 1-19.
MIKIANS, Jakub; GYARMATI, László; ERRAMILLI, Vijay & LAOUTARIS, Nikolaos (2012). «Detecting Price and Search Discrimination on the Internet». Proceedings of the 11th ACM Workshop on Hot Topics in Networks. ACM Press, pp. 79-84. https://doi.org/10.1145/2390231.2390245
PARLAMENTO EUROPEO Y CONSEJO DE LA UNIÓN EUROPEA (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial., L 2024/1689, de 12 de julio de 2024.
PARLAMENTO EUROPEO Y CONSEJO DE LA UNIÓN EUROPEA (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (RGPD) L 119, de 4 de mayo de 2016, pp. 1-88.
SIMÓN CASTELLANO, Pere (2020). El régimen constitucional del derecho al olvido digital. Tirant lo Blanch.
TADDEO, Mariarosaria & FLORIDI, Luciano (eds.) (2018). The Responsibilities of Online Platforms. Philosophical, Legal and Empirical Perspectives. Oxford University Press.
TRIBUNAL EUROPEO DE DERECHOS HUMANOS (2008). Sentencia de 4 de diciembre de 2008, asunto S. y Marper c. Reino Unido, demandas nº 30562/04 y 30566/04.
TRIBUNAL DE JUSTICIA DE LA UNIÓN EUROPEA (2014). Sentencia de 13 de mayo de 2014, asunto C-131/12, Google Spain SL y Google Inc. c. Agencia Española de Protección de Datos (AEPD) y Mario Costeja González. ECLI:EU:C:2014:317.
WACHTER, Sandra; MITTELSTADT, Brent y FLORIDI, Luciano (2017). «Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation». International Data Privacy Law, vol. 7, núm. 2, pp. 76-99. https://doi.org/10.1093/idpl/ipx005
ZAVRŠNIK, Aleš (ed.) (2020). Criminal Justice, Transitional Justice and Reconciliation. Cheltenham: Edward Elgar Publishing.
Downloads
Publicado
Como Citar
Edição
Secção
Licença
Direitos de Autor (c) 2025 Karisma Etienne Karamañites Testa
Este trabalho encontra-se publicado com a Creative Commons Atribuição-NãoComercial 4.0.
