Derechos humanos y derecho penal en la era de la inteligencia artificial: Retos y propuestas

Giuseppe Kodjack Gangi-Guillén

doi:10.46661/respublica.11635

Autores/as

Giuseppe Kodjack Gangi-Guillén Universidad Nebrija, España https://orcid.org/0000-0001-5627-3874

DOI:

https://doi.org/10.46661/respublica.11635

Palabras clave:

Inteligencia artificial, derecho penal, derechos humanos, regulación ética, justicia automatizada

Resumen

El desarrollo de la inteligencia artificial (IA) ha transformado el derecho penal y la administración de justicia. Desde la predicción del crimen hasta la toma de decisiones judiciales automatizadas, la IA ofrece oportunidades para mejorar la eficiencia del sistema judicial. Sin embargo, su implementación plantea serios desafíos en términos de transparencia, sesgos algorítmicos y vulneración de derechos fundamentales. Este artículo analiza los impactos de la IA en el derecho penal y los derechos humanos, destacando la necesidad de un marco regulador ético y garantista que equilibre innovación y justicia. Se propone un modelo de supervisión y auditoría de algoritmos, así como el uso de IA como herramienta de apoyo y no como único criterio en la toma de decisiones judiciales

Descargas

Los datos de descargas todavía no están disponibles.

Citas

ALONSO SALGADO, Cristina (2021). Acerca de la inteligencia artificial en el ámbito penal: especial referencia a la actividad de las fuerzas y cuerpos de seguridad. IUS ET SCIENTIA. Vol. 7 Nº 1. pp. 25 - 36 https://dx.doi.org/10.12795/IETSCIENTIA.2021.i01.03 DOI: https://doi.org/10.12795/IETSCIENTIA.2021.i01.03

BALCELLS, Marc. (2020). Luces y sombras del uso de la inteligencia artificial en el sistema de Justicia penal. En A. Cerrillo I Martínez y M. Peguera Poch (Eds.). Retos jurídicos de la inteligencia artificial. Cizur Menor (Navarra): Aranzadi.

BRAYNE, Sarah. (2017). Big Data Surveillance: The Case of Policing. American Sociological Review, 82(5), 977-1008. https://doi.org/10.1177/0003122417725865 DOI: https://doi.org/10.1177/0003122417725865

BUOLAMWINI, Joy., & GEBRU, Timnit. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Science Advances, 4(1), eaas8576. Proceedings of Machine Learning Research. 81:77-91 Available from https://proceedings.mlr.press/v81/buolamwini18a.html

CHESNEY, Robert., & CITRON, Danielle. (2019). Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs, 98(1), 147-155. Available at: https://scholarship.law.bu.edu/shorter_works/76

CHÉN, Oliver. (2022). Uniting Machine Intelligence, Brain and Behavioural Sciences to Assist Criminal Justice. arXiv preprint arXiv:2207.01511. https://doi.org/10.48550/arXiv.2207.01511

DELGADO MORAN, Juan. José, MAZURIER, Pablo. Andrés. & PAYA SANTOS, Claudio. Augusto. (2019). The race to securitize the arctic in a post-cold War scenario. Revista de Pensamiento Estratégico y Seguridad CISDE, 4(1), 59-64. http://hdl.handle.net/10272/17180

El Derecho. com (2024). Responsabilidad penal y la inteligencia artificial en España. Editorial Jurídica El Derecho.

El País. (2024). El caso de deepfakes en España reabre el debate sobre la regulación de la IA. Recuperado de https://www.elpais.com

El País. (2024). Una demanda de un niño con autismo abre el debate para regular el uso de la IA en la justicia colombiana. Recuperado de https://elpais.com/america-colombia/2024-08-25/una-demanda-de-un-nino-con-autismo-abre-el-debate-para-regular-el-uso-de-la-ia-en-la-justicia-colombiana.html

European Commission. (2021). Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. COM/2021/206 final.

EL KADY, Ramy. (2025). "Challenges of Criminal Liability for Artificial Intelligence Systems." In Exploration of AI in Contemporary Legal Systems, edited by Halim Bajraktari, 1-42. Hershey, PA: IGI Global,. https://doi.org/10.4018/979-8-3693-7205-0.ch001 DOI: https://doi.org/10.4018/979-8-3693-7205-0.ch001

GUTHRIE FERGUSON, Andrew. (2017). The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. New York: NYU Press. https://doi.org/10.18574/nyu/9781479854608.001.0001 DOI: https://doi.org/10.18574/nyu/9781479854608.001.0001

GANGI GUILLEN, Giuseppe. Kodjack. (2023). Dinámicas migratorias en la frontera colombo-venezolana y su relación con la criminalidad transnacional. Revista Científica General José María Córdova, 21(44), 907–924. https://doi.org/10.21830/19006586.984 DOI: https://doi.org/10.21830/19006586.984

GARVIE, Clare., BEDOYA, Alvaro. & FRANKLE, Jonathan. (2016). The Perpetual Line-Up: Unregulated Police Face Recognition in America. Georgetown Law Center on Privacy & Technology. https://www.perpetuallineup.org/

GÓMEZ ROMERO, Miriam Judit. (2023). El Metaverso como forma de trabajo. Riesgos, y oportunidades: una mirada al derecho internacional. Cuadernos de RES PUBLICA en derecho y criminología, n.º 2 (junio):112-21. https://doi.org/10.46661/respublica.8223 DOI: https://doi.org/10.46661/respublica.8223

GONZÁLEZ TRIGO, Norberto Aser. (2023). El agente encubierto ante la criminalidad organizada transnacional. Cuadernos de RES PUBLICA en derecho y criminología, n.º 1 (mayo): 85-94. https://doi.org/10.46661/respublica.8062 DOI: https://doi.org/10.46661/respublica.8062

GRIGORE, Andrea. Elena. (2022). Derechos humanos e inteligencia artificial. IUS ET SCIENTIA, 8(1), 164–175. https://doi.org/10.12795/IETSCIENTIA.2022.i01.10 DOI: https://doi.org/10.12795/IESTSCIENTIA.2022.i01.10

HERNÁNDEZ GIMÉNEZ, María. (2019). Inteligencia artificial y Derecho penal.. Actualidad Jurídica Iberoamericana, 10(bis), 792-843. https://revista-aji.com/wp-content/uploads/2019/06/792-843.pdf

HILDEBRANDT, Mirelle. (2022). Law for Computer Scientists and Other Folk. Oxford University Press. , https://doi.org/10.1093/oso/9780198860877.001.0001 DOI: https://doi.org/10.1093/oso/9780198860877.001.0001

LIZ RIVAS, Lenny. (2024).Violencia y agresión entre iguales a través de las TICS: Cyberbulling. AlmaMater. Cuadernos de Psicosociobiología de la Violencia: Educación y Prevención, nº 5, 2024, Dykinson, pp. 89-105. https://doi.org/10.14679/3314 DOI: https://doi.org/10.14679/3314

LIZ RIVAS, Lenny. (2018). Algunas bases neurológicas sobre la violencia y la agresión, en ;“Conflictos y diplomacia, desarrollo y paz, globalización y medio ambiente “. Thomson Reuters/Aranzadi, pp. 943-955. https://doi.org/10.5281/zenodo.14559664

LUQUE JUÁREZ, José. María., SANZ GONZÁLEZ, Roger., PAYÁ SANTOS, Claudio. Augusto & RODRÍGUEZ GONZÁLEZ, Víctor. (2024). Aplicaciones de la inteligencia artificial en la criminología y ciencias policiales. https://doi.org/10.13140/RG.2.2.11118.63041.

MANDALAPU, Varun., ELLURI, Lavanya., VYAS, Piyush., & ROY, Nirmalya. (2023). Crime Prediction Using Machine Learning and Deep Learning: A Systematic Review and Future. https://doi.org/10.48550/arXiv.2303.16310https://doi.org/10.1109/ACCESS.2023.3286344 DOI: https://doi.org/10.1109/ACCESS.2023.3286344

MARTINO, Luigi. (2024). Cybersecurity in Italy. Governance, Policies and Ecosystem. Springer Nature. https://doi.org/10.1007/978-3-031-64396-5 DOI: https://doi.org/10.1007/978-3-031-64396-5

MARTINO, Luigi. (2024). International Law, State Sovereignty and Competition in the Digital Age. Rivista di filosofia del diritto internazionale e della politica globale, Vol. 21, Nº. 2, 2024. https://dialnet.unirioja.es/descarga/articulo/10098952.pdf

MARTINO, Luigi. & MERENDA, Federica. (2021). Artificial intelligence: A paradigm shift in international law and politics? Autonomous weapon systems as a case study. in: Giampiero Giacomello & Francesco N. Moro & Marco Valigi (ed.), Technology and International Relations, chapter 5, pages 89-107, Edward Elgar Publishing. https://doi.org/10.4337/9781788976077.00012 DOI: https://doi.org/10.4337/9781788976077.00012

MAZURIER, Pablo, Andrés., DELGADO MORÁN, Juan, José & PAYA SANTOS, Claudio, Augusto. (2019). Gobernanza constructivista de la internet. Teoría y Praxis, 17(34), 107-130. https://doi.org/10.5377/typ.v1i34.14823 DOI: https://doi.org/10.5377/typ.v1i34.14823

MIRÓ LLINARES, Fernando. (2018). Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots. Revista de Derecho Penal y Criminología, (20), 87–130. https://doi.org/10.5944/rdpc.20.2018.26446 DOI: https://doi.org/10.5944/rdpc.20.2018.26446

MORÁN ESPINOSA, Alejandra. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? Revista del Instituto de Ciencias Jurídicas de Puebla, México. vol. 15, No. 48. https://doi.org/10.35487/rius.v15i48.2021.706 DOI: https://doi.org/10.35487/rius.v15i48.2021.706

Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2021). Los riesgos de la inteligencia artificial para la privacidad exigen una acción urgente. Recuperado de https://goo.su/TegmwK

PAGALLO, Ugo (2013). The Laws of Robots: Crimes, Contracts, and Torts. Dordrecht: Imprint: Springer. https://doi.org/10.1007/978-94-007-6564-1 DOI: https://doi.org/10.1007/978-94-007-6564-1

PASQUALE, Frank. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061 DOI: https://doi.org/10.4159/harvard.9780674736061

PAYÁ SANTOS, Claudio. Augusto. (2023). El desempeño de la inteligencia en España en el ámbito público, empresarial y académico. Revista Científica General José María Córdova, 21(44), 1029–1047. https://doi.org/10.21830/19006586.1222 DOI: https://doi.org/10.21830/19006586.1222

PAYÁ SANTOS, Claudio. Augusto; DELGADO MORÁN, Juan. José;. MARTINO, Luigi; GARCÍA SEGURA, Luis, A.; DIZ CASAL, Javier, & FERNÁNDEZ-RODRÍGUEZ, Juan, Carlos. (2023). Fuzzy Logic analysis for managing Uncertain Situations. Review of Contemporary Philosophy Vol 22 (1), 2023 pp. 6780 -6797. https://doi.org/10.52783/rcp.1132 DOI: https://doi.org/10.52783/rcp.1132

PAYÁ SANTOS, Claudio. Augusto; RODRÍGUEZ GONZÁLEZ, Víctor; DOMÍNGUEZ PINEDA Neidy Zenaida; DIZ CASAL, Javier; FERNÁNDEZ RODRÍGUEZ, Juan Carlos & DELGADO MORÁN, Juan José (2025). Role of the Human Factor in the Cybersecurity Ecosystem. Journal of Information Systems Engineering and Management,10(4). https://doi.org/10.52783/jisem.v10i4.8983 DOI: https://doi.org/10.52783/jisem.v10i4.8983

RICAURTE, Paola. (2024). Las grandes compañías tecnológicas son aliadas de gobiernos autoritarios. El País. Recuperado de https://elpais.com/america/lideresas-de-latinoamerica/2024-10-16/paola-ricaurte-las-grandes-companias-tecnologicas-son-aliadas-de-gobiernos-autoritarios.html

RODRÍGUEZ GONZÁLEZ, Víctor., PAYÁ, SANTOS, Claudio, Augusto., & PEÑA HERRERA, Bernardo. (2023). Estudio criminológico del ciberdelincuente y sus víctimas. Cuadernos de RES PUBLICA en Derecho y criminología, (1) 95-107. https://doi.org/10.46661/respublica.8072. DOI: https://doi.org/10.46661/respublica.8072

SANZ GONZÁLEZ, Roger, LUQUE JUÁREZ, José María, MARTINO, Luigi, LIZ RIVAS, Lenny, DELGADO MORÁN, Juan José, & PAYÁ SANTOS, Claudio Augusto. (2024) Artificial Intelligence Applications for Criminology and Police Sciences. International Journal of Humanities and Social Science. Vol. 14, No. 2, pp. 139-148. https://doi.org/10.15640/jehd.v14n2a14

SCANTAMBURLO, Teresa, Andrew CHARLESWORTH, & Nello CRISTIANINI, (2019). Machine Decisions and Human Consequences, in Karen Yeung, and Martin Lodge (eds), Algorithmic Regulation. Oxford Academic. https://doi.org/10.48550/arXiv.1811.06747 DOI: https://doi.org/10.1093/oso/9780198838494.003.0003

THAMER NAJM, Abdullah Abbas., HAMEED, Raed., AKRAM KADHIM, Ali., & HASHIM QASIM, Namer. (2024). Artificial intelligence and criminal liability: exploring the legal implications of aIenabled crimes. ENCUENTROS. Revista de Ciencias Humanas, Teoría Social Y Pensamiento Crítico., 22 140-159. https://doi.org/10.5281/zenodo.13386675

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2018) "Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR", Harvard Journal of Law and Technology. 31 (2) 841-887. https://doi.org/10.2139/ssrn.3063289 DOI: https://doi.org/10.2139/ssrn.3063289

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2021). Why fairness cannot be automated: Bridging the gap between AI and human rights law. Computer Law & Security Review, 43(4), 34-55. https://doi.org/10.1016/j.clsr.2021.105567 DOI: https://doi.org/10.1016/j.clsr.2021.105567

XAVIER JANUÁRIO, Tulio. Felippe. (2023). Inteligencia artificial y responsabilidad penal de personas jurídicas: un análisis de sus aspectos materiales y procesales: Un análisis de sus aspectos materiales y procesales . Estudios Penales Y Criminológicos, 44(Ext.), 1-39. https://doi.org/10.15304/epc.44.8902 DOI: https://doi.org/10.15304/epc.44.8902