El sistema jurídico ante la inteligencia artificial

Implicaciones de sus avances y retos en una sociedad algoritmizada

Autores/as

DOI:

https://doi.org/10.46661/respublica.13703

Palabras clave:

Inteligencia artificial, Gobernanza algorítmica, derechos humanos, justicia automatizada, toma de decisiones militares, Derecho Internacional Humanitario

Resumen

La integración de la inteligencia artificial en la gobernanza pública debe evaluarse dentro de este marco constitucional. Los sistemas que automatizan la toma de decisiones en ámbitos como la asignación de prestaciones sociales, el control de la migración o la aplicación de la ley afectan directamente a las condiciones en las que las personas ejercen sus derechos y persiguen sus proyectos de vida. El presente trabajo analiza cómo la utilización de sistemas de inteligencia artificial en contextos militares afecta a los mecanismos tradicionales de imputación jurídica, prestando especial atención a la fragmentación de responsabilidades derivada de la interacción entre operadores humanos, instituciones públicas y empresas tecnológicas.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Paola Alexandra Sierra Zamora, Universidad Católica de Colombia. Bogotá (Colombia)

Postdoctora internacional en nuevas tecnologías y derecho por la Mediterránea International Centre for Human Rights Research. PhD Internacional (cum laude) y Magister en Derechos Humanos, Democracia y Justicia Internacional, Universitat de Valéncia, España. Abogada, Universidad Católica de Colombia. Investigadora Asociada y par evaluador categorizada por Minciencias. Autora y co-Aurora de varios productos que han sido resultados de investigación en los que se encuentran libros, artículos y capítulos de libro. Ponente nacional e internacional. Docente Ocasional del Doctorado en Estudios estratégicos, seguridad y defensa de la Escuela Superior de Guerra General Rafael Reyes Prieto. Docente Investigadora del Grupo de Investigación: “Persona, Instituciones y Exigencias de Justicia” de la Universidad Católica de Colombia. Editora de la Revista Novum Jus (Scopus) de la Universidad Católica de Colombia. Docente de la Universidad Colegio Mayor de Cundinamarca.

Giuseppe Gangi Guillen, Universidad Nebrija. Madrid. (España)

Doctor en Derecho por la Universidad de Castilla-La Mancha (UCLM). Profesor titular en la Facultad de Derecho y de Relaciones Internacionales de la Universidad Nebrija, especializado en seguridad y defensa. Dirige el Máster Universitario en Derecho Internacional Humanitario, Derechos Humanos y Derecho Operacional en la citada universidad. Su trabajo se centra en zonas grises, seguridad humana y el derecho aplicable a conflictos armados, siendo colaborador de instituciones como la Escuela de Guerra y Liderazgo del Ejército de Tierra de España y la Universidad para la Paz (UPEACE-ONU)

Citas

ALONSO SALGADO, Cristina (2021). Acerca de la inteligencia artificial en el ámbito penal: especial referencia a la actividad de las fuerzas y cuerpos de seguridad. IUS ET SCIENTIA. Vol. 7 Nº 1. pp. 25 - 36 https://dx.doi.org/10.12795/IETSCIENTIA.2021.i01.03

BALCELLS, Marc. (2020). Luces y sombras del uso de la inteligencia artificial en el sistema de Justicia penal. En A. Cerrillo I Martínez y M. Peguera Poch (Eds.). Retos jurídicos de la inteligencia artificial. Cizur Menor (Navarra): Aranzadi.

BRAYNE, Sarah. (2017). Big Data Surveillance: The Case of Policing. American Sociological Review, 82(5), 977-1008. https://doi.org/10.1177/0003122417725865

BUOLAMWINI, Joy., & GEBRU, Timnit. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Science Advances, 4(1), eaas8576. Proceedings of Machine Learning Research. 81:77-91 Available from https://proceedings.mlr.press/v81/buolamwini18a.html

CHESNEY, Robert., & CITRON, Danielle. (2019). Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs, 98(1), 147-155. Available at: https://scholarship.law.bu.edu/shorter_works/76

CHÉN, Oliver. (2022). Uniting Machine Intelligence, Brain and Behavioural Sciences to Assist Criminal Justice. arXiv preprint arXiv:2207.01511. https://doi.org/10.48550/arXiv.2207.01511

El Derecho. com (2024). Responsabilidad penal y la inteligencia artificial en España. Editorial Jurídica El Derecho.

El País. (2024). El caso de deepfakes en España reabre el debate sobre la regulación de la IA. Recuperado de https://www.elpais.com

European Commission. (2021). Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. COM/2021/206 final.

EL KADY, Ramy. (2025). "Challenges of Criminal Liability for Artificial Intelligence Systems." In Exploration of AI in Contemporary Legal Systems, edited by Halim Bajraktari, 1-42. Hershey, PA: IGI Global,. https://doi.org/10.4018/979-8-3693-7205-0.ch001

GUTHRIE FERGUSON, Andrew. (2017). The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. New York: NYU Press. https://doi.org/10.18574/nyu/9781479854608.001.0001

GARVIE, Clare., BEDOYA, Alvaro. & FRANKLE, Jonathan. (2016). The Perpetual Line-Up: Unregulated Police Face Recognition in America. Georgetown Law Center on Privacy & Technology. https://www.perpetuallineup.org/

XAVIER JANUÁRIO, Tulio. Felippe. (2023). Inteligencia artificial y responsabilidad penal de personas jurídicas: un análisis de sus aspectos materiales y procesales: Un análisis de sus aspectos materiales y procesales . Estudios Penales Y Criminológicos, 44(Ext.), 1-39. https://doi.org/10.15304/epc.44.8902

GRIGORE, Andrea. Elena. (2022). Derechos humanos e inteligencia artificial. IUS ET SCIENTIA, 8(1), 164–175. https://doi.org/10.12795/IETSCIENTIA.2022.i01.10

HERNÁNDEZ GIMÉNEZ, María. (2019). Inteligencia artificial y Derecho penal.. Actualidad Jurídica Iberoamericana, 10(bis), 792-843. https://revista-aji.com/wp-content/uploads/2019/06/792-843.pdf

HILDEBRANDT, Mirelle. (2022). Law for Computer Scientists and Other Folk. Oxford University Press. , https://doi.org/10.1093/oso/9780198860877.001.0001

CRAWFORD, Kate. (2022). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Perspectives on Science and Christian Faith. https://doi.org/10.56315/PSCF3-22Crawford

MANDALAPU, Varun., ELLURI, Lavanya., VYAS, Piyush., & ROY, Nirmalya. (2023). Crime Prediction Using Machine Learning and Deep Learning: A Systematic Review and Future. https://doi.org/10.48550/arXiv.2303.16310https://doi.org/10.1109/ACCESS.2023.3286344

MORÁN ESPINOSA, Alejandra. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? Revista del Instituto de Ciencias Jurídicas de Puebla, México. vol. 15, No. 48. https://doi.org/10.35487/rius.v15i48.2021.706

Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2021). Los riesgos de la inteligencia artificial para la privacidad exigen una acción urgente. Recuperado de https://goo.su/TegmwK

PAGALLO, Ugo (2013). The Laws of Robots: Crimes, Contracts, and Torts. Dordrecht: Imprint: Springer.

PASQUALE, Frank. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061

RICAURTE, Paola. (2024). Las grandes compañías tecnológicas son aliadas de gobiernos autoritarios. El País. Recuperado de https://elpais.com/america/lideresas-de-latinoamerica/2024-10-16/paola-ricaurte-las-grandes-companias-tecnologicas-son-aliadas-de-gobiernos-autoritarios.html

SCANTAMBURLO, Teresa, Andrew CHARLESWORTH, & Nello CRISTIANINI, (2019). Machine Decisions and Human Consequences, in Karen Yeung, and Martin Lodge (eds), Algorithmic Regulation. Oxford Academic. arXiv https://doi.org/10.48550/arXiv.1811.06747

THAMER NAJM, Abdullah Abbas., HAMEED, Raed., AKRAM KADHIM, Ali., & HASHIM QASIM, Namer. (2024). Artificial intelligence and criminal liability: exploring the legal implications of aIenabled crimes. ENCUENTROS. Revista de Ciencias Humanas, Teoría Social Y Pensamiento Crítico., 22 140-159. https://doi.org/10.5281/zenodo.13386675

UNIÓN EUROPEA. Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (Reglamento general de protección de datos). Diario Oficial de la Unión Europea, L 119, 4 mayo 2016.

UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea, 2024.

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2018) "Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR", Harvard Journal of Law and Technology. 31 (2) 841-887. https://doi.org/10.2139/ssrn.3063289

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2021). Why fairness cannot be automated: Bridging the gap between AI and human rights law. Computer Law & Security Review, 43(4), 34-55. https://doi.org/10.1016/j.clsr.2021.105567

Descargas

Publicado

2026-06-23

Cómo citar

Sierra Zamora, Paola Alexandra, y Giuseppe Gangi Guillen. 2026. «El Sistema jurídico Ante La Inteligencia Artificial: Implicaciones De Sus Avances Y Retos En Una Sociedad Algoritmizada». Cuadernos De RES PUBLICA En Derecho Y criminología, n.º 8 (junio):1-16. https://doi.org/10.46661/respublica.13703.

Número

Núm. 8 (2026): Cuadernos de RES PUBLICA en derecho y criminología

Sección

Presentación del monográfico especial

Licencia

Derechos de autor 2026 Paola Alexandra Sierra Zamora, Giuseppe Gangi Guillen

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.