O sistema jurídico e a inteligência artificial

Implicações dos seus avanços e desafios numa sociedade orientada por algoritmos

Autores

DOI:

https://doi.org/10.46661/respublica.13703

Palavras-chave:

Inteligência artificial, Governação algorítmica, direitos humanos, justiça automatizada, tomada de decisões militares, Direito Internacional Humanitário

Resumo

A integração da inteligência artificial na governação pública deve ser avaliada neste quadro constitucional. Os sistemas que automatizam a tomada de decisões em áreas como a atribuição de prestações sociais, o controlo da migração ou a aplicação da lei afetam diretamente as condições em que as pessoas exercem os seus direitos e concretizam os seus projetos de vida. Este artigo analisa de que forma a utilização de sistemas de inteligência artificial em contextos militares afeta os mecanismos tradicionais de responsabilização jurídica, prestando especial atenção à fragmentação de responsabilidades decorrente da interação entre operadores humanos, instituições públicas e empresas tecnológicas.

Downloads

Não há dados estatísticos.

Biografias Autor

Paola Alexandra Sierra Zamora, Universidad Católica de Colombia. Bogotá (Colombia)

Postdoctora internacional en nuevas tecnologías y derecho por la Mediterránea International Centre for Human Rights Research. PhD Internacional (cum laude) y Magister en Derechos Humanos, Democracia y Justicia Internacional, Universitat de Valéncia, España. Abogada, Universidad Católica de Colombia. Investigadora Asociada y par evaluador categorizada por Minciencias. Autora y co-Aurora de varios productos que han sido resultados de investigación en los que se encuentran libros, artículos y capítulos de libro. Ponente nacional e internacional. Docente Ocasional del Doctorado en Estudios estratégicos, seguridad y defensa de la Escuela Superior de Guerra General Rafael Reyes Prieto. Docente Investigadora del Grupo de Investigación: “Persona, Instituciones y Exigencias de Justicia” de la Universidad Católica de Colombia. Editora de la Revista Novum Jus (Scopus) de la Universidad Católica de Colombia. Docente de la Universidad Colegio Mayor de Cundinamarca.

Giuseppe Gangi Guillen, Universidad Nebrija. Madrid. (España)

Doctor en Derecho por la Universidad de Castilla-La Mancha (UCLM). Profesor titular en la Facultad de Derecho y de Relaciones Internacionales de la Universidad Nebrija, especializado en seguridad y defensa. Dirige el Máster Universitario en Derecho Internacional Humanitario, Derechos Humanos y Derecho Operacional en la citada universidad. Su trabajo se centra en zonas grises, seguridad humana y el derecho aplicable a conflictos armados, siendo colaborador de instituciones como la Escuela de Guerra y Liderazgo del Ejército de Tierra de España y la Universidad para la Paz (UPEACE-ONU)

Referências

ALONSO SALGADO, Cristina (2021). Acerca de la inteligencia artificial en el ámbito penal: especial referencia a la actividad de las fuerzas y cuerpos de seguridad. IUS ET SCIENTIA. Vol. 7 Nº 1. pp. 25 - 36 https://dx.doi.org/10.12795/IETSCIENTIA.2021.i01.03

BALCELLS, Marc. (2020). Luces y sombras del uso de la inteligencia artificial en el sistema de Justicia penal. En A. Cerrillo I Martínez y M. Peguera Poch (Eds.). Retos jurídicos de la inteligencia artificial. Cizur Menor (Navarra): Aranzadi.

BRAYNE, Sarah. (2017). Big Data Surveillance: The Case of Policing. American Sociological Review, 82(5), 977-1008. https://doi.org/10.1177/0003122417725865

BUOLAMWINI, Joy., & GEBRU, Timnit. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Science Advances, 4(1), eaas8576. Proceedings of Machine Learning Research. 81:77-91 Available from https://proceedings.mlr.press/v81/buolamwini18a.html

CHESNEY, Robert., & CITRON, Danielle. (2019). Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs, 98(1), 147-155. Available at: https://scholarship.law.bu.edu/shorter_works/76

CHÉN, Oliver. (2022). Uniting Machine Intelligence, Brain and Behavioural Sciences to Assist Criminal Justice. arXiv preprint arXiv:2207.01511. https://doi.org/10.48550/arXiv.2207.01511

El Derecho. com (2024). Responsabilidad penal y la inteligencia artificial en España. Editorial Jurídica El Derecho.

El País. (2024). El caso de deepfakes en España reabre el debate sobre la regulación de la IA. Recuperado de https://www.elpais.com

European Commission. (2021). Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. COM/2021/206 final.

EL KADY, Ramy. (2025). "Challenges of Criminal Liability for Artificial Intelligence Systems." In Exploration of AI in Contemporary Legal Systems, edited by Halim Bajraktari, 1-42. Hershey, PA: IGI Global,. https://doi.org/10.4018/979-8-3693-7205-0.ch001

GUTHRIE FERGUSON, Andrew. (2017). The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. New York: NYU Press. https://doi.org/10.18574/nyu/9781479854608.001.0001

GARVIE, Clare., BEDOYA, Alvaro. & FRANKLE, Jonathan. (2016). The Perpetual Line-Up: Unregulated Police Face Recognition in America. Georgetown Law Center on Privacy & Technology. https://www.perpetuallineup.org/

XAVIER JANUÁRIO, Tulio. Felippe. (2023). Inteligencia artificial y responsabilidad penal de personas jurídicas: un análisis de sus aspectos materiales y procesales: Un análisis de sus aspectos materiales y procesales . Estudios Penales Y Criminológicos, 44(Ext.), 1-39. https://doi.org/10.15304/epc.44.8902

GRIGORE, Andrea. Elena. (2022). Derechos humanos e inteligencia artificial. IUS ET SCIENTIA, 8(1), 164–175. https://doi.org/10.12795/IETSCIENTIA.2022.i01.10

HERNÁNDEZ GIMÉNEZ, María. (2019). Inteligencia artificial y Derecho penal.. Actualidad Jurídica Iberoamericana, 10(bis), 792-843. https://revista-aji.com/wp-content/uploads/2019/06/792-843.pdf

HILDEBRANDT, Mirelle. (2022). Law for Computer Scientists and Other Folk. Oxford University Press. , https://doi.org/10.1093/oso/9780198860877.001.0001

CRAWFORD, Kate. (2022). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Perspectives on Science and Christian Faith. https://doi.org/10.56315/PSCF3-22Crawford

MANDALAPU, Varun., ELLURI, Lavanya., VYAS, Piyush., & ROY, Nirmalya. (2023). Crime Prediction Using Machine Learning and Deep Learning: A Systematic Review and Future. https://doi.org/10.48550/arXiv.2303.16310https://doi.org/10.1109/ACCESS.2023.3286344

MORÁN ESPINOSA, Alejandra. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? Revista del Instituto de Ciencias Jurídicas de Puebla, México. vol. 15, No. 48. https://doi.org/10.35487/rius.v15i48.2021.706

Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2021). Los riesgos de la inteligencia artificial para la privacidad exigen una acción urgente. Recuperado de https://goo.su/TegmwK

PAGALLO, Ugo (2013). The Laws of Robots: Crimes, Contracts, and Torts. Dordrecht: Imprint: Springer.

PASQUALE, Frank. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061

RICAURTE, Paola. (2024). Las grandes compañías tecnológicas son aliadas de gobiernos autoritarios. El País. Recuperado de https://elpais.com/america/lideresas-de-latinoamerica/2024-10-16/paola-ricaurte-las-grandes-companias-tecnologicas-son-aliadas-de-gobiernos-autoritarios.html

SCANTAMBURLO, Teresa, Andrew CHARLESWORTH, & Nello CRISTIANINI, (2019). Machine Decisions and Human Consequences, in Karen Yeung, and Martin Lodge (eds), Algorithmic Regulation. Oxford Academic. arXiv https://doi.org/10.48550/arXiv.1811.06747

THAMER NAJM, Abdullah Abbas., HAMEED, Raed., AKRAM KADHIM, Ali., & HASHIM QASIM, Namer. (2024). Artificial intelligence and criminal liability: exploring the legal implications of aIenabled crimes. ENCUENTROS. Revista de Ciencias Humanas, Teoría Social Y Pensamiento Crítico., 22 140-159. https://doi.org/10.5281/zenodo.13386675

UNIÓN EUROPEA. Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (Reglamento general de protección de datos). Diario Oficial de la Unión Europea, L 119, 4 mayo 2016.

UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea, 2024.

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2018) "Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR", Harvard Journal of Law and Technology. 31 (2) 841-887. https://doi.org/10.2139/ssrn.3063289

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2021). Why fairness cannot be automated: Bridging the gap between AI and human rights law. Computer Law & Security Review, 43(4), 34-55. https://doi.org/10.1016/j.clsr.2021.105567

Downloads

Publicado

2026-06-23

Como Citar

Sierra Zamora, Paola Alexandra, e Giuseppe Gangi Guillen. 2026. «O Sistema jurídico E a Inteligência Artificial: Implicações Dos Seus avanços E Desafios Numa Sociedade Orientada Por Algoritmos». RES PUBLICA Cadernos De Direito E Criminologia, n.º 8 (junho):1-16. https://doi.org/10.46661/respublica.13703.

Edição

N.º 8 (2026): Cuadernos de RES PUBLICA en derecho y criminología

Secção

Presentación del monográfico especial

Licença

Direitos de Autor (c) 2026 Paola Alexandra Sierra Zamora, Giuseppe Gangi Guillen

Creative Commons License

Este trabalho encontra-se publicado com a Creative Commons Atribuição-NãoComercial 4.0.