Il Il sistema giuridico e l'intelligenza artificiale
Implicazioni dei progressi in questo campo e sfide in una società guidata dagli algoritmi
DOI:
https://doi.org/10.46661/respublica.13703Parole chiave:
Intelligenza artificiale, governance algoritmica, diritti umani, giustizia automatizzata, processo decisionale militare, diritto internazionale umanitarioAbstract
L’integrazione dell’intelligenza artificiale nella governance pubblica deve essere valutata all’interno di questo quadro costituzionale. I sistemi che automatizzano i processi decisionali in ambiti quali l’assegnazione delle prestazioni sociali, il controllo dell’immigrazione o l’applicazione della legge incidono direttamente sulle condizioni in cui le persone esercitano i propri diritti e perseguono i propri progetti di vita. Il presente documento analizza in che modo l’uso dei sistemi di intelligenza artificiale in contesti militari influisca sui meccanismi tradizionali di responsabilità giuridica, prestando particolare attenzione alla frammentazione delle responsabilità derivante dall’interazione tra operatori umani, istituzioni pubbliche e aziende tecnologiche.
Downloads
Riferimenti bibliografici
ALONSO SALGADO, Cristina (2021). Acerca de la inteligencia artificial en el ámbito penal: especial referencia a la actividad de las fuerzas y cuerpos de seguridad. IUS ET SCIENTIA. Vol. 7 Nº 1. pp. 25 - 36 https://dx.doi.org/10.12795/IETSCIENTIA.2021.i01.03
BALCELLS, Marc. (2020). Luces y sombras del uso de la inteligencia artificial en el sistema de Justicia penal. En A. Cerrillo I Martínez y M. Peguera Poch (Eds.). Retos jurídicos de la inteligencia artificial. Cizur Menor (Navarra): Aranzadi.
BRAYNE, Sarah. (2017). Big Data Surveillance: The Case of Policing. American Sociological Review, 82(5), 977-1008. https://doi.org/10.1177/0003122417725865
BUOLAMWINI, Joy., & GEBRU, Timnit. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Science Advances, 4(1), eaas8576. Proceedings of Machine Learning Research. 81:77-91 Available from https://proceedings.mlr.press/v81/buolamwini18a.html
CHESNEY, Robert., & CITRON, Danielle. (2019). Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs, 98(1), 147-155. Available at: https://scholarship.law.bu.edu/shorter_works/76
CHÉN, Oliver. (2022). Uniting Machine Intelligence, Brain and Behavioural Sciences to Assist Criminal Justice. arXiv preprint arXiv:2207.01511. https://doi.org/10.48550/arXiv.2207.01511
El Derecho. com (2024). Responsabilidad penal y la inteligencia artificial en España. Editorial Jurídica El Derecho.
El País. (2024). El caso de deepfakes en España reabre el debate sobre la regulación de la IA. Recuperado de https://www.elpais.com
European Commission. (2021). Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. COM/2021/206 final.
EL KADY, Ramy. (2025). "Challenges of Criminal Liability for Artificial Intelligence Systems." In Exploration of AI in Contemporary Legal Systems, edited by Halim Bajraktari, 1-42. Hershey, PA: IGI Global,. https://doi.org/10.4018/979-8-3693-7205-0.ch001
GUTHRIE FERGUSON, Andrew. (2017). The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. New York: NYU Press. https://doi.org/10.18574/nyu/9781479854608.001.0001
GARVIE, Clare., BEDOYA, Alvaro. & FRANKLE, Jonathan. (2016). The Perpetual Line-Up: Unregulated Police Face Recognition in America. Georgetown Law Center on Privacy & Technology. https://www.perpetuallineup.org/
XAVIER JANUÁRIO, Tulio. Felippe. (2023). Inteligencia artificial y responsabilidad penal de personas jurídicas: un análisis de sus aspectos materiales y procesales: Un análisis de sus aspectos materiales y procesales . Estudios Penales Y Criminológicos, 44(Ext.), 1-39. https://doi.org/10.15304/epc.44.8902
GRIGORE, Andrea. Elena. (2022). Derechos humanos e inteligencia artificial. IUS ET SCIENTIA, 8(1), 164–175. https://doi.org/10.12795/IETSCIENTIA.2022.i01.10
HERNÁNDEZ GIMÉNEZ, María. (2019). Inteligencia artificial y Derecho penal.. Actualidad Jurídica Iberoamericana, 10(bis), 792-843. https://revista-aji.com/wp-content/uploads/2019/06/792-843.pdf
HILDEBRANDT, Mirelle. (2022). Law for Computer Scientists and Other Folk. Oxford University Press. , https://doi.org/10.1093/oso/9780198860877.001.0001
CRAWFORD, Kate. (2022). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Perspectives on Science and Christian Faith. https://doi.org/10.56315/PSCF3-22Crawford
MANDALAPU, Varun., ELLURI, Lavanya., VYAS, Piyush., & ROY, Nirmalya. (2023). Crime Prediction Using Machine Learning and Deep Learning: A Systematic Review and Future. https://doi.org/10.48550/arXiv.2303.16310https://doi.org/10.1109/ACCESS.2023.3286344
MORÁN ESPINOSA, Alejandra. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? Revista del Instituto de Ciencias Jurídicas de Puebla, México. vol. 15, No. 48. https://doi.org/10.35487/rius.v15i48.2021.706
Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2021). Los riesgos de la inteligencia artificial para la privacidad exigen una acción urgente. Recuperado de https://goo.su/TegmwK
PAGALLO, Ugo (2013). The Laws of Robots: Crimes, Contracts, and Torts. Dordrecht: Imprint: Springer.
PASQUALE, Frank. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061
RICAURTE, Paola. (2024). Las grandes compañías tecnológicas son aliadas de gobiernos autoritarios. El País. Recuperado de https://elpais.com/america/lideresas-de-latinoamerica/2024-10-16/paola-ricaurte-las-grandes-companias-tecnologicas-son-aliadas-de-gobiernos-autoritarios.html
SCANTAMBURLO, Teresa, Andrew CHARLESWORTH, & Nello CRISTIANINI, (2019). Machine Decisions and Human Consequences, in Karen Yeung, and Martin Lodge (eds), Algorithmic Regulation. Oxford Academic. arXiv https://doi.org/10.48550/arXiv.1811.06747
THAMER NAJM, Abdullah Abbas., HAMEED, Raed., AKRAM KADHIM, Ali., & HASHIM QASIM, Namer. (2024). Artificial intelligence and criminal liability: exploring the legal implications of aIenabled crimes. ENCUENTROS. Revista de Ciencias Humanas, Teoría Social Y Pensamiento Crítico., 22 140-159. https://doi.org/10.5281/zenodo.13386675
UNIÓN EUROPEA. Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (Reglamento general de protección de datos). Diario Oficial de la Unión Europea, L 119, 4 mayo 2016.
UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea, 2024.
WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2018) "Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR", Harvard Journal of Law and Technology. 31 (2) 841-887. https://doi.org/10.2139/ssrn.3063289
WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2021). Why fairness cannot be automated: Bridging the gap between AI and human rights law. Computer Law & Security Review, 43(4), 34-55. https://doi.org/10.1016/j.clsr.2021.105567
Downloads
Pubblicato
Come citare
Fascicolo
Sezione
Licenza
Copyright (c) 2026 Paola Alexandra Sierra Zamora, Giuseppe Gangi Guillen
Questo lavoro è fornito con la licenza Creative Commons Attribuzione - Non commerciale 4.0 Internazionale.
