Do risco algorítmico aos danos irreversíveis
Inteligência artificial de alto risco, a posição do garante e os conflitos armados
DOI:
https://doi.org/10.46661/respublica.13605Palavras-chave:
Inteligência artificial, risco algorítmico, conflitos armados, Direito Internacional Humanitário, posição de garanteResumo
O presente artigo analisa os desafios jurídicos decorrentes da utilização de sistemas de inteligência artificial de alto risco em contextos de conflito armado, com base na teoria jurídica do risco, na posição de garante, no Direito Internacional Humanitário e no Direito Internacional dos Direitos Humanos. O estudo defende que a identificação de riscos algorítmicos previsíveis gera deveres jurídicos de prevenção, com o objetivo de evitar que se transformem em danos incompatíveis com os princípios da humanidade, distinção, proporcionalidade e precaução. Da mesma forma, analisa-se a relevância da dignidade humana, do controlo humano significativo e da posição de garante como categorias jurídicas aplicáveis às tecnologias emergentes. Conclui-se que os quadros normativos em vigor fornecem ferramentas suficientes para abordar os desafios decorrentes da inteligência artificial em conflitos armados e que os Estados têm a responsabilidade de adotar medidas regulatórias destinadas a prevenir riscos e proteger os direitos fundamentais.
Downloads
Referências
Amnesty International. NATO/Federal (2000). Republic of Yugoslavia: “Collateral Damage” or Unlawful Killings? Violations of the Laws of War by NATO During Operation Allied Force. Londres: Amnesty International Publications,.
BECK, Ulrich. (1998). La sociedad del riesgo: hacia una nueva modernidad. Barcelona: Paidós, 1998.
BUOLAMWINI, Joy & GEBRU, Timnit. (2018). “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”. Proceedings of Machine Learning Research, vol. 81,.
CLAUSEWITZ, Carl von. (2005). De la guerra. Madrid: La Esfera de los Libros,.
Convenios de Ginebra de 12 de agosto de 1949.
Comité Internacional de la Cruz Roja. Derecho Internacional Humanitario Consuetudinario. Volumen I: Normas. Buenos Aires: CICR, 2007.
Comité Internacional de la Cruz Roja. Guía para el examen jurídico de nuevas armas, medios y métodos de guerra. Ginebra: CICR.
Corte Constitucional de Colombia. Sentencia T-399 de 2024. M.P. Gloria Stella Ortiz Delgado.
Corte Constitucional de Colombia. Sentencia T-224 de 2014. M.P. Luis Ernesto Vargas Silva.
Corte Constitucional de Colombia. Sentencia SU – 1184 de 2001, M.P. Eduardo Montealegre Lynett.
Corte Internacional de Justicia. Opinión Consultiva sobre la Licitud de la Amenaza o el Empleo de Armas Nucleares, 8 de julio de 1996.
Corte Internacional de Justicia. Opinión Consultiva sobre las Consecuencias Jurídicas de la Construcción de un Muro en el Territorio Palestino Ocupado, 9 de julio de 2004.
Corte Suprema de Justicia, Sala de Casación Penal. Radicado 25.536 del 27 de julio de 2006. M.P. Yesid Ramírez Bastidas.
DINSTEIN, Yoram. (2016). Conducta de las hostilidades conforme al Derecho Internacional de los Conflictos Armados. Comité Internacional de la Cruz Roja.
FERNANDEZ RODRIGUEZ, Juan. Carlos. & LIZ RIVAS, Lenny. (2023). El terrorismo: aspectos psicosociales en el proceso de radicalización. “Repercusiones de la radicalización yihadista en la seguridad Europea, Mediterránea y Latinoamericana”, Thomson Reuters Aranzadi. Pp. 270-287. https://doi.org/10.5281/zenodo.14540821
GANGI GUILLEN, Giuseppe. Kodjack. VII. (2025). United States’ strategic shift and International Humanitarian Law: Implications for the Russia-Ukraine war. Revista Científica General José María Córdova, 23(49), 299–315. https://doi.org/10.21830/19006586.1467
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2023). Dinámicas migratorias en la frontera colombo venezolana y su relación con la criminalidad transnacional. Revista Científica General José María Córdova, 21(44), 907-924. https://doi.org/10.21830/19006586.984
GANGI GUILLÉN, Giuseppe. Kodjack. VII. & Delgado Morán, Juan José. (2025). Derechos Humanos y Terrorismo. El terrorismo en Europa: la salvaguarda de la seguridad y la protección de las víctimas. Ed. Sindéresis. ISBN: 979-13-87929-25-1
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2026). Innovación en la enseñanza del Derecho Internacional Humanitario: simulaciones para asesores jurídicos operacionales. “Revolución en las aulas: cómo la innovación está reescribiendo la universidad”. Ed. Colex. https://doi.org/10.69592/979-13-7011-516-6-CAP-6
GANGI GUILLÉN, Giuseppe. Kodjack. VII. (2023). An exploration of socio-cultural and liguistic issues for a sustainable migration in the global north. Aranzadi
GANGI GUILLÉN, Giuseppe. Kodjack. (2025). Derechos humanos y derecho penal en la era de la inteligencia artificial: retos y propuestas. Cuadernos de RES PUBLICA en derecho y criminología, https://doi.org/10.46661/respublica.11635
GIDDENS, Anthony. (2000). Un mundo desbocado: los efectos de la globalización en nuestras vidas. Madrid: Taurus,.
LIZ RIVAS, Lenny. (2018). Algunas bases neurológicas sobre la violencia y la agresión;“Conflictos y diplomacia, desarrollo y paz, globalización y medio ambiente”. Thomson Reuters/Aranzadi, pp. 943-955. https://doi.org/10.5281/zenodo.14559664
Ley 599 de 2000. Código Penal Colombiano.
Ley 1862 de 2017. Código Penal Militar.
MARTINO, L. (2023). La guerra nel XXI secolo: la dimensione cyber e il conflitto russo-ucraino. In: La guerra tiepida: Il conflitto ucraino e il futuro dei rapporti tra Russia e Occidente. Rome: Luiss University Press.
MCNAMARA, Robert S. (1995). In Retrospect: The Tragedy and Lessons of Vietnam. Nueva York: Times Books,.
MAZURIER, Pablo. A., & PAYÁ SANTOS, Claudio. Augusto. (2018). Amenazas híbridas: teoría de la hibridez y nuevo orden internacional. Thomson Reuters Aranzadi.
O’NEIL, Cathy. (2016). Armas de destrucción matemática: cómo el Big Data aumenta la desigualdad y amenaza la democracia. Nueva York: Crown Publishing Group,.
Organización de las Naciones Unidas. Pacto Internacional de Derechos Civiles y Políticos, 1966.
PAYÁ SANTOS, Claudio. Augusto; RODRÍGUEZ GONZÁLEZ, Víctor; DOMÍNGUEZ PINEDA, Neidy. Z; DIZ CASAL, Javier; FERNÁNDEZ RODRÍGUEZ, Juan. Carlos. & DELGADO MORÁN, Juan. José. (2025). Role of the Human Factor in the Cybersecurity Ecosystem. Journal of Information Systems Engineering and Management,10(4). https://doi.org/10.52783/jisem.v10i4.8983
Protocolo Adicional I a los Convenios de Ginebra de 1949 relativo a la protección de las víctimas de los conflictos armados internacionales, 1977.
SASSÒLI, Marco. (2019). Derecho Internacional Humanitario: reglas, controversias y soluciones a los problemas planteados por la guerra. Ginebra: Academia de Derecho Internacional Humanitario y Derechos Humanos.
Unión Europea. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act), 13 de junio de 2024.
Downloads
Publicado
Como Citar
Edição
Secção
Licença
Direitos de Autor (c) 2025 Diana Matar Khalil
Este trabalho encontra-se publicado com a Creative Commons Atribuição-NãoComercial 4.0.
