EL DESAFÍO DE LAS ARMAS COMPLETAMENTE AUTÓNOMAS[1] (1ª parte)

EL DESAFÍO DE LAS ARMAS COMPLETAMENTE AUTÓNOMAS[1] (1ª parte)

Artículo de opinión de Milton Meza Rivas, Doctorando en Derecho y Ciencia Política. Universidad de Barcelona.

Publicado originalmente en el número 85/2016, Instituto Español de Estudios Estratégicos (IEEE), Madrid, 18 de agosto de 2016, [en línea], disponible en http://www.ieee.es/Galerias/fichero/docs_opinion/2016/DIEEEO85-2016_SistemasArmas_ONU_MiltonMeza.pdf.

 

INTRODUCCIÓN

El derecho, junto a la política, se encuentra cada vez más inmerso en cuestiones marcadas de un componente científico[2]. La investigación, el desarrollo, la innovación y el uso de las altas tecnologías emergentes representan una fuente inagotable de escenarios complejos, llenos de incertidumbres, con niveles de riesgo importantes cuya aminoración puede ser alcanzada sólo a través de acuerdos y decisiones políticas, jurídicas, económicas, sociales y éticas tomadas por agentes tecnocientíficos[3].

Al igual que la tecnología ha sido desarrollada con fines creativos y beneficiosos para la calidad de vida, también ha sido usada con fines destructivos y nocivos para la misma[4]. Ello es así en razón de su carácter ambivalente[5], el cual representa a la innovación tecnológica como promesa de progreso para la sociedad en tanto que proporciona potenciales beneficios a la colectividad, aún y cuando luego pueda llegar a traducirse en un cúmulo peligros o amenazas en contra de los seres humanos que debe ser sopesado, prevenido, controlado y/o corregido por el poder constituido de los Estados, muchas veces incluso con apoyo de la comunidad internacional en razón de su dimensión global.

Esta manera de percibir culturalmente el avance tecnológico, de comprender sus beneficios y correlativos riesgos, simboliza una línea de pensamiento dominante que entiende que aquello que nos proporciona más poder, autonomía y aparente libertad, también puede transformarnos en seres débiles, inseguros y sujetos a una dependencia lastimosa[6].

Autores especialistas en investigación y desarrollo (I+D) militar han reconocido que esta intrínseca dualidad interpretativa es extensible al uso potencial de altas tecnologías emergentes en la esfera castrense. Dicha visión se basa en un determinismo tecnológico heredado de experiencias traumáticas pasadas.

Nótese que gran parte de la evolución del conocimiento humano siempre ha supuesto de antemano el desarrollo del arte de la guerra, proveyendo incluso a los combatientes de un Estado las herramientas armamentísticas y demás equipos militares necesarios para alcanzar, por sobre todas las cosas, la imposición de su voluntad al enemigo[7].

La historia ha demostrado que los Estados siempre estarán inclinados a comportarse en proporción al poder que ostenten. El interés de poseer armas cada vez más novedosas responde a la necesidad de mantener o alcanzar un estatus hegemónico en el uso de la fuerza, con el argumento de salvaguardar la paz y la seguridad, garantizando así que las armas del oponente sigan siendo siempre las más inútiles u obsoletas.

Como bien señala Bert Röling[8], la función más razonable del poder armamentístico de un país es disuadir al enemigo de que actúe en contra de la paz, y para ello deberá hacerlo demostrándole su capacidad de resistencia o retaliación ante cualquier eventual ataque que pueda producir éste en su contra. Por tanto, las armas, a pesar de que puedan ser consideradas inaceptables por muchos, seguirán siendo indispensables para garantizar la seguridad militar estatal, creando un ambiente generalizado en el que la población no sienta riesgo de amenaza en su contra por parte de sujetos que actúen al margen del Derecho Internacional Público (DIP).

No obstante, siguiendo esa lógica cabría preguntarse: ¿hasta qué punto resulta absoluta una fórmula de I+D militar en la que se observa a las altas tecnologías emergentes como meros instrumentos para alcanzar objetivos superiores castrenses?; ¿es suficiente esta línea de pensamiento de cara a un futuro no muy lejano en el que podrían llegar a existir armas cada vez más sofisticadas, potentes y precisas, cuyas funciones críticas de selección y ataque en contra de objetivos militares las puedan llevar a cabo por sí mismas y sin la intervención de un operador humano?. Estas son preguntas complejas de responder.

El avance tecnológico en general demanda la formación de nuevas costumbres sociales. Ello no significa el sometimiento de la sociedad a la tecnología. En lo absoluto. Son las situaciones en las que interactúan las personas con las máquinas las que tienen que evolucionar mediante los mismos procesos naturales por los que cambian las costumbres humanas[9]. Así pues, a medida que nos percatemos que los rituales válidos en una sociedad no son lo suficientemente idóneos para aminorar los niveles de desconcierto, confusión y riesgo propios del uso de cierta tecnología militar, es que podremos seguir trabajando en alcanzar respuestas idóneas que den solución a dicha situación.

Históricamente el hecho de enfocar al I+D militar como un medio para garantizar mayor seguridad y poderío de los Estados Nación es lo que ha permitido que ciertas tecnologías castrenses, consideradas en el pasado como parte de los libros y las películas de ficción, hoy en día lleguen a ser una auténtica realidad[10]. Diversos sistemas de armamento militar se están desarrollando en el mundo con funciones cada vez más autónomas, sometidas a niveles indirectos o apropiados de control humano, pese a que ello genere escenarios complejos llenos de incertidumbres y de riesgos a los que el derecho y la política están llamados a solucionar.

Por ello, algunos investigadores nos hemos dado a la tarea de reflexionar prospectivamente, no sólo en nuestras academias sino también en foros internacionales[11], los impactos jurídicos, políticos, sociales, éticos y morales que trae consigo el uso de altas tecnologías militares emergentes, y muy especialmente cuando se relacionan con el desarrollo y el despliegue de sistemas de armas autónomas letales.

Es una labor muy compleja en tanto que parte de una premisa clara: son tecnologías avanzadas que aún no existen, aunque pudieran llegar a existir.

Tradicionalmente la experiencia del control del I+D miltiar ha sido diferente: primero surge alguna innovación en un arma y/o método de guerra, después se somete a un análisis de idoneidad de conformidad con el derecho internacional vigente, luego se conceptualiza y, si fuere necesario, se somete a normativas más especiales que reglamenten su uso[12]. Sin embargo, el caso de las armas autónomas ha sido distinto. En razón de la trascendencia de los efectos que traería consigo el uso de esa tecnología, la comunidad internacional ha emprendido un debate que invierte esta dinámica reflexiva, apostando más por un abordaje preventivo de la cuestión.

Es una iniciativa producto de arduos esfuerzos diplomáticos y técnicos que pretende el estudio de estos sistema bajo un correcto juicio de ponderación de valores, en el que no sólo se aprecien los peligros externos que trae consigo renunciar al progreso, sino que además se comprenda y respete la salvaguarda del DIDH y el DIH, que se aborde la seguridad global como una prioridad sin generar con ello desequilibrios de poder, pero sobre todo en el que no se resienta la capacidad futura de defensa militar de los Estados Nación[13]. Es un panorama idóneo, deseable, aunque complejo, por lo que a veces la realidad puede llegar a ser algo diferente.

ANTECEDENTES DEL DEBATE INTERNACIONAL

En fecha 23 de agosto de 2010, el entonces Relator Especial del Consejo de Derechos Humanos de la Organización de las Naciones Unidas (ONU) sobre ejecuciones extrajudiciales, sumarias o arbitrarias, Philip Alston, presentó ante la Asamblea General de ese foro internacional un informe provisional en el que planteó alguno de los potenciales peligros que representa la investigación, el desarrollo y la innovación de tecnologías que pueden llegar a ser capaces de “detectar a personas y matarlas con una mínima participación humana o sin necesidad de un control o una autorización procedentes directamente de un ser humano[14]”.

Mediante ese informe la Relatoría Especial recomienda por primera vez a la Secretaría General de la ONU la creación de un grupo integrado por representantes militares y civiles de los Estados, autoridades destacadas en relación con los derechos humanos y el derecho humanitario, especialistas en filosofía y ética, científicos y promotores, para asesorar sobre la adopción de medidas y directrices encaminadas a fomentar el uso de sistemas robóticos con alto grado de autonomía de conformidad con el DIP.

Luego en el año 2012, la organización no gubernamental Human Rights Watch (HRW)[15] en unión con la Clínica Internacional de Derechos Humanos de la Escuela de Derecho de la Universidad de Harvard, elaboran un reporte titulado “Losing Humanity: the case againts killer robots” en el que aborda a profundidad el tema de los sistemas de armas letales completamente autónomos y su repercusión legal, política, moral y ética frente al DIDH, el DIH y el DCA, e inicia una campaña internacional para su total prohibición.

Por su parte, a partir del año 2013, la primera (1ª) comisión de la Asamblea General de la ONU y el Consejo Asesor de la Secretaría General de ese órgano multilateral comenzaron a discutir en sus sesiones ordinarias las implicaciones que trae consigo las tecnologías emergentes en los temas de desarme y seguridad. Al hilo de ello, el nuevo Relator Especial del Consejo de Derechos Humanos de la ONU sobre ejecuciones extrajudiciales, sumarias o arbitrarias, Christof Heyns, presentó en abril de ese mismo año un informe detallado acerca de las armas autónomas letales y en el que invita a que la oficina de la Alta Comisionada para los Derechos Humanos convoque un grupo de expertos que estudie profundamente la cuestión, en términos muy similares a los ya sugeridos por esa relatoría en el año 2010[16].

No obstante, en noviembre de 2013, por iniciativa de varias delegaciones diplomáticas participantes en las sesiones ordinarias de la primera (1ª) comisión de la Asamblea General de la ONU y en respuesta al llamado del Consejo Asesor de la Secretaría General de la Organización, las Altas Partes Contratantes de la convención sobre ciertas armas convencionales (CCW, por sus siglas en inglés[17]) aprobaron por consenso asumir el debate de todos los aspectos relacionados con los sistemas de armas letales autónomos, por considerar que la Convención es el foro más apropiado para ello en razón de su mandado y experiencia. Sin embargo, la resolución advierte que éste es un asunto multifactorial, de suma trascendencia global, por lo que su estudio puede seguir realizándose bajo diferentes enfoques en el seno de otros organismos internacionales[18].

Así las cosas, en mayo del 2014, y en abril del 2015 y 2016, se realizaron la primera, segunda y tercera reunión oficiosa de expertos sobre sistemas de armas autónomas letales en el marco de la CCW. Estos eventos congregaron a varias representaciones diplomáticas de Estados partes, firmantes y observadores de la CCW, así como también de agentes de distintas organizaciones internacionales, ONG e instituciones académicas[19].

Allí se generaron escenarios de cuestionamientos y reflexiones prospectivas y holísticas en torno a un programa de trabajo que se redujo a cinco bloques temáticos: a) mapa o conceptual del término “autonomía”; b) hacia una definición de trabajo sobre los sistemas de armas letales autónomos; c) desafíos para el DIH en el contexto de las armas autónomas; d) cuestiones éticas y de derechos humanos; y e) aspectos sobre seguridad internacional.

Luego de tres años de debate, la última reunión informal de expertos aprobó un documento final de recomendaciones que será presentando a la vista y aprobación de la quinta Conferencia de Revisión de las Altas Partes Contratantes de la CCW que se llevará a cabo en la ciudad de Ginebra, Suiza, del 12 al 16 de diciembre de 2016. El documento sugiere la creación de un grupo de expertos gubernamentales de composición abierta, que opere a partir del año 2017 y cuyo mandato permita explorar y acordar todas las posibles opiniones y sugerencias acerca de las opciones relacionadas con las tecnologías emergentes en el área de los sistemas de armas letales autónomos, en concordancia con los objetivos de la CCW, y tomando en cuenta las propuestas y perspectivas pasadas, presentes y futuras[20].

Estas discusiones permitieron diagnosticar un amplio espectro de dudas, riesgos e incertidumbres que subyacen en el I+D militar sobre sistemas autónomos armamentísticos, aspectos que deben tenerse muy en cuenta a la hora de plantear el uso de estas tecnologías de guerra que en el futuro podrían ser susceptibles de provocar cambios sustanciales en la doctrina operativa de la Fuerza, especialmente en lo que se refiere a las reglas de enfrentamiento, generando con ello un nuevo paradigma en los objetivos a largo plazo a nivel conceptual y estratégico, con un serio impacto en el planeamiento militar[21].

Nótese que la revolución robótica está siendo descrita por muchos como la siguiente gran revolución en cuestiones militares, de una importancia equivalente a la introducción de la pólvora y las bombas nucleares[22], ya que su despliegue supondrá no sólo la actualización de los tipos de armas utilizadas, sino además un cambio de identidad de quienes las emplean, modificando la naturaleza de la interacción entre el ser humano combatiente y la máquina, lo cual supone una catálogo de dilemas jurídicos, políticos, morales y éticos que deben ser explorados.

Foto del usuario de Flickr Caleb Wagoner

 

[1] En inglés: “fully autonomous weapon systems”. Otros términos han sido comúnmente usados para referirse a este tipo de tecnología avanzada. Por ejemplo, sistemas de armas autónomas letales (“lethal autonomous weapon systems -LAWS-”), armas robóticas (robot weapons), armas letales autónomas (“lethal autonomous weapons -LAWs-”), robots autónomos letales (“lethal autonomous robots -LARs-”), robots asesinos (“killer robots”) o sistemas autónomos (autonomous systems). No obstante, a los efectos del presente artículo todos podrán ser empleados de manera intercambiable sin que eso ello desdibuje el sentido propio del término usado en el título de este artículo.

[2] Vid. ESTEVE PARDO, José, “El desconcierto del Leviatán. Política y derecho ante las incertidumbres de la ciencia”, 1ª edición, Marcial Pons, Madrid, 2009.

[3] Vid. ECHEVERRÍA, Javier, “La revolución tecnocientífica”, 1ª edición, Fondo de Cultura Económica de España, Madrid, 2003.

[4] Vid. LLANDRES CUESTA, Borjas, “El desafío de la integración de los RPAS”, artículo de opinión 98/2015, IEEE, Madrid, 11 de septiembre de 2015, [en línea], disponible en: http://www.ieee.es/Galerias/fichero/docs_opinion/2015/DIEEEO982015_DesafioIntegracion_RPAS_BorjaLLandres.pdf, fecha de la consulta 31.05.2016.

[5] A los efectos del presente artículo se usará de manera intercambiable los términos genéricos “tecnología”, “sistema”, “máquina” o “dispositivo” para referirse a cualquier producto final que resulte de un proceso de investigación, desarrollo e innovación tecnológica.

[6] Vid. DE CÓZAR, José Manuel, “Tecnología, civilización y barbarie”, 1ª edición, Anthropos, Barcelona, 2002.

[7] Vid. ORTEGA GARCÍA, J., “Capítulo Sexto: armas de tecnología avanzada”, cuaderno de estrategia Nº 153, IEEE, Madrid, 2011.

[8] Vid. RÖLING, Bert., “International Law, Nuclear Weapons, Arms Control and Disarmament”, en MILLER, Arthur. y FEINRIDER, Martin. (eds.), “Nuclear weapons and law”, 1° edición, Greenwood Press, Connecticut, 1984.

[9] Vid. AGRE, Philip, “La robótica y el sentido común”, en MINSKY, M. (ed.), “Robótica la última frontera de la alta tecnología”, 1° edición, Planeta, Barcelona, 1986.

[10] En el primer tercio del siglo XX, las máquinas con ciertas funciones automatizadas eran poco comunes en los campos de batalla y prácticamente inexistentes en las ciudades. Sin embargo, hoy es muy habitual el uso de sistemas aéreos, terrestres o navales no tripulados como armas de seguimiento, vigilancia, control y ataque. Para más datos ver: Organización del Tratado Atlántico Norte (OTAN), “The Secretary General’s Annual Report 2015”, Bruselas, 07 de enero de 2016, [en línea] disponible en: http://www.nato.int/nato_static_fl2014/assets/pdf/pdf_2016_01/20160128_SG_AnnualReport_2015_en.pdf, fecha de la consulta 31.05.2016. Vid. JONAS, A., McCANN, E. y THOMAS, M. (2015). “Urban Geography: a Critical Introduction”. Editorial Wiley Blackwell, Oxford, Reino Unido, 2015, y RIOLA RODRÍGUEZ, José María, “La situación actual de las tecnologías de doble uso”, cuaderno de estrategia Nº 169, IEEE, Madrid, 2014.

[11] Reuniones informales de expertos sobre sistemas de armas autónomas letales, celebradas en el marco de la Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados. Para más información véase: http://www.unog.ch/80256EE600585943/(httpPages)/8FA3C2562A60FF81C1257CE600393DF6?OpenDocument, Ginebra, 2014, 2015 y 2016, fecha de la consulta 31.05.2016.

[12] Vid. Comité Internacional de la Cruz Roja (CICR), “A guide to the legal review of new weapons, means and methods of warfare measures to implement article 36 of additional protocol I of 1977”, noviembre de 2006, [en línea] disponible en: https://www.icrc.org/eng/assets/files/other/icrc_002_0902.pdf, fecha de la consulta 31.05.2016.

[13] Vid. infra el apartado 7 de este trabajo.

[14] Vid. ALSTON, Philip, “Informe provisional del Relator Especial sobre las ejecuciones extrajudiciales, sumarias o arbitrarias”, documento A/65/321, del 23 de agosto de 2010, Nueva York, [en línea] disponible en: https://documents-dds-ny.un.org/doc/UNDOC/GEN/N10/492/42/PDF/N1049242.pdf?OpenElement, fecha de la consulta 31.05.2016.

[15] Vid. Human Rights Watch, “Losing Humanity: the case againts killer robots” (2012), [en línea] disponible en: http://www.hrw.org/reports/2012/11/19/losing-humanity-0, fecha de la consulta 31.05.2016.

[16] Vid. HEYNS, Christof, “Informe del Relator Especial sobre las ejecuciones extrajudiciales, sumarias o arbitrarias”, documento A/HRC/23/47, del 09 de abril de 2013, Ginebra, [en línea] disponible en: https://documents-dds-ny.un.org/doc/UNDOC/GEN/G13/127/79/PDF/G1312779.pdf?OpenElement, fecha de la consulta 31.05.2016.

[17] No obstante, el nombre completo en español es “Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados” del año 1980.

[18] Vid. Altas Partes Contratantes de la CCW, “informe final del período de sesiones de 2013”, documento CCW/MSP/2013/10, Ginebra, 16 de diciembre de 2013, [en línea] disponible en: https://documents-dds-ny.un.org/doc/UNDOC/GEN/G13/646/36/PDF/G1364636.pdf?OpenElement, fecha de la consulta 31.05.2016.

[19] Vid. infra el apartado 11 de este trabajo.

[20] Vid. Tercera (3ª) reunión informal de expertos sobre sistemas de armas autónomas letales celebradas en el marco de la CCW, “draft recommendations”, Ginebra, 15 de abril de 2016, [en línea] disponible en: http://www.reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2016/meeting-experts-laws/documents/DraftRecommendations_15April_final.pdf, fecha de la consulta 31.05.2016.

[21] Vid. Centros Superior de Estudios de la Defensa Nacional, “Tecnologías disruptivas y sus efectos sobre la seguridad”, documento de trabajo 12/2015, IEEE, Madrid, 2015, cap. I, pp. 24, [en línea] disponible en: http://www.ieee.es/Galerias/fichero/docs_trabajo/2015/DIEEET12-2015_Tecnologias_Disruptivas_EfectosSeguridad.pdf, fecha de la consulta 31.05.2016.

[22] Vid. infra el apartado 16 de este artículo, pp. 6 (párrafo 28).

Entradas relacionadas
Comentarios ( 2 )
  1. Ingrid
    20 septiembre, 2016 at 19:04
    Responder

    muy interesante la nota. La verdad que me preocupa qué va a pasar con esto de la tecnología bélica. Espero que la gente se de cuenta que lo que más importa es el amor y que la paz termine ganando siempre.
    Saludos! Buen articulo.

    • Alejandro
      20 septiembre, 2016 at 19:08
      Responder

      Gracias Ingrid. Mañana sale la segunda parte del artículo. Saludos

Dejar una respuesta