BOLETÍN OFICIAL DE LAS CORTES GENERALES


SECCIÓN CORTES GENERALES


XIV LEGISLATURA


Serie A: ACTIVIDADES PARLAMENTARIAS


23 de noviembre de 2021

Núm. 188

ÍNDICE


Control de la acción del Gobierno


PROPOSICIONES NO DE LEY/MOCIONES


Comisión Mixta de Seguridad Nacional


161/003399 (CD) 663/000171 (S);Proposición no de Ley presentada por el Grupo Parlamentario VOX, relativa a la inclusión en la futura Estrategia de Seguridad Nacional como desafío o amenaza la regulación de la Inteligencia Artificial
aplicada a los usos militares y de seguridad en el ámbito de nuestro ordenamiento jurídico ... (Página2)


Competencias en relación con otros órganos e instituciones


TRIBUNAL DE CUENTAS


252/000001 (CD) 727/000003 (S);Designación de Consejeros de Cuentas por el Congreso de los Diputados ... (Página8)


727/000002 (S) 252/000002 (CD);Designación de Consejeros de Cuentas por el Senado ... (Página9)

Página 2

CONTROL DE LA ACCIÓN DEL GOBIERNO


PROPOSICIONES NO DE LEY/MOCIONES


Comisión Mixta de Seguridad Nacional


161/003399 (CD)


663/000171 (S)


La Mesa del Congreso de los Diputados, en su reunión del día de hoy, ha adoptado el acuerdo que se indica respecto al asunto de referencia.


(161) Proposición no de Ley en Comisión.


Autor: Grupo Parlamentario VOX.


Proposición no de Ley relativa a la inclusión en la futura Estrategia de Seguridad Nacional como desafío o amenaza la regulación de la Inteligencia Artificial aplicada a los usos militares y de seguridad en el ámbito de nuestro ordenamiento
jurídico.


Acuerdo:


Considerando que se solicita el debate de la iniciativa en Comisión, y entendiendo que es la Comisión Mixta la que insta al Gobierno a la adopción de las medidas correspondientes, admitirla a trámite como Proposición no de Ley, conforme al
artículo 194 del Reglamento, y disponer su conocimiento por la Comisión Mixta de Seguridad Nacional. Asimismo, dar traslado del acuerdo al Gobierno, al Senado, al Grupo proponente y publicar en el Boletín Oficial de las Cortes Generales.


En ejecución de dicho acuerdo, se ordena la publicación.


Palacio del Congreso de los Diputados, 16 de noviembre de 2021.-P.D. El Letrado Mayor de las Cortes Generales, Carlos Gutiérrez Vicén.


A la Mesa del Congreso de los Diputados


Dña. Macarena Olona Choclán, D. Víctor González Coello de Portugal y D. Julio Utrilla Cano, en sus respectivas condiciones de Portavoz Adjunta y Diputados del Grupo Parlamentario VOX (GPVOX), al amparo de lo establecido en el artículo 193 y
siguientes del vigente Reglamento del Congreso de los Diputados, presentan la siguiente Proposición no de Ley relativa a la inclusión en la futura Estrategia de Seguridad Nacional como desafío o amenaza la regulación de la Inteligencia Artificial
aplicada a los usos militares y de seguridad en el ámbito de nuestro ordenamiento jurídico, para su discusión en la Comisión Mixta de Seguridad Nacional.


Exposición de motivos


Primero. Es innegable que el rol de la inteligencia artificial (en adelante, 'IA') ha crecido de forma exponencial en los últimos años. En este sentido, cabe destacar que el papel de la IA en el arte de la guerra es uno de los cambios que
se han venido produciendo dentro de lo que se conoce como una Revolución en los Asuntos Militares (RAM). Recordemos que una RAM es 'un profundo cambio en la forma de operar de los ejércitos que se deriva de la integración y explotación de nuevas
tecnologías, doctrinas u orgánicas en el seno de las Fuerzas Armadas 1'.


Esta definición encorseta a la RAM como una transformación limitada y exclusiva del ámbito militar que resulta en una mejora en la forma de hacer la guerra en un contexto social, político e histórico


1 La revolución en los asuntos militares, Guillem Colom Piella.

Página 3

determinado. Sin embargo, una Revolución Militar (RV) es 'un cambio de alcance global que altera la relación existente entre el Estado, la sociedad y la guerra 2'.


Teniendo en cuenta ambas definiciones, parece claro que la irrupción de la IA en otros campos como la Sanidad y la Justicia -tal y como se señala en el Proyecto de Informe sobre inteligencia artificial del Parlamento Europeo 2020/2013 (INI)-
puede suponer el último gran cambio que certifique una Revolución Militar en toda regla. En concreto, este nuevo estilo de lucha 'se enmarcará dentro de un nuevo paradigma militar que, producto de la Revolución Militar Postmoderna, estará
caracterizado por la limitación en todas sus vertientes' 3.


Sin embargo, como bien apunta el coronel Gómez de Agreda, 'Los márgenes temporales para la toma de decisiones y para la ejecución de las órdenes se estrechan cada día en función de la automatización de procesos y de la asignación de
funciones concretas a las máquinas. Atribuir valores a los algoritmos no eleva su categoría a la de las personas, sino que degrada la dignidad humana hasta llevarla a la equiparación con meras máquinas con programaciones más o menos complejas. La
discusión no debería centrarse en el carácter ético del armamento autónomo sino en el grado de autonomía que se le puede conceder a cada una de las funciones de una máquina. Especialmente cuando detrás de esa atribución se esconde la pretensión de
permitir que los sistemas de armas autónomos puedan adoptar decisiones sin la participación obligatoria de un controlador humano. No tanto porque sea una máquina la que pueda ejecutar una acción de forma independiente, sino porque la combinación de
la asignación de valores y capacidad de toma de decisiones pretende exonerar al humano de la responsabilidad de dicha acción' 4.


Segundo. El colosal desarrollo de la IA supone un reto para el Derecho Internacional, tanto público como privado y, de una forma más amplia, para la autoridad de los Estados.


Por tanto, partiendo de la base de que la IA puede definirse como un 'conjunto de métodos y procedimientos que permiten a los sistemas técnicos percibir su entorno, procesar lo que perciben y resolver los problemas de manera independiente,
tomar decisiones, actuar y aprender de las consecuencias de esas decisiones y acciones', todos los usos militares de la IA deben estar siempre sujetos al control humano adecuado que posibilite, entre otras medidas, que una persona tenga la capacidad
de modificarlos o interrumpirlos en cualquier instante, así como de desactivarlos si se produjera una actuación imprevista.


Asimismo, deben evitarse situaciones en las que máquinas o inteligencias artificiales puedan tomar decisiones repetitivas o masivas que pongan en peligro la vida de numerosos seres humanos, sin control de un humano supervisor. La toma de
decisiones debe estar sujeta a un seguimiento por parte de humanos, de modo que sea posible conocer la identidad de la persona que adopta las decisiones concretas aplicables a cada caso y se puedan exigir responsabilidades si procede el caso.


En el marco de los sistemas armamentísticos autónomos letales (SAAL), armas capaces de identificar y decidir el ataque a un objetivo sin intervención humana, por la especial peligrosidad que estas revisten, se hace necesario que su uso esté
sometido a prohibiciones y garantías jurídicas específicas. Así pues, los SAAL solo se deberían autorizar si están sometidos a un control riguroso como para permitir que una persona retome el control en cualquier momento, y que las versiones
completamente autónomas y sin control humano (human off-the loop) han de estar prohibidas.


Tercero. En el mes de julio del año 2017, China lanzó su 'Plan de desarrollo de inteligencia artificial de nueva generación' con el que declaró abiertamente su intención de convertirse en un país líder en el ámbito de la IA. En este mismo
sentido, Rusia dejaba vislumbrar su postura frente a la IA en las declaraciones de Vladimir Putin que advertía que 'quien se convierta en el líder en esta esfera se convertirá en el gobernante del mundo 5'.


Desde Occidente, la respuesta llegaría en 2019, cuando el ex presidente de Estados Unidos Donald Trump dio a conocer públicamente el lanzamiento de la denominada 'American AI Initiative' (Iniciativa


2 Ibídem.


3 Ibídem.


4 Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R); Centro Conjunto de Desarrollo de Conceptos; Ministerio de Defensa; La inteligencia artificial en el campo de batalla, Ángel Gómez de Agreda.
Disponible en línea: https://emad.defensa.gob.es/Galerias/CCDC/files/USOS_MILITARES_DE_LA_INTELIGENCIA_ARTIFICIALx_LA_AUTOMATIZACION_Y_LA_ROBOTICA_xIAAxRx.-_VV.AA.pdf


5 Disponible (en línea): https://www.iniseg.es/blog/ciberseguridad/inteligencia-artificial-y-carreras-armamentisticas-una-nueva-distopia/ Última visita realizada el 26 de octubre a las 16:00 horas.

Página 4

estadounidense de Inteligencia Artificial). Un plan muy ambicioso que persigue potenciar esta industria en el país norteamericano y competir con China 6.


Asimismo, más allá de los planes de investigación y desarrollo de cada una de estas potencias militares, hemos sido testigos del primer enfrentamiento bélico real con este tipo de tecnología. Nos referimos al conflicto de Nagorno-Karabaj
protagonizado por Azerbaiyán y Armenia a fines de 2020 7.


En este conflicto, tanto Azerbaiyán y Armenia habrían utilizado aeronaves denominadas 'drones kamikaze'. Estos vehículos aéreos no tripulados (UAV) más apropiadamente RPAS (Remotely Piloted Aircraft System) tienen la capacidad de búsqueda y
localización de objetivos desde el aire y, una vez localizados, se lanzan contra los mismos detonando su carga explosiva. Toda esta operación ocurre con relativa autonomía de parte de la nave-munición a la que solo se le debe predeterminar la zona
geográfica en la que efectuará su ataque 8.


Los UAV (unmanned aerial vehicle) empleados en este conflicto (modelos Bayraktar, junto con modelos israelíes Harop/Harpy -drones 'suicidas' de tipo loitering- Heron, Hermes) tienen una firma radar equivalente a la de un ave y permiten volar
a muy bajas velocidades, lo que los hace muy difíciles de detectar para los actuales sistemas antiaéreos. Su bajo precio hace, además, que resulte poco práctico a largo plazo combatirlos con carísimos misiles antiaéreos (un misil cuesta varios
cientos de miles o algunos millones de Euros, mientras que algunos UAV con capacidad militar cuestan cientos de veces menos). El conflicto de Nagorno-Karabaj ha demostrado que los UAV de nivel tecnológico bajo o medio son capaces de proporcionar
enormes ventajas estratégicas 9.


Como apunta el Coronel Carlos Javier Frías Sánchez, el empleo de los UAV en el caso citado ha respondido a un esquema en realidad poco novedoso: 'inicialmente, se han dedicado a la destrucción del sistema de defensa antiaérea adversario,
provocando cuando era necesario la emisión de sus radares mediante el uso de señuelos. Una vez neutralizada la defensa antiaérea enemiga, se han empleado como medios de fuego en profundidad, localizando (gracias a los UAV con misión ISTAR) a los
principales sistemas de armas enemigos y destruyéndolos impunemente. Es decir, la destrucción de las defensas antiaéreas enemigas ha sido el paso inicial (e imprescindible) que ha desencadenado un resultado difícilmente evitable 10'. Por otra
parte, apunta el Coronel Frías, 'la difícil orografía del terreno (que para los armenios suponía una ventaja) se ha tornado en un problema, pues la dependencia de sus posiciones defensivas de muy escasas rutas de comunicación con la retaguardia (y
con múltiples puntos de paso obligado) ha permitido a los UAV ISTAR azeríes concentrar sus acciones en un número reducido de localizaciones, aumentando su eficacia. Así, los azeríes han sido capaces de aislar con bastante facilidad las posiciones
armenias, alcanzando regularmente la superioridad local en fuego y en número de tropas en cada combate 11'.


No solo China, Rusia y Estados Unidos han sido conscientes del papel protagonista que asumirá la IA, el propio Parlamento Europeo ha publicado distintas resoluciones 'al objeto de crear un marco regulatorio para la misma, siendo botón de
muestra algunas resoluciones dictadas en relación con la cuestión que nos ocupa, como por ejemplo la Resolución 2020/2012/INL (marco de los aspectos éticos de la IA, la robótica y las tecnologías conexas), Resolución 2020/2014/INL (régimen de
responsabilidad civil en materia de IA), o por ejemplo, Resolución 2020/2015/INI, relativa a los derechos de propiedad intelectual para el desarrollo de las tecnologías relativas a la IA 12'.


La OTAN y sus países miembros ya abordaron durante el pasado mes de junio cómo será la hoja de ruta en materia de inversiones en tecnología emergente y disruptiva (EDT/Emerging and Disruptive Technology), con vistas a potenciar el papel de
la Inteligencia Artificial 13. La Estrategia sobre IA se aprobará en la próxima Cumbre de Madrid 2022.


6 Ibídem.


7 Ibídem.


8 Ibídem.


9 Disponible (en línea): https://ceeep.mil.pe/2021/07/21/el-campo-de-batalla-futuro-que-quiza-ya-es-presente/#post-19099-endnote-6 Ultima visita realizada el 26 de octubre a las 12:00 horas.


10 Carlos Javier Rias, 'La Artillería Antiaérea, ¿la base de la victoria?' Memorial de Artillería (n.º 176/1, 2019), 48-58.


11 Gustav Grasser, 'Military lessons from Nagorno-Karabakh: reason for Europe to worry,' European Council of Foreign Relations (París: 20 de noviembre de 2020)
https://ecfr.eu/article/military-lessons-from-nagorno-karabakh-reason-for-europe-to- worry/ (consultado el 27 de febrero de 2021).


12 Disponible (en línea): https://www.economistjurist.es/premium/derecho-inteligente/obras-creadas-por-robot-son-susceptibles-del-derecho-de-autor/ Última visita realizada el 26 de octubre a las 12:00 horas.


13 Disponible (en línea): https://observatorio.cisde.es/actualidad/la-inteligencia-artificial-protagoniza-la-nueva-estrategia-de-la-otan/ Ultima visita realizada el 26 de octubre a las 12:00 horas.

Página 5

En relación a la IA, en los últimos años, la alianza ha manifestado públicamente su interés en las Emerging and Disruptive Technology y la necesidad de profundizar en su desarrollo e implantación 14.


En la actualidad se han delimitado una serie de áreas prioritarias en el ámbito de ciencia y tecnología: 'Inteligencia artificial/Autonomía (Big Data, sensores); Inteligencia Artificial/Biotecnología (diseños farmacológicos, modificaciones
genéticas); Inteligencia Artificial/Materiales (nuevos materiales con propiedades físicas únicas); Tecnología cuántica (recopilación, procesamiento y explotación de datos); Tecnología de satélites (mayor potencia, menor tamaño); Tecnología
espacial/Hipersónica (nuevos materiales y mecanismos de propulsión y almacenamiento de energía)' 15.


Por lo tanto, vemos que, con este primer acuerdo, los representantes de los 30 Estados miembros 'respaldan dicha estrategia y apuestan por el fomento de este tipo de tecnologías, planteando un horizonte de relaciones más sólidas con centros
de innovación punteros y haciendo uso de mecanismos de financiación específicos que protejan las inversiones de la injerencia externa de terceros países 16'.


Según informaciones publicadas 17, los ministros de Defensa de la OTAN acordaron el pasado día 24 de octubre una nueva estrategia sobre inteligencia artificial y 17 de ellos, todos europeos, impulsaron un nuevo fondo de innovación como parte
de los esfuerzos aliados por contar con tecnología puntera y no perder competitividad (DIANA, por sus siglas en inglés) 18.


El secretario general de la Alianza, Jens Stoltenberg, al término del encuentro que reunió durante dos días en Bruselas a los ministros de Defensa de los países integrantes, indicó que 'las nuevas tecnologías están remodelando nuestro mundo
y nuestra seguridad'. Asimismo, declaró lo siguiente: 'Como parte de DIANA, los aliados se comprometen a proporcionar una red de centros de pruebas de tecnología y sitios de aceleración en toda la Alianza, para aprovechar mejor la innovación civil
para nuestra seguridad y fortalecer el vínculo tecnológico entre Europa y América del Norte 19'.


Este nuevo fondo de innovación, el primero con el que cuenta la OTAN, garantizará que los miembros de la Alianza no se queden atrás en relación al uso de las últimas tecnologías y capacidades que serán 'críticas para nuestra seguridad' 20.


Impulsado por un grupo de países europeos (Bélgica, República Checa, Estonia, Alemania, Grecia, Hungría, Italia, Letonia, Lituania, Luxemburgo, Holanda, Polonia, Portugal, Rumania, Eslovaquia, Eslovenia y el Reino Unido), 'el fondo tratará
de invertir 1.000 millones de euros en tecnologías de uso dual (civil y militar) 21'.


Cuarto. En este sentido, cabe resaltar que el Fondo Europeo de Defensa (FED) tiene como propósito la financiación de proyectos de investigación en el ámbito militar que favorezcan la innovación, en particular aquellos en los que se haga uso
de la IA, incluso si se tratan de SAAL.


La aplicación de la IA a los usos militares supone una prioridad para los ejércitos de las principales potencias mundiales. No obstante, los valores con los que se identifica la UE legitiman su interés por estudiar la elaboración de un
necesario marco jurídico, respetando las competencias de los Estados y de las Naciones Unidas 22.


Así, en cuanto al respeto al Derecho internacional, destacan los siguientes:


- Derecho Internacional humanitario, en particular los Convenios de Ginebra de 12 de agosto de 1949, en lo que respecta, entre otras cuestiones, a la protección de los heridos, enfermos y náufragos, el tratamiento de los prisioneros de
guerra y la protección de la población civil.


- Convención de Roma de 17 de julio de 1998, de prohibición de los crímenes de genocidio, los crímenes de lesa humanidad y los crímenes de guerra.


- Principio de proporcionalidad, que subordina la legalidad de la acción militar a que se respete un equilibrio entre el objetivo y los medios empleados, y a que la valoración de dicha proporcionalidad la emita una persona o sea aprobada por
esta de forma expresa.


- Convención de 10 de octubre de 1980 sobre ciertas armas convencionales .


14 Ibídem.


15 Ibídem.


16 Ibídem.


17 Disponible (en línea): https://www.efe.com/efe/espana/mundo/la-otan-busca-no-quedar-rezagada-en-tecnologia/10001-4658263 Última visita realizada el 26 de octubre a las 12:00 horas.


18 Ibídem.


19 Ibídem.


20 Ibídem.


21 Ibídem.


22 Disponible en línea: https://www.europarl.europa.eu/doceo/document/A-9-2021-0001_ES.html .

Página 6

Quinto. El pasado 15 de septiembre, la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, destacó 'la urgente necesidad de establecer una moratoria a la venta y el uso de los sistemas de inteligencia
artificial (IA) que amenazan gravemente a los derechos humanos, hasta que se hayan puesto en vigor las salvaguardas adecuadas. Bachelet pidió además que se prohíban los programas de AI cuyo uso no cumpla con la normativa internacional de derechos
humanos 23'.


En palabras de Michel Bachelet: 'La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA también pueden tener efectos
nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos 24'. Del mismo modo declaró que 'mientras mayor sea el riesgo para los derechos humanos, más estrictos deben ser los
requisitos legales para el uso de la tecnología de IA 25'. Sin embargo, añadió que 'dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementa desde ahora moratorias sobre el uso de
las tecnologías que presentan un alto potencial de riesgo 26'.


En otro orden de cosas, ese mismo 15 de septiembre, en materia de tecnología y derechos humanos, la Oficina de Derechos Humanos de la ONU publicó un informe (The right to privacy in the digital age- Report of the United Nations High
Commissioner for Human Rights) de fecha 13 de septiembre, en el cual se lleva a cabo un análisis acerca de cómo la IA -incluidas la elaboración automática de perfiles, la toma de decisiones y otras tecnologías de aprendizaje para las máquinas-
afecta al derecho a la intimidad y a otros derechos, incluidos los relativos a la salud, la educación, la libertad de movimiento, la libertad de reunión y asociación pacífica, y la libertad de expresión 27'.


La Alta Comisionada ha señalado también que 'la inteligencia artificial llega ahora a casi todos los rincones de nuestras vidas, e incluso alcanza a nuestros estados emocionales. Los sistemas de IA se usan para decidir quién recibe
servicios públicos, quién tiene oportunidad de obtener un empleo y, por supuesto, afectan a la información que la gente ve y que puede compartir en Internet 28'. Asimismo, apunta que 'dado el rápido y continuo crecimiento de la IA, llenar el
inmenso vacío de asunción de responsabilidades sobre cómo se recogen, almacenan, comparten y utilizan los datos es uno de los cometidos más urgentes que afrontamos en materia de derechos humanos 29'.


En el informe se analiza la manera en la que los Estados y las empresas se han precipitado a incorporar los programas informáticos de IA sin ejercer la diligencia debida.


Ha habido muchos casos de personas que han sido injustamente tratadas a causa de la IA, ya sea porque se les ha denegado prestaciones del seguro social debido a la aplicación de instrumentos deficientes de IA o porque han sido arrestadas
como consecuencia de errores en los sistemas de reconocimiento facial 30.


Ante esta situación, la Alta Comisionada apunta al 'riesgo de discriminación inherente a las decisiones basadas en la IA -decisiones capaces de cambiar, definir o perjudicar a las personas- es muy real. Por eso es necesario evaluar y
monitorear sistemáticamente las repercusiones de los sistemas de IA, para poder identificar y atenuar los riesgos en materia de derechos humanos 31'. Por ello, en palabras de Bachelet 'no podemos seguir reaccionando tardíamente a los efectos de la
IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos. La capacidad de la IA para servir a la población es innegable, pero también lo es
su capacidad de contribuir a violaciones de derechos humanos a gran escala, de manera casi indetectable. Es necesario adoptar urgentemente medidas para imponer límites basados en los derechos humanos a la utilización de la IA por el bien de todos
32'.


23 Disponible (en línea): https://www.ohchr.org/SP/HRBodies/HRC/Pages/NewsDetail.aspx?NewsID=27469&LangID=S Última visita realizada el 26 de octubre a las 18.00 horas.


24 Ibídem.


25 Ibídem.


26 Ibídem.


27 Ibídem.


28 Ibídem.


29 Ibídem.


30 Ibídem.


31 Ibídem.


32 Ibídem.

Página 7

Las conclusiones a las que llega el Informe 'The right to privacy in the digital age-Report of the United Nations High Commissioner for Human Rights' son las siguientes 33:


57. EI presente informe ha destacado los impactos innegables y en constante aumento de las tecnologías de inteligencia artificial en el ejercicio del derecho a la privacidad y otros derechos humanos, tanto desde una perspectiva positiva
como negativa. Ha señalado desarrollos preocupantes, incluido un ecosistema en expansión de recopilación e intercambio de datos personales en gran parte no transparente que subyace en partes de los sistemas de inteligencia artificial que se
utilizan ampliamente. Estos sistemas afectan a los enfoques gubernamentales de la policía y la administración de justicia, determinan la accesibilidad de los servicios públicos, deciden quién tiene la oportunidad de ser contratado para un trabajo y
afectan a la información que las personas ven y pueden compartir en línea. Además, el riesgo de discriminación relacionado con las decisiones basadas en la inteligencia artificial es demasiado real. El informe describe una variedad de formas de
abordar los problemas fundamentales asociados con la IA, y subraya que solo un enfoque integral basado en los derechos humanos puede garantizar soluciones sostenibles en beneficio de todos.


58. No obstante, dada la diversidad de nuevas cuestiones que surgen en el contexto de la IA, el presente informe es una instantánea del panorama de la IA en constante evolución. Las áreas que merecen un análisis más detallado incluyen la
salud, la educación, la vivienda y los servicios financieros. Las tecnologías biométricas, que se están convirtiendo cada vez más en una solución de referencia para los Estados, las organizaciones internacionales y las empresas de tecnología, son
un área en la que se necesita con urgencia más orientación en materia de derechos humanos. Además, un enfoque del trabajo futuro desde una perspectiva de derechos humanos debería ser encontrar formas de llenar la inmensa brecha de rendición de
cuentas en el entorno global de datos. Por último, se deben identificar e implementar con urgencia soluciones para superar la discriminación basada en la IA.


Sexto. En el caso concreto de las Fuerzas Armadas (FAS) españolas, ya se están dando pequeños pasos a nuevas mejoras tecnológicas que permitan a nuestro país 'dar el salto' cualitativo hacia lo que Alvin y Heidi Toffler denominaron como
'Tercera Ola'. Este avance permitirá a las FAS avanzar hacia una forma de hacer la guerra acorde con los tiempos.


En concreto, el Ejército de Tierra español, dentro del programa horizonte 2035, prevé extender el uso de exoesqueletos en apoyo de sus militares, además de los avances de inteligencia artificial y realidad aumentada para mejorar la
'conciencia situacional' mediante robots y sistemas autónomos que acompañen a su personal en el 2035. Así pues, la participación de la IA en futuros desarrollos va a ser determinante en el área de Apoyo Logístico, entre otros.


No obstante lo anterior, la IA sin control efectivo por parte de humanos puede implicar peligros para el Estado de derecho y los principios democráticos, por lo que estos avances se deben afrontar con lucidez.


Por tanto, es necesario que su uso esté sometido a garantías jurídicas específicas, controles, supervisión y prohibiciones. El peligro reside en que la IA independiente del control humano, desconociendo los límites de lo legal 34.


Y es que 'en un futuro no muy lejano, nuestros ordenamientos jurídicos no tendrán capacidad para dar respuesta a todas las nuevas situaciones que podrán darse, siendo absolutamente capital centrar los esfuerzos en crear un ecosistema que
trate, al menos, de dotar de seguridad jurídica el marco de coexistencia entre unos y otros, pues no podemos olvidar que la tecnología, como valor que define el progreso de la sociedad, debe siempre estar ligada al interés general' 35.


Como señalan los profesores Martínez Quirante y Rodríguez Álvarez, 'El desarrollo de una inteligencia artificial avanzada y su posible aplicación a los sistemas letales de armamento autónomo representa una amenaza para la vida, la paz y los
fundamentos del derecho, y es imprescindible avanzar en un sistema clasificatorio que desemboque en una regulación internacional y estatal sobre el particular' 36.


33 Traducción del informe 'The right to privacy in the digital age- Report of the United Nations High Commissioner for Human Rights' al español. Disponible (en línea):
https://www.ohchr.org/EN/HRBodies/HRC/RegularSessions/Session48/Documents/A_HRC_48_31_AdvanceEditedVersion.docx Última visita realizada el 26 de octubre a las 19:00 horas.


34 Ibídem.


35 Disponible (en línea): https://www.economistjurist.es/premium/derecho-inteligente/obras-creadas-por-robot-son-susceptibles-del-derecho-de-autor/ Ultima visita realizada el 26 de octubre a las 12:00 horas.


36 Martínez Quirante y Rodríguez Álvarez, Inteligencia Artificial y armas letales autónomas.

Página 8

Es necesario, por tanto, regular tanto en el derecho internacional 37 como en nuestro derecho interno el uso correcto de las armas del futuro, donde la IA va a tener un protagonismo determinante, y cuyo uso irrestricto en las confrontaciones
bélicas podría traer consecuencias irremediables 38.


El contenido de esta regulación deberá abordar las siguientes materias 39:


- Definir la autonomía en relación con las armas militares dotadas de IA a la luz del Derecho Internacional Humanitario.


- Regular las formas de uso de estas armas inteligentes, de manera que se cumpla con los requisitos del Derecho Internacional humanitario, el principio de distinción y el de proporcionalidad, y siempre con control humano suficiente 40.


- Definir las reglas sobre atribución de responsabilidades por crímenes de guerra causados por armas militares con IA.


Por todo ello, y al amparo de lo expuesto anteriormente, el Grupo Parlamentario VOX presenta la siguiente


Proposición no de Ley


'El Congreso de los Diputados insta al Gobierno de la Nación a:


1. Incluir en la futura Estrategia de Seguridad Nacional como desafío o amenaza la regulación de la Inteligencia Artificial aplicada a los usos militares y de seguridad en el ámbito de nuestro ordenamiento jurídico, teniendo siempre en
cuenta el marco del respeto a los valores y derechos humanos, de conformidad con nuestra Carta Magna, y garantizando que la IA siempre esté bajo el control de seres humanos.


2. Promover en el seno de las organizaciones internacionales de las que España forme parte la regulación de las nuevas tecnologías de guerra, dotadas de IA, especialmente las armas robóticas, las armas autónomas y las armas cibernéticas.'


Palacio del Congreso de los Diputados, 12 de noviembre de 2021.-Víctor González Coello de Portugal y Julio Utrilla Cano, Diputados.-Macarena Olona Choclán, Portavoz del Grupo Parlamentario VOX.


COMPETENCIAS EN RELACIÓN CON OTROS ÓRGANOS E INSTITUCIONES


TRIBUNAL DE CUENTAS


252/000001 (CD)


727/000003 (S)


El Pleno del Congreso de los Diputados, en su sesión del día de hoy, ha designado Consejeros de Cuentas del Tribunal de Cuentas a las siguientes personas:


- Excma. Sra. D.ª Enriqueta Chicano Jávega.


- Excma. Sra. D.ª Isabel Fernández Torres.


- Excma. Sra. D.ª M.ª Dolores Genaro Moya.


- Excmo. Sr. D. Diego Íñiguez Hernández.


37 Cabe recordar el artículo 36 del Protocolo Adicional I de los Convenios de Ginebra que señala expresamente lo siguiente: 'Artículo 36 - Armas nuevas. Cuando una Alta Parte contratante estudie, desarrolle, adquiera o adopte una nueva
arma, o nuevos medios o métodos de guerra, tendrá la obligación de determinar si su empleo, en ciertas condiciones o en todas las circunstancias, estaría prohibido por el presente Protocolo o por cualquier otra norma de derecho internacional
aplicable a esa Alta Parte contratante'.


38 J.R. Martínez - A.F. López - S. Serebrenik - N. Fernández, Robótica, Armas y Derecho Internacional.


39 Ibídem.


40 Ibídem, 37.

Página 9

- Excmo. Sr. D. José Manuel Otero Lastres.


- Excmo. Sr. D. Miguel Ángel Torres Morato.


Se ordena su publicación de conformidad con lo dispuesto en el artículo 97 del Reglamento de la Cámara.


Palacio del Congreso de los Diputados, 11 de noviembre de 2021.-P.D. El Secretario General del Congreso de los Diputados, Carlos Gutiérrez Vicén.


727/000002 (S)


252/000002 (CD)


El Pleno del Senado, en su sesión número 40, celebrada el día 16 de noviembre de 2021, ha designado Consejeros de Cuentas, por mayoría de tres quintos de la Cámara, de conformidad con lo previsto en el artículo 30.1 de la Ley Orgánica
2/1982, de 12 de mayo, del Tribunal de Cuentas, a las siguientes personas:


- Excma. Sra. D.ª María del Rosario García Álvarez.


- Excma. Sra. D.ª Elena Hernáez Salguero.


- Excma. Sra. D.ª Rebeca Laliga Misó.


- Excmo. Sr. D. Joan Mauri Majós.


- Excmo. Sr. D. Javier Morillas Gómez.


- Excmo. Sr. D. Luis Antonio Ortiz de Mendívil Zorrilla.


Lo que se publica para general conocimiento.


Palacio del Senado, 16 de noviembre de 2021.-P.D. El Letrado Mayor del Senado, Manuel Cavero Gómez.