BOLETÍN OFICIAL DE LAS CORTES GENERALES


CONGRESO DE LOS DIPUTADOS


XV LEGISLATURA


Serie B: PROPOSICIONES DE LEY


22 de marzo de 2024

Núm. 85-1

PROPOSICIÓN DE LEY


122/000073 Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.


Presentada por el Grupo Parlamentario Plurinacional SUMAR


La Mesa de la Cámara, en su reunión del día de hoy, ha adoptado el acuerdo que se indica respecto del asunto de referencia.


(122) Proposición de ley de Grupos Parlamentarios del Congreso.


Autor: Grupo Parlamentario Plurinacional SUMAR


Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.


Acuerdo:


Admitir a trámite, trasladar al Gobierno a los efectos del artículo 126 del Reglamento, publicar en el Boletín Oficial de las Cortes Generales y notificar al autor de la iniciativa.


En ejecución de dicho acuerdo se ordena la publicación de conformidad con el artículo 97 del Reglamento de la Cámara.


Palacio del Congreso de los Diputados, 19 de marzo de 2024.-P.D. El Secretario General del Congreso de los Diputados, Fernando Galindo Elola-Olaso.


A la Mesa del Congreso


Al amparo de lo establecido en el Reglamento de la Cámara, el Grupo Parlamentario Plurinacional SUMAR presenta la siguiente Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de
la inteligencia artificial.


Palacio del Congreso de los Diputados, 12 de marzo de 2024.-Francisco Sierra Caballero y Teslem Andala Ubbi, Diputados.-Enrique Fernando Santiago Romero, Portavoz del Grupo Parlamentario Plurinacional SUMAR.

Página 2

PROPOSICIÓN DE LEY ORGÁNICA DE REGULACIÓN DE LAS SIMULACIONES DE IMÁGENES Y VOCES DE PERSONAS GENERADAS POR MEDIO DE LA INTELIGENCIA ARTIFICIAL


Exposición de motivos


I


Los avances de las tecnologías de la imagen y la utilización de la Inteligencia artificial en los últimos años ofrecen numerosas oportunidades en diferentes ámbitos de la economía y la comunicación social, pero al mismo tiempo generan retos
y problemas que no cuentan con una regulación adecuada dada su novedad. En especial, las técnicas relativas a la recreación de imágenes y voces de personas mediante la inteligencia artificial requieren un refuerzo de la protección de los derechos
al honor, la propia imagen y la intimidad.


Uno de los productos más reconocibles en este ámbito, las Deepfake o vídeos hiperrealistas, se definen como piezas visuales, auditivas o audiovisuales que simulan la realidad y que consiguen generar falsas imágenes y/o voces de personas. Es
una tecnología que se basa en la inteligencia artificial y el Machine Learning que logra, con una apariencia hiperrealista, simular acciones realizadas por parte de dichas personas. El resultado de estos avances técnicos difumina la barrera entre
lo que es verdadero y lo que es falso; entre lo que son acciones realmente realizadas por una persona y lo que son simulaciones generadas por terceros de manera totalmente artificial.


El Parlamento Europeo ha emitido un informe exhaustivo (Tackling deepfakes in European policy. European Parliamentary Research Device, julio 2021) en el que enumera las diferentes categorías de riesgos asociadas a esta técnica, incluyendo
la difamación, la intimidación, el fraude, la manipulación mediática y electoral, el robo de identidad y los daños reputacionales, entre muchas otras. La compañía de investigación Sensity Al estimó que entre el 90 y el 95 por ciento de todas los
Deepfakes pueden ser calificadas de pornografía. Este tipo de imágenes, elaboradas sin consentimiento de las personas afectadas, tienen un significativo sesgo de género, ya que el 90 por cierto suplantan la identidad de mujeres, lo que, además de
la vulneración de derechos que supone en sí misma, aumenta el riesgo de incidencia de los casos de acoso y otras formas de violencia sobre la mujer. Este tipo de actividades debe ser entendido como una nueva y peligrosa forma de violencia sexual.
Además de los anteriores efectos, se plantean problemas en lo que concierne al funcionamiento de las sociedades democráticas y el efectivo cumplimiento de principios esenciales como el de la igualdad y la no discriminación, ya que este tipo de
manipulaciones contribuyen al descrédito y la desinformación sobre figuras públicas, en su mayoría mujeres.


La generación de contenidos audiovisuales a través de la inteligencia artificial implica el uso de datos personales que pueden llevar a identificar a individuos o colectivos, ya que se crean con el fin de ser semejantes o imitar los rasgos
de dichas personas o grupos, pudiendo incurrir en delitos contra la privacidad y la intimidad. En este ámbito concreto, el sistema normativo español carece de una regulación en lo que respecta a la forma de autorizar la difusión de las alteraciones
de imágenes o voces y sobre la persecución de su utilización ilícita.


El Tribunal Europeo de Derechos Humanos estableció en 2009 (Resolución del Tribunal Europeo de Derechos Humanos de 15 de abril de 2009; Reklos and Davourlis v Greece (App No 1234/05) [2009] EMLR16) que el derecho a la propia imagen es 'uno
de los componentes esenciales del desarrollo personal y presupone el derecho a controlar el uso de esa propia imagen'. El artículo 8 del Convenio Europeo para la Protección de los Derechos Humanos y de las Libertades Fundamentales establece que 'la
imagen de una persona es uno de los atributos principales de su personalidad, por el hecho de que expresa su originalidad y le permite diferenciarse de sus semejantes. El derecho de la persona a la protección de su imagen constituye así uno de los
requisitos esenciales de su propio desarrollo personal. Presupone principalmente el control de la persona sobre su

Página 3

imagen, que comprende concretamente la posibilidad para ésta de negarse a su divulgación'. Los Estados parte de dicho convenio, por lo tanto, deben acoger este mandato y regular esta nueva realidad.


II


El debate sobre los límites de estas prácticas debe contemplar la ponderación de los mismos con las consecuencias que puede tener en el ejercicio de la libertad de expresión. En las conclusiones del Consejo Europeo de 2019 relativas al Plan
coordinado sobre la inteligencia artificial (Conclusiones relativas al Plan Coordinado sobre la inteligencia artificial N.º de Documento: 5808/19 COMPET 75 MI 70 IND 22 DIGIT 15 JUSTCIV 26 RECH 56 EDUC 33), se destacó la importancia de garantizar
los derechos de la ciudadanía europea y su progresiva adaptación a las oportunidades y retos que ofrecen estas tecnologías. En las conclusiones del Consejo Europeo de 21 de octubre de 2020 (Conclusiones de la Presidencia del Consejo de la Unión
Europea sobre 'La Carta de los Derechos Fundamentales en el contexto de la inteligencia artificial y el cambio digital', de 21 de octubre de 2020) sobre la aprobación de una Carta de los Derechos Fundamentales en el contexto de la inteligencia
artificial y el cambio digital, se instaba, además, a afrontar la complejidad, imprevisibilidad y los sesgos que pueden derivarse de la autonomía de ciertos sistemas tecnológicos.


El Libro Blanco de la Unión Europea sobre la inteligencia artificial, publicado el 19 de febrero de 2020 (CE (Ed.) (2020). Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza. Oficina
de Publicaciones de la Unión Europea), expone los objetivos necesarios para promover la adopción de estas tecnologías y los riesgos vinculados a su uso, con la finalidad de desarrollar un 'ecosistema de confianza'. Para ello propone desarrollar un
marco jurídico que haga compatibles los valores y derechos que se constituyen como principios esenciales de la Unión Europea y el desarrollo de innovación científica.


En abril de 2021, la Comisión Europea presentó la primera propuesta de marco legal sobre inteligencia artificial (Comisión Europea (2021, abril 21). Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas
en materia de inteligencia artificial (Ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión), en el que se clasifican los productos elaborados con estas tecnologías en cuatro tipos distintos en función del
riesgo que conllevan: inaceptable, alto, bajo y, por último, mínimo. Asimismo, se proponen estándares para cada umbral de riesgo. En esta propuesta se considera que 'Determinados sistemas de IA destinados a interactuar con personas físicas o a
generar contenidos pueden conllevar riesgos específicos de suplantación o falsificación, con independencia de si son clasificados como de alto riesgo o no. Por consiguiente, el uso de estos sistemas debe estar sujeto, en determinadas
circunstancias, a obligaciones de transparencia específicas, sin perjuicio de los requisitos y las obligaciones aplicables a los sistemas de IA de alto riesgo. En particular, es preciso notificar a las personas físicas que están interactuando con
un sistema de IA, salvo que sea evidente por las circunstancias y el contexto de uso, e informarlas cuando estén expuestas a un sistema de reconocimiento de emociones o a un sistema de categorización biométrica. Esta información y estas
notificaciones deben facilitarse en formatos accesibles para las personas con discapacidad. Además, los usuarios que utilicen un sistema de IA para generar o manipular imágenes, archivos de audio o vídeos que se asemejen notablemente a personas,
lugares o sucesos reales y puedan inducir erróneamente a una persona a pensar que son auténticos, deben comunicar que estos han sido creados o manipulados de manera artificial etiquetando el contenido generado por la inteligencia artificial como
corresponda e indicando su origen artificial.'


Por otro lado, el informe del Servicio de Estudios del Parlamento Europeo de 2021 (Tackling deepfakes in European policy. European Parliamentary Research Device, julio 2021) propone una serie de medidas en diferentes dimensiones
(tecnológica, creativa,

Página 4

de difusión, la de persona o colectivo objetivo, de audiencia e institucionales), entre las que incluye:


- Establecer la tecnología de Deepfake como de alto riesgo. Si se regula y entiende esta técnica como una tecnología peligrosa y con un potencial altamente nocivo, se puede legislar al respecto con más facilidad y asegurar un uso legítimo.


- Limitar la circulación de esas imágenes generadas por inteligencia artificial, a través de una detección e identificación más precisa.


- Regular y aclarar la manipulación de dichas imágenes durante (a difusión de estas, a través de un etiquetado para que haya un total conocimiento de que se está viendo una imagen alterada cuando se consumen dichos elementos.


- Prohibir la publicidad política empleando estas técnicas, ya que se ha demostrado a través de investigaciones que este tipo de montajes puede tener un efecto manipulador sobre la opinión pública y política.


- Modificar los códigos penales de los Estados miembros para abordar el potencial dañino que estas técnicas pueden causar.


- Establecer etiquetas y obligar a las plataformas de difusión a detectar y prohibir ciertos contenidos identificados como Deepfakes o imágenes generadas por inteligencia artificial.


- Invertir en competencias digitales y en identificación de montajes y generaciones virtuales a través de inteligencia artificial.


Asimismo, el Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales),
ya posee un apartado en el que indica que los prestadores de plataformas en línea y de motores de búsqueda en línea aplicarán medidas de reducción de riesgos razonables, proporcionadas y efectivas, que podrán incluir, cuando proceda, 'la garantía de
que un elemento de información, ya se trate de imagen, audio o vídeo generado o manipulado que se asemeja notablemente a personas, objetos, lugares u otras entidades o sucesos existentes y que puede inducir erróneamente a una persona a pensar que
son auténticos o verídicos, se distinga mediante indicaciones destacadas cuando se presente en sus interfaces en línea y, además, proporcionar una funcionalidad fácil de utilizar que permita a los destinatarios del servicio señalar dicha
información'.


En este mismo sentido se pronunciaba recientemente el científico británico Geoffrey Hinton, exvicepresidente de ingeniería de la compañía Google y uno de los mayores especialistas a nivel mundial en materia de inteligencia artificial:
'...todos los gobiernos deberían insistir en que todas las imágenes falsas lleven un distintivo'.


III


La regulación de la inteligencia artificial implica varias modificaciones que deben realizarse en el ordenamiento jurídico español. España cuenta con capacidad regulatoria para abordar esta materia, ya que la Unión Europea confía a los
Estados miembros la persecución del mal uso de este tipo de tecnologías. Las más inmediatas y urgentes son abordadas en esta ley, ya que afectan a derechos tan fundamentales como el acceso a una información veraz y la garantía del derecho al honor,
a la propia imagen y a la intimidad de las personas.


El uso de la inteligencia artificial está amparado bajo la libertad de expresión recogida en el artículo 20.1 de la Constitución española, cuando reconoce el derecho a la producción y la creación artística, así como el de 'expresar y
difundir libremente los pensamientos, ideas y opiniones mediante [...] cualquier otro medio de reproducción'. Sin embargo, la doctrina constitucional advierte de los posibles conflictos que surgen entre dicho derecho a la libertad de expresión y el
derecho al honor. Además, con la proliferación de las noticias falsas y la generalización del uso de las redes sociales, el derecho a recibir una información veraz (que también se recoge en el artículo 20.1 de la CE), así como con el contenido de
los demás derechos fundamentales, y más específicamente el derecho al honor, a la

Página 5

intimidad y a la propia imagen, requiere una actualización de nuestra normativa. En consecuencia, se modifica la Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual, para delimitar las infracciones contra las personas, físicas o
jurídicas, responsables de la utilización de la inteligencia artificial, cuando vulneren las condiciones que se establecen en esta ley.


La nueva regulación introducida en esta ley refuerza de forma directa la protección del honor, la intimidad personal y familiar y la propia imagen, como viene expuesto en el capítulo II de la Ley Orgánica 1/1982 de 5 de mayo, en su apartado
séptimo: 'La imputación de hechos o la manifestación de juicios de valor a través de acciones o expresiones que de cualquier modo lesionen la dignidad de otra persona, menoscabando su fama o atentando contra su propia estimación'. En esta norma
que se actualiza se expone como acción lesiva de la dignidad, tal y como viene definida en el Código Penal, toda acción generada por la inteligencia artificial que conlleve dicho daño.


Además, y para concretar las conductas injuriosas ya recogidas en el Código Penal, se crea un nuevo artículo 208 bis del Código Penal para dar entrada a las acciones injuriosas en las que para su comisión se utilicen simulaciones de imágenes
o voces de personas generadas por inteligencia artificial, en tanto se debe entender la generación y difusión de imágenes o voces artificiales a través de la inteligencia artificial como de alto riesgo potencial de incurrir en conductas injuriosas
con relevancia penal. Se añade también una modificación del artículo 211 para la consideración de estas imágenes o voces artificiales difundidas a través de redes sociales como injurias hechas con publicidad.


También se modifica la Ley 1/2002, de 7 de enero, de Enjuiciamiento Civil, y en concreto su artículo 727, de tal forma que se crea un nuevo epígrafe en el elenco de medidas cautelares específicas para facilitar la retirada urgente de
imágenes o audios generados sin autorización por inteligencia artificial.


Asimismo, debe reseñarse la modificación que se propone de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales, en concreto con la creación de un nuevo artículo 22 bis de la ley
para dotar de mayor protección el tratamiento de datos generados por inteligencia artificial.


Igualmente se modifica la Ley 3/1991, de 10 de enero, de Competencia Desleal, al objeto de garantizar la mayor protección de las personas consumidoras y usuarias frente a prácticas comerciales que utilicen la inteligencia artificial o la
modificación de las apariencias corporales mediante sistemas de procesamiento de imágenes sin advertir de su utilización de una forma clara y sobresaliente.


Se modifica también la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General, toda vez que se introduce un nuevo delito electoral mediante la adición en la ley de un nuevo artículo 144 bis para sancionar las conductas de
aquellos que, desde la convocatoria del proceso electoral y hasta finalizada la jornada de votación, difundiesen de forma maliciosa imágenes o audios de las personas candidatas que estuviesen alterados o recreados mediante sistemas de inteligencia
artificial.


Por último, la ley incorpora dos disposiciones adicionales en las que se crean el Consejo de Participación Ciudadana para la supervisión y evaluación de la Inteligencia Artificial y el Consejo Consultivo sobre el uso de la Inteligencia
Artificial.


Por todo ello se presenta la siguiente Proposición de Ley.


Artículo 1. Modificación de la Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual.


La Ley General de Comunicación Audiovisual queda modificada como sigue:


Uno. Se añaden dos nuevos apartados y un texto final al artículo 157, in fine, quedando redactado el artículo de la siguiente forma:


'Artículo 157. Infracciones muy graves.


[...]

Página 6

17. La difusión de imágenes o vídeos generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial sin la previa autorización o consentimiento expreso de la persona o personas objeto, salvo que
incluyan de forma clara y sobresaliente una advertencia de su condición de imagen generada artificialmente por inteligencia artificial. La advertencia deberá figurar sobreimpresa y claramente legible en la imagen, recayendo en caso contrario la
responsabilidad sobre la persona que accione dicha generación.


18. La difusión de audios generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial que imitan la voz de la persona o personas objeto sin su previa autorización^ o consentimiento expreso
salvo que incluyan de forma clara y perfectamente audible una advertencia de su condición de sonido generado artificialmente por inteligencia artificial. La advertencia deberá realizarse inmediatamente antes y después de haber reproducido la voz
generada por estos sistemas, recayendo en caso contrario la responsabilidad sobre la persona que accione dicha generación.


No se incurrirá en las infracciones establecidas en los dos últimos apartados cuando la utilización de las imágenes o audios generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial esté
autorizada por la ley para detectar, prevenir, investigar y perseguir infracciones penales o cuando el contenido forme parte de una obra o programa evidentemente creativo, satírico, artístico o de ficción.'


Dos. Se añade un nuevo apartado al artículo 158, in fine, quedando redactado el artículo de la siguiente forma:


'Artículo 158. Infracciones graves.


[...]


32. La comisión de las conductas descritas en los apartados 17 y 18 del artículo 157, con las salvedades establecidas en el mismo, cuando las advertencias a las que hacen alusión los referidos apartados no cumplan todos los requisitos
establecidos legalmente.'


Artículo 2. Modificación de la Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen.


La Ley de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen queda modificada como sigue:


Único. Se modifica el artículo 7 de la Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, añadiendo un apartado 9, quedando redactado el artículo de la
siguiente forma:


'Artículo 7. Tendrán la consideración de intromisiones ilegítimas en el ámbito de protección delimitado por el artículo segundo de esta Ley:


[...]


9. La difusión y utilización de imágenes y vídeos de personas o audios de voz generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial sin la previa autorización o consentimiento expreso de
la persona o personas afectadas, excepto que incluyan de forma clara y sobresaliente una advertencia de su condición de imagen o audio de voz generado artificialmente por inteligencia artificial. La advertencia deberá figurar sobreimpresa y legible
en la

Página 7

propia imagen. Para el caso de los audios de voz deberá realizarse una advertencia audible antes y después de su difusión.'


Artículo 3. Modificación de la Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal.


El Código Penal queda modificado como sigue:


Uno. Se crea un nuevo artículo 208 bis, dentro del capítulo III del título XII del Código Penal, nuevo precepto penal que tendrá la siguiente redacción:


'Artículo 208 bis.


Igualmente tendrá la consideración de injuria la acción que, sin autorización y con ánimo de menoscabar el honor, fama, dignidad o la propia estimación de una persona, recrease mediante sistemas automatizados, software, algoritmos o
inteligencia artificial para la pública difusión su imagen corporal o audio de voz.'


Dos. Se modifica el artículo 211 del Código Penal, añadiendo un párrafo segundo, quedado redactado el artículo de la siguiente forma:


'Artículo 211.


La calumnia y la injuria se reputarán hechas con publicidad cuando se propaguen por medio de la imprenta, la radiodifusión o por cualquier otro medio de eficacia semejante.


Salvo previa autorización expresa de la persona o personas afectadas, las simulaciones de imágenes, vídeos o audios de voz de estas generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial
que fueran difundidos a través de redes sociales serán consideradas como injurias hechas con publicidad.'


Artículo 4. Modificación de la Ley 1/2002, de 7 de enero, de Enjuiciamiento Civil.


Se modifica la Ley de Enjuiciamiento Civil en los siguientes términos:


Único. Se modifica el artículo 727 de la Ley 1/2002, de 7 de enero, de Enjuiciamiento Civil, añadiendo un nuevo apartado 12.º, que tendrá la siguiente redacción:


'Artículo 727. Medidas cautelares específicas.


Conforme a lo establecido en el artículo anterior, podrán acordarse, entre otras, las siguientes medidas cautelares:


[...]


12.ª La retirada de las simulaciones de imágenes, vídeos o voces de personas, generadas por sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial a petición de la persona afectada o sus representantes.'


Artículo 5. Modificación de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales.


Se modifica la Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales en los siguientes términos.

Página 8

Único. Se crea un nuevo artículo 22 bis, dentro del título IV de la Ley Orgánica de Protección de Datos personales, nuevo precepto que tendrá la siguiente redacción:


'Artículo 22.Bis. Tratamiento de datos generados por inteligencia artificial.


La presente ley se aplicará a los datos personales generados con imágenes, audios o sonido utilizados por el algoritmo para realizar el aprendizaje automático necesario para generar patrones, imágenes o sonidos de inteligencia artificial que
sean difundidos públicamente.'


Artículo 6. Modificación de la Ley 3/1991, de 10 de enero, de Competencia Desleal.


Único. Se modifica el apartado tercero y se añade un nuevo apartado cuarto en el artículo 5 de la Ley 3/1991, de 10 de enero, de Competencia Desleal, con el siguiente tenor:


'3. Se considera desleal cualquier operación de comercialización de un bien como idéntico a otro comercializado en otros Estados miembros cuando dicho bien presente una composición o unas características significativamente diferentes, a
menos que esté justificado por factores legítimos y objetivos.


4. También se considerará desleal por engañosa la utilización en comunicaciones comerciales de imágenes o sonidos creados por sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial o la modificación de las
apariencias corporales utilizadas en dichas comunicaciones por sistemas de procesamiento de imágenes sin advertir de tales extremos en la propia comunicación comercial de una forma clara y sobresaliente.'


Artículo 7. Modificación de la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General.


Se modifica la Ley Orgánica de Régimen Electoral General de la siguiente forma:


Único. Se añade un nuevo artículo 144 bis a la Ley Orgánica de Régimen electoral, nuevo artículo cuya redacción será la siguiente:


'Artículo 144 bis. Delitos en la distribución maliciosa de imágenes y voces generadas mediante inteligencia artificial.


Serán castigados con la pena de tres meses a un año o la de multa de seis a veinticuatro meses quienes desde la convocatoria del proceso electoral y hasta finalizada la jornada de votación difundiesen de forma maliciosa o sin autorización de
las personas candidatos afectadas imágenes o audios de estas últimas que estuviesen alterados o recreados mediante sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial.'


Disposición adicional primera.


Primero. Por medio de la presente ley se crea el Consejo de Participación Ciudadana para la supervisión y evaluación de la Inteligencia Artificial.


Segundo. El Consejo de Participación Ciudadana para la supervisión y evaluación de la Inteligencia Artificial estará integrado por doce representantes de la sociedad civil, de entre los cuales se nombrará un presidente.


La constitución de este órgano, que dependerá del Ministerio de Ciencia e Innovación, o el que le suceda competencialmente, y tendrá por objeto:


A. Elevar las propuestas de la ciudadanía en materia de inteligencia artificial y derechos digitales.

Página 9

B. Promover una agenda pública ciudadana en materia de inteligencia artificial y democracia


C. Recomendar a los poderes públicos iniciativas sociales y actuaciones multinivel de protección de los derechos de ciudadanía.


D. Organizar jornadas estatales de formación y sensibilización social.


E. Elevar al Defensor del Pueblo las quejas y solicitudes de la sociedad civil.


Tercero. El Gobierno desarrollará reglamentariamente, en el plazo de 6 meses desde la aprobación de la presente ley, la normativa precisa para la constitución, elección de sus miembros, financiación y funcionamiento del Consejo de
Participación Ciudadana.


Disposición adicional segunda.


Primero. Por medio de la presente ley se mandata igualmente a la creación del Consejo Consultivo sobre el uso de la Inteligencia Artificial.


Segundo. El Consejo Consultivo sobre el uso de la Inteligencia Artificial velará por el desarrollo normativo y reglamentario de las iniciativas legislativas necesarias para la protección de los derechos fundamentales y las libertades
públicas.


Tercero. El Consejo Consultivo sobre el uso de la Inteligencia Artificial será elegido por mayoría absoluta del Congreso de los Diputados entre los candidatos con competencias profesionales o especialistas relacionados con las distintas
materias relacionadas con la inteligencia artificial, propuestos por el Consejo de Ministros, debiendo realizarse su elección durante los seis meses siguientes a la aprobación de esta ley. La composición de este órgano de extracción parlamentaria
será de nueve miembros, debiendo contar la propuesta del Consejo de Ministros con 20 candidatos repartidos de forma paritaria.


Dicho Consejo contará con un presidente elegido por sus miembros cuando quede constituido, teniendo el conjunto del Consejo un mandato por 5 años. Expirado el plazo deberá volverá elegirse un nuevo Consejo en la forma descrita en esta
disposición adicional.


Cuarto. El Consejo Consultivo sobre el uso de la Inteligencia Artificial tendrá por cometido la siguientes tareas y funciones:


A. Elaborar informes técnicos sobre el desarrollo de la inteligencia artificial y su impacto económico, social y cultural


B. Proponer iniciativas legislativas y recomendar políticas públicas en materia se IA al Congreso


C. Deliberar e informar al Gobierno en materia de ética pública y derechos humanos afectados por el desarrollo de los sistemas expertos


D. Proponer programas de investigación en las políticas nacionales de l+D sobre la materia.


E. Elevar a la Comisión de Calidad Democrática propuestas institucionales de garantías en materia de inteligencia artificial.


Quinto. El Gobierno desarrollará reglamentariamente, en el plazo de 6 meses desde la aprobación de la presente ley, la normativa precisa para la financiación y funcionamiento del Consejo Consultivo sobre el uso de la Inteligencia
Artificial.


Disposición derogatoria única. Derogación normativa.


Quedan derogadas todas las disposiciones de igual o inferior rango que se opongan a la presente Ley Orgánica.


Disposición final primera. Título competencial.


Esta Ley Orgánica se dicta al amparo del artículo 149.1.1.ª de la Constitución, que atribuye al Estado la competencia exclusiva para la regulación de las condiciones básicas que garanticen la igualdad de todos los españoles en el ejercicio
de los derechos y en el

Página 10

cumplimiento de los deberes constitucionales, así como en artículo 149.1.6.º de la Constitución que atribuye al Estado competencia exclusiva en materia de legislación penal.


Disposición final segunda. Preceptos que tienen carácter de Ley orgánica.


Tienen carácter orgánico los preceptos de esta ley recogidos en los artículos 2, 3, 5 y 7.


Disposición final tercera. Habilitación normativa.


Se habilita al Gobierno para dictar las disposiciones que sean necesarias para la ejecución y desarrollo de lo establecido en esta ley.


Disposición final cuarta. Entrada en vigor.


La presente ley entrará en vigor al día siguiente de su publicación en el 'Boletín Oficial del Estado'.