La señora PRESIDENTA: Se abre la sesión.

Buenos días a todos.

En primer lugar, me vais a permitir que dé las gracias y la bienvenida
a don Rafael Yuste. Estamos muy orgullosos de que esté hoy aquí con todos
nosotros. Le comentaba en el previo que era algo compartido por todos los
grupos, ya que es una persona muy importante para todos nosotros.

Hoy iniciamos los trabajos de la ponencia de estudio para evaluar la
importancia de la inteligencia artificial en el uso de datos y en otros
campos beneficiosos para la sociedad, y, como digo, es el primer ponente,
que para nosotros es alguien muy importante. Él es profesor de Ciencias
Biológicas en la Universidad de Columbia, en Nueva York, y viene aquí
para informar en relación con esta ponencia.

Estamos muy honrados de su presencia hoy aquí, don Rafael, así que
tiene la palabra.

El señor YUSTE ROJAS (profesor de Ciencias Biológicas en la Universidad
de Columbia, en Nueva York (Estados Unidos de América): Muchas
gracias.

Buenos días a todos. Egun on, que creo que también hay gente del País
Vasco.

Estoy honrado de hablarles a ustedes, a los senadores, que son quienes
representan al pueblo español y es para mí una honra hablarles
directamente y trasladarles información y preocupaciones que les puedan
interesar. Les voy a hablar de dos temas que, en principio, parece que no
tienen nada que ver. Uno es neurotecnología y el otro, derechos humanos.
Nosotros pensamos que es muy importante conjuntarlos y es una oportunidad
para los representantes de la ciudadanía con el fin de proteger a los
ciudadanos en el futuro.

Mi nombre es Rafael Yuste y soy médico. Soy de aquí, de Madrid, del
barrio de Argüelles, en Chamberí. Estudié en el Instituto Ramiro de
Maeztu y después hice la carrera de Medicina en Madrid, en la Autónoma,
en el Hospital Jiménez Díaz. Llevo casi cuarenta años investigando cómo
funciona el cerebro para poder ayudar a los pacientes que tenemos con
enfermedades mentales, psiquiátricas y neurológicas que, como saben
ustedes muy bien, hay poco que hacer, porque los médicos tenemos las
manos atadas a la espalda, pues no entendemos cómo funciona el cerebro y
es difícil arreglar los problemas. Por eso yo me dediqué a la
investigación básica, para, como decía Cajal, coger el pico y la pala y
averiguar cómo funcionan lo que llamaba él las selvas impenetrables del
cerebro

Por tanto, les voy a hablar de neurotecnología. ¿Y qué es esto de la
neurotecnología, que suena como algo muy complicado? Pues es algo muy
simple, son métodos o técnicas para hacer dos cosas: para registrar la
actividad cerebral o para cambiarla. Eso es. Y estos métodos, estas
técnicas o dispositivos pueden ser electrónicos, como un chip, que se
puede poner dentro del cerebro estos son los dispositivos invasivos , o
como electrodos, que se pueden poner para estimular distintas partes del
cerebro, lo que se llama estimulación cerebral profunda. Estos son
ejemplos de neurotecnología invasiva. Y luego hay neurotecnología que
llamamos no invasiva, que se vende comercialmente, y que puede ser en
forma de cascos, diademas, gafas, auriculares, pulseras o brazaletes que
miden la actividad cerebral a través del cráneo y no son tan potentes. O
dispositivos magnéticos que pueden estimular la actividad cerebral desde
fuera del cráneo. Pero, al final del día, la neurotecnología hace estas
dos cosas: medir y cambiar o modular la actividad cerebral.

¿Por qué es importante la neurotecnología? Pues porque el cerebro no es
un órgano más del cuerpo, como pueden ser el corazón, el hígado o el
bazo, sino que es el órgano que genera toda la actividad mental de las
personas. Toda la actividad mental y cognitiva no sale del aire, sale de
la actividad neuronal del cerebro. Estoy hablando de nuestros
pensamientos, nuestras memorias, nuestras emociones, nuestro
comportamiento, nuestras decisiones, nuestras creencias, nuestra
conciencia y también incluso el subconsciente, lo que no sabemos que
llevamos. Todo sale del cerebro. Entonces, si tú tienes tecnología que te
permite registrar la actividad cerebral y cambiarla, por regla de tres,
la misma tecnología te va a permitir registrar la actividad mental y
cambiarla. Es cuestión de tiempo. ¿Y por qué es la neurotecnología
importante ahora, en vez de hace diez años o dentro de diez años? Eso
tiene que ver con el presidente Obama, que en el año 2013 lanzó la
iniciativa de cerebro en Estados Unidos, el proyecto BRAIN, que es un
proyecto a quince años para desarrollar neurotecnología de todo tipo:
electrónica, magnética, acústica, molecular, basada en nanociencia...
Siempre que sea avanzar, todo vale. Y Obama lo propuso al Parlamento en
Estados Unidos para lograr un avance de su país en neurotecnología, por
tres razones. Una razón científica, porque, con la neurotecnología,
científicos como nosotros podremos entender por fin cómo funciona el
cerebro. Y esto es importantísimo no solo como un desafío científico,
sino también como un desafío cultural para la humanidad. Porque nosotros
somos una especie que nos definimos por la actividad mental, por nuestra
mente. Entonces, si podemos entender desde dentro cómo funciona la mente,
nos entenderemos por primera vez por dentro, entenderemos qué es un ser
humano. Y esa es la gran pregunta del humanismo: qué es una persona, qué
es un ser humano. Ahí vamos derechos los neurobiólogos, a entender eso
científicamente, pero necesitamos esta neurotecnología para
lograrlo.

La segunda razón que dio el presidente Obama fue médica. Evidentemente,
igual que aquí, en Estados Unidos hay un problema formidable con la
proporción cada vez más elevada de enfermedades cerebrales. Se estima que
un tercio de nosotros en nuestra vida sufriremos una enfermedad cerebral
seria y con unas consecuencias no solo de dolor personal y social, sino
incluso económicas, brutales. Y esa fue la razón por la cual Obama
propuso el proyecto.

Y la tercera razón, que fue la que convenció a todo el mundo, fue una
razón económica, porque dijo: Miren lo que hemos hecho con el genoma
humano. Metimos dinero en el genoma humano y cada dólar con el que
financiamos el genoma humano, quince años más tarde ha dado un beneficio
a la economía estadounidense de 124 dólares; o sea, una inversión que se
ha multiplicado por 124 en quince años. Y con las mismas, Obama dijo:
Vamos a invertir ahora en neurotecnología porque se desarrollará una
nueva industria, e, igual que el genoma humano dio lugar a la
biotecnología, el proyecto BRAIN dará lugar a la neurotecnología
neurotech . Y con este argumento, el Congreso de Estados Unidos apoyó el
proyecto de Obama en Estados Unidos quien tiene el dinero es el
Congreso, no es el presidente . Y desde entonces hasta hoy,
religiosamente, todos los años, apoyan el proyecto BRAIN, hasta el punto
de que este año, que estamos entrando en el 11, el presupuesto es de
casi 900 millones de dólares y están involucrados más de 550 laboratorios
en fabricar estos métodos. En ese momento en que Obama lanzó el proyecto
BRAIN la neurotecnología tomó alas, e, igual que hizo Estados Unidos,
muchos otros países imitaron el proyecto de Estados Unidos y se lanzaron
al agua China, Japón, Corea del Sur, Australia, Canadá, Israel... Europa
tenía un proyecto parecido, el Human Brain Project. Así que estamos en
una situación donde todas las grandes potencias del mundo están
invirtiendo muchísimo dinero para desarrollar neurotecnología por razones
científicas, por razones médicas, por razones económicas y por otra razón
que no mencionó Obama, pero que sale ahora también a relucir, que es por
seguridad nacional, por razones armamentísticas, como un nuevo escenario
bélico, igual que empieza tradicionalmente el Ejército de Tierra, la
Armada, el Ejército del Aire, el Ejército del Espacio, el cyberspace
también. Y el nuevo escenario bélico pueden ser las armas neurológicas.
Por eso, todos estos países están invirtiendo de una manera muy
importante en neurotecnología.

Os he contado qué es la neurotecnología, por qué es importante y por
qué ahora. Alguien como yo, que mi ilusión en la vida es ayudar a los
pacientes entendiendo y descifrando estas selvas impenetrables de Cajal,
pues feliz, porque ahora todo el mundo, de repente, se pone las pilas y
empieza a desarrollar tecnología que puede ser revolucionaria. Nos puede
cambiar la sociedad, la medicina y la economía. Nosotros somos
especialistas en neurotecnología, en lo que llamamos óptica. Utilizamos
láseres. Es la más potente de todas para poder registrar la actividad del
cerebro. Vemos la actividad, hacemos películas de la actividad de las
neuronas y también con otros láseres holográficos manipulamos la
actividad como si estuviésemos tocando el piano. Imaginad que el cerebro
es como un piano y cada neurona es como una tecla y nosotros entramos ahí
con láseres en tres dimensiones y podemos tocar la melodía que queramos,
podemos reprogramar los circuitos cerebrales. Esta es una tecnología que
hemos hecho nosotros con nuestras propias manos. Es una especialidad.
Pues resulta que hace diez años logramos hacer un experimento en ratones.
Nosotros trabajamos con el cerebro de los ratones porque es muy parecido
al de los humanos. Si pudiéramos entender cómo funciona el cerebro de un
ratón, ese día entenderíamos el humano también. Estudiamos la corteza
visual, porque es la parte del cerebro que más se entiende. La parte
visual del cerebro tiene muchas ventajas desde el punto de vista
experimental. Y los neurobiólogos llevamos ya cincuenta o sesenta años de
tradición, generación tras generación, de darle a la corteza visual. Como
digo, estábamos haciendo experimentos con la corteza visual de un ratón y
pudimos descifrar lo que el ratón estaba viendo simplemente mapeando la
actividad de sus circuitos cerebrales. Pero después, con el otro láser,
empezamos a tocar el piano, activando grupos de neuronas en la corteza
visual del ratón, y pudimos lograr introducirle imágenes en su cerebro de
cosas que no estaba viendo, como si fuese una alucinación, y el ratón se
empezó a comportar como si las estuviera viendo. Es decir, tomamos
control con nuestra neurotecnología de la percepción visual de un ratón y
lo convertimos en una marioneta. Podía hacer una cosa u otra si le
metíamos una imagen u otra. Desde el punto de vista científico, champán,
porque hemos podido descifrar un poco el código interno que utilizan las
neuronas para comunicarse, hasta tal punto que podemos manipularlo y
cambiarle el comportamiento al ratón. Y, desde el punto de vista médico,
también felices, porque sabéis, por ejemplo, que la esquizofrenia es una
enfermedad sobre la que todavía no se conoce muy bien cuál es el
problema, pues no entendemos todavía la máquina, como os he comentado,
pero es una enfermedad que tiene que ver con alteración del pensamiento,
y estos enfermos tienen síntomas positivos y negativos. Los positivos ven
cosas que no existen, alucinaciones de todo tipo: auditivas, visuales,
olfatorias... Y nosotros le habíamos generado al ratón una alucinación,
que es una manera para poder entender qué les ocurre a los
esquizofrénicos y ayudarles. Por tanto, felices durante el día. Pero esa
noche no dormí. Tuve como el momento Oppenheimer. No sé si habéis visto
la película Oppenheimer, cuando ve el primer reactor nuclear y le cambia
la cara, como diciendo: ¡la que hemos armado! Pues igual, esa noche
estuve mirando al techo, porque lo que hoy se hace en un ratón, mañana se
puede hacer en un humano. La tecnología, la ciencia es neutral. Nosotros
la desarrollamos para el bien de la humanidad, pero las técnicas, una vez
que las desarrollas, se pueden utilizar para lo que quieras. Entonces ahí
me cambió un poco la trayectoria. Yo, que siempre he sido científico puro
y duro, empecé a pensar en la responsabilidad que tenía como científico
que tenemos todos los científicos que estamos desarrollando una
tecnología , primero, en contar a la sociedad lo que estamos haciendo,
las consecuencias de lo que se está haciendo e involucrarnos
personalmente en la regulación de estas tecnologías, como ocurrió en la
historia anterior, por ejemplo, con Oppenheimer y su grupo, que
precisamente empezaron el Proyecto Manhattan en el campus de la Columbia,
en el edificio de al lado donde trabajo yo. Por eso se llamaba Proyecto
Manhattan, porque lo empezaron en la isla de Manhattan.

A partir de ahí, me involucré de una manera muy importante en la
regulación de las posibles consecuencias éticas y sociales de la
neurotecnología y convocamos a un grupo de científicos en Nueva York, en
el campus nuestro de la Columbia, en el campus de Morningside, y nos
llamamos el grupo de Morningside. Fuimos 25 personas, incluyendo
representantes de todos los proyectos de cerebro que os he contado de
todos estos países. Vinieron incluso de China, de Japón, de Corea, de
Australia y de Europa. Estábamos todos allí con expertos como nosotros,
que desarrollamos neurotecnología potente en animales, con expertos que
la utilizan en la clínica, neurólogos, psiquiatras, gente que vino de
Silicon Valley, de inteligencia artificial, de Google y de compañías
neurotecnológicas. Nos encerramos tres días a estudiar la problemática,
las posibles consecuencias de esta neurotecnología, y llegamos a la
conclusión, de una manera unánime, de que este es un problema de derechos
humanos. Y la razón es, como dije antes, porque el cerebro es el órgano
que genera la mente humana. Nos definimos por nuestras capacidades
mentales y con la neurotecnología tenemos la oportunidad, la posibilidad,
por primera vez en la historia de la humanidad, de llegar a lo que nos
hace como somos, cambiarlo, manipularlo y descifrarlo. Entonces, si esto
no es un problema de derechos humanos, ¿qué es un problema de derechos
humanos? No hay nada más central en la humanidad que el cerebro.
Planteamos la idea de extender la protección de los derechos humanos a la
actividad cerebral y propusimos lo que llamamos neuroderechos, que
podemos interpretar como nuevos derechos humanos o extensión de los
derechos humanos a cinco áreas donde nosotros pensamos que puede haber
graves consecuencias si la neurotecnología no se regula.

El primer neuroderecho es la privacidad mental. Propusimos que uno de
los neuroderechos tenía que ser el derecho a nuestra privacidad mental,
para que el contenido de la actividad cerebral no pueda ser descifrado
sin tu consentimiento. Esto no es ciencia ficción. Por ejemplo, en
diciembre de hace un año, un grupo de la Universidad de Sidney, en
Australia, utilizaron un casco de electroencefalografía que te ponen
encima de la cabeza, acoplado a un sistema de inteligencia artificial
generativa para descifrar el lenguaje mental de 19 voluntarios.
Descifraban con éxito alrededor del 40 o 50 % de las palabras que los
voluntarios pensaban. Pero eso en todo el grupo. En algunos de estos
voluntarios la descodificación fue muy efectiva y hay un vídeo, que os
animo a que lo veáis, donde le dicen a un chico: Piensa que entras en un
Starbucks y pides un café. Entonces le empiezan a descifrar la actividad
cerebral y la computadora dice las palabras que están descifradas de su
actividad cerebral. Y las palabras son: Buenos días, un café con leche
doble. Muchas gracias. O sea, todo, no todas las palabras, pero sí la
esencia de lo que quería hacer, descifrado tal cual, en tiempo real. Eso
te da una idea de la importancia que tiene la protección de la privacidad
mental hoy. No estamos hablando de ciencia ficción, esto ya está encima
de la mesa.

El segundo neuroderecho tiene que ver con la protección de la
integridad mental. En realidad, de lo que estamos hablando es de proteger
nuestra personalidad, nuestro yo, nuestra identidad. Os puede parecer de
ciencia ficción, pero no es ciencia ficción. Estaba comentando antes que
la neurotecnología que se utiliza en la clínica son estimuladores
cerebrales profundos, sobre todo para pacientes que tienen Parkinson,
depresión profunda o adicciones severas. Entonces, de una manera que
todavía no se entiende bien, les insertan unos electrodos, lo que llaman
el marcapasos cerebral, que, cuando lo activan, se estimulan los núcleos
profundamente en el cerebro y les disminuye el temblor. Esto les mejora
muchísimo la calidad de vida, pero un efecto secundario en algunos de
estos pacientes es que les cambia la personalidad, y van los familiares
al médico y le dicen: Oiga, ¿qué le están haciendo al abuelo que cuando
le encendemos el marcapasos cerebral se convierte en otra persona? Para
un neurobiológo es también de cajón, porque la personalidad está generada
en el cerebro y, si empiezas a estimular, antes o después vas a dar con
el sitio y le vas a alterar la personalidad. Creemos nosotros que es algo
por lo que nunca se había preocupado nadie, no hay ningún derecho humano
que proteja el yo, porque ¿a quién se le había ocurrido que te pueden
cambiar el yo, la personalidad? Pues ahora sí, ahora ya tenemos la
posibilidad de hacerlo, y pensamos que debe ser protegido, quizá, como el
primer derecho humano, porque, si no tienes derecho humano a tu propia
personalidad, ¿para qué sirve el resto?

El tercer neuroderecho es el derecho a tu libre albedrío, a tu
decisión, a tu libertad, de manera que las decisiones que adoptes sean
tomadas por tu propio cerebro, sin influencias de la neurotecnología
externa. Eso tampoco es ciencia ficción, ya lo hicimos en ratones hace
diez años y, antes o después, se podrá hacer en personas. Antes de que
ocurra, queremos que esto esté ya protegido como una línea en la arena en
la que no se pueda entrar. Las decisiones de las personas tienen que ser
intrínsecas a su propio cerebro.

El cuarto neuroderecho es muy importante y tiene que ver con la
posibilidad de utilizar neurotecnología para aumentarnos mental o
cognitivamente. Si tenemos tecnología que nos permite entrar en el
cerebro y si tenemos éxito gente como nosotros y podemos descifrar lo que
ocurre, con las mismas, se puede cambiar lo que ocurre y aumentar o
disminuir todo tipo de capacidades mentales. No es ciencia ficción. Hace
dos años, un grupo muy bueno de la Universidad de Boston utilizó
neurotecnología magnética, que son unas palas que te pones encima de la
cabeza, para estimular una parte del cerebro y aumentar la memoria en
un 30 % a un grupo de voluntarios. Lo hacían porque quieren utilizar esto
en enfermos de Alzheimer. Entonces, para aumentar la memoria a los
enfermos de Alzheimer, lo primero que tienes que hacer es lo que llamamos
el control con personas de la misma edad, pero que no sean enfermos, y
ese control salió positivo. Tenía un efecto pequeño, pero significativo,
un 30 %. Esto es el comienzo de lo que puede ser una carrera por
aumentarnos mentalmente los humanos. Habrá un futuro en que utilizaremos
neurotecnología para aumentar nuestra memoria, nuestra capacidad de
decisión, la información que tenemos del mundo. Sinceramente, creo que es
inevitable; los humanos llevamos 100 000 años desarrollando tecnología
para aumentar lo que somos de hecho, estas gafas que llevo son para
aumentar mi vista, y la ropa y los zapatos son para aumentar las
posibilidades de nuestro cuerpo y aguantar el frío . ¿Por qué vamos a
parar ahí? De hecho, filósofos como Heidegger definen al ser humano como
el animal que crea herramientas para aumentarse. O sea, es inevitable que
vayamos a utilizar neurotecnología para aumentarnos. Por eso,
anticipándonos a este escenario, proponemos que el acceso a la
neuroaumentación sea un acceso equitativo, que esté regido por el
principio universal de justicia, que los que se aumenten no sean los que
tengan más dinero, o los que tengan más influencia, o los que pertenezcan
a ciertos grupos sociales en ciertos países del mundo, sino que haya un
sistema universal que decida cómo se aumenta mentalmente a las personas,
quién lo hace y por qué lo hace. Creemos que hay que empezar a discutir
esto ya. Aunque no ha ocurrido todavía, es para el futuro, pero, como
digo, con estos estudios de aumento de la memoria empezamos a ver cómo se
va abriendo la puerta en esa dirección.

El último neuroderecho que propusimos es el derecho a la protección con
respecto a los sesgos y discriminaciones en la información que la
neurotecnología introduce en el cerebro. Estamos rodeados de un mundo
atiborrado de información sesgada, esto no es ninguna novedad, pero lo
que es novedad es que, con la neurotecnología, esta información no la
interpretas como algo que te viene de fuera, que lees en los periódicos o
en las redes sociales, sino como algo que piensas tú. O sea, cuando a
estos ratones les introdujimos estas imágenes en su cerebro, se
comportaban exactamente igual que si lo estuviesen pensando ellos, no
había ninguna distinción entre su comportamiento propio y el que
generamos nosotros. Esto nos hace sospechar es también un razonamiento
lógico para un científico que tú eres tu cerebro y, si te cambian el
cerebro, te cambian a ti, te cambian tus creencias. Por eso, mucho más
importante que proteger los sesgos y la discriminación es proteger la
información que la neurotecnología mete en el cerebro.

Esta es la plataforma de Neuroderechos. Escribimos un artículo entre
los 25 y lo publicamos en la revista internacional Nature, que es la
revista de ciencia más leída en el mundo. A partir de entonces eso fue
en 2017 , me involucré no solamente en describir el problema con estos
compañeros porque una cosa es hablar de un problema y otra cosa es
solucionarlo , sino también en ver qué podemos hacer para solucionar el
problema que hemos creado nosotros mismos. Llevo ya los últimos años
involucrado en ello y hemos creado la Fundación Neuroderechos con un
abogado internacionalista de derechos humanos, Jared Genser, que trabaja
con Naciones Unidas y es responsable de la defensa de prisioneros
políticos en muchos regímenes totalitarios y conoce los derechos humanos
mejor que nadie. Y llevamos varios años concienciando a la población, en
general, y a los representantes de la ciudadanía, como ustedes, de la
problemática. En los últimos años, hemos logrado que haya cuatro lugares
en el mundo que tengan protección legal sobre la actividad cerebral. El
primero fue en la República de Chile, donde, por una carambola, me
invitaron a hablar, precisamente en el Senado sus colegas chilenos , en
el Congreso Futuro, donde se habla de la problemática del futuro en
ciencia, en economía, en filosofía, en todos los temas, y yo hablé de
este problema, de la neurotecnología y los neuroderechos. A los senadores
de Chile les encandiló la idea, decidieron involucrarse y hacer de Chile
el piloto de la regulación de la neurotecnología en el mundo. Con las
mismas, contribuimos, con el equipo jurídico del Senado de Chile, en la
creación de una enmienda constitucional al artículo 19 de la Constitución
chilena que todavía está vigente , donde con una frase muy corta se
protege la actividad cerebral y la información procedente de ella. Esta
enmienda constitucional fue aprobada unánimemente por el Senado de la
república, por la Cámara y firmada por el presidente Piñera,
recientemente fallecido. Por tanto, Chile se convirtió, en el año 2021,
en el primer país del mundo en contar con protección jurídica de la
actividad cerebral de sus ciudadanos.

Esto ha dado lugar a que, el año pasado, se diera en Chile el primer
caso de jurisprudencia en la historia de la neurotecnología, donde un
ciudadano chileno demandó a una compañía neurotecnológica americana que
vendía electrodos de encefalograma para fines lúdicos, para ayudar a
dormir, a meditar o a mover un cursor en la pantalla. Los datos de esta
tecnología pasan a ser propiedad de la compañía, que los puede vender. De
hecho, hemos hecho un estudio en nuestra fundación sobre 30 compañías
tecnológicas norteamericanas y canadienses y, de las 30, todas acaparan
la propiedad de todos los datos cerebrales del usuario, y 29 de las 30 se
autorizan a sí mismas a venderlos a terceros, que, por definición, no se
sabe quiénes son, puede ser quien quiera pagar. Por tanto, desde nuestro
punto de vista, la situación con los datos cerebrales no puede estar peor
protegida, hay barra libre, es el salvaje Oeste. Las compañías no tienen
regulación y acaparan con todo, menos en Chile. En Chile, este ciudadano
demandó a una compañía norteamericana por usurpación de sus derechos
constitucionales, por este artículo 19 de la Constitución chilena, el
pleito subió a la Corte Suprema, que falló unánimemente a favor del
ciudadano y forzó a la compañía a borrar todos los datos que tenían de
este ciudadano y a ser inspeccionada por las autoridades sanitarias. Por
tanto, Chile se convirtió no solamente en el primer país en proteger la
actividad cerebral, sino también en tener el primer pleito que crea
jurisprudencia sobre este tema.

Siguiendo el ejemplo chileno, cerca de allí, está el Estado de Río
Grande del Sur, en Brasil, que es un Estado muy avanzado en términos de
políticas sociales. No sé si conocen que, precisamente, ha sido el sitio
pionero del mundo de la democracia representativa, con presupuestos
representativos; allí se votan los presupuestos del Estado en asambleas
en barrios, luego se aglomeran los votos de distintos barrios y el
gobernador hace lo que dice la gente. Llevan ya veinte o treinta años. Es
un sistema que han copiado en Escandinavia, pero empezó en Río Grande del
Sur. Pues ellos dijeron: Nosotros, igual que los chilenos. Nos llevaron
allí, estuvimos hablando con el Gobierno de Río Grande del Sur y el
Parlamento, y, de una manera unánime, 16 partidos políticos apoyaron una
enmienda constitucional a la Constitución de su Estado parecida a la
chilena: proteger la actividad cerebral, proteger la información
procedente de ella y, además, añadiendo la obligación de transparencia a
las compañías que utilicen neurotecnología.

Después de Chile y Río Grande del Sur, este año hemos tenido dos éxitos
en Estados Unidos: en el Estado de Colorado y después en el de
California, donde han aprobado, unánimemente también, los dos partidos,
demócratas y republicanos, leyes específicas. En Colorado, la Ley de
neurodatos, que define jurídicamente qué son datos cerebrales, y aplica a
estos datos la Ley de Colorado de protección de datos, que es muy fuerte,
es parecida al RGPD europeo. Lo firmó el gobernador de Colorado en mayo,
y, desde mayo, los ciudadanos de Colorado están protegidos. Y en
California, este septiembre, el Parlamento, el Senado y la Cámara,
también de una manera unánime, todos los representantes y los senadores,
votaron a favor de la ley de neuroderechos que nosotros les propusimos,
que también define jurídicamente qué son los datos cerebrales, y aplica
la Ley de protección de privacidad del consumidor, que dicen los expertos
que es la más fuerte del mundo, incluso más fuerte que el RGPD de
Europa.

Por tanto, la situación de la neurotecnología es preocupante, pero yo
soy optimista, porque es un tema de consenso, de unidad, y en los sitios
donde hemos llevado la problemática se han involucrado los representantes
de la ciudadanía y han puesto leyes en pie. Estamos trabajando con las
Naciones Unidas, que es otra historia. Llevamos ya cinco años trabajando
con Naciones Unidas porque ellos son quienes tienen la responsabilidad de
los grandes ocho tratados de derechos humanos en todo el mundo. Estamos
trabajando con tres de estos tratados, el Convenio Internacional de
Derechos Políticos y Civiles el gran tratado de derechos humanos del
mundo , también el Comité contra la Tortura y el Comité contra la
Discriminación Racial, para incorporar en estos tratados de derechos
humanos la protección a la actividad cerebral y a los datos
neuronales.

Acabo hablando de la situación en España. Primero, una buena noticia.
Un compañero de ustedes, el senador Escudero, cuando trabajaba en la
Comunidad de Madrid, lideró, por parte de Madrid, un proyecto que se
llama Spain Neurotech, que es una especie de iniciativa cerebro para
España, que también alcanzó un consenso entre la Comunidad de Madrid y el
Gobierno de la nación, que lideró la vicepresidenta Calviño. Estamos a
punto de que se anuncie si va todo bien, quizá el mes que viene la
firma de un consorcio público entre la Comunidad de Madrid, el Estado y
la Universidad Autónoma de Madrid, que dota de un edificio a un proyecto
para generar un centro nacional de neurotecnología, que servirá como eje
de una red estatal con unidades asociadas en otros sitios, incluidos,
posiblemente, el País Vasco, Valencia y, quizá, Cataluña, que sea un
proyecto BRAIN a la española. Queremos hacer aquí neurotecnología punta
para la ciencia, para la medicina y también para el emprendimiento. Esa
es una buena noticia porque, con este proyecto se llama en inglés Spain
Neurotech porque ya en la ciencia internacional es todo en inglés ,
España se pondrá en la punta de lanza de Europa en la generación de
neurotecnología.

En términos de la regulación de la neurotecnología en España, hemos
tenido varios contactos iniciales que no han fructificado. Trabajamos con
la Agencia Española de Protección de Datos con la idea de enmendar el
RGPD europeo, porque ellos pertenecen al grupo de RGPD en Bruselas, para
extender la protección del RGPD a los datos cerebrales, igual que hemos
hecho en Colorado y en California. Pero no ha fructificado. Es muy
difícil enmendar el RGPD, dicen que es imposible porque hay que poner de
acuerdo a todos los países de Europa y puede llevar otros quince años,
que fue lo que se tardó en hacerlo. Lo entendemos perfectamente. En
Europa, se mueven las cosas con mucha lentitud.

En España, nos convocaron sus colegas del Congreso en febrero, a través
de la Oficina C. De los cuatro temas que escogieron de ciencia y
tecnología, uno de ellos fue, precisamente, la neurotecnología. Nos
convocaron sus colegas y estuvimos una mañana hablando de estos temas con
ellos. Estaban todos muy de acuerdo en que había que hacer algo en
España, hubo muy buena voluntad, pero, que yo sepa, no ha ocurrido nada.
Con lo cual, existe todavía la oportunidad de involucrarse para hacer
algo en España y tomar las riendas en Europa, que sea España la líder en
el continente en este tema tan importante.

Esto es lo que les quería contar. No sé si me he pasado de tiempo, pero
estoy a vuestra disposición, a su disposición perdonen, llevo tanto
tiempo fuera que ya no sé hablar de usted. (Aplausos).

La señora PRESIDENTA: Muchísimas gracias, señor Yuste.

Pasamos ahora a la intervención de los grupos y, después, tendremos
otro turno para que usted responda a las consideraciones que estime
oportunas.

Por el Grupo Parlamentario Mixto, se excusa el senador don Fernando
Carbonell Tatay.

Por el Grupo Parlamentario Izquierda Confederal, se excusa el senador
don Eric Xavier Morera Catalá.

Y, por el Grupo Parlamentario Plural, se excusa don Pedro Manuel
Sanginés Gutiérrez.

Por lo tanto, pasamos a la intervención del Grupo Parlamentario Vasco.
Tiene la palabra don Luis Jesús Uribe-Etxebarria Apalategui.

El señor URIBE-ETXEBARRIA APALATEGUI: Eskerrik asko, presidenta andrea.
(Continúa su intervención en euskera).

Le decía que muchísimas gracias por todas las explicaciones que nos ha
transmitido. Yo hace muchísimos años leí que la historia de la humanidad
se puede analizar desde muchos puntos de vista. Uno de ellos es la lucha
constante del ser humano contra el tiempo y el espacio. Yo no sé si se
puede también usted dirá analizar la historia de la humanidad como un
empeño en conocer, efectivamente, todos los entresijos del cerebro. En
todo caso, es realmente fascinante, pero al mismo tiempo surgen dudas. Es
muy probable que buena parte de la población también se haga preguntas y
puedan surgir algunos temores. Porque, claro, hablar de cómo surgen los
pensamientos, descubrir los parámetros de la memoria, de la imaginación,
del comportamiento, de la identidad, de la conciencia, cómo surge la
actividad cerebral, definir lo que somos en esencia, lo que es la
humanidad Todo eso está muy bien, como todo descubrimiento, si se le da
una utilidad positiva y, por decirlo así y por resumirlo, humana. Pero al
mismo tiempo es muy tentadora y es muy apetecible para todos aquellos que
lo que pretenden es, precisamente, manipular en sentido negativo el
cerebro y, lógicamente, incidir en ese aspecto también humano que es el
de la dominación, no solo ya de la naturaleza, sino de la dominación de
los otros, la dominación de los semejantes para someterlos. En ese
sentido no sé si es una pregunta muy ingenua , la primera pregunta sería
si con la neurotecnología se podrían desactivar de la mente humana todas
las neuronas que nos llevan a actuar en contra de la humanidad, todas las
neuronas de la maldad, por decirlo así; si eso es posible o si eso no va
con el respeto a la propia esencia del ser humano. Esa es una primera
pregunta.

Evidentemente, todo esto plantea problemas y cuestiones éticas y
sociales. Hay que establecer normas, reglas, líneas rojas. ¿Usted, con
los ejemplos que nos ha puesto de Chile, de la Constitución y de Río
Grande del Sur, cree que sería necesario establecer una nueva carta de
derechos humanos?

Usted nos ha hablado del proyecto BRAIN, de lo que se va a hacer aquí
en el Estado español y de cómo reaccionaron otra serie de países. ¿Existe
el peligro de una humanidad a dos velocidades? Es decir, una parte de la
humanidad que disponga de la neurotecnología y otra parte de la humanidad
que no. ¿Qué consecuencias puede tener? Eso es lo que le quería
preguntar.

Ya nos ha confirmado que, efectivamente, están trabajando con expertos
en el ámbito del derecho, lo cual yo creo que es muy importante para
proteger la actividad cerebral y calificarla como derecho fundamental. En
ese sentido, y volviendo a los que podrían pretender manipular la
neurotecnología para dominar no solo el mundo, sino a los demás, a los
semejantes, ¿cómo podemos establecer ese pacto social, ético y político?
Porque, por ejemplo, en las sociedades democráticas existe un pacto
social para el uso de la fuerza: el monopolio del uso de la fuerza se
deposita en el Estado, entendido como Administración o poder político.
¿Aquí cabría algo parecido para evitar precisamente este tipo de
manipulaciones?

Y termino con una última pregunta, si me permite el señor Yuste: ¿qué
conexión existe entre la neurotecnología y la inteligencia artificial? Yo
sé que usted ha tenido contactos con empresas que generan inteligencia
artificial, como, por ejemplo, Sherpa, en Euskadi. ¿Qué conexión ve usted
entre la neurotecnología y la inteligencia artificial?

Eskerrik asko. Muchísimas gracias.

La señora PRESIDENTA: Muchísimas gracias, senador.

A continuación, por el Grupo Parlamentario Izquierdas por la
Independencia, el senador Mario Zubiaga.

El señor ZUBIAGA GARATE: Eskerrik asko, presidenta. (Continúa su
intervención en euskera).

Le agradecemos no solo el hecho de que esté aquí transmitiendo su
profundo conocimiento sobre la materia, sino también, sobre todo, por su
valentía al asumir las consecuencias sociales, políticas y jurídicas de
los avances científicos. Yo creo que esa combinación entre los saberes
útiles y los saberes inútiles de los que habla Nuccio Ordine es
fundamental. Hay que agradecerle a ese ratón que no le dejó dormir esa
noche que haya dado ese salto de los saberes útiles entre comillas a
los saberes inútiles. Ese insomnio, que yo creo que es el momento
Oppenheimer que decía usted, es el momento interesante en toda aportación
científica. Ver cuáles son las consecuencias sociales, políticas y
jurídicas de cualquier avance científico y descifrar el recorrido que va
desde las moléculas o casi, incluso, de los procesos cuánticos que están
debajo de todo eso hasta la conciencia es un reto apasionante, pero es
un reto de un nivel que trasciende toda reflexión respecto al mundo que
conocemos y respecto a las bases sobre las que hemos construido el mundo
desde siempre; no ya desde la modernidad, sino yo diría que desde
siempre. Es una entrada en el poshumanismo y parte, además como bien
decía en su presentación , del temor a las consecuencias de la tecnología
y del hecho de que las ciencias sociales humanas van por detrás. El
derecho va por detrás. Los instrumentos que tiene el derecho proceden del
derecho romano o de la Ilustración. En cierta forma, el derecho siempre
tiene que ir por detrás de los avances científicos, pero siempre va a
tener la imposibilidad o la dificultad de controlarlos o de
modularlos.

En este caso, yo creo que el peligro es mucho mayor. Decía usted, en
alguna intervención en otros espacios, que la mente crea el mundo y el
mundo crea la mente. En cierta forma, esas ensoñaciones individuales de
las que hablaba en su anterior libro son ensoñaciones colectivas. Mi
reflexión no va a ser tanto una reflexión dirigida a preguntas concretas,
sino a sueños y pesadillas que no sé si son compartidos por usted o no.
¿En qué sentido? En el sentido de que la humanidad aumentada empieza a
ser ya o puede ser una humanidad sojuzgada. Y me refiero a los cinco
neuroderechos que ha planteado usted, que son cinco neuroderechos que al
final se están refiriendo a los viejos debates de la Ilustración: a la
identidad individual y su privacidad, a la libertad y a la
igualdad.

En el primer punto, que es el que se refiere a la identidad individual
y a la privacidad unida a esa identidad individual, el planteamiento
sería: yo sé quién soy yo y solo yo sé quién soy yo. En este momento, en
el que ya hay posibilidades de conexión de la cognición no consciente y
de la conciencia con redes, que no son solo redes tecnológicas, sino que
pueden ser también redes biológicas porque ese es otro de los temas que
quería preguntarle, porque trabaja con ratones que no son conscientes,
que tienen una cognición inconsciente y una gran parte de nosotros es
cognición inconsciente , si podemos conectar eso con redes tecnológicas o
incluso redes biológicas, ¿quién soy yo? ¿Cuál es la pregunta al final?
Hay que defender la identidad individual y la identidad del yo. Pero
¿quién soy yo, si yo tengo ya una posibilidad de conectarme con esas
redes, además, de forma bidireccional? Es decir, no solo son muletas que
yo utilizo desde mi yo, sino que esas otras redes, ya sean biológicas o
tecnológicas, afectan también a mi identidad, con lo cual el problema ya
es más profundo: ¿quién soy yo en una situación conectada? Porque ahí nos
lleva a una reconceptualización del individuo y a dar primacía a lo
colectivo; no solo la inteligencia artificial, sino la inteligencia
colectiva.

El segundo punto yo creo que está relacionado con el libre albedrío,
que es otro clásico. ¿Cómo definimos el libre albedrío? ¿Cuál es una
decisión libre? ¿La decisión libre es la de Matrix de tomar la pastilla
azul o la pastilla roja?






Si filosóficamente el debate acerca de si existe
o no el libre albedrío es constante y es insuperable, ¿realmente qué es
lo que estamos defendiendo cuando defendemos el libre albedrío? ¿Se puede
establecer por ley que yo defiendo el libre albedrío cuando, por ejemplo,
uno de los tópicos es que a nadie se le puede obligar a ser libre, con lo
cual yo puedo libremente decidir esclavizarme? Es decir, vivir en Matrix
y no vivir en una situación de libre albedrío.

En relación con la privacidad, es una cosa parecida: la sociedad
absolutamente transparente es una sociedad que está absolutamente
despolitizada. Pero ya estamos en una sociedad absolutamente
transparente. Byung-Chul Han, cuando habla de la sociedad transparente,
dice que Instagram ya sabe lo que yo voy a querer antes de que yo lo
sepa. Con lo cual, ¿es necesario un acercamiento cognitivo cuando ya
tenemos un acercamiento conductista a lo que pensamos? Si ya lo que
hacemos procede de lo que pensamos, incluso inconscientemente Instagran
ya sabe lo que me tiene que ofrecer al minuto siguiente sin yo saberlo,
¿me hace falta entrar en el cerebro para detectar ese proceso interno de
por qué yo quiero esto cuando ya Instagram, por mis likes, por big data,
etcétera, sabe exactamente lo que yo quiero? Es decir, me conoce más que
yo a mí mismo, sería un poco relacionado con la libertad.

Y la última cuestión que también la planteo como duda es la igualdad.
La cuestión del acceso a información fidedigna es, al fin y al cabo, fake
news introducido en el cerebro o fake news desde fuera; el sesgo ahora
está fuera, el sesgo pasaría a estar dentro. No hay gran diferencia. Al
final, si el sesgo me viene de fuera, lo voy a interiorizar sin que
tengan que metérmelo directamente en el cerebro.

Pero la igualdad es un tema clave: la posibilidad de acceso equitativo
a las mejoras cerebrales. Eso se está produciendo ya en la posibilidad de
acceso equitativo a las mejoras físicas, con lo cual entramos en otra
disciplina que es la del neurocapitalismo, del que hablan algunos
autores, como Griziotti. Ese neurocapitalismo defiende al final que es el
mercado el que define la posibilidad de acceso a las ventajas y, en este
caso la ventaja, como es una ventaja de mejora muscular que ya en este
momento la ingeniería genética nos la puede ofrecer, también va a
producirse desde el punto de vista de la mejora cerebral. Ahí estamos
luchando contra el propio sistema capitalista y la posibilidad de acceso
a esas cuestiones está relacionada también con lo que planteaba el
anterior senador. La pregunta de fondo sería si no estamos ya en una
situación transhumana en la que hay que reconceptualizar todas las
categorías de la Ilustración libertad, igualdad, privacidad y
repensarlas de una forma distinta, de manera que ya lo colectivo, el
pensamiento colectivo y la inteligencia colectiva funcionen más que la
inteligencia artificial al servicio del individuo.

La señora PRESIDENTA: Muchas gracias, senador Zubiaga.

A continuación, tiene la palabra, por el Grupo Parlamentario
Socialista, el senador José Entrena, que comparte el turno con su
compañera Amparo Torres.

El señor ENTRENA ÁVILA: Buenas tardes.

En primer lugar, quiero darle las gracias a nuestro ponente en esta
sesión inaugural, a Rafael Yuste por su capacidad de transmitirnos tanto
los aspectos positivos como las preocupaciones que genera un tema tan
potente actualmente como es la neurotecnología y, evidentemente, la
preocupación por la generación de estos neuroderechos y cómo llegamos a
obtenerlos. El campo de investigación a nivel mundial es enorme: millones
de neuronas, sus enlaces, sus redes neuronales esperan a la ciencia para
ver hasta dónde llegamos, si somos capaces y en cuánto tiempo de
conocer el cerebro y, evidentemente, utilizar ese conocimiento para
mejorar al ser humano y solucionar problemas de las personas, como yo
creo que pretende toda la comunidad científica. Pero es verdad que, como
no somos tan perfectos, no somos tan capaces de aprovechar exclusivamente
los elementos positivos de la investigación, porque la historia también
nos ha demostrado hasta dónde hemos llegado. Existen las preocupaciones
que usted nos ha explicado, como el neuroderecho, esa necesidad que
tenemos de regular el futuro.

A mí me gustaría saber y voy a compartir el tiempo con mi compañera
del Grupo Socialista su opinión sobre si vamos avanzando a la misma
velocidad, en el aspecto científico del conocimiento, en los temas
neurotecnológicos y la capacidad regulatoria. Nos ha explicado algo. Es
verdad que Chile lo ha hecho muy bien, que un par de Estados en Estados
Unidos también lo han hecho perfecto y que la parte que compete a nuestro
país y a la Unión Europea es pobre. No sé con qué capacidad se está
trabajando para que haya una autorregulación de estas 30 compañías que
son las poseedoras del conocimiento a nivel mundial. ¿Qué opinión tiene
sobre si vamos a una velocidad adecuada en esta regulación? A mí me da la
impresión, por lo que he escuchado, que no. ¿Cómo podemos ayudar?
Entiendo que tenemos una capacidad legislativa en esta Cámara, junto con
el Congreso de los Diputados y es verdad que esto trasciende al ámbito
nacional , pero en España, a través del Legislativo y del Gobierno, ¿que
considera usted que deberíamos hacer desde ya para ayudar en esta
autorregulación o esta regulación de los neuroderechos?

La señora PRESIDENTA: Gracias, senador Entrena.

Por el mismo grupo, la senadora Torres.

La señora TORRES VALENCOSO: Muchas gracias, presidenta.

Buenos días, señor Yuste, y gracias por estar en esta comisión, en esta
Ponencia de inteligencia artificial en el Senado, con esta intervención
inaugural que creo que ha sido muy acertada para poner la base, que es la
ciencia, en el contexto de la ponencia que podremos ir desgranando en
cuanto a cómo afecta la inteligencia artificial a todos los ámbitos. Es
un placer y es un honor contar con usted, porque, además, es miembro del
Comité Español de Ética en la Investigación y, por lo tanto, es una
garantía que tengamos aquí a una persona que tiene interiorizada la
integridad a la hora de investigar, la integridad que tiene que tener la
ciencia y esa ética de la que debemos dotar a la ciencia y a la
tecnología en los avances que contribuyan a la sociedad.

Usted mismo nos avanzaba hoy aquí ese convenio que se firmará en breve,
impulsado por el Gobierno de España, para hacer avanzar también a nuestro
país en el ámbito de la neurociencia. Sabemos que estamos en una muy
buena disposición como país en cuanto a la transformación digital. Por lo
tanto, todo lo que contribuyamos a avanzar en inteligencia artificial,
también vendrá a contribuir a ese avance, a posicionarnos como ya creo
que estamos en el entorno europeo y también en el entorno internacional
y a seguir avanzando en crear nichos de empleo que seguramente van a dar
mucha más estabilidad al mercado laboral español. Estos últimos días The
Economist nos situaba como la primera potencia económica en la OCDE y a
mí me gustaría también que nos diera su punto de vista sobre esa
contribución que va a hacer al progreso económico la inteligencia
artificial en nuestro país, en el entorno europeo, a nivel internacional,
qué papel puede jugar España ahí; pero, sobre todo, con una premisa
clave, que es tener siempre la sostenibilidad económica también
medioambiental y social como premisa en todos estos avances; de qué
manera podemos avanzar y la sociedad puede avanzar con esta herramienta
tan importante que es de presente y es de futuro, como es la inteligencia
artificial, sin generar ciudadanos y ciudadanas de primera y de segunda,
sino que lo hagamos todos y todas de la mano, que podamos llegar juntos
lejos y al mismo tiempo todos y todas.

Creo que esta ponencia de estudio que tenemos en el Senado para conocer
cómo va a influir la inteligencia artificial en el desarrollo y el avance
de nuestra sociedad, pero también los retos y los peligros a los que nos
enfrentamos, es una buena herramienta. El trabajo que vamos a hacer aquí
es para darle esta herramienta al Gobierno de España a fin de que sepa
por dónde tiene que ir la inteligencia artificial después de escuchar a
los profesionales, a los investigadores, a las técnicas y a los
especialistas. Y también para que sepamos y lo decía mi compañero, el
senador Entrena cómo tenemos que proteger a la ciudadanía y cómo tenemos
que legislar para que esos neuroderechos a los que usted hacía
referencia, señor Yuste, sean considerados derechos humanos, como creo
que los entendemos todos y todas los que estamos hoy aquí. Así que,
muchísimas gracias.

No me extiendo más, presidenta, y encantada, una vez más, de haber
contado con su presencia y con su exposición.

Muchas gracias.

La señora PRESIDENTA: Gracias, senadora Torres.

Terminamos el turno de portavoces.

Por el Grupo Parlamentario Popular, intervendrá don Javier Márquez
Sánchez.

El señor MÁRQUEZ SÁNCHEZ: Muchas gracias, señora presidenta.

Buenos días, señor Yuste, aunque ya lo hemos saludado antes.

En primer lugar, quiero agradecer en nombre de nuestro grupo y en
nombre de todos los compañeros la gentileza que ha tenido al aceptar esta
invitación y estar aquí presencialmente, dado que viene de Estados
Unidos. Es un esfuerzo notable el que usted ha realizado y nos sentimos
todos muy honrados de que inicie, además, esta ponencia de estudio. Como
han dicho mis compañeros, me ha parecido muy brillante la intervención
que ha realizado, porque básicamente ha expuesto el problema al que nos
tenemos que enfrentar en los próximos años.

A mí me gustaría centrar el tema en dos cuestiones esenciales que me
han llamado la atención. Una es el consentimiento. Yo estoy de acuerdo
con usted en que hay que proteger, hay que respetar la indemnidad mental,
el fondo del pensamiento de la persona y, además, recogerlo como derechos
humanos. Nosotros tenemos aquí una ponencia de menores en la Comisión de
Transformación Digital sobre la protección de los menores en el ámbito
digital. En estos temas siempre hay gente que pregunta si se debe regular
sobre neurotecnología o hay que dejarlo libre. Muchas veces la
consecuencia de no regular o de no conocer los riesgos es la otra
ponencia que tenemos, cómo protegemos a los menores, por ejemplo, de una
tecnología que ya está implantada y cómo se resuelve eso. Estoy de
acuerdo en que, una vez visto el problema, que es lo que usted ha
expuesto, y preocupado por las circunstancias que ocurren, efectivamente
es función de los legisladores ver si hay que ponerle coto a esto o si
estos son los riesgos que hay..., es decir, coto hasta aquí y ver si eso
sería lícito, etcétera. Esas cuestiones habría que verlas.

Respecto al consentimiento, usted ha hablado de que hay que respetar la
privacidad mental como primer neuroderecho. Yo creo que, efectivamente,
el consentimiento informado es clave, pero quisiera saber su opinión,
porque para tener un consentimiento informado la persona tiene que estar
formada; es decir, tiene que saber perfectamente qué consecuencias puede
tener el impacto de una neurotecnología en él para aceptarla o no. Uno de
los mayores problemas que nos encontramos es que esa formación, por el
impacto de la tecnología actualmente, por el boom que tiene, ciertamente
no se conoce. Realmente esa formación no se tiene. Y, sobre todo, porque
hay situaciones en las que seguramente se emiten neurodatos de forma
instintiva pero no consciente. Por ejemplo, ¿Por qué voy a hacer públicos
esos datos si tan siquiera yo sé los que voy a emitir?

Como usted sabe, en Estados Unidos, por ejemplo, concretamente en
Colorado, se está haciendo una reforma de la Ley de Privacidad,
la 24/1058, que dice que el consentimiento no es suficiente para estos
datos, porque hay series de datos que la gente realiza sin ser
conscientes de ellos. ¿Por qué se van a hacer públicos? ¿Cuál considera
usted que podría ser legalmente en esos temas el paso a dar o qué camino
habría que seguir? En esta cuestión nos encontramos con una corriente muy
interesante: los neuroderechos en materia laboral. ¿Por qué? Porque en
ese consentimiento en materias laborales no hay una igualdad de parte.
Por tanto, un trabajador al que, por ejemplo, en un momento determinado
le hablen de ponerse neurotecnología para favorecer su rendimiento,
etcétera, ¿realmente, qué capacidad tiene para negarse o no ante un
riesgo de que no cuenten con él, cuando no sepa ni tan siquiera qué
efectos puede tener? Puede que incluso sean neurotecnologías que vayan a
evitar el estrés, la fatiga, que incluso vayan en beneficio de ese
trabajador. Sin embargo, muchas veces ni tan siquiera el empresario sabe
si esos neurodatos los está dando a grandes corporaciones porque no sabe
ni lo que está dando. A lo mejor el hombre lo hace con la mejor voluntad,
pero no se sabe dónde están yendo esos neurodatos. Por eso le preguntaba
sobre el consentimiento, porque, a lo mejor, no sé hasta qué punto el
consentimiento es suficiente o no es suficiente, bien por la relación
entre las partes o bien porque se emiten datos que se hacen prácticamente
en el subconsciente y que uno ni controla.

Hay un estudio europeo que dice que los españoles seríamos los más
dispuestos a aceptar las neurotecnologías en casos de ansiedad y estrés.
O sea, que nosotros somos muy propensos a esto y, sin embargo, a lo mejor
no estamos capacitados para saber hasta dónde llegarían esos datos.

Otra pregunta que me gustaría hacerle desde el punto de vista jurídico,
desde su experiencia el camino, desde el punto de vista constitucional,
comenzó en Chile es ¿qué es mejor regular neuroderechos concretos o
regular las neurotecnologías, más que hacer una enunciación de los
temas?

Por lo demás, muchísimas gracias.

La señora PRESIDENTA: Muchísimas gracias, señor Márquez.

Para la contestación de las cuestiones planteadas que estime oportuno,
tiene la palabra el señor Yuste.

El señor YUSTE ROJAS (profesor de ciencias biológicas en la Universidad
de Columbia, en Nueva York, Estados Unidos de América): Empiezo por
orden.

Uribe-Etxebarria jauna, mila esker. Pienso, sinceramente, que estamos
en los albores de un nuevo renacimiento, de una nueva ilustración. Si
piensan ustedes en el Renacimiento, ¿qué ocurrió? Que la humanidad se dio
cuenta de que el ser humano no es el centro del universo, sino que somos
una especie animal más en un planeta, en un sistema solar en una esquina
de una galaxia. Entonces, la cura de humildad, en vez de hundir en la
miseria al ser humano, fue una revolución en todos los ámbitos: las
artes, la música, la literatura, la cultura, la política. Completamente
de acuerdo: estamos todavía viviendo los efectos secundarios del
Renacimiento. Vivimos en una sociedad marcada por lo que ocurrió en
aquella época.

Por la misma regla de tres, si conocemos lo que somos por dentro, yo
creo que será una cosa positiva, que va a haber otra revolución y que nos
va a cambiar todo otra vez. Una revolución cultural en las artes, en la
música, en la sociedad, en las reglas de organización de las sociedades
democráticas, ¿por qué no? Quizás en la educación encontraremos una
manera más efectiva y menos dolorosa de educar a la gente joven, y por
supuesto en la medicina, en la ciencia y en las leyes eso también lo ha
comentado el senador Márquez ; habrá que hacer cambios en las leyes,
porque ciertos conceptos que hemos heredado de los romanos igual son
prejuicios, no tienen nada que ver con lo que ocurre de verdad en el ser
humano. Yo lo veo positivo y creo que en la ciencia tenemos una hoja de
servicios a la humanidad impecable. En los últimos quinientos años, desde
el Renacimiento, la ciencia y la medicina, paso a paso, han ayudado a la
humanidad. ¿Por qué vamos a parar ahora? Lo lógico es que sigamos
adelante y será una nueva oportunidad. Pero nueva oportunidad, nuevas
responsabilidades en un momento muy importante.

Segunda puntualización, con respecto a un tratado nuevo de derechos
humanos para mí sería la mejor solución a este problema, igual que
ocurrió con la energía nuclear, una agencia de la ONU. No sé si saben la
historia de la energía nuclear. Fue precisamente un discurso que hizo
Oppenheimer junto con su grupo en Naciones Unidas y el presidente de la
Universidad de Colorado, que entonces era Eishenhower, lo que llevó a las
Naciones Unidas a crear la Agencia de Energía Atómica en Viena, que ha
controlado el desarrollo de la energía atómica para fines pacíficos y
bélicos desde entonces crucemos los dedos sin ningún fallo. Para mí, la
mejor solución es un tratado internacional, una agencia internacional que
regule la neurotecnología a nivel global. ¿De qué sirve regularla en un
país si no está regulada en el de al lado? Pero, son palabras mayores, es
dificilísimo hacer eso. Apostamos también por trabajar en paralelo a
todos los niveles, a nivel de Naciones Unidas, a nivel europeo, a nivel
nacional y a nivel de estados y de provincias o autonomías, y a nivel
también de la ciudadanía.

Con respecto a una humanidad de dos velocidades, precisamente pensamos
que para evitar eso tenemos que garantizar un acceso equitativo basado en
el principio de justicia de estas tecnologías. ¿Cómo se haría? Es un
problema gordísimo y no nos corresponde a nosotros decidirlo. Nosotros no
tenemos el mandato para decidir; ustedes tienen el mandato, nosotros
somos científicos, nosotros les asesoramos a ustedes. Empezamos a dar
vueltas a cómo se puede decidir quién se aumenta y quién no se aumenta.
Imagínense ustedes que tienen en sus manos decir: a estas personas las
vamos a aumentar y a estas no. Evitar que haya una humanidad de dos
velocidades es un problema muy complejo y hay que empezar a
discutirlo.

Precisamente en el artículo de Nature comentamos que la democracia
representativa es una manera de abordarlo, con representación de la
ciudadanía en estas decisiones tan importantes, no solamente los
representantes políticos como ustedes, los científicos, los médicos y los
expertos en derechos humanos, los ciudadanos mismos, que decidan ellos.
Igual lo que pensamos nosotros es distinto de lo que piensa la gente. En
eso tenemos que estar abiertos porque puede haber muchos tipos de
opiniones, pero yo creo que lo lógico es que sea desde el punto de vista
de la igualdad; también por mi formación de médico. Los médicos llevamos
dos mil años tomando decisiones de vida o muerte con pacientes y están
todas regidas estrictamente por el principio universal de igualdad y
justicia. El juramento hipocrático tiene tres componentes: beneficencia,
hacer bien al prójimo; justicia-igualdad, no puedes curar a uno y no al
otro, hay que hacerlo a todos y el último, dignidad, tienes que tratar a
la persona como a una persona, no como a un objeto. Creo que estos
principios del juramente hipocrático se podrían aplicar a decisiones tan
importantes como quién se aumenta y quién no se aumenta. Es mi opinión
propia y puedo estar equivocado.

En cuanto al pacto social, ocurre un poco lo mismo. Sería importante
hacer un pacto social sobre este tema. Repito que todas estas votaciones
que se han tomado en estos temas han sido unánimes. Si no logramos
unanimidad, fracasamos. De hecho, un senador republicano de Colorado, a
pesar de que la ley la presentaron los demócratas votó a favor y dijo que
era una cuestión, como se dice en inglés, no brainer, haciendo una broma,
es una cuestión tan obvia que no necesita ni siquiera el cerebro. Decía
el republicano que a quién le interesa que le lean su propia mente, a
nadie. Creo que el pacto social tendría que ser una cosa amplia,
incorporando a todos los grupos sociales y políticos y a los ciudadanos y
también a representantes de los colectivos de pacientes, que son los
primeros que se pueden beneficiar de este aumento cognitivo, del aumento
en ciertas capacidades mentales.

La última cuestión del señor Uribe-Etxebarria fue la fusión de la
neurotecnología con la inteligencia artificial. En el Spain Neurotech hay
cuatro departamentos: un departamento de neurotecnología biológica, otro
de neuroingeniería, otro de inteligencia artificial y otro de ética y
derechos humanos. Porque la inteligencia artificial se está fusionando
con la neurotecnología. De hecho, la inteligencia artificial está
inspirada por el cerebro, por la neurociencia. Las redes neuronales están
basadas en los conocimientos que sacó precisamente mi director de tesis
sobre el sistema visual de los gatos. Ese circuito neuronal es el que se
ha copiado en las redes neuronales profundas, que son el caballo de
batalla de toda la inteligencia artificial actual. Es una flecha de ida y
vuelta entre inteligencia artificial y neurociencia y neurotecnología y
es bueno que sea así, porque avanzarán las cosas más rápido, con buenos
beneficios para la humanidad, como digo, para llevarnos a este nuevo
Renacimiento.

Zubiaga, jauna, muchas gracias. Mila esker. Ha mencionado muchas cosas:
sueños, pesadillas... Yo creo que tenemos la responsabilidad de que esto
sea un sueño y que lo llevemos por buen camino. Nos estamos adelantando a
la problemática. Ya sé que tenemos los mismos problemas de privacidad con
la información digital, con las redes sociales, en Internet; problemas
gordísimos de igualdad en las redes sociales, en Internet, en las
tecnologías. Se puede hablar de cierta humanidad de dos velocidades
porque hay gente que tiene acceso a ciertas tecnologías que no tienen
otros. No lo discuto, estoy completamente de acuerdo, es un problema muy
grave y hemos llegado a una situación así porque no nos hemos adelantado
al problema. Estamos intentando solucionar el problema a toro pasado y es
muy difícil, es imposible darle la vuelta a la historia.

No podemos volver a empezar con Internet, es demasiado tarde. No digo
que no sea un problema, pero lo que les cuento es que lo que viene es
muchísimo más serio, porque no sería perder la transparencia. Si le
parece a usted que Instagram y Facebook saben ya mucho de usted y estoy
completamente de acuerdo , sería echar la casa por la ventana si se meten
en su cerebro, porque van a saber más de usted de lo que sabe usted
mismo. En principio, se puede descifrar todo, lo que es consciente y lo
que es inconsciente. Esta situación es muchísimo más seria y debemos
anticiparnos a ella, aprender de los errores que hemos cometido con las
otras tecnologías, a las que hemos llegado tarde e intentamos ponerle
parches como el GDPR o estas leyes que hacen lo que pueden, pero ya es
como ponerle puertas al campo. Ahora sí podemos encauzarlo y poner los
guardarraíles del comienzo y que de aquí no se salga.

Esto tiene que ver también con lo que ha dicho el señor Márquez sobre
si se regulan los derechos humanos o se regulan las tecnologías
individualmente. Creo que es difícil regular las tecnologías, porque se
están siempre saliendo de calle. Hablo en nombre del grupo de Morningsaid
y nos pareció más lógico proteger a los ciudadanos con una serie de
derechos fundamentales, de manera que sabemos ya adónde va el avión,
porque están pilotando estos derechos de los ciudadanos, y las
tecnológicas que vayan subidas al avión y que desarrollen todo lo que
quieran, pero vamos allí, que es lo contrario de lo que está ocurriendo
ahora, donde estamos los ciudadanos sentados en el avión, pilotados por
compañías tecnológicas que nos llevan donde quieren. Nos parece que los
derechos humanos son como la base de un árbol del que surgen todas las
regulaciones y legislaciones mundiales; es ir a la raíz, dejar eso claro,
poner el escudo protector, las líneas en la arena que no se pueden cruzar
y de ahí que se desarrolle todo lo que se quiera, pero siempre respetando
estos derechos. Nos parece más factible. Y, como le digo, no es una
locura, ya ha ocurrido en cuatro sitios en el mundo; igual, si va todo
bien, en Naciones Unidas ocurrirá dentro de un año o dos. La idea es que
no es demasiado tarde, que estamos todavía a tiempo porque estas
neurotecnologías están empezando, pero todavía no nos han afectado.

Todos nosotros tenemos un teléfono móvil en el bolsillo, pero en unos
años, no sé en cuántos, en cinco o en diez años tendremos un dispositivo
en la cabeza, porque el móvil, en realidad, lo que hace es conectarnos
con Internet y utilizamos los dedos y los ojos para mandar información y
recibirla, pero será un ancho de banda mucho mayor cuando lo tengamos
directamente conectado con el cerebro con neurotecnología. Eso todavía no
ha ocurrido, empiezan a venderse ciertos dispositivos, que son cosas
relativamente menores, lúdicas, no son muy potentes, pero en laboratorios
de ciencia ya vemos lo que se puede hacer. Por eso lo vemos venir y por
eso estoy aquí delante de ustedes hoy.

Señor Entrena, mucha gracias también por su pregunta sobre cómo podemos
ayudar. Por lo que se ha hecho en otros sitios, la enmienda
constitucional en España es muy complicada. Mi padre es jurista,
precisamente era letrado de Cortes y me dijo: «Rafa, olvídate de hacer
una enmienda constitucional en España, es una locura». Si se descarta
eso, se podrían hacer leyes, igual que se ha hecho en California y en
Colorado, por ejemplo, donde hacer una enmienda constitucional es
complicado. Por cierto, estamos también trabajando con el Congreso
Federal de Estados Unidos en una ley de privacidad que incluya los datos
neuronales como algo protegido. Estados Unidos es quizá la única de las
grandes potencias del mundo que no tiene una ley de privacidad, aunque no
se lo crean; no hay una ley de privacidad federal en Estados Unidos. Hay
un grupo bipartidista de congresistas y senadores republicanos y
demócratas que quieren avanzar en una ley de privacidad, nos han
contactado y hemos incluido una cláusula que protege la privacidad de los
datos neuronales. Ese sería un buen punto de partida para España, una ley
que permita enmendar, poner un añadido a la ley de privacidad de datos de
España, que defina con claridad jurídicamente qué son los datos
cerebrales, qué son las neurotecnologías. Esto ya lo hemos hecho en
Colorado, en California. Y, tal cual, por ley, se aplica a estos datos
cerebrales la protección existente, por ejemplo, de los datos personales
sensibles. Esto sería una solución.

Otro abordaje es el que se está intentando en Chile, donde, aparte de
la enmienda constitucional, el Senado de la República también votó
unánimemente una ley que llaman la ley de neuroprotección. La enmienda
constitucional es cortita, fácil desde un punto de vista jurídico, si
tienes el apoyo político, que fue unánime. Pero, la Ley de
neuroprotección en Chile, que es otra posibilidad para España, lo que
hace es definir por ley que todas las neurotecnologías son médicas y se
aplica por ley el código sanitario chileno y todos los dispositivos
tienen que ser inspeccionados y aprobados por la autoridad chilena, que
es el Instituto de Salud Pública de Chile, el equivalente a la Agencia
Europea del Medicamento. Esa es otra manera, encauzarlo todo por la
medicina.

Yo, desde mi terruño, como soy médico, me parece muy lógico, por eso lo
digo, por el juramento hipocrático, porque tenemos en todos los países
del mundo ya muchas leyes que aseguran que todos los beneficios de la
medicina se distribuyan a la población de una manera justa y preservando
la dignidad humana, incluyendo la privacidad ambiental y todas estas
cuestiones. Entonces esa sería otra opción distinta, que se podría
abordar en España. Todavía no hay ningún país que haya elaborado una ley
de neuroprotección, de neuroderechos, lo que llamamos nosotros el modelo
médico, aplicar la medicina a todo esto, es decir, a partir de ahí, todo
esto es médico, lo sacamos de las compañías tecnológicas y lo pasamos a
la Agencia Europea del Medicamento, que tiene que aprobar o no todos
estos dispositivos y los datos cerebrales son datos médicos, con toda la
protección que les corresponde.

Hay otra opción que estamos empezando a discutir también con el Estado
de Colorado. Es una ley sobre la neutroaumentación, la aumentación
mental, anticipándonos a lo que creemos que va a ocurrir. Y ahí está
todavía la cosa en el aire, sobre cómo abordarlo desde el punto de vista
de la protección del consumidor, desde el punto de vista de derechos
humanos, desde el punto de vista médico. Está todavía un poco en el aire,
pero sería un buen momento para discutir todo esto en España.

Senadora Torres, gracias también por sus preguntas. En cuanto al
progreso económico, el Spain Eurotech ha sido también un ejemplo
precioso. Cinco años de negociación entre el Gobierno de España y la
Comunidad de Madrid, que, como saben, no son de la misma cuerda. Y en
esto sí son de la misma cuerda. Prácticamente se han repartido el coste a
la mitad. Un poco más el Gobierno de España, que va a poner 120 millones,
Madrid 80, y la Autónoma, un edificio vacío. Un ejemplo precioso de cómo
se superan las barreras políticas en un tema de importancia para la
ciencia y para la ciudadanía, de modo que se ponga la ciencia por encima
de las diferencias. Y las razones que hay detrás de esto, tanto del
presidente Sánchez como de la presidenta Ayuso, son las mismas razones
por las que Obama apoyó el proyecto BRAIN, por razones científicas, por
razones médicas y económicas. Y la idea no es una locura, es que el sur
de Europa, y España en concreto, se pueda convertir en un polo de
atracción de talento del norte, igual que ocurrió en Estados Unidos con
California: mejor calidad de vida, mejor clima, la vida aquí es más
barata. Y ya ocurre en Madrid, en Barcelona, en Euskadi, donde hay
centros de investigación y hay muchos investigadores que han venido de
Holanda, de Inglaterra, de Alemania, del norte de Europa. La idea es
poner aquí una base fuerte.

Y, por cierto, es una historia preciosa, porque el proyecto Spain
Neurotech empieza con el desastre de la COVID. Por la destrucción, la
muerte y el dolor que causó en el sur de Europa, la Comunidad Europea
decidió invertir en los PERTE, en la reconstrucción tecnológica,
industrial y científica del sur de Europa. Y parte de este dinero es el
que se utiliza para financiar el proyecto Spain Neurotech. Pero puede
tener una repercusión económica importante de creación de empleo. Y, como
digo, la idea no es un proyecto para Madrid Madrid ha sido la central
porque ha puesto el dinero , la idea es un proyecto para todo el Estado y
con unidades asociadas, con discusiones bastante avanzadas, por ejemplo,
en el País Vasco. Con una unidad allí y otras en otros sitios de España,
de modo que se distribuya el bien común para que se conozca España, no
solamente porque jugamos bien al fútbol, sino también porque hacemos
neurotecnología y porque protegemos la actividad cerebral de los
ciudadanos. Y le digo también que en el Spain Neurotech, el departamento
cuarto y central es precisamente de ética y derechos humanos, de modo que
todo lo que ocurra ahí se desarrolle según unas pautas de respeto a la
dignidad de las personas y a los valores democráticos y
humanísticos.

Senador Márquez, muchas gracias. En cuanto al consentimiento,
completamente de acuerdo. Vamos a dar una información sobre cómo funciona
el cerebro que nos hará revisitar conceptos jurídicos fundamentales,
incluido el consentimiento, la responsabilidad y la libertad. Por cierto,
en relación con una cosa que ha comentado el senador Uribe-Etxebarria,
sinceramente creo que hay ciertas cosas que ocurren en la humanidad que a
mí, como científico y médico, me horrorizan. No entiendo cómo en el siglo
XXI podemos mandar a una persona a la luna mientras nos matamos en
guerras fratricidas. Todos los años mueren millones de personas en todo
el mundo; es increíble. Y mueren por razones que, desde fuera, como
científico, no entiendo. No me entero por qué se pelean. Si te intentas
enterar de qué ocurre en Siria, con todas las facciones que hay, yo doy
por imposible entenderlo. Se están peleando unos con otros, se matan, lo
miras desde fuera y dices: ¡Pero si son todos iguales. Una cosa que no
acepto es que en el siglo XXI los humanos nos matemos en guerras. Como
las agresiones en contra de las mujeres, que maten a las mujeres, algo
que ocurre aquí, en este país. En el siglo XXI yo vería esto como una
patología y estudiaría el cerebro de estas personas e intentaría
arreglar, desde mi punto de vista, los cerebros patológicos. Pero no me
corresponde a mí hacer eso. Como digo, yo les estoy asesorando. Les
corresponde a ustedes decidir cuáles son los bordes de la normalidad. Y
si la tecnología tiene una manera de arreglar el cerebro de
esquizofrénicos, ¿por qué no va a arreglar el cerebro de
fratricidas?

Una cosa que les puede parecer divertida, pero que como científico me
parece lo más normal del mundo, es que si alguien va a tomar las riendas
de un país en un futuro, le escaneen el cerebro, vean cómo están las
partes del cerebro que tienen que ver con la agresión, la amígdala
cerebral, y si la tiene muy elevada, pues igual no pasa la prueba, porque
constituye un riesgo. Si vamos a proteger a la población poniendo
semáforos en la calle para no crucen los coches, ¿cómo vamos a dejar el
Gobierno de países a gente que puede utilizar su poder para matar a otra
gente? No me parece lógico. Pero soy muy ingenuo en esto. Confieso que no
sé nada de política. Se lo comento desde fuera, con la ingenuidad de un
científico, de un médico. Pero sí creo que en el futuro una de las cosas
que vamos a decidir es qué es una persona normal, cuáles son las reglas
del juego y, si tenemos la manera de solucionar estos problemas en
ciertas personas, ¿por qué no vamos a hacerlo?

Hay cuestiones, como el consentimiento, que no vamos a dejarlas en el
retrovisor, sino que vamos a transformarlas en conceptos muchísimo más
precisos, que coincidan con lo que ocurre. No sé si saben ustedes seguro
que lo han oído que los budistas dicen que todo el dolor del mundo surge
del desajuste entre las expectativas y la realidad, y si tenemos una
expectativa que los humanos compartamos de una manera y todas las reglas
del juego de la sociedad están hechas así y por dentro no lo somos, pues
ahí hay un problema. Nosotros queremos enseñarles cómo somos por dentro
para que se puedan ajustar los sistemas políticos y jurídicos y, en vez
de aceptar por hecho los prejuicios de generaciones anteriores,
cambiarlos. ¿Por qué no vamos a cambiar? Si mejoran las cosas, ¿por qué
no vamos a mejorar también las leyes? ¿Por qué no vamos a mejorar los
derechos humanos, si sabemos más?

El mensaje final es de optimismo. Sé que les pueden haber asustado
muchas de las cosas que les he comentado y que no sabían hasta hoy cómo
hemos avanzado, pero piensen en las ventajas que tiene todo esto, la
posibilidad que tenemos de hacer unas reglas de juego en la sociedad, que
pueden ser incluso más justa, más democrática, con menos sufrimiento.
Imagínense que podemos exterminar las guerras como si fuesen una
enfermedad infecciosa, pues sería algo bueno. Por tanto, con la
ingenuidad, como les digo, de un científico, yo creo que estamos en los
albores de un gran cambio y tenemos que asegurarnos de entrar en ese
nuevo renacimiento pisando fuerte, con las ideas muy claras de lo que
somos y qué queremos y dónde queremos ir, dónde queremos llevar este
avión.

Muchas gracias. (Aplausos).

La señora PRESIDENTA: Muchísimas gracias a usted, señor Yuste.

Ha sido un placer. Ha sido una ocasión única haber podido contar con
usted, referente mundial en la creación de los neuroderechos en esta
Comisión de Ciencia, Innovación y Universidades y en el inicio de esta
Ponencia de estudio para evaluar la importancia de la inteligencia
artificial en el uso de datos y en otros campos beneficiosos para la
sociedad. Su intervención, señor Yuste, ha sido francamente
fascinante.

Muchísimas gracias.

Se levanta la sesión.

Eran las catorce horas y treinta y un minutos.