Alerta sobre nuestros derechos neuronales
«Todos llevaremos un chip en el cerebro y los gobiernos podrán hackear tu mente»
Marcelo Ienca
Filósofo asesor de la ONU
Secciones
Servicios
Destacamos
Secciones
Servicios
Destacamos
Alerta sobre nuestros derechos neuronales
Marcelo Ienca
Filósofo asesor de la ONU
Viernes, 28 de Junio 2024, 08:47h
Tiempo de lectura: 9 min
Este científico ha participado en la creación de un concepto novedoso: los neuroderechos. Su objetivo es proteger nuestra libertad de pensamiento frente al rápido desarrollo que está teniendo la neurotecnología por el uso de la inteligencia artificial. Marcello Ienca forma parte del grupo de expertos que ha creado la Unesco para formular estos nuevos derechos humanos, entre los que se encuentra uno fundamental: a la autodeterminación mental, es decir, que cada persona pueda decidir por sí misma lo que le suceda a su cerebro. Este italiano de 36 años es subdirector del Instituto de Historia y Ética de la Medicina de la Universidad Técnica de Múnich y lleva una línea en zigzag tatuada en su muñeca: el símbolo de la resistencia.
XLSemanal. Asegura que en un futuro próximo se implantarán chips en nuestros cerebros. ¿A qué escenario terrible nos puede llevar eso?
Marcello Ienca. A uno más distópico que el que refleja George Orwell en 1984. La novela describe un mundo totalitario en el que Gran Hermano observa y escucha a sus súbditos en todas partes: el baño, la cama... Pero queda un último bastión de libertad, «los pocos centímetros cúbicos de tu cráneo», escribe Orwell. Si en el futuro conectáramos nuestro cerebro al mundo digital sin medidas de protección, podríamos perder incluso el control de esos centímetros.
XL. ¿Los cerebros podrán ser manipulados por el Estado o por las empresas tecnológicas?
M.I. Las empresas podrán hacer que tu cerebro desee ciertos productos. Las dictaduras, por su parte, podrían hackear los cerebros de los prisioneros o de la oposición y extraer sus pensamientos. Supongamos que China quisiera cambiar las ideas políticas y religiosas de la población musulmana en Sinkiang –algo que ya está intentando hacer por otras vías–, pues podría hacerlo mediante la manipulación cerebral; será técnicamente posible en unas décadas.
XL. ¿Y qué traerán de bueno esos nuevos neuromundos?
M.I. Revoluciones médicas. La Biblia describe milagros: la persona muda vuelve a hablar y el que sufre parálisis comienza a caminar. La neurotecnología puede hacer realidad estos milagros bíblicos utilizando inteligencia artificial.
XL. ¿Estas tecnologías también beneficiarán a la gente sana?
M.I. ¿Qué significa 'saludable'? Según la revista Lancet, una de cada dos personas sufrirá al menos una vez en su vida una enfermedad mental. Son cuatro mil millones de casos en el mundo. También existen padecimientos como la falta crónica de sueño. La neurotecnología puede ayudarlos. También seremos capaces de controlar los dispositivos digitales usando solo el cerebro. La pantalla táctil o el teclado son lentos. Una conexión directa cerebro-ordenador sería más sencilla.
XL. ¿Podremos mejorar nuestro rendimiento intelectual?
M.I. ¿Por qué no? La tecnología necesaria ya existe. Quizá la neuroestimulación permita aprender un idioma en minutos.
XL. ¿Quién podrá permitírselo? ¿Solo superricos?
M.I. Ese es un problema central. Esta tecnología puede hacer la sociedad aún más desigual. Por eso necesitamos normas que garanticen la justicia y la igualdad a través del acceso general a estas tecnologías. Si ese fuera el caso, no rechazaría el dopaje cerebral de la humanidad.
XL. A Hollywood le gusta imaginar el futuro...
M.I. En Minority Report, por ejemplo, hay una policía que arresta a personas que, según las predicciones, cometerán un asesinato. Las detienen antes de ejecutar el delito. Un escenario similar no es inverosímil. Pero también hay visiones positivas para el futuro. En un libro de Star Trek, por ejemplo, el capitán Kirk quiere acceder a los pensamientos de los visitantes del Enterprise. Pero le dicen: «El derecho a la privacidad intelectual es un derecho inviolable de todos los ciudadanos de la Federación y no debe ser abolido».
XL. Minority Report habla del año 2054; Star Trek, del siglo XXIII. ¿Hablamos de un futuro lejano?
M.I. No subestime la rapidez de las nuevas tecnologías. El smartphone tiene 17 años, no es mayor de edad, y ha cambiado radicalmente nuestra vida.
XL. ¿Quiénes están detrás de estas neurotecnologías?
M.I. Algunos jugadores poderosos. Por supuesto, laboratorios de investigación de todo el mundo. Pero cada vez más empresas privadas: incluidas las especializadas en neurotecnología como Neuralink, de Elon Musk, y tecnológicas como Meta, IBM, Apple y Samsung. Y, claro, ejércitos de medio mundo trabajan para usar estas tecnologías con fines militares.
XL. ¿Cuál es su papel como neuroético?
M.I. Tres tareas principales. Primero, garantizar que las tecnologías se usen de forma responsable y ética. Segundo, trabajamos con los políticos para desarrollar regulaciones con base científica. Tercero, educar a las personas sobre los riesgos y las oportunidades para que puedan tomar decisiones informadas sobre sus propios cerebros.
XL. ¿Cuándo nos leerá la mente el iPhone?
M.I. Eso depende de lo que quieras decir con «leer la mente». ¿Deducir ciertos estados mentales a partir de ciertos patrones de datos? Eso ya podemos hacerlo. Por ejemplo, la inteligencia artificial puede reconocer en los vídeos una emoción al ver un rostro. Pero leer el pensamiento, en sentido estricto, significa descodificar su contenido. Hace diez o incluso cinco años habría dicho que eso es imposible. Pero la inteligencia artificial lo ha cambiado todo. Ahora es posible entrenar a la IA para que descubra el contenido de lo que pensamos a partir de nuestra actividad cerebral.
XL. Entonces, ¿Apple, Facebook, Amazon y compañía espiarán nuestros pensamientos?
M.I. Apple presentó recientemente una patente para un nuevo sensor AirPod con electrodos EEG (Electroencefalograma). Eso significa que, con la próxima generación de AirPods, Apple podrá recopilar, en teoría, información cerebral y combinarla con bases de datos del comportamiento del consumidor. Por el momento, el EEG no puede descifrar mucho, pero una cosa es segura: por primera vez en la historia se puede registrar simultáneamente la actividad cerebral de millones de personas. Esta no es una visión abstracta. Es inminente.
XL. ¿Con qué precisión se pueden leer los pensamientos?
M.I. Hace unos años, solo de manera aproximada. Si un sujeto de prueba veía a una persona frente a él, la IA podría entrenarse hasta poder reconstruir la silueta, nada más. Sin embargo, esta imagen se está volviendo cada vez más detallada. No me sorprendería que la IA ya pudiera reconocer e identificar a la persona que el sujeto está mirando.
XL. ¿También será posible leer nuestras intenciones?
M.I. Muy posible. Probablemente también los sueños serán descodificados, quizá en diez años.
XL. Entonces, ¿las corporaciones o los Estados podrán intervenir en nuestro cerebro y manipularlo?
M.I. Eso puede pasar. Las personas incluso podrían neuroestimularse, por ejemplo, las propensas a la ira que quieran volverse más pacíficas.
XL. ¿Existe peligro de que la máquina tome el control total del cerebro?
M.I. No. El cerebro es un órgano extremadamente plástico. Tiene una enorme adaptabilidad. Por eso, el cerebro y la IA reaccionarán entre sí y se fusionarán en un híbrido.
XL. ¿Habrá neurochips para todos?
M.I. El mercado de la neurotecnología se expande rápido. Según el último informe del Consejo de Europa, las inversiones se han multiplicado por veinte en la última década, y lo mismo ocurre con el número de patentes. En los últimos años, las grandes tecnológicas han visto los neurodatos como un negocio de futuro. Meta ha comprado una nueva empresa de neurotecnología llamada CTRL-Labs. Google realiza investigaciones sobre neuromarketing. Es cierto que los implantes neurológicos son complejos porque requieren cirugía, pero Elon Musk fundó Neuralink con el objetivo de desarrollar neurotecnología para todos.
XL. ¿Cómo valora la iniciativa de Musk?
M.I. Cuando hablé de interfaces cerebro-ordenador hace diez años, la gente no sabía de qué hablaba. Hoy, todo el mundo conoce el tema porque ha oído hablar de Neuralink. Es lo único que le agradezco a Musk: atrajo la atención sobre el asunto.
XL. ¿No es amigo de Musk?
M.I. Es un campeón mundial en reinventar la rueda. Tomó una tecnología existente e hizo creer al mundo que la había inventado él. Además, su estilo de investigación y comunicación clínica es altamente arriesgado. Si algo le sale mal, todo el campo de la neurotecnología puede caer en el descrédito.
XL. ¿Necesitamos realmente este tipo de tecnología?
M.I. La implantación de chips cerebrales implica un procedimiento quirúrgico que claramente es demasiado inseguro para su uso en la población general. Pero en el futuro la implantación podría ser posible de otras maneras, por ejemplo, a través de una pastilla que se traga y que luego se dirige al cerebro.
XL. ¿Cree que la comercialización de chips cerebrales para todo el mundo es legítima?
M.I. En principio, sí, siempre que se haga todo lo posible para evitar el uso indebido y la manipulación y se garantice un acceso justo. Una prohibición violaría la libertad de las personas para tomar decisiones sobre sí mismas y sus cerebros.
XL. ¿Qué papel desempeñará la neurotecnología en la guerra?
M.I. Uno grande. El Ejército chino tiene un programa llamado 'guerra cognitiva'. La agencia estadounidense Darpa también está invirtiendo fuertemente en un programa neurotecnológico. En la actualidad hay tres áreas principales: en primer lugar, la comunicación directa entre el cerebro y el ordenador, sobre todo porque evitaría las escuchas. En segundo lugar, la manipulación selectiva de la memoria, por ejemplo, para borrar los recuerdos traumatizantes de los soldados. Y, en tercero, el desarrollo de vehículos controlados mentalmente. Esto ya funciona bastante bien con drones.
XL. ¿Y qué vendrá después?
M.I. Me lo imagino muy bien. Tecnología de lectura de la mente para interrogar a los prisioneros. Otra aplicación es modelar la personalidad de los soldados para hacerlos más dóciles o agresivos.
XL. ¿No deberían prohibirse esas armas neurológicas, al igual que las biológicas y químicas?
M.I. Antes hay que elaborar una base ética. Nuestro grupo de expertos de la Unesco se reunió en París y formuló un borrador sobre los neuroderechos. El principio fundamental es: ningún gobierno ni empresa ni organización militar puede interferir con los procesos neuronales de una persona sin su consentimiento.
XL. ¿Es realista pensar que se vaya a aplicar?
M.I. Las negociaciones con los gobiernos apenas han comenzado. La revisión debería estar terminada a mediados del próximo año. Las cosas avanzan.
XL. Es poco probable que un país como China quiera verse restringido por directrices internacionales.
M.I. Yo no diría eso. Sentado a mi lado en el grupo de expertos estaba el neurocientífico más destacado de China, el doctor Qing Ming Luo. Su país está claramente interesado en tener voz y voto en las normas. Los acuerdos internacionales son posibles. Y ahora es el mejor momento.
XL. ¿Por qué?
M.I. Estamos en una encrucijada histórica. Por primera vez podemos simular las funciones del cerebro y conectar la inteligencia artificial resultante con la nuestra. En este punto debemos tomar decisiones éticas y políticas antes de que sea demasiado tarde. La neurotecnología se encuentra todavía en su infancia; aún está en nuestras manos guiar el desarrollo. Pero solo si lo hacemos ahora.
En 22 segundos
