Índice:

Estallido de la neurotecnología:

1.1. Producción mundial de neurodispositivos

1.2. Soluciones tecnológicas en curso de ingreso al mercado

1.3. Sorprendentes anuncios recientes

1.3.1. Ondas cerebrales y texto

1.3.2. Actividad cerebral y música

1.3.3. Actividad cerebral y reproducción de imágenes

Cinco perspectivas para una comprensión regulatoria de la neurotecnología:

2.1. Como “humanos aumentados”

2.2. Como beneficiarios de neurotecnologías

2.3. Como seres humanos expuestos frente a las neurotecnologías y a sus artífices

2.4. Como abogados: La neurotecnología impactará la experiencia de litigar

2.5. Como juristas: libre albedrío e impacto de la neurociencia en el sistema legal

¿Regular o no regular?

3.1. Iniciativas regulatorias recientes

3.2. A favor de la regulación

3.3. Contras de regular

La neurotecnología da muestras de una evolución imparable. Se anuncian investigaciones, hallazgos e invención de equipos neurotecnológicos por todo el mundo. Cientos de dispositivos están en curso de ingreso al mercado. Se anuncian algunos desarrollos impresionantes, como la capacidad de generar texto, música o imágenes a partir de la interpretación de ondas cerebrales. Recientes iniciativas regulatorias están en marcha, y no faltarán partidarios de la creación de un regulador propio para las neurotech, al igual que se propone para la inteligencia artificial.

Ofrecemos aquí cinco enfoques para interpretar lo que está ocurriendo: como usuarios privilegiados, como beneficiarios, como seres humanos expuestos, como abogados y como juristas.

El estallido de la neurotecnología:

La producción mundial de dispositivos neurotecnología ha experimentado avances significativos en diferentes países.

1,1. Producción mundial de neurodispositivos:

• En Japón, la empresa NeuroSky ha lanzado el primer casco de realidad virtual que se controla con la mente, lo que representa un hito en la interacción entre la tecnología y el cerebro humano.
• Por su parte, en China, el Instituto de Neurociencia de la Academia China de Ciencias ha logrado implantar recuerdos artificiales en ratones, lo que plantea interesantes posibilidades en la comprensión y manipulación de la memoria.
• En Estados Unidos, Neuralink, la empresa liderada por Elon Musk, ha anunciado la realización de los primeros ensayos clínicos en humanos de su implante cerebral inalámbrico. Este dispositivo permite una comunicación bidireccional entre el cerebro y un dispositivo externo, abriendo la puerta a nuevas formas de rehabilitación y mejoramiento cognitivo.
• En Francia, la empresa Emotiv ha presentado una interfaz cerebro-computadora que se adapta a la forma y tamaño del cráneo del usuario, utilizando electrodos. Esta tecnología facilita la comunicación directa entre el cerebro y los dispositivos electrónicos, abriendo un amplio abanico de posibilidades en el ámbito de la neurorehabilitación y la realidad virtual.
• En Suiza, el Instituto Federal Suizo de Tecnología ha desarrollado un sistema de estimulación cerebral no invasiva que utiliza ultrasonido focalizado para modular la actividad neuronal en regiones profundas del cerebro. Esta técnica permite influir en la actividad cerebral sin dañar el tejido circundante, lo cual podría tener aplicaciones terapéuticas en el tratamiento de enfermedades neurológicas.
• En Canadá, la Universidad de Toronto ha descubierto un nuevo tipo de células llamadas "neuronas rosas", las cuales desempeñan un papel crucial en la regulación del sueño y el ritmo circadiano. Mediante el uso de técnicas avanzadas de secuenciación genética y microscopía óptica, se ha logrado desentrañar los mecanismos implicados en estas funciones fundamentales del cerebro.
• En Australia, la Universidad de Melbourne ha desarrollado una aplicación móvil que utiliza inteligencia artificial para analizar los patrones de habla y lenguaje de las personas, con el objetivo de detectar signos tempranos de enfermedades como el Alzheimer o la demencia. Esta herramienta promete ser una herramienta útil en la detección temprana y el monitoreo de estas condiciones neurodegenerativas.
• En Brasil, la Universidad Federal de Río de Janeiro ha llevado a cabo investigaciones pioneras en el campo de los sueños lúcidos. Mediante la combinación de estimulación eléctrica transcraneal y sugestiones verbales, se ha logrado inducir sueños lúcidos en personas sanas. Este descubrimiento tiene implicaciones tanto en la comprensión de los procesos cerebrales relacionados con los sueños como en el potencial uso terapéutico de los sueños lúcidos.

1.2. Están en curso de ingreso al mercado cientos de dispositivos:

Se advierte de la próxima aparición en escena de:

• Cascos de realidad aumentada, que se conectan con el cerebro mediante una interfaz inalámbrica, y que permiten a usuarios interactuar con objetos virtuales superpuestos sobre el entorno real, usando sólo su mente. Esta tecnología podría tener aplicaciones en educación, entretenimiento, turismo o salud, pero también podría implicar riesgos de distracción, adicción o alteración de la percepción.
• De chips implantados en el cerebro, que permiten al usuario comunicarse con otros usuarios o dispositivos mediante el lenguaje natural, sin necesidad de hablar o escribir. Esta tecnología podría facilitar la comunicación, el aprendizaje y la colaboración entre las personas, y es fácil anticipar que también podría suponer riesgos de invasión de la privacidad, manipulación o pérdida de la identidad.
• Se anuncian parches adhesivos que se colocan sobre la piel y estimulan el nervio vago mediante impulsos eléctricos, lo que tiene la capacidad de modular el estado de ánimo y el estrés. Esta tecnología podría mejorar el bienestar y la salud de las personas, pero también podría generar efectos secundarios, dependencia o alteración de la personalidad.
• Guantes sensoriales se usarán pronto para controlar brazos robóticos a distancia, que replican los movimientos y las sensaciones del usuario. Esta tecnología podría tener usos en industria, medicina o exploración, aunque también podría conllevar riesgos de accidentes, daños o deshumanización.
• Collares inteligentes serán usados para monitorizar la actividad cerebral y el comportamiento de las mascotas, lo que permitirá a los usuarios entender sus emociones y necesidades. Esta tecnología podría mejorar la relación y el cuidado de los animales domésticos, pero también podría provocar problemas de interpretación, sobreestimulación o antropomorfización. El paso siguiente será su aplicación humana.
• Anillos inteligentes que se usan para medir y estimular la actividad cerebral mediante luz infrarroja, que influye en el estado de alerta, la concentración y la memoria. Esta tecnología podría ayudar a mejorar el rendimiento cognitivo y el aprendizaje de las personas, pero también podría causar fatiga, ansiedad o interferencia con el sueño.
• Dentro de poco se usarán audífonos para filtrar y amplificar los sonidos del entorno, los que permite al usuario escuchar música o podcasts directamente desde su cerebro, sin necesidad de auriculares. Esta tecnología podría mejorar la audición y el entretenimiento de las personas, pero también podría generar distracción, adicción o aislamiento social.
• Tatuajes electrónicos se usarán para registrar y transmitir datos biométricos del usuario, como el ritmo cardíaco, la presión arterial o la temperatura corporal. Esta tecnología podría facilitar el seguimiento y la prevención de enfermedades o condiciones médicas, pero también podría implicar riesgos de violación de la privacidad, hackeo o robo de identidad.
• Los cascos de estimulación magnética transcraneal se usarán para inducir sueños lúcidos en las personas, permitiéndoles controlar y modificar sus experiencias oníricas. Esta tecnología podría tener beneficios terapéuticos, creativos o recreativos, pero también podría provocar efectos adversos, como pesadillas, confusión o dependencia.
• Implantes oculares permitirán mejorar la visión y la percepción de las personas, permitiéndoles ver en la oscuridad, en diferentes espectros de luz o con mayor resolución. Esta tecnología podría ampliar las capacidades sensoriales y visuales de las personas, pero también podría generar problemas de adaptación, desorientación o pérdida de la naturalidad.

1.3. Sorprendentes anuncios recientes:

1.3.1 Ondas cerebrales y texto: Uno de los avances recientes más impresionantes es el desarrollo de implantes cerebrales que permiten a pacientes con síndrome de enclaustramiento comunicarse a través de un avatar digital. Este dispositivo intercepta las ondas cerebrales del paciente, las interpreta en habla y expresiones faciales y las exterioriza en un avatar digital. Además, se ha desarrollado un sistema de inteligencia artificial no invasivo que puede traducir la actividad cerebral de una persona a texto, lo que permite leer pensamientos de forma no invasiva. (https://futurism.com/neoscope/brain-implant-talk-mentally; https://futurism.com/neoscope/brain-implant-talk-mentally)

1.3.2 Actividad cerebral y música: La tecnología y la neurociencia han alcanzado un nuevo hito sorprendente en el campo de la música. Investigadores han presentado un método revolucionario que permite reconstruir canciones a partir de la actividad cerebral, un hallazgo que tiene implicaciones significativas en áreas como la educación, la terapia y el desarrollo musical, así como en la regulación de dispositivos médicos. Un estudio demuestra cómo se puede utilizar la actividad cerebral registrada para reconstruir música. Los científicos lograron reconstruir una canción de Pink Floyd a partir del registro de actividad de las neuronas en el cerebro. Este logro es realmente sorprendente, que ya permite traducir la actividad neuronal en sonidos musicales. El método utilizado se basa en el uso de resonancia magnética funcional (fMRI) para capturar la actividad cerebral humana. Mediante esta técnica, se logra obtener información detallada sobre la actividad de las regiones cerebrales mientras una persona escucha música. Luego, mediante un sofisticado algoritmo, se procesa esta información y se reconstruye la canción original.

Las implicaciones de este avance son fascinantes. En el ámbito educativo, este método podría utilizarse para comprender mejor cómo el cerebro procesa y responde a la música, lo que podría ayudar a diseñar estrategias de enseñanza más efectivas. En terapia, podría abrir nuevas posibilidades para el tratamiento de trastornos neurológicos y psicológicos, utilizando la música como una herramienta terapéutica personalizada. Además, en el campo del desarrollo musical, este descubrimiento podría inspirar nuevas formas de composición y expresión musical (https://arxiv.org/abs/2307.11078)

1.3.3 Actividad cerebral y reproducción de imágenes: Recientemente, investigadores de la Universidad de Osaka utilizaron inteligencia artificial para decodificar la actividad cerebral y crear imágenes de lo que una persona está viendo. La IA pudo hacer esto sin haber visto las imágenes con anticipación o haber sido entrenada de alguna manera para producir los resultados. Este avance no representa la lectura de la mente propiamente pero sí permite producir imágenes de lo que una persona ha visto, lo que tiene implicaciones emocionantes. Hay dos cuellos de botella principales para la lectura real de la mente: la tecnología de escaneo cerebral y la IA en sí misma. Aunque hay potencial en el futuro, los investigadores enfatizan que la privacidad es la preocupación más importante y que se necesitan discusiones de alto nivel para garantizar que esto no suceda (Ver enlace)

Cinco perspectivas para una comprensión regulatoria de la neurotecnología:

2.1. Como usuarios privilegiados de estas tecnologías: Los “humanos aumentados”

La neurotecnología es un campo de rápido crecimiento en la comprensión el cerebro y en la crear tecnologías que interactúen con él, como hemos visto. Sin embargo, la neurotecnología también plantea desafíos éticos y regulatorios que incluyen cuestiones de equidad y discriminación.

Pensemos en que algunos usuarios de estas tecnologías pueden transformarse en "humanos aumentados" con capacidades mentales mejoradas, mejor memoria, mejores capacidades de aprendizaje, capacidades de concentración superiores, mejores capacidades en la toma de decisiones y en la resolución de problemas. Y pensemos que si estas mejoras solo estarán disponibles para aquellos que puedan pagar por ellas, o solo para favorecer el acceso o el uso de mejoras cerebrales para algunos grupos o individuos, esto podría ampliar aún más las brechas en educación, competencia, riqueza y oportunidades dentro de los países y entre ellos mismos. Por lo tanto, no parece descabellado comenzar una discusión sobre el derecho al acceso equitativo a las mejoras cerebrales.

2.2. Como beneficiarios de las neurotecnologías

La neurotecnología promete múltiples beneficios de bienestar humano, como ayudar a restaurar la audición con implantes cocleares, controlar prótesis robóticas con la mente, tratar la depresión con estimulación cerebral profunda o mejorar las capacidades de la memoria con interfaces cerebro-computadora. Pero pensemos un poco más allá. La inteligencia artificial combinada con las neurotecnologías puede tener usos y aplicaciones todavía más potentes:

• Ayudar a detectar y predecir trastornos neurológicos mediante la utilización de redes neuronales profundas para analizar imágenes cerebrales y detectar patrones que indiquen la presencia de una enfermedad.
• Utilizar algoritmos de aprendizaje automático para analizar grandes cantidades de datos de pacientes y encontrar patrones que indiquen la presencia de una enfermedad.
• Combinar neurociencia, psicología e inteligencia artificial puede ayudar a modelar la comunicación cerebral y entender mejor cómo funciona el cerebro, lo que puede tener aplicaciones en la creación de una inteligencia artificial más avanzada y en la comprensión de enfermedades neurológicas.
• La inteligencia artificial puede ser utilizada para mejorar la neuroplasticidad, que es la capacidad del cerebro para reorganizarse formando nuevas conexiones neuronales cuando se expone a nuevas experiencias e información. Esto puede tener aplicaciones en la mejora de la calidad de vida de personas con discapacidades físicas o neurológicas.
• La combinación de neurotecnologías e inteligencia artificial puede tener aplicaciones útiles para personas con discapacidades físicas o neurológicas. Por ejemplo, se pueden utilizar interfaces cerebro-máquina para permitir que puedan mover prótesis o dispositivos electrónicos con la mente, lo que permitirá mejorar su calidad de vida, asegurar su autonomía y facilitar su inclusión social y laboral.

2.3. Como seres humanos expuestos frente a las neurotecnología y a sus artífices

En muchos sentidos, la neurotecnología tiene el potencial de usarse de forma indebida, invasiva o coercitiva: Puede vulnerar la privacidad mental al acceder, registrar o divulgar información sensible del cerebro sin consentimiento; puede alterar la identidad o la personalidad al modificar los recuerdos, las emociones o las preferencias; o puede limitar la libertad de pensamiento o de expresión al influir o censurar opiniones o creencias, un potencial aterrador que amenaza socavar la dignidad, integridad y autonomía de las personas.

Para mayor consciencia sobre la problemática, algunos casos hipotéticos que podríamos anticipar para un futuro cercano, de alteración o pérdida de la identidad, o del sentido de la pertenencia de una persona frente a posibles abusos o manipulaciones de combinaciones entre inteligencia artificial y neurotecnología:

• Podemos ser víctimas de un robo de identidad por parte de un hacker que accede a su implante cerebral y lo usa para suplantarla en sus actividades online, como compras, transacciones o redes sociales.
• Ser sometidos a un lavado de cerebro por parte de una secta o un grupo terrorista que usa una interfaz cerebro-computadora para modificar nuestras creencias, valores y emociones.
• Ser engañados por un agente de inteligencia artificial que se hace pasar por una pareja, amigo o familiar y manipularnos para obtener información confidencial o influir en nuestras decisiones.
• Ser obligados a usar una neurotecnología que va en contra de nuestra voluntad o nuestra ética, como una estimulación cerebral que induce a sentir placer, dolor, culpa, pánico.
• Ser expuestos a invasiones de la privacidad por parte de terceros que pueden acceder, monitorear o alterar nuestros datos cerebrales sin nuestro consentimiento y, menos, conocimiento.
• Ser afectados por un mal funcionamiento o un ataque cibernético a nuestra neurotecnología, lo que no puede provocar daños físicos, mentales o emocionales.
• Ser víctimas de una extorsión o un chantaje por parte de alguien que tiene información comprometedora sobre nuestros pensamientos, recuerdos o fantasías, obtenida mediante una neurotecnología.
• Ser sometidos a una presión social o laboral para usar una neurotecnología que nos hace perder nuestra individualidad o nuestra creatividad, al adaptarse a unos estándares o patrones impuestos.
• Ser deshumanizados o cosificados por el uso de una neurotecnología que nos hace perder sentido de pertenencia o conexión con otras personas, al aislarse en un mundo virtual o artificial.

Y por efecto de la combinación de la inteligencia artificial con las neurotecnologías, podríamos presenciar también la manipulación de nuestros sesgos cognitivos y emocionales para desencadenar reacciones programadas en las personas.

2.4. Como abogados: La neurotecnología impactará la experiencia de litigar

Como abogados, tendremos que hacernos rápido a la idea de litigar utilizando neurotecnologías en nuestra práctica profesional, como en estos ejemplos.

• Escáneres cerebrales de resonancia magnética funcional (IRMf), que  permiten detectar cambios en el flujo sanguíneo del cerebro para medir la actividad cerebral en casos de reconocimiento facial, identificación de emociones, mentiras y evaluación de responsabilidad penal.
• Electroencefalogramas (EEG), que registran la actividad eléctrica del cerebro para medir el potencial relacionado con el error. Se utilizan para detectar conocimiento implícito o explícito sobre detalles de un hecho o de un crimen.
• Estimulación magnética transcraneal (EMT), técnica que estimula o inhibe regiones específicas del cerebro con campos magnéticos. Se utiliza para tratar trastornos neuropsiquiátricos y podría tener aplicaciones en la modificación de la memoria, inducción de confesiones, rehabilitación de delincuentes y mejoras cognitivas.
• En el ámbito del derecho penal, personas investigadas pueden argumentar que su comportamiento fue el resultado de que su dispositivo neurotecnológico, o incluso su cerebro, ¡fueron pirateados!. Esta nueva realidad plantea interrogantes sobre si el Estado podría imponer soluciones neurotecnológicas al problema de la delincuencia y si se podría reducir la reincidencia mediante la monitorización cerebral. Obviamente, estarán presentes los debates sobre la fiabilidad de los resultados neurotecnológicos, el consentimiento informado de los individuos, la privacidad de los datos cerebrales, la validez científica de las técnicas utilizadas, el derecho a no autoincriminarse y la igualdad y justicia en el acceso a estas tecnologías.

Además, estas tecnologías también podrían mejorar la propia vida diaria de los abogados, ayudándoles en la concentración, toma de decisiones y resolución de problemas mediante la estimulación cerebral no invasiva. En un futuro cercano, incluso podríamos ver un cambio en la forma en que los abogados facturan sus servicios, pasando de las horas facturables a "unidades de atención facturables" proporcionadas por abogados avanzados (Ver enlace)

2.5. Como juristas: libre albedrío e impacto de la neurociencia en el sistema legal

La idea de influir en el pensamiento de los demas o de inducir sus decisiones ha estado presente en la literatura de todos los tiempos. Una referencia antigua es la Odisea de Homero. En la obra, se presentan varios elementos que pueden ser analizados desde la perspectiva de la neurociencia y el derecho. Por ejemplo, la varita mágica de Circe podría ser vista como una herramienta para manipular la mente de los demás; además, el uso de los sueños como mecanismo de comunicación podrían ser enfocado en nuestra perspectiva neurocientífica, ya que ambos conceptos están relacionados con la percepción y la conciencia. Un momento cumbre de la obra da un toque central a esta referencia literaria: Zeus “puso” en la mente de los familiares de los "pretendientes" la idea de la paz, para terminar con el ciclo de violencia en Ítaca, luego de la venganza de Odiseo al regreso de su travesía.

Un salto de al menos 20 siglos nos permite seguir el hilo de las grandes preguntas sobre la mente, el libre albedrío y la responsabilidad que deriva del comportamiento humano. Este salto que propongo nos lleva a John Milton, el poeta y ensayista inglés, y autor de Paradise Lost, poema épico que narra la historia de la rebelión de Satanás contra Dios, su expulsión del Cielo y su caída en el Infierno, en una trama que no se encuentra en el Éxodo ni en el Antiguo Testamento.

Según Milton, Dios creó a los seres humanos con la capacidad de elegir entre el bien y el mal, y les dio la capacidad de discernir las consecuencias de sus acciones. Desobedeciendo el mandato de no comer del árbol del conocimiento, Adán y Eva, tentados por Satanás, decidieron comer de aquel fruto, lo que les hizo perder su inocencia y la gracia divina. Pero Milton justifica la drástica decisión celestial como parte del plan de Dios para probar la fidelidad de sus criaturas y explica que los seres humanos son responsables de lo que hacen porque tienen la libertad de escoger y la razón para comprender las implicaciones de sus actos, es decir, libre albedrío.

¿Y a qué viene esta referencia de Milton? Vivimos un momento increíble porque una combinación entre neurociencia, neurotecnología e inteligencia artificial combinados nos están dando información nueva sobre el funcionamiento del cerebro humano, sus capacidades, sus limitaciones y sus posibles modificaciones o mejoras. Las capacidades cruzadas de estas disciplinas podrían tener implicaciones en la idea fundamental de que los humanos tenemos el don del libre albedrío, que, como vimos, es lo que justifica por qué somos responsables de nuestras acciones, y tener implicaciones en ese principio de varias formas:

• La neurotecnología plantea interrogantes sobre la concepción tradicional del libre albedrío. A medida que avanzamos en el desarrollo de tecnologías como la resonancia magnética funcional (IRMf), el electroencefalograma (EEG) y la estimulación magnética transcraneal (EMT), nos encontramos cada vez más cerca de comprender y manipular la actividad cerebral. Obras literarias y cinematográficas como "La naranja mecánica" de Anthony Burgess, "El jardín de los senderos que se bifurcan" de Jorge Luis Borges, "Matrix" de Lana y Lilly Wachowski, y la trilogía de la Fundación de Isaac Asimov, han explorado de manera cautivadora el dilema del libre albedrío y su relación con la tecnología. Estas y otras obras han cuestionado la idea de la libertad individual y la capacidad de elección, planteando la posibilidad de que nuestras decisiones estén influenciadas o incluso determinadas por factores neurobiológicos. A medida que la neurotecnología avanza, nos enfrentamos a un nuevo paradigma en el que la frontera entre la libre voluntad y la influencia externa se desdibuja. El debate sobre si nuestras decisiones son verdaderamente libres o si están condicionadas por nuestra biología y el entorno se intensifica, y la neurotecnología se sitúa en el centro de esta discusión apasionante y desafiante.
• La neurotecnología, en conjunto con los avances en la computación cuántica, plantea un escenario aún más impactante en relación al libre albedrío. Un estudio reciente publicado en Nature revela la posible existencia de un universo gigantesco que funciona como un ordenador cuántico, capaz de realizar cálculos y procesar información en una escala infinitamente superior a cualquier supercomputadora actual. Esta revelación nos lleva a reflexionar sobre la posibilidad de que nuestras decisiones y acciones estén influenciadas no solo por nuestro cerebro y entorno inmediato, sino también por la interacción de nuestro universo con esta vasta red. En este contexto, el libre albedrío se convierte en un enigma aún más complejo y fascinante, desafiando nuestras nociones tradicionales de autonomía y determinismo. Nos encontramos ante un nuevo horizonte de posibilidades, en el que la intersección entre la neurotecnología y la computación cuántica nos invita a repensar nuestra concepción del libre albedrío y a explorar las implicaciones de esta conexión cósmica en nuestra existencia (ver enlace)
• Quizá se podría modificar o mejorar el libre albedrío, es decir, que podríamos usar la neurotecnología o la inteligencia artificial para aumentar nuestra capacidad de elegir entre diferentes opciones, ampliar nuestro rango de acción o controlar mejor nuestros impulsos o emociones. Algunos ejemplos de estas tecnologías son los implantes cerebrales, las interfaces cerebro-computadora, los neuroestimuladores o los neurofármacos. La neurotecnología y la inteligencia artificial pueden tener la capacidad de manipular y controlar los procesos cognitivos y emocionales en el cerebro humano. Si se llega a desarrollar tecnología que pueda influir directamente en nuestras decisiones y acciones, esto podría plantear interrogantes sobre hasta qué punto somos realmente responsables de nuestras elecciones si están siendo manipuladas por factores externos.
• Tal vez podríamos crear nuevas formas de libre albedrío, es decir, que podríamos desarrollar sistemas artificiales que tengan la capacidad de tomar decisiones autónomas, basadas en sus propios objetivos, valores o preferencias. Estos sistemas podrían ser robots, agentes virtuales o programas informáticos dotados de inteligencia artificial. Estos sistemas podrían colaborar con nosotros, ayudarnos en diversas tareas o entretenernos, aunque es claro que también podrían competir con nosotros, desafiarnos o amenazarnos.

La neurociencia, la neurotecnología y la inteligencia artificial pueden tener, pues, implicaciones en la idea del libre albedrío y en nuestra comprensión de la responsabilidad humana.

¿Regular o no regular?

3.1. Iniciativas regulatorias recientes:

Asistimos a una gran oferta global de iniciativas regulatorias y autoregulatorias de desarrollo y uso de la inteligencia artificial, gubernamentales y no gubernamentales.

Entre las gubernamentales podemos mencionar las siguientes:

• La ONU ha impulsado varios procesos para abordar los aspectos éticos, legales y sociales de la IA. Entre ellos, se destaca el Grupo de Expertos en Cooperación Digital, creado en 2022 por el Secretario General de la ONU, que elaboró un informe con recomendaciones para promover una visión común y una acción conjunta sobre la cooperación digital, incluyendo la IA.
• La UNESCO ha desarrollado un proyecto para elaborar una Recomendación sobre la Ética de la Inteligencia Artificial, que se espera sea adoptada por los Estados Miembros en 2023.
• La UIT ha organizado varias ediciones de la Cumbre sobre Inteligencia Artificial para el Bien, que reúne a diversos actores para explorar las formas en que la IA puede contribuir a los Objetivos de Desarrollo Sostenible.
• La Unión Europea (UE) ha sido pionera en proponer un marco regulatorio específico para la IA, basado en un enfoque de riesgo y en el respeto a los valores europeos. En abril de 2023, la Comisión Europea presentó una Propuesta de Reglamento sobre Inteligencia Artificial, que establece requisitos obligatorios para los sistemas de IA de alto riesgo, prohíbe los sistemas de IA inaceptables y crea un sistema de gobernanza con autoridades nacionales y europeas. La propuesta está actualmente en proceso de negociación entre el Parlamento Europeo y el Consejo de la UE, que ya han expresado sus posiciones al respecto Ver enlace).
• Otros países también han avanzado en el desarrollo de marcos normativos o estrategias nacionales sobre IA. Por ejemplo, China publicó en 2022 los Principios Rectores sobre el Desarrollo y Gobernanza Responsables de la Inteligencia Artificial, que contienen ocho principios éticos para orientar el desarrollo y uso de la IA, como la armonía, la innovación, la inclusión, la seguridad, la responsabilidad y la privacidad. Además, China ha elaborado varias normas técnicas y profesionales sobre la IA, como las Normas de Evaluación de la Calidad de los Sistemas de Inteligencia Artificial.
• Por otro lado, Estados Unidos ha adoptado en 2020 una Orden Ejecutiva sobre el Mantenimiento del Liderazgo Estadounidense en Inteligencia Artificial, que establece una serie de principios y acciones para promover el desarrollo y uso de la IA en beneficio del pueblo estadounidense. Asimismo, Estados Unidos ha participado en iniciativas multilaterales como el Grupo de Trabajo sobre Inteligencia Artificial del G7 o el Acuerdo de Cooperación en Inteligencia Artificial del G20.
• En Colombia se habla de un Marco Ético de 2021 para Inteligencia Artificial, que promueve principios y valores como los de explicabilidad y transparencia, cruciales para evitar la discriminación y el sesgo, así como la creación de un registro ético de algoritmos de acceso público (https://minciencias.gov.co/sites/default/files/marco-etico-ia-colombia-2021.pdf)

En el ámbito privado, también se han desarrollado diversas iniciativas, impulsadas por empresas, organizaciones no gubernamentales, académicos o expertos. Entre ellas, se pueden mencionar las siguientes:

• La Asociación para el Avance de la Inteligencia Artificial (AAAI), una organización científica internacional dedicada a promover la investigación y la educación en IA. La AAAI ha publicado un Código de Ética y Conducta Profesional para sus miembros, que incluye principios y normas sobre el desarrollo y uso responsable de la IA.
• Future of Life Institute es una organización sin fines de lucro que se enfoca en reducir los riesgos globales catastróficos y existenciales que enfrenta la humanidad, especialmente el riesgo existencial de la inteligencia artificial avanzada. Fue fundada en 2014 por un grupo de científicos y tecnólogos, incluido el físico Stephen Hawking, el empresario Elon Musk y el filántropo Jaan Tallinn. La organización se dedica a guiar los impactos de las tecnologías transformadoras, como la inteligencia artificial, la biotecnología y las armas nucleares, mediante la realización de actividades de promoción de políticas, divulgación y otorgamiento de subvenciones.
• La Alianza para la Inteligencia Artificial (AIA) es una coalición de más de 100 empresas líderes en el campo de la IA (Amazon, DeepMind/Google, Facebook, IBM y Microsoft, Accenture, Intel, Oxford Internet Institute, eBay, etc) que tiene como objetivo crear las mejores prácticas y estándares para la industria. Fundada en 2016, la AIA ha publicado un Documento de Visión Estratégica, que define su misión, objetivos y valores, así como un conjunto de Recomendaciones sobre Confianza, Transparencia y Explicabilidad en Inteligencia Artificial, que proporcionan orientaciones prácticas para diseñar e implementar sistemas de IA confiables.
• El Grupo de los Siete (G7) ha creado un grupo de trabajo sobre inteligencia artificial para mitigar los riesgos de los sistemas de IA y unir los enfoques divididos en Europa y Estados Unidos. Los países que conforman el G7 son Canadá, Francia, Alemania, Italia, Japón, el Reino Unido y EE. UU. Los borradores de las once directrices que serán voluntarias incluyen pruebas externas de productos de IA antes de su implementación, informes públicos sobre medidas de seguridad y controles para proteger la propiedad intelectual. El documento aún está bajo discusión y su contenido y el momento del anuncio aún pueden cambiar ¹². Aquí te dejo un enlace informativo sobre el particular (Ver enlace)
• El 12 de septiembre de 2023, el gobierno de Joe Biden obtuvo compromisos voluntarios de siete empresas estadounidenses para garantizar que sus productos de IA sean seguros antes de lanzarlos. Algunos de los compromisos exigen la supervisión por parte de terceros del funcionamiento de los sistemas comerciales de IA. Las empresas se comprometieron con los métodos para reportar las vulnerabilidades de sus sistemas y con el uso de marcas de agua digitales para ayudar a distinguir entre las imágenes reales y las generadas por IA, conocidas como deepfake. También informarán públicamente sobre fallas y riesgos en su tecnología, incluyendo los efectos sobre la equidad y el sesgo. A algunos expertos y competidores emergentes les preocupa que el tipo de regulación que se propone en esos estándares privados podrían ser una bendición para los pioneros con mucho dinero liderados por OpenAI, Google y Microsoft, mientras sería una maldición para compañías más pequeñas que se ven desplazadas por el alto costo de hacer que sus sistemas de IA sean conocidos como modelos de lenguaje que se adhieran a tales protocolos.
• La Neuro Rights Foundation, con sede en Nueva York, fue fundada en 2020 por el Rafael Yuste, profesor en la Universidad de Columbia, en conjunto con un grupo de expertos en neurociencia, derecho, ética, política y comunicación. Promueve la idea de incorporar cinco neuroderechos identificados como críticos en las actuales circunstancias: el derecho a la identidad personal, el derecho a la libre voluntad, el derecho a la privacidad mental, el derecho a un acceso equitativo a las mejoras cerebrales y el derecho a la protección contra el sesgo algorítmico. Su sitio web está disponible en varios idiomas (https://neurorightsfoundation.org/) y recientemente ha publicado una serie de artículos de vanguardia en los que se aboga por directrices éticas y de derechos humanos, salvaguardas técnicas y reformas regulatorias.

Considerando estas iniciativas públicas y privadas, se puede anticipar que habrá un aumento de la demanda social y política por una mayor gobernabilidad de esta tecnología. Es probable que se produzcan avances en los procesos normativos existentes, así como nuevos acuerdos o iniciativas a nivel nacional, regional e internacional. Sin embargo, también se pueden esperar desafíos y tensiones derivados de las diferencias culturales, ideológicas o económicas entre los actores involucrados. Y no es difícil anticipar retos y limitaciones, como la falta de mecanismos de supervisión, sanción o rendición de cuentas, la posible divergencia o incompatibilidad con otras normas o principios, o la dificultad para garantizar la participación e inclusión de todos los actores relevantes.

Pero, ¿regular? Lo más prudente es decir que la respuesta no es sencilla, pero ponderemos las diferentes opiniones y argumentos fuertes al respecto:

3.2.  A favor de la regulación:

Muchos piensan que la legislación actual no contempla los riesgos específicos que supone la interacción entre inteligencia artificial y neurotecnología, como la vulneración de la dignidad, la autonomía, la privacidad y la identidad de las personas. Y se añade que la legislación actual no está armonizada ni coordinada entre los distintos países o regiones que desarrollan o usan estas tecnologías, lo que puede generar conflictos o lagunas legales; que la legislación no está actualizada ni acorde con el ritmo acelerado de innovación y cambio que caracteriza a estas tecnologías, lo que puede provocar desfases o ambigüedades legales y que la legislación actual no incorpora la participación ni el consentimiento informado de las personas que usan o se benefician de estas tecnologías, lo que puede afectar a su confianza o satisfacción. Finalmente, se dice que la legislación actual no garantiza el acceso equitativo ni la inclusión social de las personas que usan o se benefician de estas tecnologías, lo que puede generar desigualdades o discriminaciones.

Argumentos más específicos se pueden enlistar de este modo:

• La combinación de inteligencia artificial y neurotecnologías, como hemos visto, puede permitir a los desarrolladores abusar de los sesgos cognitivos y emocionales de las personas. La regulación podría ayudar a prevenir posibles usos perjudiciales de esta tecnología.
• Las normas actuales de derechos humanos podrían no ser suficientes para abordar los desafíos éticos planteados por la inteligencia artificial combinada con las neurotecnologías, razón por la cual se proponen marcos de gobernanza de varios niveles (ver enlace)
• La inteligencia artificial combinada con las neurotecnologías también tiene aplicaciones militares. La regulación podría ayudar a prevenir posibles abusos en el ámbito militar y garantizar un uso responsable de esta tecnología.
• Necesidad de límites éticos y legales para el uso de las neurotecnologías, en la perspectiva de evitar que se generen desigualdades o discriminaciones.
• Fomentar regulatoriamente el desarrollo responsable e inclusivo de las neurotecnologías, promueve la innovación, la calidad, la seguridad y el beneficio social.
• Ayuda a garantizar el acceso equitativo y el consentimiento informado de las personas que usan o se benefician de las neurotecnologías, respetando su diversidad y sus preferencias.
• Es necesario crear mecanismos de supervisión, control y sanción para prevenir y resolver conflictos o daños derivados del uso de las neurotecnologías
• Es necesario regular para asegurar la compatibilidad y la interoperabilidad de las neurotecnologías con los principios y estándares de la inteligencia artificial.
• También lo es para facilitar la colaboración y el intercambio de conocimientos entre los actores involucrados en el desarrollo y el uso de las neurotecnologías.
• Lo es para incrementar la conciencia y la educación sobre los beneficios y los riesgos de las neurotecnologías para la sociedad
• La regulación fomenta el diálogo y la participación pública en la definición y la evaluación de las neurotecnologías
• Promueve el respeto y la protección de la diversidad cultural y biológica en el uso de las neurotecnologías.

3. 3. En contra de regular:

Para otros, la legislación existente es suficiente o adaptable, porque está referida a principios y valores universales que son aplicables a cualquier tecnología, como el respeto a los derechos humanos, la dignidad humana y el bien común. Veamos argumentos más específicos:

• La legislación existente se puede adaptar o modificar según el contexto y el caso específico, mediante la interpretación o la aplicación de normas generales o sectoriales.
• La legislación existente se beneficia de la experiencia y el conocimiento acumulados en otros campos relacionados con la inteligencia artificial y la neurotecnología, como la bioética, la medicina o la informática. El argumento puede presentarse como el principio "same business, same risk, same supervision" o “same risk same rule”, que se ha utilizado en algunos casos para desafíos propios de impacto de la tecnología en el sistema financiero (https://fbf.eui.eu/same-risk-same-rule-a-modular-approach-to-regulation-for-financial-innovation-and-bigtech/)
• La legislación existente se puede complementar perfectamente con otros mecanismos o instrumentos de regulación, como los códigos de conducta, las guías de buenas prácticas o las certificaciones de calidad.
• La legislación existente se respeta y se cumple por parte de los actores involucrados en el desarrollo y el uso de estas tecnologías, mediante el control social, la responsabilidad profesional o la educación ética.
• La inteligencia artificial combinada con las neurotecnologías tiene el potencial de impulsar avances significativos en la medicina, la neurociencia y otras áreas. Una regulación, o una regulación excesiva, podría obstaculizar la innovación y limitar los beneficios que esta tecnología puede aportar.
• Aunque la inteligencia artificial puede ser cada vez más sofisticada, nunca será igual a la inteligencia humana. Algunos argumentan que la regulación de esta tecnología es innecesaria, ya que sus capacidades siempre estarán limitadas en comparación con las capacidades humanas.
• Una regulación limita la libertad de investigación, experimentación y aplicación de las neurotecnologías, restringiendo su potencial para mejorar la salud, el bienestar y el conocimiento humano. Esta tecnología es compleja y en constante evolución, lo que dificulta establecer normas específicas; en igual sentido, imponer barreras burocráticas, normativas o jurídicas que dificulten o retrasen el avance y la difusión de las neurotecnologías, perjudican su competitividad y su accesibilidad.
• La regulación puede generar incertidumbre, confusión o contradicción entre los distintos marcos regulatorios existentes o propuestos para las neurotecnologías, tanto a nivel nacional como internacional.
• Se infringiría el principio de precaución, al basarse en supuestos riesgos o amenazas que no están suficientemente demostrados o consensuados por la comunidad científica o social.
• Desincentiva la participación, la colaboración y la confianza de los actores involucrados en el desarrollo y el uso de las neurotecnologías, al crear un clima de sospecha o temor.
• Puede restringir la autonomía y la libertad de las personas para elegir o modificar sus características mentales o físicas mediante las neurotecnologías. En ese sentido, la regulación puede imponer una visión normativa o paternalista sobre lo que es deseable o aceptable para las personas o para la sociedad en relación con las neurotecnologías.

• La regulación podría ignorar o desatender las necesidades, los valores y las expectativas de las personas que usan o se benefician de las neurotecnologías, o estigmatizar o discriminar a las personas que usan o se benefician de las neurotecnologías, al considerarlas como enfermas, discapacitadas o anormales.

¿Cuán estricto debería ser entonces un entorno regulatorio, dado el impacto potencialmente enormemente valioso de la neurotecnología en el tratamiento de enfermedades como la demencia y la depresión? Probablemente la respuesta no tendrían que darla sólo juristas, sino una combinación de profesionales, científicos, ingenieros, filósofos, políticos y ciudadanos, en la necesaria compañía de quienes diseñan y producen estas soluciones tecnológicas.