Fronteras éticas y avances en la Era de la Neurotecnología y la IA

La regulación de la inteligencia artificial y sus implicaciones éticas es un tema que, además de ser de actualidad, va a moldear el futuro de la tecnología y la sociedad. La inteligencia artificial está transformando rápidamente diversos aspectos de nuestra vida, desde la atención médica hasta la toma de decisiones empresariales. Y con este avance tecnológico, surgen preguntas sobre cómo regular su uso de manera efectiva y ética.  

La inteligencia artificial (IA) y la neurotecnología presentan un horizonte repleto de promesas y desafíos. Isabelle Hupont y María López, en el webinar «Regulación de IA y sus implicaciones éticas«, proporcionan un análisis profundo de cómo podemos navegar este futuro, enfatizando la importancia de una regulación ética. A través de ejemplos específicos, ilustran tanto las oportunidades como los riesgos inherentes, subrayando la necesidad de un equilibrio que fomente la innovación y proteja los derechos fundamentales. 

Aportaciones y perspectivas de Isabelle Hupont 

Isabelle Hupont es una investigadora apasionada por crear tecnología que sea fiable, justa y que ponga a las personas en el centro de su desarrollo. Su investigación se centra en la creación de algoritmos y aplicaciones de procesamiento facial fiables. Ha trabajado como científica de investigación e inteligencia artificial en el sector público y privado y actualmente es gestora científica en la Comisión Europea. 

Nos dice que la IA permea casi todos los aspectos de nuestra vida cotidiana. Desde asistentes virtuales como Alexa y Siri, pasando por sistemas de ayuda en la conducción y desbloqueo facial en móviles, hasta traductores online y sistemas recomendadores como Spotify, que personalizan sugerencias basadas en nuestras preferencias. Destaca el papel de la IA generativa, ilustrada por herramientas como ChatGPT, resaltando la omnipresencia y el impacto profundo de la IA en nuestras vidas.  

Al definir la IA, Hupont señala que se trata de sistemas capaces de observar su entorno y aprender para realizar acciones inteligentes -con cierto grado de autonomía- o proponer o asistir en la toma de decisiones, una práctica que, aunque parece reciente, tiene sus raíces en décadas de desarrollo. La evolución explosiva de la IA en años recientes se atribuye a un triángulo sinérgico de datos, algoritmos y poder computacional, subrayando la capacidad de aprendizaje de los algoritmos a partir de grandes volúmenes de datos y la necesidad de computación avanzada para procesarlos. 

Bondades y retos de la IA: el ejemplo del reconocimiento facial 

Isabelle ha dedicado su carrera profesional a un aspecto específico de la inteligencia artificial: el análisis facial. A través de su trabajo, ha explorado cómo esta tecnología puede ser utilizada para múltiples propósitos, desde asistir en la conducción hasta mejorar la interacción social de personas con autismo, mostrando la versatilidad y el potencial de los algoritmos para interpretar y responder a las microexpresiones faciales en tiempo real. Sin embargo, destaca un problema fundamental: el sesgo de entrenamiento. La mayoría de estos algoritmos han sido desarrollados y entrenados principalmente con datos de personas blancas y caucásicas, lo que conduce a errores y sesgos cuando se enfrentan a rostros de otras etnias. Este sesgo plantea problemas técnicos y puede tener consecuencias sociales graves, como la identificación errónea en contextos policiales, demostrando la importancia crítica de abordar estos sesgos en el desarrollo de tecnologías de IA para garantizar su justicia y equidad. 

Bondades y retos de la IA: el ejemplo de la IA generativa 

Isabelle introduce la Inteligencia Artificial Generativa como el nuevo ámbito de interés, ejemplificando con ChatGPT cómo esta tecnología puede generar contenido original, como poemas, a partir de instrucciones simples. Destaca que, a diferencia de una búsqueda en internet, la IA generativa crea contenido novedoso, lo que representa un avance significativo en el campo creativo. Sin embargo, junto a las oportunidades, también expone los riesgos sociales asociados con la generación automática de imágenes y textos. Casos de desinformación, como imágenes convincentemente falsas del Papa o la supuesta detención de Donald Trump, y situaciones de acoso mediante la creación de imágenes inapropiadas de adolescentes, subrayan la necesidad de una consideración ética en el uso de esta tecnología. Además, explora el potencial de los deep fakes, utilizando el ejemplo de una animación de Santiago Ramón y Cajal, para ilustrar tanto el asombroso poder de recreación como las posibles consecuencias emocionales y éticas de revivir digitalmente a personas fallecidas, señalando la importancia de la investigación y el debate continuo sobre las implicaciones de la IA generativa. 

La regulación de la IA desde Europa 

¿Cómo aborda Europa la regulación de la inteligencia artificial? Isabelle nos cuenta que enfocándose no en la tecnología per se, sino en su uso ético. Se destaca la importancia de proteger los derechos fundamentales y la seguridad mediante la clasificación de aplicaciones de IA según el riesgo, desde mínimo hasta inaceptable. Hupont ilustra con ejemplos prácticos cómo se aplican estos niveles de riesgo, como el uso de IA para desbloqueo facial o en decisiones crediticias, subrayando la necesidad de supervisión humana, transparencia y una gestión de datos ética. La regulación se centra en sistemas de alto riesgo, requiriendo una documentación detallada y mecanismos de auditoría para asegurar que las decisiones basadas en IA sean justas y bien fundamentadas, evidenciando un compromiso europeo con una innovación tecnológica responsable y éticamente orientada. 

Fuente: ponencia de Isabelle Hupont 

Contribuciones y ejemplos de María López 

María López aúna ciencia y negocios para impulsar innovaciones que acercan la neurociencia a la práctica diaria, destacándose por su enorme liderazgo y visión en el ámbito tecnológico. María es licenciada en matemáticas y doctora en ingeniería informática por la Universidad de Zaragoza. Es CEO y cofundadora de Bitbrain, una empresa de neurotecnología que ayuda a profesionales de la investigación, la tecnología y la salud a aprovechar la neurociencia de forma práctica y fiable. 

María enfatiza cómo la IA está revolucionando la neurotecnología, abriendo nuevos caminos para mejorar la vida humana. Sin embargo, cada innovación viene acompañada de desafíos éticos y riesgos que deben ser cuidadosamente gestionados. 

El contexto: la inteligencia artificial acelera todas las demás deep techs 

María López inicia su ponencia destacando la actualidad y la controversia que rodea la regulación de la inteligencia artificial (IA) en Europa, abordando preocupaciones sobre si estas normativas podrían frenar el avance tecnológico y reducir la competitividad del continente. Sin embargo, resalta que muchas críticas emergen de un desconocimiento sobre los retos que la IA y otras tecnologías avanzadas están presentando. López propone una reflexión histórica recordando cómo innovaciones como el smartphone, han revolucionado nuestras vidas en un período relativamente corto, subrayando la velocidad y el impacto profundo de estas tecnologías, que ella denomina deep tech, en la sociedad. 

María plantea que estamos en una era única en la historia humana, en la que múltiples tecnologías disruptivas están convergiendo simultáneamente -no solo la IA, sino también la neurotecnología, wearables, computación cuántica, blockchain e IoT, entre otras. Especialmente, destaca el papel catalizador de la IA en el desarrollo de estas deep techs, acelerando su evolución y potencializando su impacto en diferentes sectores. Utiliza una cita de un evento organizado por la UNESCO para ilustrar cómo la IA, al combinarse con la neurotecnología, actúa como un potenciador, multiplicando sus capacidades y posibilidades. López subraya que este fenómeno no se limita a la neurotecnología; la IA tiene el poder de «poner esteroides» en una amplia gama de tecnologías disruptivas, acelerando su desarrollo y ampliando tanto sus oportunidades como sus desafíos. Este contexto sitúa a la sociedad frente a una encrucijada de grandes potenciales y retos significativos, invitando a una reflexión profunda sobre el futuro que queremos construir con estas herramientas. 

Neurotecnología potenciada por la IA 

La neurotecnología es un campo clave en la confluencia de la tecnología y la biología, centrado en el desarrollo de herramientas que interactúan con el sistema nervioso, especialmente el cerebro. López explica que la neurotecnología incluye tanto dispositivos hardware capaces de medir señales cerebrales como software que, a través de la inteligencia artificial, traduce estas señales en información utilizable para diversos fines. López resalta que, a pesar de que la neurotecnología ha existido desde antes del lanzamiento del primer iPhone, su impacto se ha visto limitado hasta hace poco, debido principalmente a la incapacidad de interpretar efectivamente las señales cerebrales recolectadas. 

La introducción de la inteligencia artificial en este campo ha sido un cambio de juego, permitiendo interpretar las señales cerebrales de manera mucho más precisa y aplicar esta comprensión para avanzar en diagnósticos, tratamientos y la creación de nuevas interfaces cerebro-computadora. Esta sinergia entre IA y neurotecnología ha impulsado una explosión en la inversión y el interés por el campo, con un crecimiento que promete continuar exponencialmente gracias a los avances y aplicaciones emergentes impulsados por la IA. Este contexto establece un escenario en el que las posibilidades de mejorar la calidad de vida y comprender mejor el funcionamiento del cerebro son enormes, al igual que los retos éticos y las implicaciones de estos avances tecnológicos en la sociedad. 

María lo ilustra con tres ámbitos de aplicación: 

Fuente: ponencia de María López 

Entender mejor a las personas: monitorización 

La monitorización cerebral es una aplicación fundamental de la neurotecnología potenciada por la inteligencia artificial, enfocándose en el entendimiento profundo del funcionamiento del cerebro humano. Explica cómo nuestro cerebro opera en dos modos principales: un sistema rápido, intuitivo y emocional (similar a Homer Simpson) y un sistema lento, racional y consciente (como el señor Spock), con la mayor parte de nuestro tiempo operando en el modo no consciente e intuitivo. Este entendimiento abre la puerta a comprender mejor nuestras decisiones y comportamientos, ofreciendo la posibilidad de identificar y corregir sesgos inconscientes.  

La oportunidad que presenta esta tecnología es considerable, prometiendo avances en el autoconocimiento y el desarrollo personal, así como la potencial creación de un entorno más justo al permitirnos entender y modificar nuestras reacciones y decisiones no conscientes. Sin embargo, introduce también retos significativos, especialmente en términos de privacidad mental. López señala la controversia generada por el uso de tecnología de monitorización en escuelas chinas, que medía el nivel de atención de los estudiantes mediante una luz LED, para ilustrar cómo incluso en culturas menos preocupadas por la privacidad de datos, la intrusión en el espacio mental puede considerarse un paso demasiado lejos. Esto subraya el reto crítico de proteger la privacidad mental en una era donde la tecnología permite un acceso sin precedentes a los procesos internos del cerebro, planteando preguntas profundas sobre los límites de este acceso y la necesidad de salvaguardar nuestros pensamientos y procesos mentales más íntimos. 

Mejorar las capacidades humanas: intervención o aumento 

La segunda área de aplicación de la IA en neurotecnología, se centra en la mejora de capacidades humanas. López presenta dos proyectos innovadores de Bitbrain que ilustran las oportunidades y desafíos en este campo: 

Mejora cognitiva en deterioro cognitivo leve: el primer proyecto se enfoca en incrementar las capacidades cognitivas de individuos con deterioro cognitivo leve, como la memoria y atención, mediante neurotecnología. Este esfuerzo busca mejorar la calidad de vida de los afectados y, además, explorar la posibilidad de retrasar la aparición de enfermedades como el Alzheimer. La tecnología opera mediante una banda que lee señales cerebrales y, con ayuda de la IA, proporciona retroalimentación visual en tiempo real para estimular la actividad cerebral deseada. 

Asistencia a la movilidad para personas tetrapléjicas: el segundo proyecto se centra en personas tetrapléjicas, usando neurotecnología para interpretar las intenciones de movimiento del cerebro y traducirlas en acciones físicas, como llevar una cuchara a la boca, mediante un sistema de estimulación eléctrica. Este avance representa un salto significativo hacia la autonomía de individuos con severas limitaciones de movimiento. 

Ambos ejemplos demuestran el potencial transformador de combinar IA y neurotecnología para mejorar vidas. Sin embargo, López también señala un desafío ético crucial: el acceso equitativo a estas tecnologías. Por otro lado, mientras que en el ámbito de la salud el uso de estas tecnologías genera consenso sobre su potencial benéfico, su aplicación en áreas como la militar plantea preocupaciones éticas profundas. La inversión del ejército americano en neurotecnología para crear «soldados aumentados» ejemplifica esta controversia, aludiendo a una posible «guerra fría» tecnológica entre grandes potencias. Este escenario abre el debate sobre quién tendrá acceso a las mejoras que la neurotecnología puede ofrecer y si ello pudiese llevar a una sociedad dividida entre aquellos con capacidades aumentadas y aquellos sin ellas, planteando preguntas fundamentales sobre justicia y equidad en el futuro de nuestra especie. 

Simplificar la interacción con las máquinas: comunicación 

En el último ámbito de aplicación, María López aborda la simplificación de la interacción entre el cerebro humano y las máquinas, un campo prometedor de la neurotecnología potenciado por la inteligencia artificial. Presenta un proyecto colaborativo con Nissan, que culminó en el desarrollo del primer prototipo de coche conectado directamente al cerebro. Este sistema es capaz de detectar señales cerebrales de anticipación del movimiento —por ejemplo, la intención de frenar— antes de que el conductor realice físicamente la acción, permitiendo que el vehículo responda de manera más rápida y eficiente, mejorando potencialmente la seguridad en la conducción. Este avance destaca el potencial de la neurotecnología para facilitar una comunicación intuitiva y directa entre humanos y tecnologías, ofreciendo una ventana a futuras aplicaciones donde las órdenes no necesitan ser ejecutadas físicamente sino concebidas mentalmente.  

Sin embargo, este desarrollo también plantea desafíos éticos significativos, especialmente cuando se consideran tecnologías que buscan una integración más profunda entre el cerebro humano y la IA. María menciona a Elon Musk y su empresa Neuralink, que aspira a desarrollar interfaces cerebro-computadora avanzadas capaces de conectar el cerebro humano con sistemas de IA. Este enfoque busca superar las limitaciones humanas mediante la fusión con la IA y, además, preparar a la humanidad para un futuro en el que la IA podría superar nuestras capacidades cognitivas. Aunque la visión es ambiciosa y podría revolucionar cómo interactuamos con la tecnología, suscita importantes debates éticos sobre la identidad personal, la autonomía y los límites de la tecnología en nuestra esencia como seres humanos. 

La posibilidad de una integración tan profunda entre la tecnología y el cerebro humano pone en relieve preguntas fundamentales sobre lo que significa ser humano y hasta dónde estamos dispuestos a permitir que la tecnología penetre y modifique nuestra naturaleza intrínseca. Este tercer ámbito de aplicación subraya tanto las extraordinarias oportunidades como los profundos desafíos éticos que la neurotecnología y la inteligencia artificial traen consigo, invitando a una reflexión crítica sobre el futuro que deseamos construir. 

Por último, López aborda cómo la regulación de la IA puede proteger de riesgos inherentes a estos avances, a pesar de que también pueda complicar el desarrollo de nuevas oportunidades. Argumenta que, dada la magnitud de los riesgos asociados, especialmente aquellos que podrían alterar la dimensión humana, la implementación de regulaciones es un «peaje» necesario para explorar estas oportunidades de manera segura. Sin embargo, expresa preocupación por el alcance limitado de la regulación europea, que se aplica exclusivamente dentro de Europa, sugiriendo que los desafíos planteados por la neurotecnología y la IA son de naturaleza global y requieren un consenso y una acción internacionales. 

María propone la idea de ampliar los derechos humanos existentes para incluir los «neuroderechos«, reflejando una creciente corriente entre científicos y expertos enfocados en proteger a la humanidad frente a los desafíos emergentes. Finaliza enfatizando la importancia de una visión global y colaborativa para maximizar las oportunidades y minimizar los riesgos presentados por la neurotecnología y otras deep techs, subrayando la necesidad de medidas reguladoras y éticas que trasciendan fronteras para asegurar un futuro en el que la tecnología avance en armonía con el bienestar humano y la equidad. 

Reflexiones finales sobre neurotecnología e IA 

Durante la sesión de preguntas y respuestas, María López y Isabelle Hupont profundizaron en el equilibrio entre innovación tecnológica y regulaciones éticas en el campo de la neurotecnología y la inteligencia artificial (IA), compartiendo sus perspectivas sobre cómo este balance influye en el desarrollo y la implementación de tecnologías avanzadas. 

María López subraya que, aunque la regulación puede ralentizar el proceso de innovación al requerir más tiempo e inversión, es fundamental para garantizar que el avance tecnológico no comprometa los valores éticos y fundamentales. Compara la situación con la industria de la moda, donde evitar la explotación infantil es un imperativo ético, aunque sea más costoso. Para María, cumplir con las regulaciones éticas no solo es una obligación moral sino también una inversión en el futuro sostenible y responsable del negocio. 

Isabelle Hupont, desde su experiencia en la Comisión Europea, señala que las regulaciones de la IA están alineadas con los derechos fundamentales, como la no discriminación y el respeto por la salud y seguridad. A pesar de las preocupaciones sobre si la regulación podría frenar la innovación en Europa, Isabelle argumenta que, por el contrario, promueve una forma de innovación ética que respeta los derechos fundamentales, ofreciendo una ventaja competitiva significativa. 

En relación con los riesgos asociados al neuromarketing y la promoción de productos basada en la neurotecnología, María explica que mientras la participación de los consumidores sea voluntaria y consciente, y se cumplan todas las normativas éticas y de privacidad, las actividades de investigación de mercado que utilizan neurotecnología deberían ser consideradas de manera similar a las metodologías tradicionales. La clave es el consentimiento informado y el respeto por la privacidad y la autonomía del individuo. 

En resumen, ambas expertas coinciden en la importancia de un desarrollo tecnológico que esté en armonía con la ética y los derechos fundamentales, enfatizando que la regulación adecuada, además de proteger a la sociedad de los riesgos potenciales, puede fomentar una innovación más responsable y sostenible.  

Si quieres profundizar en este campo y en otras tecnologías e innovaciones para el bienestar humano, no dejes de ver nuestro informe. 

También puedes acceder a otros webinars sobre la materia: 

• Neurotecnología para el bienestar humano: un vistazo al futuro con el Dr. Álvaro Pascual-Leone 

• Neuroterapia digital: llevando las neurotecnologías a casa del paciente con el Dr. Javier Mínguez 
• Neurotecnología de rehabilitación: del laboratorio a la vida cotidiana con el Dr. Ander Ramos-Murguialday 
• Antibióticos del futuro: el enfoque innovador de César de la Fuente 
• Futuro y Vida: Claves de la Biología Sintética con Marc Güell 
• La contribución pionera de Mª José Alonso en la nanomedicina y las vacunas de ARN