Etiqueta: neuroderechos

  • Privacidad Mental e Inteligencia Artificial: La Encrucijada Ética de Meta

    En un mundo donde la frontera entre la ciencia ficción y la realidad se desdibuja cada vez más, Meta, la empresa matriz de Facebook e Instagram, ha dado un paso audaz al presentar su última creación: una aplicación basada en inteligencia artificial (IA) que convierte las imágenes mentales en representaciones visuales reales. Este emocionante avance plantea preguntas profundas sobre el potencial de la IA para leer y decodificar la mente humana, así como desafíos éticos significativos relacionados con la «privacidad mental».

    La aplicación, conocida como Image Decoder, utiliza una combinación de técnicas innovadoras. En primer lugar, se aprovecha de la magnetoencefalografía (MEG), un método de escaneo cerebral no invasivo que mide la actividad eléctrica en el cerebro con una precisión extraordinaria. La MEG es capaz de capturar miles de mediciones por segundo, lo que proporciona una visión detallada de cómo las imágenes son percibidas y procesadas en la mente de un individuo. Luego, la IA entra en juego para traducir estas mediciones en representaciones visuales.

    Un aspecto destacable de este avance es su capacidad para funcionar en tiempo real, lo que significa que los investigadores pueden observar lo que una persona está viendo o imaginando en el momento en que ocurre, sin necesidad de estar físicamente presentes en la misma ubicación. Este potencial se demostró en una demostración en X (anteriormente Twitter), donde los investigadores pudieron decodificar la actividad cerebral generada por MEG y mostrar lo que una persona estaba mirando en ese mismo instante.

    El éxito de Image Decoder se basa en gran medida en el uso de DINOv2, un modelo de aprendizaje autosupervisado que fue entrenado con más de 60,000 resultados de MEG anteriores de pacientes. Aunque el sistema aún no es perfecto y enfrenta limitaciones técnicas, ha alcanzado niveles de precisión del 70% en los casos de mayor rendimiento, lo que representa un avance significativo en la recuperación y recreación precisa de imágenes basadas en datos MEG.

    El potencial de esta tecnología es inmenso. Meta sugiere que Image Decoder podría proporcionar una «voz» a personas que han perdido la capacidad de hablar debido a lesiones cerebrales. Además, abre la puerta a la posibilidad de que la IA pueda realizar funciones basadas en pensamientos, lo que podría revolucionar la forma en que interactuamos con la tecnología en el futuro.

    Sin embargo, existen desafíos significativos en el horizonte. La precisión de la decodificación disminuye cuando las personas son instruidas a imaginar representaciones en lugar de simplemente observar objetos físicos. Esto sugiere que el sistema todavía tiene limitaciones técnicas que deben abordarse antes de que pueda alcanzar su máximo potencial.

    Además, la tecnología plantea cuestiones éticas fundamentales, en particular la «privacidad mental». La capacidad de acceder y decodificar las imágenes y pensamientos de una persona plantea preocupaciones sobre la invasión de la privacidad y la propiedad de datos. En un momento en que la recopilación de datos y la privacidad en línea son temas candentes, este avance podría generar una discusión aún más intensa sobre quién tiene acceso a nuestros pensamientos y cómo se utilizan.

    Las preocupaciones éticas no son infundadas. Ya hemos sido testigos de casos en los que las gigantes tecnológicas como Amazon y Meta han utilizado datos de usuarios sin su consentimiento para mejorar sus modelos de IA. La idea de que ahora puedan acceder a nuestros pensamientos abre un nuevo territorio en términos de privacidad mental y seguridad de datos.

    Este no es el único avance en el campo de la IA y la neurotecnología que plantea cuestiones importantes. Un estudio de la Universidad de California en Berkeley demostró recientemente que la IA puede recrear música escaneando la actividad cerebral de las personas. Aunque estos desarrollos tienen el potencial de cambiar la vida de personas con discapacidades físicas y ofrecer soluciones innovadoras, también plantean cuestiones profundas sobre los límites éticos de la tecnología.

    En última instancia, la capacidad de la IA para leer la mente y convertir pensamientos en imágenes representa una revolución potencial en la relación entre la humanidad y la tecnología. Si bien ofrece un mundo de posibilidades, también plantea una serie de preguntas inquietantes que requerirán una atención cuidadosa y una regulación ética rigurosa para garantizar que se utilice de manera responsable y en beneficio de la sociedad en su conjunto.

  • ‘Neuroderechos’: ¿Qué sucede cuando la tecnología aprende a leer nuestra mente?

    La promesa de la neurotecnología de mejorar la vida está creciendo. Esto causa preocupación de que estos adelantos tecnológicos pueda usarse para registrar los datos mentales de las personas, así como para modificarlos, por lo que, ¿necesitamos un nuevo conjunto de derechos para proteger la integridad de nuestras mentes?

    El concepto relativamente incipiente de «neuroderechos», que pretende salvaguardar los «neurodatos» de las personas y establecer límites sobre cómo se pueden analizar y modificar los contenidos del cerebro, sigue una serie de innovaciones médicas recientes, en particular la tecnología de interfaz cerebro-computadora (BCI), que tiene el potencial de revolucionar el campo de la neurociencia.

    La terapia basada en BCI puede ser útil para la rehabilitación motora posterior al accidente cerebrovascular y puede ser un método potencial para la detección y el tratamiento precisos de enfermedades neurológicas como el Alzheimer. Los defensores afirman que, por lo tanto, existe un imperativo moral para usar la tecnología, dados los beneficios que podría traer.

    En esta línea, la empresa Synchron, se convirtió en la primera empresa del mundo, por delante de competidores como Neuralink de Elon Musk, en obtener la aprobación de la Administración de Drogas y Alimentos de los EE. UU. (FDA) para realizar ensayos clínicos de interfaces cerebro-computadora (BCI) en humanos, introduciendo con éxito electrodos en el cerebro de pacientes paralizados a través de sus vasos sanguíneos. Los electrodos registran la actividad cerebral y transmiten los datos de forma inalámbrica a una computadora, donde se interpretan y utilizan como un conjunto de comandos, lo que permite a los pacientes enviar correos electrónicos y mensajes de texto.

    Pero, ¿qué sucedería si tales capacidades pasaran de la medicina a un mundo comercial no regulado? Es un escenario distópico que podría conducir a un deterioro progresivo e implacable de nuestra capacidad para controlar nuestros propios cerebros, pudiendo conducir a excesos corporativos y estatales, incluida la vigilancia policial discriminatoria y las violaciones de la privacidad, dejando nuestras mentes tan vulnerables a la vigilancia como nuestras comunicaciones.

    Incluso la neurociencia ha abierto la posibilidad de diseñar humanos híbridos con habilidades cognitivas mejoradas artificialmente, con el riesgo de alterar los pensamientos de las personas, empleando algoritmos a través de Internet para reprogramar su cableado, para dictar sus intereses, preferencias o patrones de consumo.

    Y si bien es una progresión que sigue siendo hipotética, no es impensable. En algunos países, los gobiernos ya se están moviendo para proteger a los humanos de esta posibilidad.

    Sin ir más lejos, en el conteniente latinoamericano, los legisladores chilenos aprobaron en octubre del año pasado, una ley que establece los derechos a la identidad personal, el derecho a la privacidad mental, el libre albedrío de pensamiento, el acceso equitativo a las tecnologías que aumentan las capacidades humanas y la protección contra la discriminación. Convirtiéndose en el primer país del mundo en legislar sobre neurotecnología que puede manipular la mente.

    Este proyecto de ley, podría ser la base de futuras legislaciones en materia de derechos humanos en otros países ante los avances tecnológicos aplicados a la mente y el cerebro.

    Durante los debates previos a la votación, el senador Guido Girardi, uno de los más acérrimos promotores de la ley, dijo que su objetivo es proteger «la última frontera» del ser humano: la psique humana. «Estamos felices de que este sea el comienzo de una evaluación global sobre cómo se debe usar la tecnología para el bien de la humanidad», dijo Girardi en Twitter.

    La Cámara de Diputados dijo en un comunicado que “la ley de Chile establece que el desarrollo científico y tecnológico debe estar al servicio de las personas y que se realizará con respeto a la vida y a la integridad física y psíquica”.