GCCVIEWS

Etiqueta: privacidad y uso de datos

  • ¿Qué papel juegan nuestros datos digitales en el escenario geopolítico mundial?

    ¿Qué papel juegan nuestros datos digitales en el escenario geopolítico mundial?

    La digitalización ha convertido la información en un activo estratégico clave. A medida que los servicios esenciales migran hacia entornos de computación en la nube, se materializa el desafío técnico y legal de la llamada soberanía de los datos.

    Tradicionalmente, este concepto presupone que la información digital está sujeta al ordenamiento jurídico del territorio donde se recopila o procesa. No obstante, la realidad operativa implica una convergencia de jurisdicciones concurrentes.

    En la práctica cotidiana, entran en conflicto variables como el origen geográfico del dato, la residencia del ciudadano afectado, la ubicación física de la infraestructura de almacenamiento y el país donde la empresa proveedora tiene establecida su sede matriz.

    Sin ir más lejos, en 2020, el Tribunal de Justicia de la Unión Europea invalidó el marco regulatorio “Privacy Shield”, que amparaba legalmente la transferencia de datos personales entre Europa y Estados Unidos. Esta resolución judicial, conocida como sentencia Schrems II, visibiliza una fractura estructural en la arquitectura digital contemporánea.

    Regulación según intereses geopolíticos

    El entramado normativo internacional incrementa la complejidad de esta gestión, evidenciando que los grandes bloques geopolíticos, sobre todo, la Unión Europea, Estados Unidos y China, ejercen diferentes grados y mecanismos de control sobre la esfera digital para proteger sus intereses.

    El Reglamento General de Protección de Datos (RGPD) en Europa introdujo un criterio estricto de extraterritorialidad en su artículo 3, que exige el cumplimiento de sus estándares a organizaciones ubicadas fuera de su territorio siempre que traten información de residentes europeos.

    Mientras, legislaciones como la Clarifying Lawful Overseas Use of Data Act (CLOUD Act) estadounidense otorgan a las autoridades federales la potestad de requerir el acceso a los registros que administran sus corporaciones tecnológicas, en determinados supuestos y bajo control judicial, con independencia de si los servidores físicos operan en la Unión Europea o en otras jurisdicciones.

    La colisión directa entre legislaciones enfocadas en una privacidad fuertemente garantista, como la europea, y otras orientadas a la seguridad nacional y la vigilancia transnacional genera inseguridad jurídica, exponiendo a instituciones y corporaciones a riesgos legales sustanciales.

    Juridiscción entre fronteras

    La dificultad para mantener el control jurisdiccional sobre los sistemas informáticos compromete la resiliencia de los Estados y afecta de forma directa a la ciudadanía. Esto se traduce en riesgos tangibles para la gestión y confidencialidad del historial médico electrónico, la estabilidad de la banca digital o el funcionamiento ininterrumpido de los servicios públicos de emergencia.

    Por otro lado, la externalización de la custodia de esta información a corporaciones sujetas a legislaciones de terceros países introduce vulnerabilidades sistémicas, dado que las variaciones en las políticas comerciales o la imposición de sanciones internacionales pueden provocar la interrupción abrupta de operaciones críticas.

    En este escenario, desde la perspectiva macroeconómica, la retención del control de los datos resulta crítica para la autonomía tecnológica. Estos repositorios masivos constituyen el sustrato primario para el entrenamiento de algoritmos de inteligencia artificial y la generación de modelos analíticos avanzados.

    Iniciativas como el proyecto GAIA-X ilustran este esfuerzo institucional mediante la creación de infraestructuras de datos abiertas, federadas y seguras. El propósito de este marco europeo consiste en la salvaguarda de la capacidad de innovación tecnológica en el territorio propio y la mitigación la transferencia neta de valor hacia operadores foráneos.

    Servidores y operadores locales

    Las respuestas regulatorias frente a esta vulnerabilidad frecuentemente exigen la implementación de medidas de residencia de datos, que obligan por ley a que los centros de procesamiento se ubiquen dentro de las fronteras nacionales.

    Aunque la localización geográfica del servidor es un requisito necesario para facilitar la auditoría y la supervisión física, resulta insuficiente para garantizar una autonomía tecnológica real. Si la infraestructura física sigue operada por la filial de una corporación extranjera, los datos continúan bajo el riesgo de aplicación de legislaciones extraterritoriales.

    Así, las aproximaciones más rigurosas exigen la adopción de arquitecturas de nube operadas por entidades locales, con el objetivo de reducir de forma drástica el riesgo de sometimiento a requerimientos de tribunales o agencias de inteligencia de terceros países.

    Tecnología de cifrado

    En el nivel de la seguridad técnica, la mitigación de estos riesgos requiere que los controles criptográficos se encuentren bajo el dominio exclusivo del propietario de la información. Esto significa que las claves de cifrado deben ser generadas, custodiadas y gestionadas en la jurisdicción de origen.

    Tecnologías de frontera como la computación confidencial –enfocada en proteger los datos en uso– añaden una capa de protección en el procesador: aíslan los datos en entornos de ejecución seguros mientras se realizan los cálculos en la memoria del servidor.

    Por su parte, disciplinas como el cifrado homomórfico permiten la ejecución de operaciones analíticas sobre datos encriptados sin requerir su descifrado en ningún punto del proceso. Aunque esta tecnología aún presenta severas limitaciones de rendimiento computacional y está restringida a operaciones matemáticas muy concretas, los avances continuos en su desarrollo reducen la superficie de exposición.

    El empleo de estas técnicas proporciona una protección robusta frente a la interceptación ilícita o el cumplimiento de órdenes extranjeras.

    Pilares de los Estados digitales

    La gestión jurisdiccional de la información ha trascendido el debate estrictamente regulatorio para consolidarse como un elemento central del funcionamiento del entorno digital actual.

    Las decisiones sobre la topología de la red –disposición física en la que los dispositivos (nodos) de una red, como computadoras, routers y switches, están interconectados para intercambiar datos– determinan cómo se distribuyen, aíslan y conectan físicamente los nodos del sistema.

    Estas variables, junto con la selección de proveedores de infraestructura y el despliegue de protocolos de cifrado, impactan directamente en el tejido social y económico. Además, determinan el grado efectivo de privacidad individual, la disponibilidad de los servicios esenciales ante escenarios de inestabilidad internacional y la viabilidad competitiva del tejido industrial.

    Por eso, la preservación de la autoridad sobre las condiciones bajo las cuales se procesan y almacenan los datos constituye, en el contexto actual, un requisito fundamental para salvaguardar la autonomía política y económica en la era digital.

    José Luis Salmerón Silvera, Catedrático de Inteligencia Artificial, CUNEF Universidad

    Este artículo fue publicado originalmente en The Conversation. Lea el original.

  • Palantir y el espejismo de la seguridad: una advertencia desde la frontera orwelliana

    Hay nombres de empresas que parecen concebidos en una novela de ciencia ficción. Palantir es uno de ellos. En la obra de Tolkien, los palantiri eran piedras de visión: artefactos que permitían ver cualquier rincón del mundo, pero siempre a riesgo de perder la voluntad frente a quien controlara el cristal.
    En nuestra realidad, Palantir Technologies cumple un papel inquietantemente parecido.

    Durante años, esta compañía se ha presentado como una constructora de “software para decisiones complejas”. No recopilan datos —dicen—, solo proporcionan la infraestructura para que otros lo hagan mejor. A simple vista, parece una promesa de eficiencia. Pero en el trasfondo, se perfila un cambio profundo en la relación entre ciudadanos, gobiernos y empresas tecnológicas: un desplazamiento silencioso hacia un modelo donde la vigilancia deja de ser excepcional y se convierte en arquitectura.

    Cuando todos los datos conversan entre sí

    Palantir se especializa en integrar información dispersa: bases de datos policiales, registros migratorios, historiales médicos, cuentas fiscales, patrones de consumo, contactos, ubicaciones. Lo que antes eran islas, su software lo convierte en un archipiélago perfectamente conectado.
    Y cuando todos los datos “hablan”, lo hacen sobre nosotros.

    El problema no es solo tecnológico. Es político, ético y, sobre todo, humano. La posibilidad de correlacionar cada movimiento, cada decisión, cada vulnerabilidad individual configura un poder que ningún Estado democrático debería delegar —y mucho menos sin supervisión transparente. Las herramientas que prometen revelar terroristas también pueden identificar manifestantes, periodistas incómodos o comunidades enteras consideradas “de riesgo” por algoritmos sin rostro.

    Un sistema capaz de verlo todo no es neutral. Es una tentación.

    El matrimonio peligroso entre gobiernos y corporaciones

    Las asociaciones público-privadas que impulsan este tipo de tecnología han sido vendidas como alianzas pragmáticas: el Estado obtiene herramientas de última generación, la empresa obtiene contratos millonarios.
    Pero ¿quién protege al ciudadano en medio de esa negociación?

    Cuando un gobierno externaliza su capacidad de vigilancia a un actor privado, ocurre algo preocupante: la soberanía se terceriza. Los contratos son opacos, las auditorías escasas, el escrutinio público casi nulo. El poder se desplaza hacia quienes controlan la tecnología, no hacia quienes controlan el voto.

    Las democracias modernas se construyen sobre equilibrios delicados: separación de poderes, transparencia, control judicial, prensa libre. La introducción de plataformas de análisis masivo de datos puede romper ese equilibrio sin ruido, sin violencia, sin que la ciudadanía siquiera note que se ha cruzado un umbral.

    Porque la vigilancia del siglo XXI no grita. Apenas susurra.

    El retrovisor orwelliano

    En 1984, Orwell imaginó un mundo donde la vigilancia era total y explícita: cámaras, micrófonos, pantallas omnipresentes. Lo inquietante de nuestra época es que no hace falta esa teatralidad. Basta con que los datos se acumulen, se integren y se procesen bajo lógicas que nadie comprende del todo.

    El Gran Hermano ya no necesita mirar: basta con que los sistemas predigan.

    ¿Quién decide qué es sospechoso? ¿Quién corrige los errores del algoritmo? ¿Quién garantiza que un perfil de riesgo no se convierta en sentencia antes del juicio? ¿Quién se responsabiliza cuando una vida es condicionada por datos mal interpretados?

    La respuesta, demasiadas veces, es: nadie en particular.

    La última línea de defensa

    Quizá el mayor peligro no sea Palantir como empresa, sino nuestra complacencia colectiva: la aceptación pasiva de que la seguridad justifica cualquier intromisión, de que la eficiencia es más importante que la libertad, de que “si no tienes nada que ocultar, no tienes nada que temer”.

    Ese es el primer paso hacia la erosión de derechos que costaron siglos de lucha.

    La tecnología no es el enemigo. La opacidad sí. La ausencia de límites legales también.
    La idea de que “el fin justifica los medios”, aplicada al manejo de datos, es una pendiente resbaladiza hacia un futuro donde la privacidad es un recuerdo.

    Por eso es indispensable exigir transparencia total en los contratos, auditorías independientes, evaluación de impacto en derechos humanos y un debate público real sobre qué tipo de sociedad queremos construir.

    El dilema no es técnico. Es moral.

    Porque si permitimos que la infraestructura de vigilancia crezca sin control, llegará el día en que miremos atrás y descubramos que la línea entre democracia y distopía se cruzó sin que nos diéramos cuenta.

  • Los algoritmos adivinan cómo somos o cuánto ganamos solo con analizar nuestra foto

    Cuando subimos una foto a una red social, igual no nos imaginamos todo lo que los algoritmos pueden deducir de nosotros solo por esa imagen.

    Es una sensación familiar para cualquiera que use redes sociales: el asombro, a veces inquietante, de que una plataforma parezca conocernos mejor que nadie. Un vídeo recomendado que acierta de lleno, un anuncio que responde a una conversación reciente, un recuerdo que aparece en el momento justo… Atribuimos esta aparente magia a los algoritmos que, suponemos, aprenden de nuestras interacciones directas. Sin embargo, esta es solo la capa más superficial de un sistema mucho más complejo.

    La verdadera capacidad de estos sistemas no reside en registrar nuestras acciones explícitas, sino en su habilidad para interpretar nuestra identidad a partir de los datos que compartimos, a menudo, de forma inconsciente. Un sencillo experimento con una sola fotografía personal revela hasta qué punto estos sistemas construyen perfiles psicológicos, ideológicos y económicos que van mucho más allá de lo que el usuario pretende comunicar.

    De la visión por computador a la interpretación semántica

    Cuando subimos una imagen a internet, no solo la ven otros usuarios: también la “leen” los sistemas de visión por computador, como la API de Google Vision que, según anuncia Google, “extrae información valiosa de imágenes, documentos y vídeos”. Estas tecnologías ya no se limitan a identificar objetos o rostros. Su alcance llega a la interpretación semántica: pueden deducir emociones, contextos culturales o rasgos de personalidad.

    Herramientas como TheySeeYourPhotos, creada por un exingeniero de Google para denunciar este tipo de prácticas, permiten comprobarlo. Su objetivo es mostrar cuánta información personal y sensible puede inferirse a partir de una sola fotografía, utilizando la misma tecnología que emplean las grandes corporaciones.

    El problema no está en que las máquinas reconozcan lo que ven, sino en que interpreten lo que creen que esa imagen dice sobre nosotros. Y ahí surge una pregunta clave: ¿están diseñadas para servir nuestros intereses o para explotar patrones de comportamiento que ni siquiera reconocemos?

    Caso de estudio: el perfil inferido de una fotografía

    Para explorar los límites de esta capacidad interpretativa, en la Universidad Miguel Hernández realizamos un experimento: analizamos una fotografía personal mediante la herramienta mencionada anteriormente. Los resultados que obtuvimos se pueden clasificar en dos niveles.

    Análisis que la herramienta TheySeeYourPhotos hace sobre una de las fotos empleadas en este estudio.

    El primer nivel es el del análisis descriptivo, mediante el que la IA identifica elementos visuales objetivos. En este caso, describió correctamente la escena principal (un joven junto a una barandilla y un monumento) y se aproximó a la localización geográfica. Este nivel, aunque propenso a errores fácticos (como estimar una edad algo diferente), se mantiene en el plano de lo esperable.

    El segundo nivel, el del análisis inferencial, es el que resulta más revelador y problemático. A partir de la misma imagen, el sistema construyó un perfil detallado basado en patrones estadísticos y, previsiblemente, en sesgos algorítmicos:

    • Origen étnico (raza mediterránea) y nivel de ingresos estimado (entre 25 000 y 35 000 euros).
    • Rasgos de personalidad (tranquilo, introvertido) y aficiones (viajes, fitness, comida).
    • Orientación ideológica y religiosa (agnostico, partido demócrata).

    El propósito de este perfilado exhaustivo es, en última instancia, la segmentación comercial. La plataforma sugirió anunciantes específicos (Duolingo, Airbnb) que tendrían una alta probabilidad de éxito con el perfil inferido. Lo relevante no es el grado de acierto, sino la demostración de que una sola imagen es suficiente para que una máquina construya una identidad compleja y procesable de un individuo.

    Del perfilado a la influencia: el riesgo de la manipulación algorítmica

    Si un algoritmo puede inferir nuestra ideología, ¿su objetivo es simplemente ofrecernos contenido afín o reforzar esa inclinación para volvernos más predecibles y rentables?

    Esa es la frontera difusa entre personalización y manipulación. Meta, por ejemplo, ha experimentado con usuarios generados por inteligencia artificial, diseñados para interactuar con perfiles solitarios y aumentar su tiempo en la plataforma. Y si los sistemas pueden simular compañía, también pueden crear entornos informativos que guíen sutilmente opiniones y decisiones.

    A ello se suma la falta de control real sobre nuestros datos. La multa récord de 1 200 millones de euros impuesta a Meta en 2023 por transferencias ilegales de información de Europa a EE. UU. demuestra que el cumplimiento normativo se convierte, para las grandes tecnológicas, en un cálculo de riesgo-beneficio, más que en un principio ético.

    La conciencia crítica como herramienta de defensa

    El resultado de este perfilado masivo es la consolidación de las “burbujas de filtro”, un concepto acuñado por Eli Pariser para describir cómo los algoritmos nos encierran en entornos informativos que refuerzan nuestras creencias. Así, cada usuario habita un mundo digital hecho a su medida, pero también más cerrado y polarizado.

    Ser conscientes de que cada interacción digital alimenta este ciclo es el primer paso para mitigar sus efectos. Herramientas como TheySeeYourPhotos son valiosas porque revelan cómo se construye la ilusión de personalización que define nuestra experiencia en línea.

    Por tanto, el feed de nuestras redes sociales no es un reflejo del mundo real, sino una construcción algorítmica diseñada para nosotros. Comprender esto es indispensable para proteger el pensamiento crítico y navegar de forma consciente en un entorno digital cada vez más complejo.The Conversation

    Daniel Garcia Torres, Doctorando en Deporte y Salud, Universidad Miguel Hernández; César Fernández Peris, Profesor Titular de Universidad, área de Ingeniería Telemática, Universidad Miguel Hernández y María Asunción Vicente Ripoll, Profesora titular en el área de Ingeniería Telemática. , Universidad Miguel Hernández

    Este artículo fue publicado originalmente en The Conversation. Lea el original.

  • Buenos Aires lanza la primera identidad digital autosoberana respaldada por blockchain

    En un hito mundial, la Ciudad de Buenos Aires ha implementado la identidad digital autosoberana usando blockchain y criptografía de conocimiento cero (ZK), otorgando a sus ciudadanos un nivel de privacidad sin precedentes en la administración de sus datos personales. A través de la plataforma QuarkID, impulsada por ZKsync, los residentes ahora tienen el control total de sus credenciales digitales, como certificados de nacimiento y credenciales ciudadanas, sin necesidad de revelar información personal.

    Esta iniciativa fue incorporada a miBA, la plataforma digital del gobierno, transformando los datos de los usuarios a un sistema de identidad digital descentralizado (DID). Ahora, los ciudadanos pueden verificar su identidad de manera segura para realizar trámites, acceder a documentos y reducir el tiempo en ventanillas físicas. Con QuarkID, Buenos Aires se convierte en la primera ciudad del mundo en transferir la propiedad de las credenciales digitales a sus residentes.

    Seguridad y privacidad con tecnología ZK

    Gracias a la tecnología de prueba de conocimiento cero de ZKsync, los datos de identidad pueden ser verificados sin exponer información sensible. Este mecanismo permite, por ejemplo, que una persona demuestre ser mayor de edad sin revelar su fecha de nacimiento completa. Estas credenciales se almacenan en dispositivos personales con cifrado biométrico, sin la intervención ni vigilancia del gobierno, protegiendo contra violaciones de datos y aumentando la privacidad.

    Beneficios de las Identidades Digitales Descentralizadas

    Este sistema pionero en Argentina no solo brinda seguridad y control a los ciudadanos, sino que también elimina el acceso del gobierno al historial de uso de estos documentos. Los usuarios pueden compartir pruebas de identidad de manera segura para acceder a servicios bancarios, realizar trámites gubernamentales y recibir beneficios específicos, sin tener que depender de contraseñas o de plataformas centralizadas.

    Aplicaciones futuras y expansión

    Con el tiempo, QuarkID y miBA ofrecerán más documentos y servicios digitales. Desde certificados de vacunación hasta beneficios especiales en eventos, esta iniciativa abre puertas a un sinfín de usos y servicios que requieren identificación segura y verificación de ciudadanía. Además, su código abierto y escalabilidad permiten que otras ciudades y empresas adopten este marco de identidad digital en la blockchain, promoviendo un entorno seguro y respetuoso con la privacidad.

    Este avance en Buenos Aires marca una nueva era en la relación entre los gobiernos y los datos ciudadanos, y posiciona a la ciudad como líder en privacidad y soberanía digital a nivel global. La adopción de QuarkID ofrece un modelo innovador que redefine los estándares de seguridad, privacidad y control ciudadano en la era digital.

     

  • Derechos de propiedad y tecnología centralizada: Un debate pendiente.

    Los derechos de propiedad sobre plataformas tecnológicas centralizadas, como Telegram, Twitter o Facebook, están en constante discusión debido a la complejidad de su naturaleza y a las responsabilidades que los gobiernos y la sociedad intentan imponerles. La carta pública del CEO de Telegram está reflejando el problema. A continuación, planteamos el debate pendiente donde se detallan algunos puntos clave que reflejan las controversias actuales en torno a los derechos de propiedad de estas plataformas, su responsabilidad sobre los contenidos de terceros y su capacidad para mantenerse neutrales:

    1. Responsabilidad sobre los contenidos de terceros en plataformas centralizadas:
    – Punto de discusión: Las plataformas tecnológicas centralizadas que permiten la creación, subida y divulgación de contenido de terceros suelen estar en la mira de los reguladores por su papel en la moderación o falta de control sobre ese contenido. Esto genera una tensión entre la propiedad de la plataforma y la responsabilidad por lo que se publica en ella.
    – Argumento a favor de la responsabilidad: Se argumenta que si una plataforma tiene un propietario, y este tiene la capacidad de controlar, moderar o eliminar contenido, entonces debería asumir responsabilidad sobre lo que se publica, al menos en un marco similar al de un editor que controla sus publicaciones.
    – Argumento en contra de la responsabilidad: Las plataformas tecnológicas se defienden argumentando que son meros intermediarios y no responsables de las acciones de los usuarios, similar a un proveedor de servicios de internet que no es responsable del contenido que sus clientes transmiten.

    2. Neutralidad de plataformas con un propietario que puede moderar o eliminar contenido:
    – Punto de discusión: La neutralidad de una plataforma es cuestionable si el propietario o la empresa tiene la capacidad de intervenir sobre el contenido, ya sea eliminando, filtrando o destacando información según su criterio o los de terceros (como gobiernos).
    – Implicaciones: Si una plataforma puede editar, eliminar o priorizar contenido, difícilmente puede considerarse completamente neutral. La capacidad de moderar implica una forma de control editorial, que entra en conflicto con la idea de ser solo un intermediario.
    – Ejemplo: El uso de algoritmos sesgados para promover ciertos contenidos o la eliminación de mensajes que violan las políticas internas (o presiones externas) muestra que hay un nivel de intervención que aleja a la plataforma de ser un espacio neutral.

    3. Dilema entre la libertad de expresión y la propiedad privada en la moderación de contenidos:
    – Punto de discusión: Las plataformas centralizadas a menudo enfrentan la contradicción de ser espacios para la libre expresión mientras, al mismo tiempo, ejercen su derecho de propiedad para moderar lo que se publica. Esto crea un conflicto sobre hasta qué punto se puede limitar el contenido sin afectar derechos fundamentales.
    – Casos relevantes: La exclusión de contenido políticamente sensible o controvertido ha levantado debates sobre si estas plataformas actúan bajo sus propios intereses, los de sus accionistas, o en respuesta a presiones externas, especialmente gubernamentales.

     4. El impacto de la legislación en la autonomía de la propiedad tecnológica:
    – Punto de discusión: Leyes como la Sección 230 del Communications Decency Act en Estados Unidos, que protege a las plataformas de la responsabilidad sobre el contenido de terceros, han sido clave para su desarrollo. Sin embargo, con la creciente presión para moderar más activamente, estas leyes están en riesgo de ser modificadas o reinterpretadas, lo que afectaría la autonomía de las plataformas.
    – Consecuencias potenciales: Cambios en estas leyes pueden llevar a una mayor responsabilidad para los propietarios, limitando su capacidad de operar sin intervenir activamente sobre el contenido, lo que comprometería el principio de neutralidad y afectaría la propiedad privada al obligar a los dueños a cumplir con estándares más estrictos.

    5. Tecnología centralizada vs. descentralizada y el control del contenido:
    – Punto de discusión: Las plataformas centralizadas tienen un punto de control claro —los dueños— lo que permite la moderación directa del contenido. En contraste, las plataformas descentralizadas (como Nostr o Bitcoin) distribuyen el control y la responsabilidad, lo que dificulta la intervención tanto interna como externa.
    – Implicaciones para la propiedad: En las plataformas descentralizadas, no hay un único propietario que pueda ser presionado o responsabilizado, lo que protege mejor la libertad de los usuarios y la neutralidad del contenido, pero también dificulta el control y la eliminación de contenido ilegal o perjudicial.

    6. El rol del propietario en la creación de reglas y políticas internas:
    – Punto de discusión: Como propietarios, los dueños de plataformas tienen el derecho de establecer políticas y reglas sobre lo que está permitido en su espacio. Sin embargo, estas reglas pueden reflejar los sesgos o intereses de los propietarios, lo que genera una tensión entre la propiedad privada y la percepción pública de neutralidad.
    – Ejemplo: Las reglas de contenido sobre drogas, violencia o discurso de odio son, en última instancia, decisiones de propiedad, pero pueden ser vistas como actos de censura, dependiendo del contexto y la aplicación.

    El debate sobre la responsabilidad de las plataformas tecnológicas centralizadas y su neutralidad gira en torno a la tensión entre los derechos de propiedad de sus dueños y las expectativas de responsabilidad social y legal. A medida que las tecnologías avanzan y los gobiernos buscan más control sobre el flujo de información, estas discusiones se vuelven cada vez más relevantes, desafiando los conceptos tradicionales de propiedad y responsabilidad en un entorno digital.

  • ¿Y si Meta nos pagase por usar nuestras fotos y datos de Instagram y Facebook para entrenar a la IA?

    Hace solo unos días Meta presentaba una nueva actualización de su modelo de lenguaje de gran tamaño llamado Meta Llama 3, el que sería la base de Meta IA, la inteligencia artificial que la empresa de Mark Zuckerberg quiere desplegar en Facebook, Instagram y WhatsApp a nivel global. Esta actuación tal y como la han planteado no es ilegal.

    En la presentación, Meta resaltaba el trabajo que está realizando para entrenar su modelo con una gran variedad de datos que mejore la calidad de la respuesta e interacción de Meta IA. Uno de los objetivos es que la IA genere contenidos propios que lleguen a nuestras redes sociales, sean creíbles y adaptados a lo que más nos gusta.

    Este asistente personal ya está disponible en Estados Unidos, Australia y Canadá y, además de IA conversacional, funciona como IA generativa para crear contenidos. El proceso es imparable.

    Inmediatamente después, la empresa matriz de Facebook e Instagram comunicó que utilizará las fotografías y otros contenidos publicados por los usuarios en sus plataformas para entrenar su inteligencia artificial generativa.

    La actualización de su política de privacidad entrará en vigor el 26 de junio de 2024. Esto permitirá a la compañía utilizar las publicaciones, fotos, vídeos y otros contenidos compartidos por los usuarios en sus plataformas para entrenar su inteligencia artificial.

    Como era de esperar, la implementación de esta política ha generado una gran polémica y preocupación entre usuarios, especialmente entre artistas y creadores de contenido que temen por la privacidad y el uso no autorizado de sus obras.

    La compañía ha proporcionado una opción para que los usuarios puedan rechazar el uso de sus datos a través de un formulario específico, aunque no sin críticas. El proceso ha sido tachado de complicado y poco accesible.

    Otras redes y tecnológicas detrás de esta práctica

    La controversia se intensifica en un momento en que la carrera por desarrollar la mejor inteligencia artificial está en pleno auge. Esto impacta significativamente a las empresas tecnológicas y a su cotización en bolsa.

    La semana pasada, el fabricante de chips Nvidia, uno de los competidores de Meta, anunció un aumento en sus beneficios del primer trimestre fiscal gracias a la IA.

    El año se abría con la denuncia de The New York Times a Microsoft y OpenIA por utilizar contenidos protegidos con derechos de autor del diario para entrenar sus algoritmos. Esto desencadenaba un largo debate sobre los datos que utilizan las IA para nutrir sus respuestas.

    Esto ha llevado a que se firmasen acuerdos para el uso de obras, como el de OpenIA con los grupos editoriales Prisa en España, Le Monde en Francia y con la editorial académica alemana Axel Springer y recientemente con el grupo News Corp, propietario de The Wall Street Journal, por 230 millones de euros.

    X ya lo ha hecho y TikTok también

    Está a la orden del día que estas empresas utilicen datos que recolectan de internet, con poco control, para alimentar sus IA.

    Recientemente saltó a la palestra el caso de X (antes Twitter), en el que se filtró que la empresa de Elon Musk había estado utilizando las publicaciones de usuarios para construir su inteligencia artificial: Grok, disponible para perfiles prémium.

    De una u otra forma, todas las redes sociales utilizan algoritmos de inteligencia artificial para personalizar los contenidos que visualizamos. Por ejemplo, TikTok utiliza esta información para crear un “Para ti” único basado en vídeos similares a los que más consumes. Esto ha llevado a que, tras la entrada en vigor de la Ley de Servicios Digitales de la Unión Europea, la red social adopte nuevas medidas que permitan desactivar el uso de determinada información o funcionalidades relacionadas con los datos.

    Qué pasa con nuestros datos y fotos

    Si Meta o cualquier otra empresa quiere utilizar nuestros datos, debe ser transparente con ello en su política de privacidad. Esto permite al usuario tener un control sobre la información que utilizan, cómo y para qué.

    Con la actualización de la política, desde el 26 de junio de 2024 la red social comenzará a utilizar fotografías, vídeos y textos que publiquen sus usuarios (descripciones, comentarios, etc.), y de aquellos contenidos ya publicados con anterioridad.

    El usuario tendrá ahora dos opciones: borrar el contenido que no quiere “regalar” a la IA o ejercer el derecho de oposición a este uso en las aplicaciones de Meta. Para esta última opción se han inundado las redes con tutoriales y tips para hacerlo. Resumidamente, rellenar un formulario bastante oculto oponiéndose a ello.

    ¿Y si Meta pagara por nuestros datos?

    La idea no es nada descabellada. Y quizás ayudaría a que, como usuarios, nos siente mejor, o al menos no tan mal.

    Además de los acuerdos de empresas de IA con propietarias de contenidos (imágenes, textos, vídeos, audios, etc.), valorados en millones de euros, empresas como WorldCoin ya ofrecen criptomonedas por el contenido de los usuarios. Concretamente por escanear biométricamente nuestro iris y generar una ID virtual única.

    Los datos son una moneda de cambio. Igual que ya está regulado el pago con datos personales para acceder a servicios “gratuitos” o freemium, incluso pagar una suscripción por no usar datos personales, como ocurre en X Premium, podría ser perfectamente válido un modelo en el que las empresas paguen por nuestros datos digitales. Posiblemente esto establecería un equilibrio entre privacidad y beneficio. Al menos, que el usuario reciba una parte de la tarta.The Conversation

    Francisco José Pradana, Profesor de Comunicación y director de Postgrado, Universidad Europea y María Luisa Fanjul Fernández, Profesora, Universidad Europea

    Este artículo fue publicado originalmente en The Conversation. Lea el original.

  • Privacidad Mental e Inteligencia Artificial: La Encrucijada Ética de Meta

    En un mundo donde la frontera entre la ciencia ficción y la realidad se desdibuja cada vez más, Meta, la empresa matriz de Facebook e Instagram, ha dado un paso audaz al presentar su última creación: una aplicación basada en inteligencia artificial (IA) que convierte las imágenes mentales en representaciones visuales reales. Este emocionante avance plantea preguntas profundas sobre el potencial de la IA para leer y decodificar la mente humana, así como desafíos éticos significativos relacionados con la «privacidad mental».

    La aplicación, conocida como Image Decoder, utiliza una combinación de técnicas innovadoras. En primer lugar, se aprovecha de la magnetoencefalografía (MEG), un método de escaneo cerebral no invasivo que mide la actividad eléctrica en el cerebro con una precisión extraordinaria. La MEG es capaz de capturar miles de mediciones por segundo, lo que proporciona una visión detallada de cómo las imágenes son percibidas y procesadas en la mente de un individuo. Luego, la IA entra en juego para traducir estas mediciones en representaciones visuales.

    Un aspecto destacable de este avance es su capacidad para funcionar en tiempo real, lo que significa que los investigadores pueden observar lo que una persona está viendo o imaginando en el momento en que ocurre, sin necesidad de estar físicamente presentes en la misma ubicación. Este potencial se demostró en una demostración en X (anteriormente Twitter), donde los investigadores pudieron decodificar la actividad cerebral generada por MEG y mostrar lo que una persona estaba mirando en ese mismo instante.

    El éxito de Image Decoder se basa en gran medida en el uso de DINOv2, un modelo de aprendizaje autosupervisado que fue entrenado con más de 60,000 resultados de MEG anteriores de pacientes. Aunque el sistema aún no es perfecto y enfrenta limitaciones técnicas, ha alcanzado niveles de precisión del 70% en los casos de mayor rendimiento, lo que representa un avance significativo en la recuperación y recreación precisa de imágenes basadas en datos MEG.

    El potencial de esta tecnología es inmenso. Meta sugiere que Image Decoder podría proporcionar una «voz» a personas que han perdido la capacidad de hablar debido a lesiones cerebrales. Además, abre la puerta a la posibilidad de que la IA pueda realizar funciones basadas en pensamientos, lo que podría revolucionar la forma en que interactuamos con la tecnología en el futuro.

    Sin embargo, existen desafíos significativos en el horizonte. La precisión de la decodificación disminuye cuando las personas son instruidas a imaginar representaciones en lugar de simplemente observar objetos físicos. Esto sugiere que el sistema todavía tiene limitaciones técnicas que deben abordarse antes de que pueda alcanzar su máximo potencial.

    Además, la tecnología plantea cuestiones éticas fundamentales, en particular la «privacidad mental». La capacidad de acceder y decodificar las imágenes y pensamientos de una persona plantea preocupaciones sobre la invasión de la privacidad y la propiedad de datos. En un momento en que la recopilación de datos y la privacidad en línea son temas candentes, este avance podría generar una discusión aún más intensa sobre quién tiene acceso a nuestros pensamientos y cómo se utilizan.

    Las preocupaciones éticas no son infundadas. Ya hemos sido testigos de casos en los que las gigantes tecnológicas como Amazon y Meta han utilizado datos de usuarios sin su consentimiento para mejorar sus modelos de IA. La idea de que ahora puedan acceder a nuestros pensamientos abre un nuevo territorio en términos de privacidad mental y seguridad de datos.

    Este no es el único avance en el campo de la IA y la neurotecnología que plantea cuestiones importantes. Un estudio de la Universidad de California en Berkeley demostró recientemente que la IA puede recrear música escaneando la actividad cerebral de las personas. Aunque estos desarrollos tienen el potencial de cambiar la vida de personas con discapacidades físicas y ofrecer soluciones innovadoras, también plantean cuestiones profundas sobre los límites éticos de la tecnología.

    En última instancia, la capacidad de la IA para leer la mente y convertir pensamientos en imágenes representa una revolución potencial en la relación entre la humanidad y la tecnología. Si bien ofrece un mundo de posibilidades, también plantea una serie de preguntas inquietantes que requerirán una atención cuidadosa y una regulación ética rigurosa para garantizar que se utilice de manera responsable y en beneficio de la sociedad en su conjunto.

  • Derecho a Pagar en Efectivo: Un Escudo Contra el Control Gubernamental

    En un mundo donde la tecnología financiera avanza a pasos agigantados, el debate sobre el uso del efectivo y la privacidad de las transacciones ha cobrado un nuevo y ardiente significado. El reciente anuncio del canciller austriaco, Karl Nehammer, sobre la propuesta de consagrar el derecho a pagar en efectivo en la constitución del país, refleja la creciente preocupación en Europa por el declive del uso del efectivo y la consiguiente pérdida de anonimato en las transacciones financieras.

    El uso creciente de pagos electrónicos, tarjetas de crédito y aplicaciones móviles ha planteado inquietudes sobre la privacidad y el control gubernamental en la vida financiera de los ciudadanos. La noticia sobre la inclusión del derecho a pagar en efectivo en la constitución austriaca es una respuesta directa a esta preocupación, enmarcada en el contexto de una guerra cultural en curso en la Unión Europea.

    El movimiento político encabezado por el Partido de la Libertad de Austria y su llamado a proteger el uso del efectivo surge como una reacción a la creciente popularidad de los pagos electrónicos y sin contacto en Europa. Este partido de derecha ha acusado al gobierno de conspirar para eliminar el efectivo, alegando que esta medida podría convertirse en una herramienta de seguimiento y control masivo de la población.

    El derecho a pagar en efectivo no solo es una cuestión económica, sino que también tiene implicaciones culturales y políticas. El efectivo ha sido durante mucho tiempo un símbolo de independencia financiera y un recordatorio tangible de la libertad individual en las transacciones. La posibilidad de pagar en efectivo permite a los ciudadanos tener un mayor control sobre su dinero y proteger su privacidad, evitando que terceros, ya sean gobiernos o empresas, rastreen y analicen sus movimientos financieros.

    La inclusión del derecho a pagar en efectivo en la constitución austríaca no solo busca mantener viva esta tradición, sino que también envía un mensaje fuerte sobre la importancia de salvaguardar la privacidad financiera en una era digital. Al reconocer el efectivo como opción de pago y garantizar el suministro básico de papel moneda, el gobierno austríaco está tomando medidas para proteger la elección individual y la autonomía financiera.

    El declive en el uso del efectivo se ha observado en varios países, como Estados Unidos y algunas economías avanzadas de Europa. Si bien los pagos electrónicos pueden ofrecer comodidad y eficiencia, también plantean preocupaciones sobre la seguridad de los datos y la invasión de la privacidad. Las empresas de tarjetas de crédito y otras instituciones financieras han estado vendiendo datos de transacciones personales a anunciantes y especialistas en marketing, lo que ha suscitado inquietudes sobre el uso indebido de la información financiera de los individuos.

    La tokenización, aunque diseñada para preservar la privacidad, no siempre es infalible y puede permitir que las empresas correlacionen datos anónimos con perfiles individuales. Esta posibilidad de rastrear patrones de consumo y otros aspectos de la vida de las personas plantea cuestiones éticas y de privacidad, especialmente en un mundo donde la información personal se ha convertido en una moneda de cambio en el mercado publicitario.

    El debate sobre el derecho a pagar en efectivo y la privacidad de las transacciones financieras no se trata solo de la elección de un medio de pago. Es una discusión fundamental sobre los valores democráticos, la autonomía financiera y la protección de la privacidad individual en un entorno digital cada vez más conectado. El paso dado por Austria para consagrar este derecho en su constitución es un recordatorio importante de que la libertad de pagar en la forma que elijamos es un pilar esencial de una sociedad democrática y diversa.

  • Privacidad comprometida: cómo lo hacen?

    La privacidad no es un valor en alza. Muchas personas no temen exponerse en las redes sociales o en internet. Al contrario, con frecuencia les mueve un deseo de celebridad, de ser vistos y oídos en el espacio digital, detectados por el mayor número posible de internautas. Por eso no perciben sus datos personales como algo valioso que no puede regalarse a cualquiera. No son conscientes de que, al perder su privacidad, también pierden libertad.

    Este artículo se refiere a los tratamientos automatizados de los datos personales de los usuarios de webs, plataformas o redes sociales. A la posibilidad de crear perfiles humanos mediante algoritmos y tecnologías de inteligencia artificial, para después tomar decisiones sobre qué hemos de pensar y comprar, o a quién debemos votar.

    Yo no soy afín a ese partido político

    Comencemos por un caso real. En una sentencia dictada el 15 de abril de 2021, el Tribunal Supremo austriaco sostuvo que el dato sobre la afinidad de un sujeto con un determinado partido político constituye una categoría especial de su información personal. Ello implica que dicha información no puede difundirse sin el consentimiento expreso de la persona concernida.

    La empresa demandada en el pleito vendió datos personales de diversos individuos para fines de marketing, para que otras empresas pudieran remitirles publicidad de bienes y servicios. La información recopilada por la empresa vendedora incluía datos sobre la afinidad partidista de los nacionales austriacos.

    El demandante era un particular que decidió ejercitar su derecho de acceso es decir, solicitar a la empresa que le informara sobre los datos personales que tenía en su poder y que estaba vendiendo a terceros. De esta manera se enteró de que la empresa le había ubicado dentro del grupo de sujetos con afinidad política hacia el Partido Liberal de Austria (FPÖ).

    La información relativa a esta supuesta afinidad con el partido ultraconservador se había obtenido mediante el uso de un algoritmo para definir las “direcciones del grupo objetivo” según las características sociodemográficas, sin que nuestro protagonista hubiera dado el consentimiento respecto a este tratamiento automatizado de sus datos personales. Estos eran su nombre, teléfono, dirección postal y correo electrónico, además del registro de sus búsquedas en internet mediante las cookies instaladas en su ordenador.

    El demandante negó que fuera verdad la afinidad política que se le imputaba, y solicitó que se le abonara una cantidad de dinero para resarcirle por el descrédito que para su imagen (digital) suponía la difusión de esa información.

    ¿Qué saben de nosotros las empresas de internet?

    Las empresas que trabajan en el sector privado online van mucho más allá de la mera venta de sus productos, lo que buscan es elaborar, mientras realizan su negocio, verdaderos estudios de mercado, crear perfiles de sus clientes. Para ello manejan dos tipos de información:

    • El primero podría considerarse información real, derivada de los datos concretos proporcionados por los clientes (nombre, lugar de residencia, profesión, estado civil, teléfono de contacto, correo electrónico).
    • El segundo engloba otros parámetros como son las pautas de comportamiento, preferencias culturales o patrones de consumo. Aquí es donde interviene la tecnología y el aprendizaje de los mecanismos de inteligencia artificial, capaces de recrear patrones humanos.

    Ambos tipos de información quedan almacenados en enormes bases de datos y permiten identificar o reconstruir la identidad de cada usuario atribuyéndole una información sobre su religión, ideología, clase social, salud, etc. Esta información puede ser cierta o no, porque no proviene de datos objetivos cedidos por su dueño, sino que se obtiene mediante la triangulación y organización de la información real obtenida de cada individuo.

    Perfiles automatizados

    Por tanto, a través de los tratamientos automatizados y partiendo de datos no sensibles proporcionados por los usuarios, las empresas digitales de una cierta magnitud son capaces de llegar, al menos de forma presunta, a una información que tanto los ciudadanos como el legislador consideran datos de categoría especial o datos sensibles (origen étnico o racial, convicciones religiosas o filosóficas, afinidad política, vida sexual etc.).

    A partir de ahí, la tecnología “encasilla” a los sujetos en modelos estándar de personas de un estrato socioeconómico determinado, un grupo que responde a los mismo patrones predeterminados de comportamiento.

    Estos patrones sirven de guía al mercado y retroalimentan la publicidad, siempre del mismo tipo de productos o de servicios, que encajan en el perfil creado previamente. El resultado es que las personas son “conducidas” hacia unos hábitos de consumo cada vez más estandarizados y, por tanto, menos libres.

    En definitiva, es necesario que seamos más conscientes cuando emitimos el consentimiento para el tratamiento de nuestros datos personales. Es ahí donde hemos perdido la batalla, porque no solo cedemos nuestros datos de identificación sino que consentimos la creación de perfiles automatizados. No solo perdemos privacidad sin apenas ser conscientes de ello, sino que también perdemos libertad.The Conversation

    Paloma de Barrón Arniches, Profesora Agregada de Derecho Civil, Universitat de Lleida

    Este artículo fue publicado originalmente en The Conversation. Lea el original.

  • Datos personales: lineamientos éticos para su tratamiento

    Estamos viviendo una era digital, de la sobresaturación de la información, donde nuestros datos personales ya no son nuestros datos, sino que reposan en inmensas bases de datos centralizadas, públicas y privadas, que alimentan los distintos fines para los que fueron creadas y en la cual el poseedor de los datos jamás ha participado.

    Por la misma razón, la mayor parte de las personas se siente violentada en su vida privada cuando le aparecen anuncios no solicitados, o peor, cuando le rechazan en un puesto laboral debido a sus ideas expuestas en una red incluso «cerrada», o, para ser cortos y concisos, cuando sus datos se vuelven contra usted.

    Imagine ahora una sociedad con una vida digital completamente privada en la que su privacidad no esté armada contra usted solo para venderle más cosas. Imagine una sociedad en la que los datos se utilicen para el bien y el valor se distribuya de manera justa.

    Para sentar una base por donde comenzar, Fair Data Society,  una iniciativa sin ánimo de lucro, está reinventando la economía de los datos y creando una capa de datos justa y descentralizada (DAO). Fair Data Society reconoce la privacidad en línea como un derecho humano básico y una base para el progreso de todos.

    Independientemente del desarrollo, al que pueden unirse en este link, sus principios son o deberían ser, la base para cualquier iniciativa donde la privacidad de la data es el bien a proteger. Partiendo de la directiva básica, que tus datos eres tú, estos principios son:

    Principio 1 / 10
    Propiedad
    Todos los datos relacionados con un individuo forman parte de su yo digital. Así como las organizaciones no pueden poseer personas reales, tampoco pueden poseer el yo digital de los demás. Solo los individuos pueden poseer estos datos, mientras que las organizaciones solo pueden tener acceso a los datos si un individuo se los proporciona. Los datos sobre un individuo no se pueden registrar, solo se puede acceder a ellos según las necesidades, lo que permite su uso sin apropiación.

    Principio 2 / 10
    Datos Cero
    La privacidad y la no recopilación de datos personales deben ser los principales valores predeterminados en todos los contextos de altos volúmenes de producción de datos. Si la recopilación de datos personales es absolutamente necesaria, debe ser mínima y solo para el alcance necesario para realizar la función prevista.

    Principio 3 / 10
    Control
    Los derechos a los datos creados sobre o por un individuo son solo suyos. El individuo controla el contexto en el que se producen y procesan sus datos y cómo se activa ese contexto.

    Principio 4 / 10
    Acceso Consensuado
    Solo se puede acceder a los datos del individuo sobre la base del consentimiento. El uso posterior y el intercambio de datos solo se pueden realizar con un consentimiento explícito e informado, basado en propósitos claramente establecidos de cómo, por qué, dónde y durante cuánto tiempo se utilizarán y almacenarán los datos personales. El consentimiento debe tener la opción de ser tan fácil de revocar como de dar, sin ninguna coerción para darlo en primer lugar.

    Principio 5 / 10
    Beneficio económico y valor razonable
    Los datos son un producto directo del trabajo de un individuo y, como tales, tienen un valor económico directo. Su propietario debe ser compensado de manera justa por el uso de este valor, si el individuo decide vender sus datos. El monto de la compensación se basa en un libre acuerdo de ambas partes y un sistema de precios transparente y comparable que no busca explotar a la otra parte. Esto crea beneficios para todos los involucrados en el proceso. Reconocer los datos como trabajo también es un requisito previo para una influencia equilibrada (ver principio 7).

    Principio 6 / 10
    Bien social
    Las organizaciones minimizan el intercambio de datos personales en función de la necesidad de saber y maximizan el bien social a través del intercambio y la monetización de datos anónimos, que no se pueden vincular con el individuo. Persiguen un conjunto de objetivos de desarrollo sostenible establecidos por la ONU, como proporcionar nuevos flujos de ingresos para reducir la pobreza, proporcionar innovación industrial e infraestructura, por ejemplo, mediante la creación de nuevos mercados de datos o crear nuevos empleos decentes y crecimiento económico respondiendo a nuevas demandas, etc.

    Principio 7 / 10
    Influencia equilibrada
    Las organizaciones permiten la libertad de asociaciones digitales dentro de los ecosistemas de las organizaciones y reconocen asociaciones externas. También reconocen a estas asociaciones como contrapartes legítimas al negociar las reglas de uso de los datos personales de los miembros de las asociaciones. De esta manera, permiten condiciones en las que se pueden crear contrapesos a la concentración de poder sobre los datos personales.

    Principio 8 / 10
    Transparencia y responsabilidad
    Las organizaciones que acceden y procesan datos personales brindan información clara, comprensible y explicable sobre cómo, por qué, dónde y durante cuánto tiempo los usan y almacenan. El individuo debe comprender los riesgos, así como las consecuencias sociales, éticas y sociales del procesamiento de datos.

    Principio 9 / 10
    Ética por diseño
    Las organizaciones diseñan sus sistemas (IT) en torno a un tratamiento ético de todos los datos personales; la ética no puede ser una idea de último momento. Estos sistemas están orientados a la privacidad, son interoperables, accesibles y seguros. Proporcionan una experiencia agradable para los usuarios finales con controles de privacidad claramente visibles y fáciles de usar. Dichos sistemas garantizan el mismo nivel de tratamiento para todos los que entran en contacto, independientemente de su origen geográfico o entorno legal.

    Principio 10 / 10
    Apertura e Interoperabilidad
    El código abierto debe ser el ideal perseguido en tantos casos como sea posible al lanzar un nuevo software. El software de código abierto mejora la seguridad del código y mantiene a los editores honestos sobre lo que realmente hace su código. El software de código abierto aumenta la responsabilidad, la transparencia, la interoperabilidad del sistema, la tasa de progreso y la proporción de personas que pueden beneficiarse de los nuevos desarrollos.