Nadie los ve. Están ahí. Nos gobiernan. Llevan tiempo entre nosotros, pero sólo ahora hemos empezado a percibir su existencia. Son los algoritmos de aprendizaje automático (AAA). Un algoritmo, en general, podría definirse como un “conjunto de instrucciones lógicas para resolver un problema genérico concreto”. De manera simplificada, un AAA consiste en redes neuronales virtuales que, de forma parecida a como aprendemos los humanos, a medida que van procesando los resultados que provocan diferentes reacciones ante una situación, van anticipando cómo responder ante futuras casuísticas. Es decir, la máquina, literalmente, “aprende”. Ya habrán escuchado el concepto de machine learning.

En la actualidad, los AAA están por todas partes, aunque no los veamos. Piensan y deciden por nosotros. Nos influyen cuando compramos en Amazon, por ejemplo;  nos filtran, mejor dicho, deciden por nosotros y nos muestran lo que queremos ver en Google o Netflix, nos ayudan a encontrar pareja en Tinder o incluso orientan nuestro voto político (caso de Cambridge Analityca y Facebook en EE. UU. O el Brexit), que es lo que hoy nos ocupa.

La naturaleza predictiva de algunos AAA los hace singularmente performativos o, dicho de otra forma, igual que lo que solía suceder con las encuestas electorales, el mero hecho de predecir una supuesta realidad futura, afecta a nuestro comportamiento actual y acaba provocando el escenario previsto, lo  que solemos llamar profecía autocumplida.

Franchise (Sufragio Universal) es el título de una historia corta del escritor de ciencia ficción Isaac Asimov. Este cuento de 1955 narra la historia de Norman Muller, un ciudadano del Estado de Indiana, quien es seleccionado por una supercomputadora llamada Multivac para ser el único votante de las elecciones del 2008. Entre otras cosas, Multivac es capaz de elegir y decidir la nómina de gobernadores y legisladores a distintos niveles de gobierno mediante el análisis de las opiniones, ideas y reacciones de un solo ciudadano. Ese ciudadano es el representante ideal de los habitantes del país. Esta nueva forma de elegir gobernantes, nos cuenta Asimov, promete eliminar los gastos en campañas políticas y las competiciones partidarias. Pero sobre todo, permite optimizar la representación de los intereses y posiciones de los ciudadanos. Todo ello gracias al trabajo de una inteligencia artificial que es capaz de analizar las preferencias de todos los ciudadanos y elegir el votante más representativo de ese conjunto de billones de preferencias y factores relevantes.

La persona elegida no es la más inteligente, la de mayor formación política, la más afortunada, ni la más fuerte. No es la mejor ni la más buena. Nada de eso. Simplemente se trata de la persona más representativa. Una vez elegido, ese votante es interrogado por Multivac para ajustar más la información obtenida de toda la ciudadanía y, por fin, decidir los futuros gobernantes.

La historia de Asimov transcurre en 2008. Tardamos unos 10 años más para llegar a lo predicho en el cuento. Y si bien todavía no tenemos una Multivac decidiendo elecciones, lo cierto es que la política está siendo asediada por el uso e irrupción de distintas formas de inteligencia artificial. Por este motivo, no es sorprendente que muchos de los temas y problemáticas que surgen en esa vieja historia de Asimov se estén discutiendo ahora mismo; superficialmente los legos hablan de las redes sociales, pero es mucho más.

En Nueva Zelanda, por ejemplo, ya existe SAM, un político virtual “motivado por el deseo de cerrar la brecha entre lo que los políticos quieren y lo que los políticos prometen, así como sobre lo que los políticos finalmente consiguen”. Los impulsores de SAM creen que este agente de inteligencia artificial puede actuar como representante de todos los neozelandeses y generar mejores políticas públicas que los políticos de carne y hueso. A través del uso de redes sociales, SAM analiza las opiniones de los neozelandeses y el impacto de los posibles cursos de acción. Sus creadores esperan que SAM pueda competir en las elecciones de 2020. Algo similar ya ocurre en Japón con un robot llamado Michihito Matsuda. El mismo se encuentra compitiendo por las elecciones de alcalde de la ciudad japonesa de Tama.

Parte del problema de las democracias actuales radica en que los líderes políticos han perdido capacidad de liderar a la opinión pública, constituyéndose en seguidores ansiosos de trending topics y encuestas de popularidad; y de ahí a decir cualquier tontería con tal de no perder followers. De aquellos políticos que imponían la agenda de discusión hemos involucionado a políticos que se adaptan a una agenda cuidadosamente diseñada para que ellos caigan en la trampa. Consecuencia de la subestimación de la república ante la democracia, donde una mayoría se ha dado cuenta que puede vivir a costa del otro 49 %.

Entonces, ante los políticos que han perdido la capacidad de liderazgo en la formación y alteración de preferencias,  la inteligencia artificial viene al rescate. Las innovaciones recientes respecto al procesamiento de lenguaje natural, hacen posible que contemos ya con textos completamente redactados por máquinas. Dichos textos “artificiales”, creados en base a una síntesis inteligente del inmenso caudal de información hoy disponible en nuestras bases de datos, podrían intentar persuadirnos y encaminarnos hacia preferencias socialmente deseables. O todo lo contrario.

Se piensa que las matemáticas son objetivas. Sin embargo, el propietario de la plataforma o el programador que diseña un algoritmo para procesar datos puede cargarlo con sus intenciones y prejuicios (derecha, izquierda, totalitario, demócrata, etc, etc) para que encuentre lo que de antemano se quería encontrar y filtre lo que no interesa.

El que nos bombardeen con publicidad personalizada es una de las aplicaciones más inocentes, aunque molesta, del análisis de datos masivos. Pero hay otras. Los algoritmos del Big Data pueden hacer que no nos seleccionen en un trabajo, que nunca nos concedan una hipoteca, que nos detengan las autoridades en un aeropuerto o que la cuota de nuestro seguro médico sea mucho más elevada. O que salga elegido presidente un títere producto de algoritmos perfectamente diseñados.

Pueden llegar a convertirse en Armas de Destrucción Matemática, tal y como las denomina la matemática y analista Cathy O´Neil, en un libro del mismo título, en el que describe cómo los modelos y algoritmos pueden empeorar la vida de las personas.

Sin darnos cuenta, quizás estamos depositando una confianza cada vez mayor en la tecnología para controlar y dirigir nuestro futuro, convencidos de una supuesta neutralidad positiva de los avances tecnológicos. Usemos nuestro cerebro para el análisis crítico y a la hora de elegir el político que dirigirá las riendas del país por los próximos 5 años. Aún podemos hacerlo.