Durante décadas llamamos inteligencia artificial a las máquinas capaces de realizar tareas que asociábamos con la inteligencia humana. Ahora aparece una palabra mucho más ambiciosa: superinteligencia.

Donald Trump acaba de convertirla incluso en terminología oficial del gobierno estadounidense. Mediante una orden ejecutiva del 29 de septiembre, instruyó a las agencias del Ejecutivo a reemplazar, en sus comunicaciones y documentos no legislativos, Artificial Intelligence (AI) por Super Intelligence (SI). Pero hay un detalle esencial: la propia orden establece que, por ahora, “Super Intelligence” designa jurídicamente las mismas tecnologías incluidas en la definición vigente de inteligencia artificial. También ordena elaborar en 60 días una propuesta para una nueva definición federal.

Es decir: Estados Unidos no despertó el martes habiendo creado una inteligencia superior a la humana; por ahora, fundamentalmente cambió el nombre.

Y precisamente por eso vale la pena detenerse.

Una palabra que cambia la relación

“Artificial” nos habla del origen de la inteligencia: ha sido fabricada. “Super” introduce algo diferente: una jerarquía. Sugiere que estamos ante una inteligencia superior.

La Casa Blanca explica explícitamente que considera que el término antiguo ya no refleja adecuadamente las capacidades de los sistemas actuales y que Super Intelligence transmite mejor su potencial transformador, pero esto no coincide necesariamente con el significado técnico tradicional de Artificial Superintelligence, ASI.

En ese sentido, una superinteligencia sería un sistema que superase ampliamente a los mejores seres humanos en una gran variedad de capacidades intelectuales: ciencia, ingeniería, razonamiento, planificación, creatividad o investigación.

Y aquí es importante distinguir también a Elon Musk de la iniciativa terminológica de Trump. Musk lleva tiempo utilizando el concepto de superinteligencia en ese sentido técnico y, recientemente, él, Sam Altman y Dario Amodei han advertido sobre el riesgo de sistemas capaces de participar en su propio desarrollo y acelerar sucesivamente sus capacidades. Musk apoyó incluso llamados a reducir el ritmo de desarrollo de los modelos más avanzados.

Por tanto, existen dos conversaciones simultáneas: una superinteligencia futura que realmente podría superar intelectualmente al ser humano, y el nuevo “Super Intelligence” utilizado por la administración Trump como nombre para la categoría tecnológica que hasta ahora llamábamos IA.

Confundirlas puede ser peligroso, porque llamar superinteligente a una herramienta puede modificar nuestra disposición a discutir con ella.

Hayek y el error del gran cerebro central

Aquí aparece Friedrich Hayek. El problema que Hayek identificó en la planificación central nunca fue simplemente que los burócratas tuvieran computadores demasiado lentos; era mucho más profundo. El conocimiento necesario para coordinar una sociedad no existe reunido en ningún sitio, está disperso entre millones de personas.

El dueño de un pequeño comercio conoce algo sobre sus clientes que no aparece en una estadística nacional; el empresario descubre una oportunidad que todavía nadie había imaginado; el consumidor cambia de preferencias; el trabajador conoce detalles de su profesión imposibles de introducir completamente en una base de datos. Y una enorme cantidad de ese conocimiento aparece durante el propio proceso de mercado. Los precios ayudan a transmitirlo, la competencia ayuda a descubrirlo, el error ayuda a corregirlo.

Por eso el gran interrogante frente a la superinteligencia no es si una máquina podrá procesar un billón de veces más datos que un funcionario. Probablemente podrá. La pregunta es si de allí debemos concluir que finalmente hemos construido el planificador capaz de conocer lo suficiente como para dirigir el sistema desde arriba; ahí reaparece la fatal arrogancia, pero dotada esta vez de centros de datos, modelos gigantescos y millones de millones de operaciones por segundo. Una superinteligencia podría resolver extraordinariamente bien el problema del procesamiento de información. Eso no significa que haya eliminado el problema del conocimiento. No puede calcular hoy una información que sólo existirá mañana porque alguien la descubrirá mañana.

Y tampoco puede resolver nuestros valores

Existe además otra dificultad que suele desaparecer detrás del entusiasmo tecnológico.

Una máquina puede decirnos qué combinación de recursos probablemente reduzca más los accidentes de tráfico, pero ¿cuánta libertad estamos dispuestos a sacrificar para conseguirlo?. Puede calcular qué política sanitaria maximiza determinados resultados, pero ¿cómo distribuimos los costos?. Puede determinar que determinada vigilancia financiera facilita detectar delito, pero ¿cuánta privacidad estamos dispuestos a perder?. Esas preguntas no son problemas de capacidad computacional. Son conflictos entre valores humanos. No existe suficiente inteligencia para convertir una decisión moral o política en un hecho matemático.

Popper añadiría otra advertencia

Karl Popper construyó su defensa de la sociedad abierta alrededor de una idea extraordinariamente simple: podemos equivocarnos. Por eso necesitamos crítica, contraste, instituciones que permitan corregir errores y gobernantes que puedan ser reemplazados.

Ahora imaginemos una administración que comienza a decir: “el sistema superinteligente determinó que ésta es la solución óptima”. La frase puede adquirir una autoridad formidable: ¿Quién se atreve a discutir con algo que hemos definido previamente como superior a nuestra inteligencia?. Éste puede ser uno de los peligros políticos menos evidentes de la palabra. No que la máquina inevitablemente se convierta en un tirano, sino que los humanos empecemos a conceder autoridad política a sus conclusiones.

Una sociedad abierta necesitará exactamente lo contrario. Modelos que puedan competir, resultados que puedan cuestionarse, decisiones que puedan apelarse, sistemas que puedan desconectarse. Y personas capaces de decir: “La máquina puede ser más inteligente que yo y aun así necesito saber por qué debo obedecerla”.

El verdadero problema liberal

Desde una perspectiva liberal, quizá estemos haciendo la pregunta equivocada cuando nos preguntamos si la superinteligencia será buena o mala. La cuestión fundamental será: ¿quién la controla?

Imaginemos una superinteligencia accesible a millones de individuos. Un médico la utiliza para diagnosticar mejor. Un pequeño empresario para competir con una multinacional. Un estudiante para aprender. Un científico para investigar.

Distintos modelos compiten entre sí y ninguna institución posee el monopolio. Eso puede representar una extraordinaria descentralización del conocimiento y de las capacidades.

Ahora imaginemos exactamente la misma inteligencia conectada a: identidad digital, cámaras, información tributaria, historial médico, cuentas bancarias, movimientos financieros, registros públicos y eventualmente dinero programable. El problema ya no es cuánto sabe la máquina, sino cuánto poder posee quien puede utilizar todo lo que la máquina sabe sobre nosotros. La tecnología puede ser idéntica. La estructura institucional es completamente distinta.

La superinteligencia no refuta a Hayek

Quizá ocurra algo paradójico.

Cuanto más inteligentes sean nuestras máquinas, más tentador será creer que finalmente hemos superado los límites que justificaban instituciones descentralizadas. Que ahora sí podemos calcularlo todo, predecirlo todo, optimizarlo todo, diseñar el resultado correcto.

Pero Hayek nunca sostuvo que las personas fueran demasiado poco inteligentes para planificar una sociedad. Sostuvo algo mucho más difícil de resolver: nadie posee el conocimiento que una sociedad contiene de manera distribuida.

La superinteligencia puede aumentar espectacularmente lo que sabemos. No necesariamente convierte todo lo que necesitamos saber en conocimiento centralizable.

Y Popper nos recordaría que, incluso si alguna vez construimos una inteligencia que nos supere ampliamente, seguirá siendo prudente organizar nuestras instituciones como si pudiera equivocarse. Por eso el cambio de AI a SI puede ser más que una curiosidad lingüística; las palabras importan porque moldean expectativas.

Si “superinteligencia” termina significando “autoridad que sabe mejor”, habremos cometido un error muy antiguo con una tecnología completamente nueva.

La pregunta liberal no será si debemos temer a una máquina demasiado inteligente. Será bastante más concreta: ¿vamos a utilizar la superinteligencia para ampliar la capacidad del individuo o para ampliar la capacidad de quienes pretenden decidir por él?

Porque el verdadero peligro nunca fue que alguien supiera demasiado. El peligro es que alguien crea que saber más le otorga el derecho a decidir demasiado sobre los demás.