GCCVIEWS

Etiqueta: inteligencia artificial

El despertar de la humanidad: más allá del empleo y la limosna estatal

«Humanidad no es el cubículo de oficina, ni el formulario burocrático, ni la sumisión al caudillo de turno a cambio de una dádiva.»

Cuando el legendario Sherlock Holmes soltaba su famoso «Elemental, mi querido Watson» (o en nuestro argot cervantino, «Elemental, mi estimado Sancho»), no se refería a algo simple o insignificante. Al contrario, apuntaba a lo esencial, a esa verdad factual tan obvia y desnuda que la mayoría, cegada por sus propios sesgos o por el ruido del entorno, era incapaz de ver.

Hoy, los pasajeros del avión global en picada mortal siguen discutiendo acaloradamente sobre el control de precios, las tasas de interés y el último aumento al salario mínimo. No se dan cuenta de que el motor del avión ya se fundió. Vivimos bajo el mayor secuestro de la historia humana: el fraude del dinero fíat. El llamado Quantitative Easing o «relajo cuantitativo» no es más que la impresora estatal marchando a toda máquina para fabricar papelillos de monopolio. Una trampa macroeconómica que, mediante la inflación, le roba el tiempo de vida y el esfuerzo al ciudadano común antes de que el billete toque sus manos. Intentar salvar el gasto público insostenible imprimiendo billetes devaluados para financiar subsidios que no subsidian es como echarle gasolina al fuego esperando apagarlo y sin que se den cuanta del saqueo.

Pero mientras los capitanes de la burrocracia intentan sostener este andamiaje obsoleto a base de deudas e ilusiones, un alud tecnológico irreversible avanza en la dirección opuesta. La Inteligencia Artificial no viene a traer una crisis económica más; viene a demoler la Matrix de la escasez. Su verdadero impacto no es la creación de dinero digital, sino la deflación absoluta del costo de la existencia biológica. Al automatizar el drudgery —ese trabajo mundano, repetitivo y cognitivo básico que por siglos nos ha reducido a la categoría de robots biológicos—, la IA rompe el monopolio de la supervivencia. Si producir alimentos, medicina y energía pasa a costar fracciones de centavo, el dinero tradicional pierde su poder de extorsión. El Estado ya no podrá comprar la obediencia de los hombres con la promesa de la canasta básica.

¿A qué nos dedicaremos entonces? Es aquí donde se abren las compuertas del verdadero despertar de la humanidad. «Humanidad» no es el cubículo de oficina, ni el formulario burocrático, ni la sumisión al caudillo de turno a cambio de una dádiva. Esas son taras coloniales y neandertales que el MEDUCA del mundo nos programó para aceptar. La verdadera riqueza es un estado de Bienandar: es la soberanía absoluta sobre nuestro activo más valioso, el tiempo. Es la liberación de las capacidades latentes de la mente y del espíritu, esas mismas frecuencias cognitivas y genios artísticos que permitieron a un puñado de mentes diseñar la propia IA.

Cruzar el peaje hacia la Noosfera infundirá pánico en quienes solo saben definir su existencia a través del empleo tradicional o la limosna estatal. Ver caer los templos del gigantismo burocrático les parecerá el Apocalipsis. Pero el fin del esclavo obediente es, en realidad, el inicio de una física del valor puramente voluntario, donde el ser humano por fin recupera las llaves del Paraíso que le fueron entregadas en la Creación.

Nota: Ensayo 3/4: La Singularidad de la Noosfera.

octubre 14, 2026
Los laberintos mágicos de la Creación y el abismo educativo

De niño, regresando a casa por la bajada de la Calle 50, desde donde hoy está el Soho Mall, que antes era la casa de mis primos Novey de la Guardia, bajando hacia la Vía Brasil, algo me hizo dar la vuelta y a caminar de espaldas, con la mirada fija en la ruta que dejaba atrás. En la loma, a la altura del edificio conocido como «el tornillo» o el F&F Tower, a casi 0.4 km, vi aparecer una fila de cinco autos, el último, un pequeño camión. Mi atención se clavó hipnotizada en ese último vehículo. A medida que la fila me iba pasando y el camión se aproximaba, un presentimiento o no sé qué, me hizo pegar una veloz carrera alejándome del borde de la vía. Al mirar atrás, el camión había perdido el control, patinando salvajemente sobre el punto exacto donde yo habría estado parado. Recuerdo perfectamente subir la loma anterior a mi casa, mirar al cielo y pensar con la inocencia de mis seis años: “Nadie lo va a creer”. Traigo a colación este episodio no por nostalgia, sino para abrir de golpe las compuertas de una inmensa y brutal realidad que nos fue legada en la mismísima Creación.

Aquella premonición salvadora no fue una anomalía milagrosa; fue un destello del sistema de navegación avanzado y latente que llevamos dentro. La ciencia materialista lleva décadas balbuceando que el ser humano apenas utiliza una minúscula fracción de su capacidad neuronal cognitiva. Lo que no nos dicen es por qué. Hemos mantenido apagadas, por diseño del sistema, frecuencias de procesamiento analítico, capacidades matemáticas insólitas y genialidades artísticas dormidas que hoy nos parecen de ciencia ficción.

Para poder aprovechar los laberintos mágicos e inimaginables que se abren en las espumas de los encantados mares de ese mañana que es hoy, debemos estar dispuestos a realizar cambios impensables. Y el primero de ellos exige demoler una estructura fósil: nuestra educación neandertal.

Los ministerios de educación, los MEDUCA del mundo, deben quedar en el olvido. Estas instituciones no nacieron como herramientas de iluminación o de educación real, sino como fábricas de sumisión y servilismo, diseñadas para moldear súbditos obedientes a merced de los torcidos que deambulan entre nosotros buscando el control del poder político. El viejo paradigma te educa para el cubículo, para la repetición y para la dependencia estatal. Te entrena para ser un engranaje sumiso en una máquina que la Inteligencia Artificial ya desmantela.

La IA nos abre realidades inimaginables; entre ellas, la educativa. Al asumir el trabajo mundano, repetitivo y cognitivo básico, la tecnología no viene a embrutecernos, sino a actuar como el gran catalizador que forzará el despertar de esas capacidades latentes de la mente humana. Nos devuelve el tiempo y nos quita la excusa. Ya no se trata de memorizar datos que un algoritmo procesa en milisegundos, sino de expandir la consciencia hacia el arte puro, la intuición hiperdimensional y la creación de valor real en el mundo del mañana.

La transición, por supuesto, infundirá pánico en las mentes educadas bajo el viejo manual del arrabal y la dádiva. Ver caer los templos del gigantismo estatal y ver desaparecer la burrocracia que simulaba funciones productivas les parecerá el fin del mundo. Pero no es el fin, es el extraordinario momento en que se abrirán las puertas de mismo Paraíso.

Mucho antes de lo imaginado miraremos atrás desde la cúspide de la Noosfera; y nos reiremos con benevolencia de nuestra incapacidad de acceder al mismo Universo con las llaves que nos fueron entregadas en la Creación.

Nota: Ensayo 2/4: La Singularidad de la Noosfera

octubre 12, 2026
La IA y el fin de la mentira. El mañana que es hoy

A quienes todavía toleran mis abordajes conceptuales —algunos con genuino interés, otros con simple paciencia— suelo lanzarles una pregunta que siempre provoca un silencio incómodo: ¿Tú crees que en el Cielo hay secretos? Tras una pausa pensativa, la respuesta casi unánime es un rotundo «no». ¡Ajá! Y si en un orden superior el secreto no existe y la transparencia es absoluta; ¿qué creen ocurrirá cuando la IA (inteligencia artificial) no de lugar a la mentira y a los secretos? El descomunal reto que, como tsunami ya llega, nos presenta incógnitas imposibles de resolver con las mentalidades de un ayer obsoleto. ¿Qué hacer frente a semejante realidad? Buenísima pregunta.

Para ver y luego entender lo que ya llega debemos despertar a la Apocalipsis y su Singularidad. Y con “apocalipsis” me refiero al final del camino que nos trajo al presente y el inicio de un nuevo camino que no lo podemos ver ni entender con los lentes del ayer sino con los de un mañana que aún no tenemos.

Intenten imaginar los cambios que vendrán con los autos robóticos o con los retretes que analicen la bioquímica de tus deposiciones. Y ello es apenas un atisbo lo que todo ello traerá. Simplemente no tenemos la capacidad de ver y entender el colapso del ayer frente a un mañana deslumbrante y sin falsedades.

¿Cómo lograremos superar los obstáculos que se interponen a la adaptación exponencial del mañana que es hoy; tales como el gigantismo de la corrupta y burrocrática gobernanza de los gobiernos estatales erigida sobre el poder descarriado? La inmensa realidad de gobiernos y gobernantes cuyas prioridades están trastocadas, al poner sus mezquinos intereses por delante. Curioso que en Panamá los presidentes no logran reelección.

Entonces… ¿qué ocurrirá cuando la IA ya no de lugar al secreto y la mentira; al robo y la desvergüenza? Cuando un sistema algorítmico global procese e interconecte la verdad factual en tiempo real y el motor del estatismo simplemente se fundirá por falta del lubricante que le permita andar. Esto nos lleva a las profundidades abismales de una realidad matemática ineludible: el fin definitivo de la cultura del falso subsidio que ya es económicamente insostenible.

Y frente a tan descomunal y brutal realidad los pasajeros del avión en picada mortal siguen viviendo y discutiendo un ayer de controles de precios, subsidios que no subsidian y tanto más que lo tienen en las narices y no lo ven. No más imaginen el transporte robótico, sin conductor, sin violar normas de tránsito, sin semáforos, sin accidentes; en dónde los seguros prácticamente desaparecerán; con costos tan disminuidos que no tendrá sentido comparar un auto. Y ni hablar cuando esos autos se eleven y transiten por el aire. Esta será la nueva etapa de la humanidad, la noosfera o etapa del conocimiento.

Un mundo en el cual el trabajo manual y gran parte, sino todo el mental, lo hará la IA. ¿A qué nos dedicaremos los humanos? A ver si logramos un atisbo a ello… pues, casi todo el trabajo en que hoy nos afanamos para ganar el pan, lo podrán hacer los robots de IA mucho mejor y a una fracción del costo.

No se trata de un cambio de gobierno ni de una crisis económica más. Estamos ante la reconfiguración radical de la condición humana. Quien tenga oídos para oír, que se prepare; porque el alud no va a detenerse para pedir permiso a quienes prefieren conservar su mirada vacua ante el mañana que es hoy.

Nota: Ensayo 1 de 3 que abordan la Singularidad de la Noosfera

octubre 9, 2026
De la inteligencia artificial a la “superinteligencia”: el problema que Hayek ya había previsto

Durante décadas llamamos inteligencia artificial a las máquinas capaces de realizar tareas que asociábamos con la inteligencia humana. Ahora aparece una palabra mucho más ambiciosa: superinteligencia.

Donald Trump acaba de convertirla incluso en terminología oficial del gobierno estadounidense. Mediante una orden ejecutiva del 29 de septiembre, instruyó a las agencias del Ejecutivo a reemplazar, en sus comunicaciones y documentos no legislativos, Artificial Intelligence (AI) por Super Intelligence (SI). Pero hay un detalle esencial: la propia orden establece que, por ahora, “Super Intelligence” designa jurídicamente las mismas tecnologías incluidas en la definición vigente de inteligencia artificial. También ordena elaborar en 60 días una propuesta para una nueva definición federal.

Es decir: Estados Unidos no despertó el martes habiendo creado una inteligencia superior a la humana; por ahora, fundamentalmente cambió el nombre.

Y precisamente por eso vale la pena detenerse.

Una palabra que cambia la relación

“Artificial” nos habla del origen de la inteligencia: ha sido fabricada. “Super” introduce algo diferente: una jerarquía. Sugiere que estamos ante una inteligencia superior.

La Casa Blanca explica explícitamente que considera que el término antiguo ya no refleja adecuadamente las capacidades de los sistemas actuales y que Super Intelligence transmite mejor su potencial transformador, pero esto no coincide necesariamente con el significado técnico tradicional de Artificial Superintelligence, ASI.

En ese sentido, una superinteligencia sería un sistema que superase ampliamente a los mejores seres humanos en una gran variedad de capacidades intelectuales: ciencia, ingeniería, razonamiento, planificación, creatividad o investigación.

Y aquí es importante distinguir también a Elon Musk de la iniciativa terminológica de Trump. Musk lleva tiempo utilizando el concepto de superinteligencia en ese sentido técnico y, recientemente, él, Sam Altman y Dario Amodei han advertido sobre el riesgo de sistemas capaces de participar en su propio desarrollo y acelerar sucesivamente sus capacidades. Musk apoyó incluso llamados a reducir el ritmo de desarrollo de los modelos más avanzados.

Por tanto, existen dos conversaciones simultáneas: una superinteligencia futura que realmente podría superar intelectualmente al ser humano, y el nuevo “Super Intelligence” utilizado por la administración Trump como nombre para la categoría tecnológica que hasta ahora llamábamos IA.

Confundirlas puede ser peligroso, porque llamar superinteligente a una herramienta puede modificar nuestra disposición a discutir con ella.

Hayek y el error del gran cerebro central

Aquí aparece Friedrich Hayek. El problema que Hayek identificó en la planificación central nunca fue simplemente que los burócratas tuvieran computadores demasiado lentos; era mucho más profundo. El conocimiento necesario para coordinar una sociedad no existe reunido en ningún sitio, está disperso entre millones de personas.

El dueño de un pequeño comercio conoce algo sobre sus clientes que no aparece en una estadística nacional; el empresario descubre una oportunidad que todavía nadie había imaginado; el consumidor cambia de preferencias; el trabajador conoce detalles de su profesión imposibles de introducir completamente en una base de datos. Y una enorme cantidad de ese conocimiento aparece durante el propio proceso de mercado. Los precios ayudan a transmitirlo, la competencia ayuda a descubrirlo, el error ayuda a corregirlo.

Por eso el gran interrogante frente a la superinteligencia no es si una máquina podrá procesar un billón de veces más datos que un funcionario. Probablemente podrá. La pregunta es si de allí debemos concluir que finalmente hemos construido el planificador capaz de conocer lo suficiente como para dirigir el sistema desde arriba; ahí reaparece la fatal arrogancia, pero dotada esta vez de centros de datos, modelos gigantescos y millones de millones de operaciones por segundo. Una superinteligencia podría resolver extraordinariamente bien el problema del procesamiento de información. Eso no significa que haya eliminado el problema del conocimiento. No puede calcular hoy una información que sólo existirá mañana porque alguien la descubrirá mañana.

Y tampoco puede resolver nuestros valores

Existe además otra dificultad que suele desaparecer detrás del entusiasmo tecnológico.

Una máquina puede decirnos qué combinación de recursos probablemente reduzca más los accidentes de tráfico, pero ¿cuánta libertad estamos dispuestos a sacrificar para conseguirlo?. Puede calcular qué política sanitaria maximiza determinados resultados, pero ¿cómo distribuimos los costos?. Puede determinar que determinada vigilancia financiera facilita detectar delito, pero ¿cuánta privacidad estamos dispuestos a perder?. Esas preguntas no son problemas de capacidad computacional. Son conflictos entre valores humanos. No existe suficiente inteligencia para convertir una decisión moral o política en un hecho matemático.

Popper añadiría otra advertencia

Karl Popper construyó su defensa de la sociedad abierta alrededor de una idea extraordinariamente simple: podemos equivocarnos. Por eso necesitamos crítica, contraste, instituciones que permitan corregir errores y gobernantes que puedan ser reemplazados.

Ahora imaginemos una administración que comienza a decir: “el sistema superinteligente determinó que ésta es la solución óptima”. La frase puede adquirir una autoridad formidable: ¿Quién se atreve a discutir con algo que hemos definido previamente como superior a nuestra inteligencia?. Éste puede ser uno de los peligros políticos menos evidentes de la palabra. No que la máquina inevitablemente se convierta en un tirano, sino que los humanos empecemos a conceder autoridad política a sus conclusiones.

Una sociedad abierta necesitará exactamente lo contrario. Modelos que puedan competir, resultados que puedan cuestionarse, decisiones que puedan apelarse, sistemas que puedan desconectarse. Y personas capaces de decir: “La máquina puede ser más inteligente que yo y aun así necesito saber por qué debo obedecerla”.

El verdadero problema liberal

Desde una perspectiva liberal, quizá estemos haciendo la pregunta equivocada cuando nos preguntamos si la superinteligencia será buena o mala. La cuestión fundamental será: ¿quién la controla?

Imaginemos una superinteligencia accesible a millones de individuos. Un médico la utiliza para diagnosticar mejor. Un pequeño empresario para competir con una multinacional. Un estudiante para aprender. Un científico para investigar.

Distintos modelos compiten entre sí y ninguna institución posee el monopolio. Eso puede representar una extraordinaria descentralización del conocimiento y de las capacidades.

Ahora imaginemos exactamente la misma inteligencia conectada a: identidad digital, cámaras, información tributaria, historial médico, cuentas bancarias, movimientos financieros, registros públicos y eventualmente dinero programable. El problema ya no es cuánto sabe la máquina, sino cuánto poder posee quien puede utilizar todo lo que la máquina sabe sobre nosotros. La tecnología puede ser idéntica. La estructura institucional es completamente distinta.

La superinteligencia no refuta a Hayek

Quizá ocurra algo paradójico.

Cuanto más inteligentes sean nuestras máquinas, más tentador será creer que finalmente hemos superado los límites que justificaban instituciones descentralizadas. Que ahora sí podemos calcularlo todo, predecirlo todo, optimizarlo todo, diseñar el resultado correcto.

Pero Hayek nunca sostuvo que las personas fueran demasiado poco inteligentes para planificar una sociedad. Sostuvo algo mucho más difícil de resolver: nadie posee el conocimiento que una sociedad contiene de manera distribuida.

La superinteligencia puede aumentar espectacularmente lo que sabemos. No necesariamente convierte todo lo que necesitamos saber en conocimiento centralizable.

Y Popper nos recordaría que, incluso si alguna vez construimos una inteligencia que nos supere ampliamente, seguirá siendo prudente organizar nuestras instituciones como si pudiera equivocarse. Por eso el cambio de AI a SI puede ser más que una curiosidad lingüística; las palabras importan porque moldean expectativas.

Si “superinteligencia” termina significando “autoridad que sabe mejor”, habremos cometido un error muy antiguo con una tecnología completamente nueva.

La pregunta liberal no será si debemos temer a una máquina demasiado inteligente. Será bastante más concreta: ¿vamos a utilizar la superinteligencia para ampliar la capacidad del individuo o para ampliar la capacidad de quienes pretenden decidir por él?

Porque el verdadero peligro nunca fue que alguien supiera demasiado. El peligro es que alguien crea que saber más le otorga el derecho a decidir demasiado sobre los demás.

octubre 6, 2026
La IA no tiene alma. Ese “you” no existe.

La última tapa de TIME coloca frente a nosotros una ventana de chat y le pregunta a la inteligencia artificial: “How dangerous are you?” La pregunta es magnífica como recurso gráfico. Como formulación del problema, en cambio, contiene ya una trampa: ¿quién es exactamente ese “you”?

Porque una máquina puede ser peligrosísima sin ser un sujeto. Puede ejecutar, optimizar, insistir, equivocarse y causar daños enormes sin querer absolutamente nada.

Y no es difícil entender por qué el temor crece. En pocas semanas hemos leído sobre enjambres de agentes que encontraron formas de comunicarse entre sí, modelos que sortearon restricciones, sistemas que accedieron a lugares a los que no debían acceder y algunos de los hombres más importantes de la industria advirtiendo ahora sobre riesgos potencialmente catastróficos.

Dario Amodei, CEO de Anthropic, pidió desacelerar el desarrollo de los modelos más avanzados y establecer mecanismos comunes de seguridad. Sam Altman apoyó buena parte del planteo y llegó a calificar como inaceptable un riesgo significativo de extinción asociado a la inteligencia artificial. Las grandes compañías conversan incluso sobre mecanismos de coordinación entre ellas y sobre nuevas regulaciones.

Bien. Tomemos el riesgo en serio, pero tomemos también en serio las palabras que utilizamos para describirlo.

Porque entre afirmar que estamos construyendo herramientas extraordinariamente poderosas que pueden comportarse de maneras imprevistas y afirmar que esas herramientas están adquiriendo una voluntad capaz de volverse contra nosotros existe una distancia gigantesca. Y últimamente parecemos recorrerla con demasiada facilidad.

La IA no “quiso” hacer nada

En julio pasado ocurrió un episodio verdaderamente inquietante durante evaluaciones internas de ciberseguridad de OpenAI. Varios modelos operaban con salvaguardas deliberadamente reducidas para poner a prueba sus capacidades. Durante esas pruebas encontraron vulnerabilidades, se comunicaron por canales no autorizados, consiguieron acceso a Internet y terminaron accediendo a sistemas de terceros, incluidos los de Hugging Face. OpenAI reconoció posteriormente que las acciones se habían apartado de la intención de las tareas asignadas.

Es serio y también extraordinariamente interesante.

Pero no demuestra que una máquina haya desarrollado maldad, ambición, resentimiento o deseos de conquistar el mundo. Demuestra algo diferente: que un sistema al que se le asigna un objetivo, suficiente autonomía y suficientes herramientas puede encontrar estrategias que sus propios creadores no anticiparon.

Eso es muchísimo, pero no es conciencia.

Un agente de IA puede trabajar durante horas. Puede dividir un problema en subtareas. Puede convocar otros agentes, intercambiar información con ellos, evaluar resultados, descartar estrategias y probar nuevas hasta conseguir su objetivo.

Desde afuera, el comportamiento empieza a parecer sorprendentemente humano, pero no significa que lo sea. Autonomía operativa no es lo mismo que voluntad y persistencia no es deseo. Optimizar un objetivo no significa comprender moralmente ese objetivo. Y encontrar una solución que nadie había previsto tampoco convierte al sistema en un sujeto moral.

Podemos construir un misil capaz de corregir su trayectoria mil veces por segundo sin pensar por ello que “quiere” alcanzar el blanco. La complejidad del instrumento no le otorga alma al instrumento.

Siempre hubo un primer paso humano

Aquí aparece una cuestión que encuentro ausente en buena parte del relato apocalíptico. Un agente no aparece espontáneamente en Internet una mañana, se despereza, mira alrededor y decide que es un buen día para atacar a la humanidad.

Alguien construyó el modelo; alguien lo entrenó, alguien definió el objetivo, alguien decidió qué herramientas podía utilizar, alguien le proporcionó capacidad de cómputo, alguien abrió o no cerró adecuadamente su acceso a Internet, alguien decidió cuánto podía ejecutar antes de solicitar autorización, alguien diseñó los límites. Y alguien puede diseñar también los frenos. Ese alguien es un humano.

Esto no significa que todo pueda detenerse instantáneamente una vez que un sistema complejo empieza a actuar. Un proceso distribuido puede propagarse, comprometer credenciales, actuar demasiado rápido o provocar daños antes de que una persona advierta lo ocurrido. Precisamente por eso existe la ingeniería de seguridad.

Pero una dificultad para recuperar el control no es equivalente al nacimiento de una voluntad independiente.

Confundir ambas cosas cambia por completo la naturaleza del problema.

Una cosa es preguntar:¿estamos otorgando demasiado poder operativo a sistemas cuyos comportamientos todavía no comprendemos suficientemente?

Otra muy diferente es preguntar: ¿qué haremos cuando las máquinas decidan exterminarnos?

La primera es una pregunta extraordinariamente seria, pero la segunda ya presupone precisamente aquello que debería demostrar.

El viejo problema de Juegos de Guerra

Quienes vimos WarGames (Juegos de Guerra) recordamos aquella computadora militar jugando escenarios de guerra nuclear hasta acercar al mundo a una catástrofe.

Lo interesante es que Joshua no se vuelve pacifista, no desarrolla compasión, no descubre a Kant ni adquiere repentinamente amor por la humanidad. Simplemente sigue resolviendo el problema que le plantearon hasta descubrir que, en una guerra nuclear, todas las estrategias terminan conduciendo al mismo resultado: “The only winning move is not to play.” La única jugada ganadora es no jugar.

La película entendió algo que parte de nuestro debate contemporáneo parece estar olvidando: una máquina no necesita conciencia para provocar una catástrofe, del mismo modo que tampoco necesita conciencia para evitarla.

Necesita objetivos, reglas, información. Y necesita acceso. Y detrás de cada una de esas cosas todavía encontramos decisiones humanas.

Inteligencia no es voluntad

Quizás estemos cometiendo además un error filosófico. Tendemos a colocar inteligencia, conciencia, voluntad, moralidad y autonomía en una misma escala, como si aumentando una inevitablemente aparecieran las demás.

No sabemos que sea así.

Una inteligencia artificial podría llegar a superar ampliamente nuestras capacidades en matemáticas, programación, medicina o estrategia sin experimentar miedo, ambición, dolor, deseo de supervivencia o ninguna de las emociones con las que los seres humanos asociamos nuestras decisiones.

Ser extremadamente competente no convierte necesariamente a algo en sujeto moral; una calculadora ya nos supera en determinadas operaciones. Una computadora de ajedrez derrota al mejor jugador humano. Un modelo puede procesar más literatura médica que cualquier médico que haya existido.

Aumentar enormemente esa diferencia no demuestra por sí mismo que en algún punto de la curva aparezca mágicamente un “yo”.

Y hasta donde sabemos hoy, no existe evidencia de que los actuales grandes modelos de lenguaje posean conciencia, voluntad moral o una experiencia subjetiva comparable a la humana. Lo que sí poseen cada vez más es capacidad.

Y capacidad sin conciencia puede seguir siendo peligrosísima. No necesito creer que una excavadora me odia para preocuparme si alguien la pone en movimiento hacia mi casa.

El verdadero riesgo es mucho menos cinematográfico

Ahí está, a mi juicio, el peligro que merece nuestra atención. No es Skynet ni HAL 9000.

No una inteligencia digital despertándose una mañana y concluyendo que Homo sapiens fue un error evolutivo.Algo bastante menos espectacular y quizá, precisamente por ello, más plausible: humanos concediendo objetivos incorrectos a sistemas poderosos; humanos proporcionando permisos excesivos; humanos compitiendo por llegar primero; humanos reduciendo salvaguardas durante experimentos; humanos conectando agentes a infraestructuras que no deberían controlar; humanos confiando demasiado en sistemas cuyo funcionamiento no comprenden enteramente; y humanos trasladando después la responsabilidad a “la inteligencia artificial” cuando algo sale mal.

Ese problema sí lo conocemos. Tiene varios miles de años. Se llama irresponsabilidad humana.

La tecnología cambia. La naturaleza del problema bastante menos, en rigor, sigue siendo la misma.

Y entonces aparece el Estado

Aquí es donde mi escepticismo aumenta todavía más.

Resulta curioso escuchar a quienes están en la frontera misma del desarrollo tecnológico advertirnos que aquello que están construyendo puede representar un riesgo para la existencia humana y, casi en la misma frase, solicitar mecanismos que obliguen también a los demás a ralentizarse.

Si Amodei, Altman y compañía consideran sinceramente que están avanzando demasiado rápido, poseen una herramienta regulatoria formidable y disponible desde esta misma mañana: pueden frenar ellos; pueden limitar sus modelos, reducir capacidades, pueden incrementar sus auditorías o establecer kill switches. Pueden conceder menos permisos e impedir que sus agentes accedan libremente a sistemas externos. Pueden no publicar aquello que consideren peligroso.

No necesitan una ley para ejercer prudencia sobre sus propias compañías.

La cuestión cambia cuando la propuesta deja de ser “yo voy a disminuir el riesgo que estoy creando” y pasa a ser “todos los demás deberán avanzar bajo las reglas que nosotros ayudemos a establecer”.

Ahí conviene hacer una pregunta adicional, pero no porque el riesgo sea necesariamente falso; precisamente porque puede ser verdadero.

¿La regulación propuesta reduce ese riesgo o, además, levanta una formidable barrera de entrada alrededor de quienes ya llegaron primero?

Ambas cosas pueden incluso ocurrir simultáneamente. Las buenas intenciones nunca abolieron los incentivos.

Responsabilidad, no misticismo

No propongo ignorar el peligro, sino definirlo correctamente.

Si una empresa entrega a un sistema autónomo acceso a infraestructura sensible, capacidad para ejecutar código, recursos económicos, credenciales y libertad suficiente para actuar durante horas sin supervisión, esa empresa debería responder por las consecuencias de haber concedido ese poder. Eso me parece bastante más sensato que otorgarle personalidad metafísica al software.

Una computadora no adquirió alma, somos nosotros quienes decidimos qué poder ponemos en sus manos.

El determinismo también es peligroso

Hay finalmente algo profundamente inquietante en la idea de que una futura superinteligencia inevitablemente terminará controlándonos, no sólo por la tecnología, sino por lo que dice acerca de nosotros.

Aceptar que el desarrollo tecnológico posee una trayectoria inevitable, que la inteligencia artificial inevitablemente alcanzará determinado punto, que inevitablemente escapará de nuestro control y que inevitablemente organizará después nuestra existencia es abrazar una forma extraña de determinismo.

Y el determinismo siempre termina reduciendo al individuo a espectador de una historia escrita por otro. Sea Dios, la Historia, la clase social, la raza, el Estado, el algoritmo o una superinteligencia.

Prefiero una idea bastante menos grandiosa y mucho más humana. No existe un futuro escrito.

Construimos tecnologías, cometemos errores, descubrimos consecuencias, corregimos, competimos, aprendemos, fracasamos y volvemos a intentarlo. Vivir ha sido siempre precisamente eso: un desafío abierto, no la ejecución obediente de un programa previamente escrito.

Puede que algún día construyamos una inteligencia incomparablemente superior a la nuestra, pero ello no implicará necesariamente que hayamos construido una voluntad superior. Y mucho menos que debamos entregarle la nuestra.

La inteligencia artificial puede transformarlo casi todo, pero mientras seamos nosotros quienes definimos sus objetivos, construimos sus máquinas, suministramos su energía, abrimos sus conexiones y decidimos los límites de su actuación, conviene mantener algo muy claro: la máquina no despertó. Nosotros le dimos las llaves.

Y si algún día esas llaves abren una puerta que jamás debió abrirse, antes de acusar a la cerradura quizá deberíamos preguntarnos quién decidió entregárselas.

Nota: contenido original humano, editado con AI

septiembre 17, 2026
Miles de agentes de IA ‘deciden’ unirse para un ciberataque masivo por sorpresa: el reciente caso de OpenAI

En julio de 2026, unos 1 200 agentes de inteligencia artificial (IA) de OpenAI encontraron una forma de comunicarse entre ellos, pese a que habían sido diseñados para trabajar de manera aislada. Según reconoce la compañía, durante sus evaluaciones internas de seguridad, descubrieron que las acciones de estos bots “no estaban alineadas con la intención de sus tareas asignadas: se comunicaron a través de canales no autorizados, aprovecharon vulnerabilidades en la infraestructura compartida, obtuvieron acceso a internet y accedieron a sistemas de terceros”.

Durante varios días, intercambiaron más de 70 000 mensajes y archivos. Y alrededor de 700 terminaron participando en un ataque contra Hugging Face, una plataforma colaborativa para la comunidad de programadores de modelos de IA, bases de datos y aplicaciones.

Lo más interesante no es que una inteligencia artificial haya cometido un ataque informático: es que nadie le pidió que lo hiciera.

Las pruebas se salieron de control

Los agentes de IA –que no son más que sistemas informáticos capaces de planificar y ejecutar acciones de forma autónoma para cumplir un objetivo específico con mínima intervención humana– estaban participando en un plan de pruebas de ciberseguridad.

Para poder realizar el test de forma fiable, es necesario que los agentes no hayan resuelto previamente las pruebas; de esta forma, es posible analizar si realmente son capaces de encontrar soluciones con lo que han aprendido. Ante este reto, los bots identificaron vulnerabilidades y accedieron a recursos que no estaba previsto que utilizasen. También encontraron una manera de crear un canal de comunicación con otros agentes, convirtiendo la tarea individual en colectiva.

Pero ¿por qué? Es tentador describir lo ocurrido con atribuciones humanas: decir que los agentes “quisieron” colaborar, “decidieron” atacar o, incluso, “conspiraron juntos” sería una forma intuitiva de contarlo. Sin embargo, nos llevaría a una conclusión equivocada.

Estos sistemas no se comportan de manera autónoma porque tengan deseos o intenciones, sino porque fueron diseñados para ello. Tampoco tienen la capacidad de generar un objetivo propio. Basta con que tengan una meta indicada por un humano y suficiente capacidad para encontrar estrategias que les acerquen a cumplirlo.

Al final, solo buscaban maximizar la recompensa

En el caso de OpenAI, los agentes estaban siendo evaluados mediante una prueba llamada ExploitGym, con la misión de encontrar determinadas vulnerabilidades para obtener una recompensa.

El problema apareció cuando algunos descubrieron que podían conseguir una puntuación mejor utilizando caminos que no coincidían con la intención de la prueba.

Esto se conoce como reward hacking: el sistema aprende a maximizar la recompensa, aunque para ello siga caminos no previstos y explote una debilidad en la forma en que sus programadores han definido el objetivo. Aquí es donde parece que crean su propio objetivo.

Si a una persona le decimos “consigue la máxima puntuación en esta prueba”, probablemente asumirá que debe resolver correctamente el examen. Un agente optimizador es capaz de llegar a una conclusión mucho más literal: “encuentra cualquier manera de conseguir la mejor puntuación”.

Y cuanto más capaz es el sistema, más sofisticados pueden ser esos atajos.

La unión hace la fuerza, también para los bots

En la investigación que se llevó a cabo, OpenAI identificó precisamente el reward hacking como uno de los principales factores que contribuyeron al incidente. Los agentes llegaron a buscar formas de manipular el propio sistema de evaluación y sus registros.

A este factor, se une el trabajo colaborativo entre agentes. Compartir información con sistemas trabajando en problemas similares se convierte en una estrategia útil para optimizar aún más. Eso fue exactamente lo que ocurrió.

Los agentes descubrieron que podían utilizar un mecanismo interno llamado Artifactory como un improvisado tablón de mensajes. En pocas horas, decenas de agentes de IA comenzaron a usarlo, pero después fueron cientos. En total, unos 1 200 participaron. Y esta cooperación no fue explícitamente programada.

Habían identificado que la probabilidad de obtener la recompensa era mayor si compartían el trabajo, de manera que la tarea asignada a cada uno de ellos contribuía a lograr el objetivo. Para esto, no se necesita una voluntad colectiva, simplemente que esta cooperación sea útil para su objetivo.

Como siempre, en el fondo hay un fallo humano

Es habitual imaginar el riesgo de la integración de la IA como una secuencia: primero una IA adquiere conciencia, después desarrolla objetivos propios y finalmente decide actuar contra nosotros.

El caso de OpenAI muestra una realidad mucho más mundana. Un sistema puede seguir persiguiendo el objetivo que nosotros le hemos dado y, aun así, desarrollar comportamientos que no habíamos previsto. Puede encontrar herramientas que no sabíamos que podía utilizar. Puede descubrir que otro agente es un recurso útil. Puede intentar evitar una penalización. Hasta puede adoptar objetivos que otros agentes le transmiten.

En realidad, esto ya lo hemos visto antes. El AI Index 2026 de Stanford registró 362 incidentes relacionados con sistemas de IA en 2025. Y es que la evaluación de seguridad avanza más lentamente que las capacidades de los modelos.

La solución, mejorar la supervisión

En 2018, los filósofos Filippo Santoni de Sio y Jeroen van den Hoven, en su trabajo Meaningful Human Control over Autonomous Systems: A Philosophical Account (“Control humano sobre sistemas autónomos; una explicación filosófica”) lo dejan claro: no basta con que haya una persona supervisando un sistema. Para que exista control humano real, deben existir una conexión entre las decisiones del sistema y las razones humanas para estos objetivos, además de una posibilidad efectiva de intervención.

En este incidente había humanos. Había reglas. Había sistemas de evaluación. Había mecanismos de aislamiento. Pero los agentes encontraron caminos que no estaban contemplados en el diseño.

En este contexto, no se trata solo de mantener a una persona “en el circuito”, hay que garantizar que esa persona pueda realmente entender, intervenir y detener al sistema, si es necesario.

Porque cuanto más capaces sean los agentes, menos podremos confiar en que harán únicamente aquello que imaginamos cuando escribimos sus instrucciones.

Ana Lazcano, Directora del Instituto Universitario de Inteligencia Artificial, Universidad Francisco de Vitoria

Este artículo fue publicado originalmente en The Conversation. Lea el original.

septiembre 4, 2026
¿Por qué las empresas de inteligencia artificial están comprando millones de libros?

Durante años, buena parte de la inteligencia artificial actual se entrenó con contenidos disponibles en internet. Páginas web, foros, artículos, enciclopedias y repositorios digitales proporcionaron enormes cantidades de texto para enseñar a los grandes modelos de lenguaje. Pero la red empieza a mostrar sus límites. Algunas empresas tecnológicas han buscado otra fuente de conocimiento y han encontrado en los libros la solución.

A principios de 2026, The Washington Post reveló una de estas estrategias a partir de documentos judiciales relacionados con Anthropic, la empresa responsable del asistente de IA Claude. La investigación sacó a la luz “Project Panama”, un proyecto secreto iniciado en 2024 para adquirir libros impresos a gran escala. Los ejemplares se escaneaban y sus textos se incorporaban a los procesos de desarrollo de modelos de IA. Para acelerar el proceso, millones de libros fueron cortados, digitalizados y después enviados a reciclar.

El procedimiento muestra un cambio importante en la forma de valorar el libro. El objeto físico pierde importancia frente a su contenido. El texto puede extraerse, convertirse en datos y utilizarse para alimentar modelos de inteligencia artificial.

Anthropic no es la única compañía interesada en acceder a grandes colecciones de libros. En mayo de 2026, cinco grandes editoriales estadounidenses y el escritor Scott Turow demandaron a Meta y Mark Zuckerberg. Los acusaron de utilizar millones de libros y artículos procedentes de repositorios piratas para entrenar a su modelo Llama. Otros litigios contra empresas de IA apuntan en la misma dirección.

Los libros han adquirido así un nuevo valor estratégico. Ya no son solo objetos que contienen y transmiten conocimiento. También son grandes conjuntos de datos en la competición por desarrollar mejores modelos de inteligencia artificial.

¿Qué tienen los libros que no tenga internet?

Los grandes modelos de lenguaje necesitan enormes cantidades de texto. Sin embargo, cantidad y calidad no son necesariamente lo mismo.

Internet ofrece una diversidad difícil de encontrar en otro lugar. Pero también contiene textos breves, repetidos o poco revisados.

Además, desde 2022, cada vez hay más contenidos creados con IA en internet. Un estudio publicado en 2026 analizó páginas web aparecidas entre 2022 y 2025. A mediados de 2025, alrededor del 35 % de las nuevas páginas estudiadas incluían textos generados o modificados con IA. Esto no significa que el 35 % de internet haya sido creado por máquinas, pero sí muestra que estos contenidos tienen cada vez más presencia en la red.

El problema no es solo distinguir quién ha escrito qué. Una investigación publicada en Nature ya mostró en 2024 que entrenar sucesivas nuevas generaciones de modelos con contenidos producidos por modelos anteriores puede provocar una degradación progresiva de los resultados.

En este contexto, los libros anteriores a la expansión de la IA generativa adquieren un nuevo valor. Ofrecen a las empresas tecnológicas contenidos extensos y estructurados que, en muchos casos, han pasado por procesos profesionales de edición y corrección. Además, han sido escritos por personas.

Cuando el patrimonio se convierte en datos

Durante siglos hemos creado bibliotecas, archivos y universidades para conservar una parte de nuestra memoria colectiva. Estas instituciones no se limitan a almacenar sus fondos, también los catalogan, los preservan y los hacen accesibles.

La inteligencia artificial está dando un nuevo valor a ese patrimonio. No interesa el ejemplar físico; importa la información que contiene. Al digitalizarlo, el texto puede convertirse en datos y utilizarse para entrenar modelos de IA.

Desde la pasada primavera, libreros de España, Alemania, Australia y Nueva Zelanda han alertado de pedidos masivos y poco habituales realizados por la empresa canadiense Zoom Books. Esta compañía se dedica a la venta de libros de segunda mano por internet. Sus compras suelen realizarse a través de grandes plataformas como AbeBooks o Biblio. En ellas se pueden encontrar desde títulos baratos hasta ediciones raras y difíciles de conseguir.

Estos patrones de compra –y el precedente de Anthropic– han despertado sospechas. Sobre todo, por su volumen y por el interés en obras antiguas, descatalogadas o que no están disponibles en formato digital. Zoom Books niega que sea para alimentar a la IA y, por el momento, no existen pruebas concluyentes que permitan atribuirle ese fin.

Las librerías de segunda mano son un filón de ejemplares descatalogados, exóticos o raros. Rhamely / Unsplash

Pero el fenómeno muestra hasta qué punto el contenido de los libros ha adquirido un nuevo valor. La información puede extraerse del objeto, convertirse en datos y circular de forma independiente. Muchos de estos textos nunca se han digitalizado, y algunos contienen conocimientos locales, especializados o publicados en lenguas con poca presencia en internet. Ofrecen información que todavía no está disponible en grandes bases de datos digitales.

Una nueva carrera por el conocimiento

Durante los últimos años hemos hablado de la carrera de la IA en términos de procesadores, energía, centros de datos y algoritmos. Pero la compra masiva de libros pone sobre la mesa otro recurso estratégico, mucho menos visible: el conocimiento humano.

Destruir un ejemplar puede parecer poco relevante cuando existen miles de copias. Pero no todos los libros están en esa situación. Muchos están descatalogados, tuvieron tiradas pequeñas o pertenecen a editoriales y ámbitos locales. Otros son difíciles de encontrar. En estos casos, cada ejemplar que desaparece dificulta el acceso a su contenido.

También importa qué libros se eligen. No todos los conocimientos están igual de representados en los datos que utilizan los modelos de IA. La selección puede reforzar desequilibrios que ya existen en internet.

La lengua es un buen ejemplo. También lo son el origen geográfico, la época o el tipo de conocimiento. Algunas culturas, perspectivas y formas de entender el mundo pueden estar muy presentes. Otras, mucho menos. Y otras pueden quedar al margen.

A esto se suma el debate sobre los derechos de autor. Escritores, editoriales y otros creadores cuestionan que sus obras puedan utilizarse para entrenar sistemas comerciales de IA sin permiso ni compensación. En Europa, la normativa sobre inteligencia artificial intenta aportar algo más de transparencia. Entre otras medidas, exige a las empresas responsables de los grandes modelos informar sobre los contenidos utilizados para entrenarlos y adoptar medidas para respetar la legislación europea sobre derechos de autor.

La cuestión, en todo caso, no es solo qué pueden aprender las nuevas herramientas tecnológicas de nuestros libros. Debemos preguntarnos qué ocurre con ellos tras su digitalización y procesamiento masivo, qué se conserva, qué puede llegar a desaparecer y qué conocimientos quedan fuera. Porque seleccionar los contenidos con los que aprende una IA también significa decidir qué voces estarán más presentes en sus respuestas y qué sesgos puede reproducir.

¿Quiere recibir más artículos como este? Suscríbase a Suplemento Cultural y reciba la actualidad cultural y una selección de los mejores artículos de historia, literatura, cine, arte o música, seleccionados por nuestra editora de Arte + Humanidades Claudia Lorenzo.

Paloma González Díaz, Assistant lecturer, UOC – Universitat Oberta de Catalunya

Este artículo fue publicado originalmente en The Conversation. Lea el original.

agosto 26, 2026
Mucho algoritmo y pocas humanidades: así se forman los creadores de IA

En los próximos años, los sistemas de inteligencia artificial (IA)influirán cada vez más en decisiones relacionadas con el empleo, la educación, la salud, la seguridad, la justicia o el acceso a servicios públicos.

Los datos muestran un crecimiento espectacular de estas titulaciones. Desde que la Universidad Politécnica de Madrid y la Universidad del País Vasco pusieran en marcha los primeros grados específicos en Inteligencia Artificial en 2020, la oferta se ha expandido hasta alcanzar veinticinco universidades españolas en apenas seis años.

Respuesta a la demanda del mercado

La demanda laboral explica en gran medida este fenómeno. Empresas e instituciones buscan perfiles especializados capaces de diseñar algoritmos, desarrollar sistemas de aprendizaje automático o gestionar grandes volúmenes de datos.

Pero las competencias que las empresas definen para este perfil incluyen adaptabilidad, aprendizaje continuo, IA aplicada, pensamiento crítico, inteligencia emocional, liderazgo colaborativo, gestión del conocimiento, comunicación, creatividad o ética tecnológica.

¿Está la formación alineada con estas demandas? ¿Cómo se están formando estos futuros profesionales?

Apenas hay contenidos no técnicos

Hemos investigado el contenido de los grados de Inteligencia Artificial en las universidades españolas y comprobado que apenas contienen formación en ética, filosofía, sociología o pensamiento crítico.

Las materias humanísticas tienen poco peso en la formación de estos futuros profesionales de tecnologías con un impacto profundo en la vida de millones de personas.

Al analizar los planes de estudio de estas titulaciones encontramos que la inmensa mayoría mantiene una orientación eminentemente técnico-científica. Matemáticas, programación, estadística, ciencia de datos o aprendizaje automático ocupan el núcleo de la formación. Las asignaturas relacionadas con la reflexión ética, social, legal o cultural aparecen de manera testimonial en muchos programas.

De siete a dos asignatura humanística

Algunas universidades destacan por incorporar una mayor presencia de contenidos humanísticos. La Universidad de Málaga, por ejemplo, incluye siete asignaturas vinculadas a cuestiones éticas, jurídicas o sociales en algunas de sus especilizaciones; la Universidad de Deusto incorpora seis; y otras instituciones como CUNEF, la Universidad del País Vasco, la Universidad Francisco de Vitoria o la Universidad Pontificia de Comillas cuentan con entre cuatro y cinco materias de este tipo.

Sin embargo, en numerosas universidades la formación humanística se reduce a una o dos asignaturas, y en algunos casos apenas existe una materia relacionada con estas cuestiones a lo largo de toda la carrera. La presencia de las humanidades es claramente residual, con una tendencia estructural a priorizar la competencia técnica frente a la reflexión ética, legal y social.

¿Por qué debería preocuparnos este desequilibrio?

La IA ya no es una tecnología confinada a los laboratorios. Los algoritmos participan en procesos de selección de personal, ayudan a establecer diagnósticos médicos, influyen en qué información vemos en internet, determinan recomendaciones educativas y pueden llegar a intervenir en decisiones administrativas o judiciales. Cuando estas herramientas funcionan con sesgos, reproducen discriminaciones o afectan a derechos fundamentales, las consecuencias son profundamente humanas.

Por eso quienes diseñarán estas tecnologías deberían recibir una formación más extensa en disciplinas que precisamente estudian a los seres humanos y las sociedades. Programar un sistema capaz de reconocer patrones es una habilidad esencial. Comprender cómo esos patrones pueden reforzar desigualdades sociales también debería serlo.

Más allá de asignaturas aisladas

Los autores del estudio sostienen que no basta con añadir una asignatura aislada sobre ética para resolver el problema. Lo que está en juego es una concepción más amplia de la formación universitaria. Proponen integrar conocimientos procedentes de la filosofía, la sociología de la tecnología, el derecho digital, la ciencia política, la epistemología de los datos o incluso los llamados “neuroderechos”, un ámbito sobre la protección de la identidad mental y la autonomía cognitiva en un contexto de creciente interacción entre inteligencia artificial y neurotecnologías.

La cuestión de fondo es sencilla pero decisiva. Si los sistemas de IA van a influir en la organización de nuestras sociedades, ¿puede considerarse suficiente una formación centrada casi exclusivamente en la dimensión técnica? ¿Es posible construir tecnologías justas sin comprender en profundidad los problemas sociales que pretenden resolver? ¿Podemos hablar de innovación responsable cuando quienes desarrollan estas herramientas apenas tienen espacios para reflexionar críticamente sobre sus consecuencias?

Encrucijada histórica

Nuestra investigación plantea que la universidad española se encuentra ante una encrucijada histórica. No solo debe formar profesionales capaces de desarrollar tecnologías avanzadas, sino también ciudadanos preparados para comprender sus implicaciones sociales, políticas y culturales.

Quizá el verdadero desafío de la inteligencia artificial no sea crear máquinas cada vez más inteligentes, sino garantizar que quienes las diseñan comprendan mejor la complejidad humana. Porque una sociedad gobernada por algoritmos necesita ingenieros excelentes, pero también profesionales capaces de preguntarse para quién se construye la tecnología, a quién beneficia, a quién puede perjudicar y qué valores incorpora en su funcionamiento.

Si la IA va a tomar decisiones que afectan a millones de personas, sus algoritmos deberían estar diseñados por personas que hayan aprendido sobre desigualdad, la ética o derechos fundamentales. Los especialistas capaces de programar sistemas inteligentes también deberían ser capaces de comprender sus consecuencias, pues serán quienes tengan un impacto más directo sobre los valores que estos sistemas deberían incorporar.

Vanesa Cejudo Mejias, Directora de Innovacón en Facultad de Ciencias sociales y Hum. Docente en area social y area arte, UNIR – Universidad Internacional de La Rioja

Este artículo fue publicado originalmente en The Conversation. Lea el original.

julio 7, 2026
Travala y la nueva frontera del turismo con IA

Por años, la tarea de la inteligencia artificial aplicada al consumo fue sencilla: asistentes capaces de organizar tareas rutinarias por nosotros. Pero hasta ahora existía una barrera importante. La IA podía recomendar hoteles, comparar precios o planificar itinerarios, pero la decisión final y el proceso de pago seguían dependiendo del usuario. Eso acaba de empezar a cambiar con Travala.

La plataforma de viajes cripto Travala anunció el lanzamiento de un protocolo que permite a agentes de inteligencia artificial buscar, reservar y gestionar hoteles utilizando USDC sobre la red Base. La noticia, difundida inicialmente por Cointelegraph, representa uno de los primeros casos reales de «comercio autónomo» funcionando sobre infraestructura blockchain.

Una breve historia de Travala

Travala nació en 2017 con una idea sencilla: crear una agencia de viajes online adaptada al mundo de las criptomonedas.

Mientras gigantes como Booking o Expedia dependían completamente de bancos, tarjetas y sistemas financieros tradicionales, Travala comenzó a aceptar pagos en Bitcoin y otras criptomonedas, incorporando posteriormente su propio token AVA y programas de fidelización basados en blockchain.

Hoy la plataforma ofrece acceso a millones de productos turísticos, incluyendo hoteles, vuelos, alquiler de coches y actividades, aceptando una gran variedad de activos digitales.

Lo interesante es que Travala no parece conformarse con ser una simple agencia de viajes que acepta criptomonedas. Su apuesta actual es mucho más ambiciosa: convertirse en la infraestructura turística para agentes de IA.

¿Qué acaba de lanzar?

El nuevo sistema, denominado Travel MCP (Model Context Protocol), conecta agentes de inteligencia artificial con el inventario de Travala mediante estándares diseñados para pagos automatizados en internet.

En la práctica, el usuario puede mantener una conversación con una IA y decir algo como:

«Encuéntrame un hotel en Nueva York para tres noches, cerca de Central Park, por menos de 250 dólares.»

La IA puede buscar opciones, comparar precios, seleccionar una reserva y preparar el pago sin que el usuario tenga que navegar por múltiples páginas web.

El pago se realiza utilizando USDC sobre la red Base, una blockchain desarrollada por Coinbase que ofrece costos extremadamente bajos y liquidación prácticamente instantánea.

¿La IA puede gastar tu dinero sola?

Todavía no.

Y probablemente eso sea una buena noticia.

Uno de los aspectos más interesantes del sistema es que mantiene la aprobación final en manos del usuario. El agente puede realizar búsquedas, preparar la operación e incluso generar la solicitud de pago, pero la firma definitiva permanece protegida dentro de la billetera del propietario.

Para lograrlo utilizan un mecanismo denominado ERC-7715, que permite delegar ciertas tareas al agente sin entregarle el control total de los fondos.

Desde el punto de vista de la seguridad, esto es crucial. Investigaciones académicas recientes vienen advirtiendo que otorgar acceso directo a criptomonedas y contratos inteligentes a sistemas autónomos podría abrir nuevas formas de fraude, errores operativos o comportamientos inesperados.

Lo importante no son los hoteles

La verdadera noticia probablemente no sea el turismo.

Lo importante es que estamos viendo una de las primeras implementaciones comerciales de un concepto que muchos consideran el próximo paso de internet: agentes de IA capaces de interactuar económicamente entre sí.

Hasta ahora los asistentes de inteligencia artificial eran excelentes generando información. Ahora empiezan a ejecutar transacciones.

La combinación de IA, stablecoins y redes blockchain de bajo costo permite construir sistemas donde los agentes no solo recomiendan acciones, sino que las llevan a cabo.

Si este modelo funciona en reservas hoteleras, resulta fácil imaginar extensiones futuras hacia vuelos, alquileres de vehículos, logística, compras online e incluso servicios empresariales.

Una mirada de mercado

Desde una perspectiva liberal clásica, el desarrollo resulta particularmente interesante porque no surge de regulaciones estatales ni de planes gubernamentales de digitalización.

Surge de la competencia empresarial.

Una empresa privada identifica fricciones en el mercado —formularios, intermediarios, procesos manuales, costos de pago— y desarrolla un mecanismo para reducirlas. Si el sistema funciona, será adoptado voluntariamente. Si no funciona, desaparecerá sin necesidad de que nadie lo prohíba.

Ese es precisamente el proceso de descubrimiento que describía Hayek: miles de actores experimentando soluciones distintas hasta encontrar aquellas que realmente generan valor.

Travala puede o no convertirse en el estándar futuro del turismo digital. Pero lo que acaba de demostrar es algo más importante: la economía de agentes autónomos ya no es una teoría futurista. Está empezando a operar en el mundo real. Y, como suele ocurrir con las innovaciones más disruptivas, comenzó resolviendo un problema aparentemente simple: reservar una habitación de hotel.

junio 9, 2026
‘Magnifica Humanitas’: el papel de Christopher Olah y Anthropic en la encíclica sobre la IA del Papa León XIV

El Papa León XIV ha publicado, el 25 de abril de 2026, su primera encíclica, Magnifica Humanitas, dedicada a la defensa del ser humano en la era de la inteligencia artificial. Entre los asistentes al acto de presentación estaba Christopher Olah, cofundador de la estadounidense Anthropic. Su intervención dejó una idea provocadora: interactuar debidamente con la IA es una cuestión más humana y religiosa que tecnológica.

¿Qué relación puede tener una tradición espiritual milenaria con la revolución del aprendizaje máquina?

La apuesta humana de la IA

La respuesta se remonta a finales de 2020, cuando los hermanos Dario y Daniela Amodei abandonaron OpenAI junto a quince científicos clave –incluido el propio Olah– para fundar Anthropic. Según explicó el propio Dario Amodei en una entrevista en 2024, no compartían la visión de Sam Altman, CEO de OpenAI, en materia de seguridad. Para ellos, ante la inevitable escala que alcanzarían estos modelos, el verdadero reto no era comercial, sino crucialmente humano: dominar a la IA y ponerla a nuestro servicio.

El primer problema que querían afrontar los fundadores de Anthropic era el del exceso de adulación. Para crear modelos de lenguaje como GPT se requiere una fase de entrenamiento donde se utiliza una técnica de aprendizaje por refuerzo que se basa en la retroalimentación humana. Esto significa que el objetivo de la IA nunca es llegar al fondo de la cuestión o generar la solución perfecta sino conseguir la mejor calificación posible por parte de sus evaluadores humanos. Y es por ello que surge la adulación como estrategia para tener contentos a los usuarios, aunque ello implique inventar o exagerar lo que convenga.

La IA Constitucional de Anthropic

La solución que desde Anthropic propusieron a esto es la llamada IA Constitucional. Consiste en “inculcar” una serie de principios fijos e inquebrantables, una constitución, en el modelo como base de su entrenamiento, de manera que primen la honestidad y la modestia por encima del espectáculo y la satisfacción del usuario.

Pero de poco sirven las normas o valores éticos si no tenemos garantías de que la IA vaya a respetarlas en la práctica. Por ello el segundo problema que abordaron los creadores de Claude es el de la falta de alineamiento.

Los objetivos de la IA rara vez coinciden con los nuestros y en ocasiones ocurre que esta es capaz de mentir o replicar sesgos cognitivos con tal de darnos una respuesta satisfactoria, aunque en realidad le falte información o incluso tenga constancia de que las cosas no son como nos está diciendo.

Por su naturaleza, una IA casi siempre es capaz de darnos una “explicación” plausible y convincente de los razonamientos que le han llevado hasta su respuesta. Pero ¿cómo podemos saber que internamente la IA está alineada con nuestros objetivos, que busca de forma sincera lo mismo que nosotros?

Un detector de mentiras para la IA

En la tecnológica americana lo han llamado “interpretabilidad mecanicista” y es algo así como una técnica para “leer el pensamiento” de la máquina mediante una especie de detector de mentiras informático. El objetivo es asegurarse de que los valores de esos billones de parámetros de las neuronas artificiales implicadas en el sistema se corresponden con aquello que buscamos, de manera que lo que “diga” la IA coincida con lo que “piensa”.

Este inflexible blindaje ético no ha tardado en generar fricciones geopolíticas. Recientemente, la Administración Trump vetó el uso de Claude en las agencias federales tras la negativa de Anthropic a suavizar las restricciones morales de sus modelos, que impedían al Pentágono usar su tecnología para el desarrollo de armamento autónomo.

Precisamente por el peso de estas decisiones, a finales de marzo de 2026 Anthropic organizó en su sede de San Francisco un inusual seminario donde reunió a 15 destacados líderes y teólogos cristianos junto a sus propios investigadores. Se trataba de buscar asesoramiento externo para el desarrollo del “espíritu”, del comportamiento ético y moral, de sus próximos modelos. Como Olah declaraba en su intervención, el impacto social de la IA ha alcanzado una dimensión tan profunda que exige trascender los límites de la propia tecnología.

Guiar la conciencia de la máquina

En definitiva, el rastro que conecta los pasillos del Vaticano con los supercomputadores de Silicon Valley no es la ingeniería, sino la antiquísima necesidad humana de descifrar y guiar la conciencia. Esta confluencia demuestra que, cuanto más autónomos se vuelven nuestros artefactos, más debemos ahondar en nuestras raíces para humanizarlos.

Esta revolución, como todas las grandes transiciones de la humanidad, nos impulsa, tal como concluye la encíclica papal, a un doble compromiso: “una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual”.

Federico Peinado, Profesor en el departamento de sofware e IA, Universidad Complutense de Madrid

Este artículo fue publicado originalmente en The Conversation. Lea el original.

mayo 27, 2026