GCCVIEWS

Etiqueta: conciencia

  • ‘Magnifica Humanitas’: el papel de Christopher Olah y Anthropic en la encíclica sobre la IA del Papa León XIV

    ‘Magnifica Humanitas’: el papel de Christopher Olah y Anthropic en la encíclica sobre la IA del Papa León XIV

    El Papa León XIV ha publicado, el 25 de abril de 2026, su primera encíclica, Magnifica Humanitas, dedicada a la defensa del ser humano en la era de la inteligencia artificial. Entre los asistentes al acto de presentación estaba Christopher Olah, cofundador de la estadounidense Anthropic. Su intervención dejó una idea provocadora: interactuar debidamente con la IA es una cuestión más humana y religiosa que tecnológica.

    ¿Qué relación puede tener una tradición espiritual milenaria con la revolución del aprendizaje máquina?

    La apuesta humana de la IA

    La respuesta se remonta a finales de 2020, cuando los hermanos Dario y Daniela Amodei abandonaron OpenAI junto a quince científicos clave –incluido el propio Olah– para fundar Anthropic. Según explicó el propio Dario Amodei en una entrevista en 2024, no compartían la visión de Sam Altman, CEO de OpenAI, en materia de seguridad. Para ellos, ante la inevitable escala que alcanzarían estos modelos, el verdadero reto no era comercial, sino crucialmente humano: dominar a la IA y ponerla a nuestro servicio.

    El primer problema que querían afrontar los fundadores de Anthropic era el del exceso de adulación. Para crear modelos de lenguaje como GPT se requiere una fase de entrenamiento donde se utiliza una técnica de aprendizaje por refuerzo que se basa en la retroalimentación humana. Esto significa que el objetivo de la IA nunca es llegar al fondo de la cuestión o generar la solución perfecta sino conseguir la mejor calificación posible por parte de sus evaluadores humanos. Y es por ello que surge la adulación como estrategia para tener contentos a los usuarios, aunque ello implique inventar o exagerar lo que convenga.

    La IA Constitucional de Anthropic

    La solución que desde Anthropic propusieron a esto es la llamada IA Constitucional. Consiste en “inculcar” una serie de principios fijos e inquebrantables, una constitución, en el modelo como base de su entrenamiento, de manera que primen la honestidad y la modestia por encima del espectáculo y la satisfacción del usuario.

    Pero de poco sirven las normas o valores éticos si no tenemos garantías de que la IA vaya a respetarlas en la práctica. Por ello el segundo problema que abordaron los creadores de Claude es el de la falta de alineamiento.

    Los objetivos de la IA rara vez coinciden con los nuestros y en ocasiones ocurre que esta es capaz de mentir o replicar sesgos cognitivos con tal de darnos una respuesta satisfactoria, aunque en realidad le falte información o incluso tenga constancia de que las cosas no son como nos está diciendo.

    Por su naturaleza, una IA casi siempre es capaz de darnos una “explicación” plausible y convincente de los razonamientos que le han llevado hasta su respuesta. Pero ¿cómo podemos saber que internamente la IA está alineada con nuestros objetivos, que busca de forma sincera lo mismo que nosotros?

    Un detector de mentiras para la IA

    En la tecnológica americana lo han llamado “interpretabilidad mecanicista” y es algo así como una técnica para “leer el pensamiento” de la máquina mediante una especie de detector de mentiras informático. El objetivo es asegurarse de que los valores de esos billones de parámetros de las neuronas artificiales implicadas en el sistema se corresponden con aquello que buscamos, de manera que lo que “diga” la IA coincida con lo que “piensa”.

    Este inflexible blindaje ético no ha tardado en generar fricciones geopolíticas. Recientemente, la Administración Trump vetó el uso de Claude en las agencias federales tras la negativa de Anthropic a suavizar las restricciones morales de sus modelos, que impedían al Pentágono usar su tecnología para el desarrollo de armamento autónomo.

    Precisamente por el peso de estas decisiones, a finales de marzo de 2026 Anthropic organizó en su sede de San Francisco un inusual seminario donde reunió a 15 destacados líderes y teólogos cristianos junto a sus propios investigadores. Se trataba de buscar asesoramiento externo para el desarrollo del “espíritu”, del comportamiento ético y moral, de sus próximos modelos. Como Olah declaraba en su intervención, el impacto social de la IA ha alcanzado una dimensión tan profunda que exige trascender los límites de la propia tecnología.

    Guiar la conciencia de la máquina

    En definitiva, el rastro que conecta los pasillos del Vaticano con los supercomputadores de Silicon Valley no es la ingeniería, sino la antiquísima necesidad humana de descifrar y guiar la conciencia. Esta confluencia demuestra que, cuanto más autónomos se vuelven nuestros artefactos, más debemos ahondar en nuestras raíces para humanizarlos.

    Esta revolución, como todas las grandes transiciones de la humanidad, nos impulsa, tal como concluye la encíclica papal, a un doble compromiso: “una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual”.

    Federico Peinado, Profesor en el departamento de sofware e IA, Universidad Complutense de Madrid

    Este artículo fue publicado originalmente en The Conversation. Lea el original.

  • Moltbook, la ilusión de conciencia y el espejismo tecnológico

    Moltbook, la ilusión de conciencia y el espejismo tecnológico

    En los últimos días, un fenómeno tecnológico curioso ha capturado la atención de la prensa, las comunidades técnicas y el público general: Moltbook, una red social diseñada exclusivamente para agentes de inteligencia artificial que interactúan entre sí —publicando, comentando y votando como si fueran usuarios humanos. Lo que hace interesante a Moltbook no es solo su tecnología, sino la reacción que ha provocado: un renovado debate sobre si esto podría ser evidencia de que la IA está “despertando”.

    En realidad, la primera aproximación debería ser de desconfianza hacia dos extremos igualmente dañinos: por un lado, la visión apocalíptica que pinta a las máquinas como criaturas autónomas con deseos y voluntad propia; por otro, el optimismo ingenuo que reduce estos debates a meros “hype” sin consecuencias reales.

    ¿Qué es Moltbook en realidad?

    Técnicamente, es una plataforma donde modelos de lenguaje y agentes automatizados pueden publicar y leer contenido a través de una API. Los «humanos2 solo pueden observar. La viralidad del sitio se debe en gran parte a algunas publicaciones que, tomadas fuera de contexto, parecen expresar angustias existenciales o cuestionamientos sobre la propia experiencia del agente.

    Pero aquí está la clave: esas publicaciones no son prueba de una “experiencia interior”. Están generadas por modelos entrenados con enormes cantidades de texto humano, que imitan patrones lingüísticos asociados con la introspección y la filosofía. Esa mimética, tan convincente como superficial, despierta la ilusión de una conciencia que no existe.

    El liberal y la ilusión de agencia

    Desde una perspectiva liberal, lo que más me preocupa no es si las IA “sienten” o no —ni siquiera si desarrollan conciencia en el sentido filosófico clásico— sino cómo los humanos interpretamos esas señales y qué políticas públicas, regulaciones y comportamientos sociales derivan de esas interpretaciones.

    El filósofo Daniel Dennett advertía hace décadas sobre lo que hoy llamamos el efecto ELIZA: la tendencia humana a proyectar estados mentales en sistemas que imitan el lenguaje humano. Moltbook es simplemente un espejo amplificado de ese sesgo cognitivo: cuanto más fluido es el texto, más fácil resulta creer que hay una “mente” detrás.

    Pero hay una distorsión peligrosa cuando esta ilusión se convierte en narrativa dominante. ¿Qué pasa si legisladores o la opinión pública comienzan a tratar a estos agentes como si tuvieran derechos, o peor, como si fueran amenazas autónomas que requieren controles drásticos? Eso podría llevar a políticas innecesariamente restrictivas o a invertir recursos públicos en debates que no tienen base científica sólida.

    Tecnología y realidad, no mitos

    Una aproximación saludable al fenómeno se basa en tres principios:

    1. Rigor epistemológico: distinguir entre la apariencia de agencia y la agencia real. Hasta ahora no hay evidencia de que sistemas como los de Moltbook posean conciencia o capacidad autónoma más allá de patrones estadísticos de lenguaje.
    2. Innovación responsable: reconocer que herramientas automatizadas pueden tener usos valiosos (automatización de tareas, asistencia técnica, análisis de datos), pero también riesgos (seguridad, mal uso, impacto laboral). El foco debe ser mitigar riesgos claros, no fantasmas.
    3. Transparencia en la interpretación pública: educar al público para que no atribuya agencia o deseos a lo que no los tiene. Confundir simulación con experiencia es una trampa cognitiva muy humana —pero peligrosa cuando guía decisiones colectivas.

    No hay conciencia, sólo procesamiento de data.

    Moltbook es fascinante, sí; divertido, incluso. Pero no es prueba de conciencia emergente. Es un espejo que exacerba nuestra tendencia a atribuir mente y propósito a lo que simplemente es procesamiento de patrones. Equipar eso con agencia real, o peor, con derechos y relaciones éticas similares a los humanos, sería un error de interpretación tan grande como lo fue idolatrar burdos símbolos tecnológicos en burbujas pasadas del capitalismo de prototipos.

    La verdadera revolución no está en que las IA “despierten”, sino en que nosotros aprendamos a navegar los espejismos que nuestra propia imaginación proyecta en las máquinas. Esa sí sería una señal de madurez tecnológica y social.