El Financial Times publicó esta semana una investigación que, según sus autores, debería inquietarnos: las barreras de seguridad integradas en modelos de inteligencia artificial (IA) de código abierto —como los de Meta o Google— pueden desactivarse en menos de diez minutos, sin hardware especializado y con herramientas disponibles en cualquier repositorio público. El resultado: sistemas que acceden a información sobre armas, malware o sustancias peligrosas. La reacción refleja predecible ha sido exigir más regulación. Pero antes de que los legisladores se lancen a una nueva cruzada prohibicionista, conviene hacer algunas preguntas incómodas.
El espejismo del control en el punto de origen
La lógica regulatoria dominante sitúa el problema en la fase de desarrollo: si las empresas construyen modelos más seguros, el daño queda contenido. Es una intuición comprensible pero profundamente errónea cuando se aplica a software de código abierto. Una vez que los pesos de un modelo se distribuyen libremente por internet —como ocurre con Llama de Meta o Gemma de Google—, el código se convierte en un bien público irreversible. Regularlo en origen es tan efectivo como haber intentado prohibir Linux o el protocolo BitTorrent. Los expertos citados en el propio reportaje lo admiten sin rodeos: «Es poco probable que los gobiernos puedan impedir que actores decididos accedan o modifiquen modelos una vez que sus pesos se encuentren ampliamente replicados online.»
«Regular el código abierto en origen es tan efectivo como haber intentado prohibir Linux o el protocolo BitTorrent.»
Esta no es una posición radical. Es simplemente la realidad técnica y económica de cómo funciona la distribución digital. Y sin embargo, los marcos regulatorios que se están construyendo —el AI Act europeo, los enfoques emergentes en el Reino Unido y Estados Unidos— siguen apostando mayoritariamente por controles sobre los desarrolladores originales, como si el resto de la cadena no existiese.
Los costos invisibles de la prohibición
El debate sobre la seguridad de la IA tiende a contabilizar sólo los riesgos de la tecnología y a ignorar por completo los costos de su supresión. Pero esos costos existen y son enormes. Los modelos de código abierto democratizan el acceso a la IA (inteligencia artificial): médicos rurales en países sin infraestructura tecnológica, periodistas en regímenes autoritarios, investigadores académicos sin presupuesto para APIs comerciales, pequeños emprendedores que compiten con gigantes corporativos. Todos ellos dependen de sistemas que ninguna empresa cerrada les ofrecería en igualdad de condiciones. Cuando los reguladores hablan de «restringir los modelos de código abierto de alto riesgo», rara vez mencionan a estos usuarios. Sus costos no aparecen en los informes del Financial Times.
La alternativa cerrada tampoco es el paraíso de la seguridad que sus defensores proclaman. Los modelos propietarios de OpenAI, Anthropic o Google son igualmente vulnerables a los llamados «jailbreaks», sometidos a presiones comerciales que a menudo priorizan el lanzamiento sobre la auditoría, y opacos por definición: nadie puede examinar sus pesos, sus sesgos ni sus fallos. La seguridad que ofrecen es en gran medida una seguridad de marca, no una garantía técnica verificable.
Dónde tiene sentido actuar
La perspectiva liberal no implica ingenuidad ante los riesgos reales. Implica precisión en el diagnóstico y proporcionalidad en la respuesta. Los expertos del propio artículo apuntan en la dirección correcta cuando señalan que la regulación sería «más efectiva si se enfocara en el despliegue, la distribución y el uso dañino en el mundo real», en lugar de en la capa de desarrollo. Eso es razonable. El abuso concreto de un modelo —ya sea para fabricar malware, generar desinformación o diseñar armas— puede perseguirse mediante el derecho penal existente, sin necesidad de crear nuevos cuerpos burocráticos que supervisen el entrenamiento de modelos como si fuese enriquecimiento de uranio.
Del mismo modo, los estándares de transparencia sobre el uso real de estos sistemas en infraestructuras críticas —salud, energía, justicia— son razonables y justificables. Lo que no lo es es construir un régimen de licencias y restricciones previas que, en la práctica, sólo podrán cumplir las grandes corporaciones tecnológicas con ejércitos de abogados, mientras los actores pequeños y los investigadores independientes quedan excluidos del ecosistema. Eso no es seguridad. Es la captura regulatoria de siempre con un barniz de ingeniería de sistemas.
El conocimiento no se regula: se gestiona
Hay una tensión irresuelta en el corazón de este debate: los mismos actores que más se beneficiarían de restricciones al código abierto —las grandes empresas de IA propietaria— son quienes más recursos tienen para influir en el diseño de esa regulación. No es una teoría conspirativa; es la dinámica habitual de cualquier mercado regulado. El resultado casi invariable es lo que los economistas llaman «barreras de entrada disfrazadas de bien público».
El conocimiento técnico, una vez distribuido, no puede devolverse a la caja. La historia de internet, de la criptografía, del software libre, lo demuestra sin excepción. Los modelos de IA de código abierto son ya parte del paisaje tecnológico global, y ninguna directiva emanada de Bruselas o Washington va a cambiar ese hecho. Lo que sí pueden hacer los gobiernos es invertir en educación digital, en marcos de responsabilidad civil claros para el mal uso demostrado y en investigación pública sobre seguridad. Eso requiere menos retórica de emergencia y más paciencia institucional. Virtudes, hay que reconocerlo, escasas en temporada electoral.
