Zylon

Los equipos de datos de las grandes instituciones públicas europeas están bajo creciente presión para desarrollar capacidades de IA que mejoren la eficiencia operativa interna. Sin embargo, la naturaleza sensible —y en ocasiones confidencial— de los datos que manejan impide el uso de soluciones cloud comerciales en producción. El EU AI Act y las políticas internas de soberanía del dato de estas instituciones exigen que cualquier herramienta de IA operativa garantice que los datos permanezcan bajo control exclusivo del organismo. En este contexto, los equipos de datos necesitan una infraestructura de IA privada sobre la que puedan desarrollar, probar y desplegar aplicaciones y automatizaciones de forma autónoma, sin depender de proveedores externos.

• Imposibilidad de usar en producción las herramientas de IA cloud testeadas internamente: los equipos de Data realizan POCs con herramientas como OpenAI API o MS Copilot, pero no pueden llevarlas a producción por restricciones de privacidad del dato institucional.
• Necesidad de procesar grandes volúmenes de datos no estructurados de forma automatizada: tareas como la clasificación masiva de miles de registros mediante IA requieren acceso programático a los modelos, algo que el prompting manual hace inviable a escala.
• Falta de capacidad para ejecutar agentes y automatizaciones complejas sobre datos internos: los flujos que combinan múltiples pasos —ingesta, clasificación, validación, salida estructurada— son difíciles de construir y mantener sin una plataforma de integración adecuada.
• Limitada capacidad de experimentar con diferentes modelos según la tarea: distintas tareas de análisis pueden requerir modelos distintos; depender de un único proveedor externo limita la flexibilidad técnica y genera dependencia.
• Ausencia de trazabilidad en el uso de la IA para tareas analíticas institucionales: los procesos de análisis que apoyan decisiones de auditoría u otras funciones institucionales requieren poder justificar y reproducir los resultados obtenidos.
• Dificultad para escalar la solución desde el equipo de datos al resto de la organización: una vez validada la metodología, extender el acceso a otros departamentos o usuarios requiere controles de acceso y gestión de permisos que las APIs cloud no ofrecen de forma granular.

• Infraestructura de IA on-premise lista para producción: Zylon se despliega íntegramente en los servidores del organismo, ofreciendo al equipo de datos una API compatible con OpenAI sobre la que construir exactamente igual que con herramientas cloud, pero sin salida de datos al exterior.
• API Gateway con endpoints compatibles con OpenAI/Anthropic: el equipo de datos puede llamar a los modelos de forma programática mediante scripts en Python o R, automatizando flujos de clasificación, extracción y análisis sobre datasets de decenas de miles de registros.
• n8n integrado y soporte LangChain/agentes: Zylon incluye n8n preconfigurado en el mismo servidor, permitiendo al equipo construir flujos multi-paso sin infraestructura adicional. Compatible con LangChain para desarrollos más avanzados.
• Modelo agnóstico, cualquier LLM open-source: el equipo de datos puede seleccionar, cambiar y afinar el modelo que mejor se adapte a cada tarea (Llama, Mistral, DeepSeek, modelos fine-tuned propios), sin costes variables por token.
• Registro completo de todas las llamadas a la API: cada petición, parámetro utilizado, modelo invocado y respuesta generada queda registrada, garantizando trazabilidad total para auditorías internas o revisiones de calidad.
• Control de acceso granular y gestión multi-equipo: Zylon permite al administrador del equipo de datos gestionar qué usuarios, equipos o departamentos tienen acceso a qué modelos, proyectos o flujos, facilitando la extensión controlada de las capacidades de IA al resto de la organización..

La solución expone una API REST compatible con los estándares OpenAI y Anthropic, lo que permite a los equipos de datos utilizarla directamente desde sus scripts, notebooks o herramientas de automatización existentes sin necesidad de modificar su forma de trabajo

Se conecta con los siguientes sistemas:

• Sistemas de ficheros internos y repositorios documentales
• Bases de datos relacionales y fuentes de datos estructurados (CSV, Excel, XLSX)
• Entornos de desarrollo del equipo de Data (Python, R, Jupyter)
• Herramientas de automatización de flujos (n8n, LangChain)

El modelo de integración habitual es: conectores estándar + desarrollo a medida para integraciones específicas.

Automatización de clasificación masiva de proyectos financiados por la UE mediante IA privada

• Cliente: Tribunal de Cuentas Europeo
• Link aplicación: https://www.zylon.ai/resources/blog/the-gap-between-a-poc-and-production-is-infrastructure-not-prompts

Impacto de resultado

• El equipo de datosa del Tribunal de Cuentas Europeo puede llevar a producción un caso de uso de clasificación masiva con IA que había quedado bloqueado en fase de prueba de concepto (PoC) por restricciones de privacidad
• Más de 26.000 proyectos financiados por la UE son clasificados en 23 dimensiones categóricas en días de forma automatizada, en infraestructura propia y sin salida de datos al exterior, completando el análisis completo en el plazo requerido frente a semanas de trabajo manual.

Indicadores operativos 

• 100% de los casos de uso validados en POC con APIs cloud desplegados en producción sobre infraestructura interna, sin transferencias externas.
• Priorizar el esfuerzo de revisión humana en los casos de menor certeza: Identificación automática de todos los casos con confianza < 0,70 o clasificación ambigua, reduciendo el esfuerzo de control de calidad al subconjunto relevante.
• Coste variable por token eliminado: modelo de coste fijo independiente del volumen procesado.
• Trazabilidad total del proceso analítico, alineado con los requisitos de transparencia y rendición de cuentas institucional: 100% de las inferencias registradas con modelo utilizado, parámetros y respuesta generada.
• Capacidad de desarrollo interno de nuevas automatizaciones analíticas sin dependencia de Zylon, reduciendo tiempos de evolución tecnológica.

La metodología y la infraestructura desplegada pueden extenderse a otros proyectos de análisis masivo del equipo de datos, a otros departamentos del Tribunal, y sirve como modelo replicable para equipos de datos de otras instituciones europeas con necesidades similares de IA privada en producción.

La modernización de las Fuerzas Armadas y los organismos de seguridad nacional en Europa pasa ineludiblemente por la adopción de capacidades de Inteligencia Artificial (IA). Sin embargo, la naturaleza clasificada de la información que manejan estas organizaciones hace imposible el uso de soluciones cloud comerciales. La Estrategia de Seguridad Nacional (2021) complementada con la Estrategia Nacional de Inteligencia Artificial (2024) y los planes de digitalización de Defensa de los países de la OTAN contemplan explícitamente la necesidad de disponer de capacidades de IA soberanas, operables en entornos desconectados y auditables. Paralelamente, el creciente volumen de documentación técnica, normativa y operacional que deben gestionar estos organismos exige soluciones que permitan explotar ese conocimiento de forma eficiente y segura.

• Información crítica dispersa en sistemas, formatos y redes clasificadas: la información relevante en entornos de Defensa está repartida entre sistemas heterogéneos, formatos variados y redes sin conectividad exterior, lo que dificulta su localización y consulta operativa.
• Dificultad para analizar documentación técnica compleja: la extracción de datos y el análisis de especificaciones técnicas complejas requieren un esfuerzo manual intensivo y ralentizan la operativa.
• Imposibilidad de usar herramientas de IA comerciales en la nube: las políticas de seguridad impiden utilizar soluciones conectadas a internet o dependientes de servicios externos de IA.
• Dificultad para desplegar una solución lista para operar en infraestructura segura: preparar una solución de IA en entornos de Defensa exige dimensionar infraestructura y software especializado para su instalación en el centro de datos del cliente.
• Riesgo de accesos no controlados a información sensible: la gestión del conocimiento en entornos de Defensa requiere limitar y registrar con precisión quién accede a cada documento, proyecto o interacción con la plataforma.
• Dependencia potencial de proveedores externos de IA: basar la solución en un proveedor concreto puede generar dependencia tecnológica y limitar el cumplimiento de criterios internos de aprobación de modelos.

• Base de conocimiento institucional privada: Toda la documentación técnica, normativa y operacional se indexa y queda disponible para consulta en lenguaje natural, con cita de fuentes.
• Agentes IA para tareas especializadas: Flujos automatizados para análisis de documentación técnica -incluyendo imágenes-, verificación de cumplimiento normativo y generación de informes.
• Despliegue completamente air-gapped: Zylon se instala y opera sin ninguna conexión a internet, incluyendo las actualizaciones de modelos que se entregan mediante soporte físico seguro.
• Solución Hardware + Software: Zylon, a través de sus partners de infraestructura como CISCO, se encarga de dimensionar y preparar el Hardware (servidores Linux con GPUs Nvidia) junto al software propio en un modelo “Zylon in a Box” llave en mano, listo para instalar en el centro de datos del cliente final.
• Control de acceso granular: Gestión de permisos por usuario, equipo y proyecto. Registro de auditoría de cada acceso e interacción.
• Modelo agnóstico: Compatible con los modelos open-source aprobados por el organismo, sin dependencia de ningún proveedor externo de IA.

La solución expone una API REST compatible con los estándares OpenAI, lo que permite integrarla con sistemas internos y extender funcionalidades mediante desarrollos adicionales. En entornos air-gapped, el acceso a la API queda restringido a la red interna del organismo, sin exposición exterior.

La solución puede integrarse con: sistemas de ficheros internos, bases de datos relacionales y repositorios documentales internos.

El modelo de integración habitual es desarrollo a medida.

Plataforma de IA privada para gestión documental y análisis técnico

• Cliente: Ejército de España
• Link aplicación: https://www.zylon.ai/resources/blog/sailing-the-digital-deep-how-zylon-s-private-ai-technology-functions-where-others-cannot

Impacto de resultado

• Permite al Ejército de España disponer de capacidades de IA operativas sobre documentación técnica y normativa clasificada en un entorno completamente air-gapped, sin dependencia de proveedores cloud externos. 
• Los equipos pasan de un acceso manual y fragmentado al conocimiento institucional a una base de conocimiento consultable en lenguaje natural.
• Reducción del tiempo de búsqueda documental de horas a minutos para analistas y técnicos.
• Reducción del 60-80% en el tiempo de redacción de licitaciones, informes técnicos y verificaciones normativas.

Indicadores operativos 

• Escalado desde 1 servidor GPU hasta clústeres completos con coste fijo, sin costes variables por token o por usuario.
• Operación sin dependencia de proveedores externos de IA, con posibilidad de elegir modelos open-source aprobados y mantener un modelo de coste fijo.
• 100% de operación en entorno desconectado, sin salida a internet, sin datos en la nube y con actualizaciones offline mediante soporte seguro.
• Disponibilidad continua del conocimiento institucional indexado y consultable, reduciendo la pérdida de conocimiento ante cambios o rotación de personal.
• Reducción del 70-90% en el tiempo dedicado la extracción de información de fotografías sobre el terreno.
• 100% de accesos e interacciones registrados con trazabilidad completa, alineados con requisitos de seguridad y control institucional.

Ampliación a otras unidades y organismos de Defensa: desde el equipo inicial desplegado hasta otras áreas del mismo organismo con distintos niveles de clasificación. Extensión a otros cuerpos de las Fuerzas Armadas, organismos de seguridad nacional o aliados OTAN con requisitos similares de soberanía tecnológica. El modelo "Zylon in a Box" facilita además el replicado del despliegue en nuevas ubicaciones físicas sin dependencia de conectividad.