Concilio + Critic - Sistemas multi-agente con humano al frente
Tipo de caso
Contexto
Patrón arquitectónico propio de SAINI desplegado en Humano Aumentado (plataforma interna en producción) y validado con clientes industriales y de sector público. Resuelve el problema de coordinar múltiples agentes IA especializados sin que el humano pierda el control sobre la decisión final, lo que es innegociable en administraciones públicas, sanidad y emergencias.
Problema
- Los sistemas mono-agente (un único modelo opaco) no escalan a contextos con múltiples competencias y departamentos.
- La automatización ciega elimina al humano del circuito y genera rechazo en organizaciones donde la responsabilidad es no delegable.
- Sin un agente auditor, los sistemas multi-agente generan solapamientos, dejan huecos y producen expedientes huérfanos.
- Los proveedores tradicionales ofrecen consultoría con capa de IA, no arquitectura agéntica nativa.
Requisitos de integración
- Acceso a los sistemas internos donde operan los departamentos o funciones a coordinar.
- Capa de identidad y permisos compatible con la organización.
- Sistema de logging y trazabilidad (compatible con blockchain iCommunity para sector público).
- Modelos LLM disponibles según preferencia del cliente (Claude, GPT, watsonx, modelos locales).
- Hosting en infraestructura europea y cumplimiento RGPD para casos de administración pública.
Solución propuesta
Arquitectura en dos capas con humano al frente como principio innegociable:
- Concilio: cada departamento, función o competencia tiene un agente especializado que conoce sus procesos y capacidad operativa. Los agentes negocian la asignación de tareas evitando duplicidades y huecos.
- Critic: agente transversal que audita las decisiones del Concilio, detecta solapamientos, expedientes huérfanos, picos mal cubiertos y oportunidades de coordinación. Genera alertas para el responsable humano.
- Humano al frente: la decisión final siempre la toma una persona. El sistema prioriza, propone y traza, nunca emite la resolución final.
- Trazabilidad: cada decisión queda documentada con su razonamiento, evaluable en frío y certificable en blockchain para entornos públicos.
Impacto
Arquitectura validada en producción real en múltiples clientes y sectores:
- Plataforma interna propia de SAINI: usada como cuartel general agéntico del equipo, donde cada agente coordinado opera bajo el mismo patrón Concilio + Critic.
- Sector industrial (climatización industrial): Secretario IA + plataforma de gestión coordinados para 9 directivos del comité, desplegado en VM interna del cliente con cumplimiento de seguridad corporativa.
- Distribución y e-commerce B2B: chatbot agéntico sobre catálogo de 33.000+ productos, con varios agentes coordinados por especialidad de producto.
- Sector agroalimentario (cítricos): bot operativo en Telegram para coordinación de campo, con agentes por función dentro del flujo de cosecha y trazabilidad.
- Medios de comunicación: sistema de entrevistas con coordinación multi-herramienta (n8n + Notion) y agentes por rol dentro del proceso editorial.
Aplicaciones destacadas
Beneficios consistentes en todos los despliegues:
- Coordinación inter-departamental sin reuniones reactivas: el Critic detecta los solapamientos antes de que ocurran.
- Codificación de conocimiento tácito de profesionales veteranos: su criterio queda documentado en el comportamiento del agente que les aumenta.
- Filosofía Humano Aumentado garantizada por diseño, no como añadido posterior.
- Trazabilidad de decisiones evaluable en frío, clave en sectores regulados y en sector público.