Enrutado por tipo de tarea
Cada tipo de trabajo tiene un perfil de modelo asignado, no un modelo fijo. El perfil se resuelve en tiempo de ejecución contra la cuota disponible.
Proyectos · Python
Orquestador local multicuenta que reparte trabajo entre 8 cuentas de IA de 4 proveedores, con contabilidad de cuotas y traspaso de contexto ante fallo.
3.037 líneas de código · 769 de prueba
Por qué existe
El problema no es llamar a un modelo: es decidir cuál, con qué cuota restante, y qué hacer cuando el que estaba trabajando se queda sin ventana a mitad de tarea. Orquesta IA contabiliza el gasto por ventana de cuota, detecta el límite antes de chocarse con él y traspasa el contexto al siguiente ejecutor sin perder el hilo.
Decisiones
Cada tipo de trabajo tiene un perfil de modelo asignado, no un modelo fijo. El perfil se resuelve en tiempo de ejecución contra la cuota disponible.
El gasto se imputa a la ventana de cuota vigente de cada cuenta, no al total del día. Sin eso, la detección de límite llega tarde.
Un modelo revisa la salida de otro antes de darla por buena. La verificación no es opcional en el camino feliz.
8.352.635 tokens enrutados en 104 ejecuciones, 82% completadas. La cifra sale del registro, no de una estimación.
Autoría
Orquesta IA es un proyecto de Jhon Steven Alvarez Ruiz, economista y analista de datos en Neiva, Colombia. El código está publicado en github.com/SirHegel.