Paralelizar agentes de IA: ejecución distribuida con DAG
Día 44 / 60
Creo que ya estoy en el punto en el que la arquitectura del agente funciona bien.
Tengo 5 máquinas corriendo DIgSILENT (me encantaría poder tener más máquinas pero la licencia es muy cara y estoy usando una licencia de la universidad).
5 VMs corriendo DIgSILENT en paralelo
¿Por qué tengo 5 máquinas corriendo el software de simulación? Porque cuando realicé el último estudio de flujo de potencia noté como las tareas se hacían una detrás de otra pudiendo fácilmente paralelizar las tareas ahorrando tiempo. Por lo que ahora el planner, el encargado de hacer las tareas, no crea un plan simple, sino que crea un DAG, un grafo acíclico dirigido, que permite la paralelización de tareas.
Miren este ejemplo de prompt:
Simula un cortocircuito trifásico en la Línea 1, línea 2, línea 3, tramo 2 y tramo 1. Compara las corrientes de falla entre todas las barras y genera un informe PDF con el diagrama unifilar.
DAG mostrando 5 cortocircuitos en paralelo
Si nos fijamos bien, se podrían hacer 5 cortocircuitos en 5 máquinas diferentes, en vez de hacerlo uno detrás del otro. Eso es exactamente lo que estoy haciendo. Además de eso, agregué un paso previo antes de entrar en modo plan-and-execute de conversar con el usuario para entender por completitud qué tiene que hacer, tal como lo hace Claude Code.
Comparación de tiempos y costos
Hagamos la comparación de tiempos y costos vs lo que tenía la semana pasada, mismo prompt complejo para un estudio de flujo de potencia:
Esto es importante: el mismo prompt pero con 5 VMs corriendo el software para hacer simulaciones con DAG tomó ⅓ del tiempo, gastó menos tokens y un poco menos de dinero total.
Hay que considerar que el costo que tenía antes solo estaba considerando el uso en tokens, pero me faltó agregar el costo de la máquina virtual que es algo así como $0.38 USD por hora.
Al paralelizar hago muchas llamadas a Gemini 3. Mis límites en Tier 1 son 5M tokens para Pro y 3M para Flash. En Tier 2 suben a 500M y 400M respectivamente. El mes pasado gasté $160 USD en cloud. Creo que llego a Tier 2 durante febrero, lo que me permitiría llevar a D.N al siguiente nivel.
Resultados no deterministas
Algo que he notado es que un mismo informe hecho varias veces por el agente no siempre es lo mismo. Esto ya lo sabía antes de ponerme a trabajar, los LLMs no son deterministas, y durante un ciclo de desarrollo de un informe llamo a un LLM al menos unas 50 veces.
Sin embargo, cada informe que realiza lo observo con atención y efectivamente el análisis que realiza siempre es el correcto. Los flujos y las simulaciones que corre el agente son deterministas, así que está bien en ese sentido.
El siguiente paso: encontrar puntos de conexión
Creo que tengo los estudios bien avanzados. Entonces, ya que tengo los estudios, ¿por qué no evolucionar al siguiente nivel y pedirle al proyecto que no solo verifique si el lugar ya seleccionado es bueno, sino que encuentre posibles lugares?
Para esto, tendría que hacer que el agente fuera a la subestación disponible y viera el plano de la subestación para identificar si hay paños o posibles puntos disponibles de conexión. También, habría que ir a acceso abierto y ver si hay algo que esté en construcción o planificándose de conectar en ese punto.
Esto mejoraría mucho el proyecto. No solo haría estudios eléctricos, sino que sabría dónde hacer el estudio eléctrico y por qué ir a hacerlo ahí, probar distintas cargas y ver si es posible que funcione en ese lugar.
Para esto, agregué una herramienta de búsqueda geoespacial. Ahora el agente puede buscar qué hay cerca de cualquier ubicación: subestaciones, líneas de transmisión, centrales PMGD. Acá un ejemplo de las subestaciones de 500 KV cerca de Santiago.
Subestaciones de 500kV cerca de Santiago - búsqueda geoespacial
Subestaciones de 220kV cerca de Santiago - búsqueda geoespacial