Langchain

Langgraph ayudó a construir Super proporcionando un marco estandarizado que hizo que las complejas interacciones LLM/fuente fueran más manejables a través de una estructura gráfica declarativa. Permitió una mejor paralelización, lo que mejoró significativamente la velocidad de respuesta, al mismo tiempo que proporcionó capacidades completas de depuración de estado/secuencia de gráficos que facilitaron la resolución de problemas. La migración a Langgraph desbloqueó nuevas capacidades, como pausas de intervención humana para obtener aclaraciones y mejores mecanismos de respaldo cuando los modelos fallan. Además, la API funcional de Langgraph permitió a los desarrolladores escribir código secuencial más natural para subgrafos complejos y al mismo tiempo mantener los beneficios del marco gráfico.

La arquitectura basada en gráficos de LangGraph con nodos y bordes fue la clave para coordinar flujos de trabajo complejos de IA. Estamos orquestando conversaciones entre múltiples agentes donde cada nodo maneja tareas específicas (análisis, toma de decisiones, ejecución de acciones) y los bordes administran el flujo entre ellos. La memoria nos permite crear operaciones que mantienen el contexto en las conversaciones, mientras que los nodos de ejecución paralela manejan múltiples operaciones de IA simultáneamente. Las salidas formateadas por Pydantic garantizan un flujo de datos con seguridad de tipos entre nodos, y el sistema de puntos de control con persistencia de PostgreSQL nos permite mantener el estado en estas ejecuciones de gráficos, de modo que las conversaciones puedan reanudarse sin problemas incluso después de que se reinicie el servidor.

Usamos el marco langchain tanto para sus métodos independientes de la biblioteca para varias plataformas de IA, como para varios ayudantes como analizadores de documentos, utilidades de fragmentación, etc. Además, cuenta con un gran soporte de desarrollo agente con langgraph. Como alternativa, podríamos haber utilizado las API de OpenAI directamente; sin embargo, debido a su naturaleza rápidamente cambiante y también porque no planeamos depender de ellas a largo plazo, era mejor optar por langchain.