Langchain

Langgraph a aidé à créer Super en fournissant un cadre standardisé qui a rendu les interactions complexes LLM/source plus gérables grâce à une structure de graphe déclaratif. Il a permis une meilleure parallélisation, ce qui a considérablement amélioré la vitesse de réponse, tout en fournissant également des capacités de débogage complet de l'état/de la séquence du graphique qui ont facilité le dépannage. La migration vers Langgraph a débloqué de nouvelles fonctionnalités telles que les pauses humaines pour clarification et de meilleurs mécanismes de secours en cas d'échec des modèles. De plus, l'API fonctionnelle de Langgraph a permis aux développeurs d'écrire du code séquentiel plus naturel pour des sous-graphes complexes tout en conservant les avantages du framework graphique.

L'architecture graphique de LangGraph avec nœuds et arêtes était la clé de la façon dont nous coordonnons les flux de travail d'IA complexes. Nous orchestrons des conversations multi-agents dans lesquelles chaque nœud gère des tâches spécifiques (analyse, prise de décision, exécution d'actions) et les bords gèrent le flux entre eux. La mémoire nous permet de créer des opérations qui maintiennent le contexte dans les conversations, tandis que les nœuds d'exécution parallèles gèrent simultanément plusieurs opérations d'IA. Les sorties au format Pydantic garantissent un flux de données de type sécurisé entre les nœuds, et le système de points de contrôle avec persistance PostgreSQL nous permet de maintenir l'état tout au long de ces exécutions de graphiques, afin que les conversations puissent reprendre de manière transparente même après le redémarrage du serveur.

Nous avons utilisé le framework langchain à la fois pour ses méthodes indépendantes de la bibliothèque pour diverses plates-formes d'IA, ainsi que pour diverses aides telles que des analyseurs de documents, des utilitaires de segmentation, etc. De plus, il dispose d’un excellent support de développement agent avec Langgraph. Comme alternative, nous aurions pu utiliser directement les API OpenAI, mais en raison de leur nature évolutive rapide et aussi parce que nous ne prévoyons pas d'en dépendre à long terme, il était préférable d'opter pour langchain.