Langchain

Langgraph ha contribuito a creare Super fornendo un framework standardizzato che ha reso le complesse interazioni LLM/sorgente più gestibili attraverso una struttura grafica dichiarativa. Ha consentito una migliore parallelizzazione che ha migliorato significativamente la velocità di risposta, fornendo allo stesso tempo funzionalità complete di debug di stato/sequenza del grafico che hanno semplificato la risoluzione dei problemi. La migrazione a Langgraph ha sbloccato nuove funzionalità come le pause human-in-the-loop per chiarimenti e migliori meccanismi di fallback quando i modelli falliscono. Inoltre, l'API funzionale di Langgraph ha consentito agli sviluppatori di scrivere codice sequenziale più naturale per sottografi complessi pur mantenendo i vantaggi del framework grafico.

L'architettura basata su grafici di LangGraph con nodi e bordi è stata la chiave su come coordiniamo flussi di lavoro di intelligenza artificiale complessi. Stiamo orchestrando conversazioni multi-agente in cui ciascun nodo gestisce attività specifiche (analisi, processo decisionale, esecuzione di azioni) e i bordi gestiscono il flusso tra di loro. La memoria ci consente di creare operazioni che mantengono il contesto nelle conversazioni, mentre i nodi di esecuzione parallela gestiscono più operazioni di intelligenza artificiale contemporaneamente. Gli output formattati Pydantic garantiscono un flusso di dati indipendente dai nodi tra i nodi e il sistema di checkpoint con persistenza PostgreSQL ci consente di mantenere lo stato attraverso queste esecuzioni del grafico, in modo che le conversazioni possano riprendere senza problemi anche dopo il riavvio del server.

Abbiamo utilizzato il framework langchain sia per i suoi metodi indipendenti dalla libreria per varie piattaforme AI, sia per vari aiutanti come parser di documenti, utilità di suddivisione in blocchi, ecc. Inoltre ha un ottimo supporto per lo sviluppo degli agenti con langgraph. In alternativa avremmo potuto utilizzare direttamente le API OpenAI, tuttavia, a causa della loro natura in rapida evoluzione e anche perché non prevediamo di dipendere da esse a lungo termine, era meglio utilizzare langchain.