Présentation
J’ai mis en œuvre une orchestration basée sur LangGraph pour des flux de travail multi-étapes comprenant la récupération, les calculs de thèmes astrologiques et la génération de réponses contextuelles. J’ai développé une mémoire basée sur les sessions pour des conversations personnalisées à plusieurs tours.
J’ai développé le backend avec Python, FastAPI et des API asynchrones, puis je l’ai intégré au frontend pour permettre des interactions en temps réel. J’ai optimisé la latence, la consommation de tokens et la qualité des réponses grâce à la mise en cache, à l’optimisation des prompts et au routage sélectif des modèles.
J’ai mis en place des pipelines d’évaluation afin d’améliorer l’ancrage des réponses et de réduire les hallucinations. J’ai géré le déploiement avec Docker tout en garantissant la fiabilité, l’évolutivité et la surveillance des performances du système.

