TaluZone

Disponible — Freelance ou CDI · Sur site Bâle ou remote

Talu Bot

Mon framework agentique from scratch — orchestration LLM et montée en compétence IA

Framework agentique LLM écrit from scratch en C# : orchestration multi-agents, contexte cloisonné par sous-agent, évaluation automatisée par jury LLM.

Présentation

Le problème qui m'a le plus intéressé en construisant cet assistant, c'est la gestion de la fenêtre de contexte. Plus on envoie d'informations à un LLM, plus il perd en précision — surtout les petits modèles locaux que je voulais utiliser pour rester indépendant.

J'ai donc construit TaluBot autour d'une idée simple : plutôt que d'envoyer un prompt massif à un gros modèle, je découpe chaque tâche complexe en micro-tâches isolées, traitées par des petits LLM optimisés.

Architecture

L'architecture de TaluBot repose sur quatre piliers clés : le harness engineering (cadre d'exécution et de test des agents), le tool wiring (connexion dynamique des outils à chaque agent selon sa mission), l'agent workflow (orchestration des flux séquentiels et parallèles entre agents) et la mémoire persistante (WikiGraph local pour accumuler et structurer le savoir entre les sessions).

  • Zéro framework externe — J'ai volontairement écarté LangChain, AutoGen et Semantic Kernel. Je voulais implémenter moi-même les patterns ReAct et le Function Calling pour comprendre ce qui se passe réellement sous le capot.
  • Single Responsibility Principle — Je maintiens des classes ultra-légères (< 500 lignes). Chaque composant a une seule mission, ce qui facilite le debug et l'évolution.
  • Cœur minimaliste — Le moteur du bot est volontairement réduit au strict minimum. Toute l'intelligence métier est déportée dans un markup (balisage) lisible aussi bien par moi que par le LLM.
  • Multi-LLM — J'ai implémenté un système de hot-swap entre Gemini, Claude et LM Studio (local). Ça m'a permis d'expérimenter les forces et limites de chaque modèle selon les tâches.