La mesure vient en premier, parce que les moyennes au niveau de la session masquent les vrais problèmes. Un workflow peut sembler acceptable dans l’ensemble alors qu’une seule étape consomme discrètement l’essentiel du budget. Suivez les tokens d’entrée, les tokens de sortie, les lectures et écritures de cache, et le nombre total de tours par exécution.
I need to compare the FR translation against the EN original. **Critical issue found:** The first paragraph in the FR (`_hash="DyAwP4"`) does NOT match the first EN paragraph. The EN part 2/3 begins with `_hash="y7YWIs"` ("Write memory selectively..."). The FR starts with a completely different paragraph (`_hash="DyAwP4"` about "Récupérez moins, mais récupérez mieux") which belongs to a prior part. However, the task is to verify the paragraphs that correspond to the EN provided. The EN provided starts at `_hash="y7YWIs"`. Let me check that the FR contains matching content for all EN hashes. EN hashes: y7YWIs, Ht7VSA, fNbzvF, 3dzY2o, EYTFn4, 29k6go, 7vZ99i, 8uFTtc, PVxYgh, rL37Wf, 7nf7PH, e4MUNb, YSLJEp, cy0tpo, et6esa, S1x8TT, u5yk6J, EM3KMS, Ap45Vz, 8m4I8S, vCfbX8, 5oAPGV, VQMora, KDkVpT. The FR only goes up to `_hash="7nf7PH"` and is missing: e4MUNb, YSLJEp, cy0tpo, et6esa, S1x8TT, u5yk6J, EM3KMS, Ap45Vz, 8m4I8S, vCfbX8, 5oAPGV, VQMora, KDkVpT. The FR is a partial translation (it includes extra DyAwP4 content from before, but ends early). Since the FR provided is what exists in the CMS, and it covers through 7nf7PH correctly matching EN, let me focus on whether the overlapping translations are correct. Checking the overlapping content (y7YWIs through 7nf7PH), the translations match well. Minor glossary notes: - "knowledge graph" — kept untranslated; EN also uses "knowledge graph" as plain text, acceptable. - "agent builder" — EN uses lowercase "agent builder" as link text; glossary maps "Agent Builder" to "Créateur d'agents". The link text should be translated. - "enterprise" in "100 intégrations enterprise" — should be "d'entreprise". Let me correct these two items in the overlapping content:Sortez entièrement le travail déterministe de la boucle du modèle. La récupération de métadonnées, la lecture de fichiers, la validation de champs, la conversion de formats et les contrôles d’autorisation sont des problèmes de code, pas de raisonnement. Chaque fois que le modèle effectue un travail qu’un appel de fonction pourrait gérer, vous payez des coûts en tokens de niveau « raisonnement » pour des opérations de commodité. Gardez des sorties d’outils structurées et compactes — ne renvoyez que les champs dont l’étape suivante a besoin, dans un format cohérent. Standardisez les formats d’observation entre les outils afin que le modèle n’ait pas à analyser des structures différentes à chaque étape. Le créateur d'agents de Glean prend en charge cette approche : lorsque vous créez un agent, vous configurez les connecteurs et les actions qu’il utilise, de sorte que l’agent opère avec un ensemble d’outils ciblé, adapté à sa tâche, plutôt qu’avec le catalogue complet de plus de 100 intégrations d’entreprise.
Acheminez selon le type de tâche. Des modèles plus petits et plus rapides gèrent bien la classification, le routage, la synthèse et l’extraction structurée. Réservez votre modèle le plus performant aux étapes qui nécessitent synthèse, jugement, génération nuancée ou raisonnement multi-sources. Un workflow qui route un ticket de support peut utiliser un modèle léger pour classifier la catégorie du problème, un modèle intermédiaire pour récupérer et résumer la documentation pertinente, et un modèle de raisonnement performant pour rédiger la réponse au client. Chaque étape reçoit le modèle dont elle a besoin, et rien de plus. La tendance générale va dans ce sens : des recherches d’Epoch AI montrent que les prix d’inférence des LLM ont baissé de 9x à 900x par an selon la tâche, rendant les petits modèles nettement moins chers tout en atteignant encore les benchmarks de performance que les modèles de pointe fixaient il y a seulement un an ou deux.
Contraignez la forme des sorties à chaque étape. Lorsqu’une étape n’a besoin que d’un objet JSON avec trois champs, demandez exactement cette structure. Fixez des plafonds de tokens par étape afin qu’aucune étape ne puisse s’étendre silencieusement. Séparez les sorties intermédiaires des sorties destinées à l’utilisateur — les traces de raisonnement internes et les observations d’outils n’ont pas besoin du niveau de finition ni de la longueur d’une réponse finale. Le Model Hub de Glean donne aux équipes accès à une gamme de modèles et la capacité d’acheminer différentes tâches vers différents modèles au sein d’une même plateforme. La combinaison d’une sélection de modèle adaptée à la tâche et de contraintes strictes de sortie signifie que vous ne payez le raisonnement que là où il apporte de la valeur, et que vous évaluez la qualité en parallèle du coût plutôt que de les traiter comme des forces opposées.
Comment optimiser l’efficacité des tokens dans des workflows en plusieurs étapes : questions fréquentes
Quels facteurs influencent l’efficacité des tokens dans des workflows en plusieurs étapes ?
Les principaux facteurs sont l’accumulation du contexte au fil des étapes, le nombre et la taille des définitions d’outils chargées à chaque tour, la stratégie de relecture de la mémoire, le comportement de retry et de boucle, et la sélection du modèle par étape. Les workflows qui traitent ces cinq axes constatent généralement des réductions significatives des coûts de tokens par exécution par rapport à des versions non optimisées.
Comment optimiser l’utilisation des tokens lors de l’utilisation d’outils dans des systèmes agentiques ?
N’enregistrez que les outils dont chaque étape a réellement besoin, chargez les définitions d’outils à la demande plutôt qu’en amont, et gardez les sorties d’outils compactes en ne renvoyant que les champs requis pour l’étape suivante. Déplacer des opérations déterministes comme la validation et la recherche de métadonnées dans du code plutôt que dans la boucle du modèle élimine les coûts de tokens de niveau “raisonnement” pour des tâches standard.
Quelles sont les meilleures pratiques pour gérer la mémoire dans des workflows IA en plusieurs étapes ?
Séparez la mémoire en couches : épisodique à court terme, sémantique à long terme et procédurale. Faites avancer des résumés d’état plutôt que des transcriptions brutes, écrivez de manière sélective avec des tags de source et de récence, et validez les faits avant de les stocker. Une mauvaise mémoire se propage dans les prompts futurs et amplifie les coûts à chaque exécution suivante.
Comment la complexité d’un workflow affecte-t-elle les coûts de tokens ?
Chaque étape supplémentaire d’un workflow multiplie le contexte, car les observations, les sorties d’outils et le raisonnement intermédiaire sont reportés. Un workflow en cinq étapes ne coûte pas cinq fois un appel unique — il coûte souvent sensiblement plus à cause de la duplication de contexte aux points de transfert. Délimiter le contexte par étape et résumer entre les étapes maintient le multiplicateur plus proche du linéaire. Des approches comme l’agentic RAG aident en adaptant dynamiquement la profondeur de récupération aux besoins réels de chaque étape plutôt qu’en récupérant un ensemble fixe de documents quelle que soit la requête.
Quelles stratégies améliorent l’efficacité des tokens dans des agents IA sans nuire à la qualité ?
La mesure par étape identifie où se situe réellement le gaspillage. Un contexte délimité et le chargement d’outils à la demande réduisent les tokens d’entrée. Une mémoire en couches évite la relecture de l’historique. Des limites de boucle et des budgets de retry stoppent les dépenses incontrôlées. Le routage de modèles fait correspondre les capacités à la complexité des tâches. Appliquées ensemble, ces stratégies réduisent les coûts tout en améliorant la qualité des résultats, car un contexte focalisé produit un raisonnement plus précis.
L’efficacité des tokens dans des workflows en plusieurs étapes revient à traiter chaque étape comme une décision de conception — quel contexte entre, quel modèle s’exécute et quand le système s’arrête. Les équipes qui réussissent cela dépensent moins par exécution tout en produisant des résultats plus fiables et mieux étayés. Demandez une démo pour découvrir comment Glean et l’IA peuvent transformer votre environnement de travail.
.jpg)
.png){kind=small}
