Agent vocal
Tokens du prompt
Comprenez et gérez les tokens du prompt de votre assistant
Chaque assistant envoie au modèle un prompt fixe à chaque appel : vos instructions, les outils actifs, le contexte de l'activité et les FAQ. Ce prompt se mesure en tokens et possède une limite. Le garder sous contrôle permet à l'assistant de rester rapide, économique et fiable.
Que sont les tokens
Les tokens sont les unités avec lesquelles le modèle lit le texte : un mot courant vaut environ un token, tandis que les mots longs ou rares en occupent davantage. L'indicateur en haut montre les tokens statiques du prompt (ceux qui sont toujours présents) par rapport à la limite de l'agent.
La limite et les états
L'indicateur change de couleur en fonction de votre proximité avec la limite :
- Sain (vert)
- Vous êtes bien en dessous de la limite : l'assistant dispose de suffisamment d'espace pour raisonner et répondre.
- Attention (jaune)
- Vous vous approchez de la limite. Commencez à alléger les parties les plus longues avant d'en ajouter d'autres.
- Au-delà de la limite (rouge)
- Vous avez dépassé la limite : l'assistant ne peut pas être activé tant que vous ne réduisez pas le prompt.
Ce qui consomme des tokens
Le récapitulatif dans l'indicateur répartit les tokens par origine, pour que vous sachiez où intervenir :
- Instructions personnalisées
- Les instructions que vous rédigez pour l'assistant. Généralement le poste le plus lourd : c'est ici qu'il convient de couper en premier.
- Schémas des outils
- La description de chaque outil actif (prédéfini, externe ou MCP). Plus il y a d'outils actifs, plus il y a de tokens.
- Contexte de l'activité
- Les données de votre activité (nom, horaires, adresse) incluses automatiquement dans le prompt.
- FAQ
- Les questions et réponses de votre base de connaissances qui sont incluses dans le prompt.
Comment réduire les tokens
- Raccourcissez les instructions : des phrases courtes, uniquement les cas réellement nécessaires, sans répétitions.
- Désactivez les outils que vous n'utilisez pas : chaque outil actif ajoute son schéma au prompt.
- Déplacez les informations de détail dans les FAQ au lieu de tout mettre dans les instructions.
- Révisez périodiquement : à mesure que vous ajoutez des fonctionnalités, le prompt grossit sans que vous vous en rendiez compte.
Cette page vous a-t-elle été utile ?