Agente vocale
Token del prompt
Capisci e gestisci i token del prompt del tuo assistente
Ogni assistente invia al modello un prompt fisso a ogni chiamata: le tue istruzioni, gli strumenti attivi, il contesto dell'attività e le FAQ. Questo prompt si misura in token e ha un limite. Tenerlo sotto controllo mantiene l'assistente veloce, economico e affidabile.
Cosa sono i token
I token sono le unità con cui il modello legge il testo: una parola comune vale circa un token, mentre le parole lunghe o rare ne occupano di più. L'indicatore in alto mostra i token statici del prompt (quelli sempre presenti) rispetto al limite dell'agente.
Il limite e gli stati
L'indicatore cambia colore in base a quanto sei vicino al limite:
- Sano (verde)
- Sei ben dentro il limite: l'assistente ha spazio sufficiente per ragionare e rispondere.
- Attenzione (giallo)
- Ti stai avvicinando al limite. Inizia a snellire le parti più lunghe prima di aggiungere altro.
- Oltre il limite (rosso)
- Hai superato il limite: l'assistente non può essere attivato finché non riduci il prompt.
Cosa consuma token
Il riepilogo nell'indicatore divide i token per origine, così sai dove intervenire:
- Istruzioni personalizzate
- Le istruzioni che scrivi per l'assistente. Di solito la voce più pesante: è qui che conviene tagliare per primo.
- Schemi degli strumenti
- La descrizione di ogni strumento attivo (predefinito, esterno o MCP). Più strumenti attivi, più token.
- Contesto dell'attività
- I dati della tua attività (nome, orari, indirizzo) inclusi automaticamente nel prompt.
- FAQ
- Le domande e risposte della tua knowledge base che vengono incluse nel prompt.
Come ridurre i token
- Accorcia le istruzioni: frasi brevi, solo i casi che servono davvero, niente ripetizioni.
- Disattiva gli strumenti che non usi: ogni strumento attivo aggiunge il suo schema al prompt.
- Sposta le informazioni di dettaglio nelle FAQ invece di metterle tutte nelle istruzioni.
- Rivedi periodicamente: man mano che aggiungi funzioni, il prompt cresce senza che te ne accorga.
Questa pagina ti è stata utile?