Sprachagent

Prompt-Token

Verstehe und verwalte die Prompt-Token deines Assistenten

Jeder Assistent sendet dem Modell bei jedem Anruf einen festen Prompt: deine Anweisungen, die aktiven Tools, den Kontext des Unternehmens und die FAQ. Dieser Prompt wird in Token gemessen und hat ein Limit. Ihn unter Kontrolle zu halten, sorgt dafür, dass der Assistent schnell, kostengünstig und zuverlässig bleibt.

Was Token sind

Token sind die Einheiten, mit denen das Modell Text liest: Ein gängiges Wort entspricht etwa einem Token, während lange oder seltene Wörter mehr davon belegen. Die Anzeige oben zeigt die statischen Prompt-Token (die immer vorhanden sind) im Verhältnis zum Limit des Agenten.

Das Limit und die Zustände

Die Anzeige ändert ihre Farbe je nachdem, wie nah du am Limit bist:

Gesund (grün): Du bist deutlich innerhalb des Limits: Der Assistent hat ausreichend Spielraum, um zu denken und zu antworten.
Achtung (gelb): Du näherst dich dem Limit. Beginne damit, die längsten Teile zu straffen, bevor du etwas hinzufügst.
Über dem Limit (rot): Du hast das Limit überschritten: Der Assistent kann nicht aktiviert werden, bis du den Prompt reduzierst.

Was Token verbraucht

Die Übersicht in der Anzeige teilt die Token nach Herkunft auf, damit du weißt, wo du ansetzen kannst:

Benutzerdefinierte Anweisungen: Die Anweisungen, die du für den Assistenten schreibst. Normalerweise der schwerste Posten: Hier solltest du zuerst kürzen.
Tool-Schemas: Die Beschreibung jedes aktiven Tools (vordefiniert, extern oder MCP). Je mehr aktive Tools, desto mehr Token.
Kontext des Unternehmens: Die Daten deines Unternehmens (Name, Öffnungszeiten, Adresse), die automatisch in den Prompt aufgenommen werden.
FAQ: Die Fragen und Antworten aus deiner Wissensdatenbank, die in den Prompt aufgenommen werden.

So reduzierst du die Token

Kürze die Anweisungen: kurze Sätze, nur die wirklich nötigen Fälle, keine Wiederholungen.
Deaktiviere die Tools, die du nicht nutzt: Jedes aktive Tool fügt sein Schema dem Prompt hinzu.
Verschiebe Detailinformationen in die FAQ, anstatt sie alle in die Anweisungen zu packen.
Überprüfe regelmäßig: Mit jeder neuen Funktion, die du hinzufügst, wächst der Prompt, ohne dass du es bemerkst.

War diese Seite hilfreich?

Sprachagent

Prompt-Token

Verstehe und verwalte die Prompt-Token deines Assistenten

Was Token sind

Das Limit und die Zustände

Die Anzeige ändert ihre Farbe je nachdem, wie nah du am Limit bist:

Gesund (grün): Du bist deutlich innerhalb des Limits: Der Assistent hat ausreichend Spielraum, um zu denken und zu antworten.
Achtung (gelb): Du näherst dich dem Limit. Beginne damit, die längsten Teile zu straffen, bevor du etwas hinzufügst.
Über dem Limit (rot): Du hast das Limit überschritten: Der Assistent kann nicht aktiviert werden, bis du den Prompt reduzierst.

Was Token verbraucht

Die Übersicht in der Anzeige teilt die Token nach Herkunft auf, damit du weißt, wo du ansetzen kannst:

Benutzerdefinierte Anweisungen: Die Anweisungen, die du für den Assistenten schreibst. Normalerweise der schwerste Posten: Hier solltest du zuerst kürzen.
Tool-Schemas: Die Beschreibung jedes aktiven Tools (vordefiniert, extern oder MCP). Je mehr aktive Tools, desto mehr Token.
Kontext des Unternehmens: Die Daten deines Unternehmens (Name, Öffnungszeiten, Adresse), die automatisch in den Prompt aufgenommen werden.
FAQ: Die Fragen und Antworten aus deiner Wissensdatenbank, die in den Prompt aufgenommen werden.

So reduzierst du die Token

Kürze die Anweisungen: kurze Sätze, nur die wirklich nötigen Fälle, keine Wiederholungen.
Deaktiviere die Tools, die du nicht nutzt: Jedes aktive Tool fügt sein Schema dem Prompt hinzu.
Verschiebe Detailinformationen in die FAQ, anstatt sie alle in die Anweisungen zu packen.
Überprüfe regelmäßig: Mit jeder neuen Funktion, die du hinzufügst, wächst der Prompt, ohne dass du es bemerkst.

War diese Seite hilfreich?