Preise und Token für die Verwendung von Tools
Anfragen zur Verwendung von Tools werden wie jede andere Claude-API-Anfrage basierend auf der Gesamtzahl der an das Modell gesendeten Eingabe-Token (einschließlich im tools
-Parameter) und der Anzahl der generierten Ausgabe-Token berechnet.
Die zusätzlichen Token durch die Verwendung von Tools stammen aus:
- Dem
tools
-Parameter in API-Anfragen (Tool-Namen, Beschreibungen und Schemas) tool_use
-Inhaltsblöcken in API-Anfragen und -Antwortentool_result
-Inhaltsblöcken in API-Anfragen
Wenn Sie tools
verwenden, fügen wir automatisch einen speziellen System-Prompt für das Modell hinzu, der die Verwendung von Tools ermöglicht. Die Anzahl der für jedes Modell erforderlichen Tool-Verwendungs-Token ist unten aufgeführt (ohne die oben aufgeführten zusätzlichen Token):
Modell | Tool-Auswahl | Anzahl der System-Prompt-Token für die Tool-Verwendung |
---|---|---|
Claude 3 Opus | auto | 530 Token |
Claude 3 Opus | any , tool | 281 Token |
Claude 3 Sonnet | auto | 159 Token |
Claude 3 Sonnet | any , tool | 235 Token |
Claude 3 Haiku | auto | 264 Token |
Claude 3 Haiku | any , tool | 340 Token |
Claude 3 Opus (Legacy-Beta: tools-2024-04-04 ) | auto | 395 Token |
Diese Token-Anzahlen werden zu Ihren normalen Eingabe- und Ausgabe-Token addiert, um die Gesamtkosten einer Anfrage zu berechnen. In unserer Modellübersichtstabelle finden Sie die aktuellen Preise pro Modell.
Wenn Sie einen Tool-Verwendungs-Prompt senden, gibt die Antwort, wie bei jeder anderen API-Anfrage, sowohl die Anzahl der Eingabe- als auch der Ausgabe-Token als Teil der gemeldeten usage
-Metriken aus.
Beachten Sie, dass die Verwendung von Tools oft mehrere Roundtrips zwischen Ihrem Code und Claude erfordert (um Tools auszuführen und Ergebnisse zurückzugeben), sodass eine einzelne Endbenutzerabfrage zu mehreren API-Anfragen und den damit verbundenen Token-Kosten führen kann. Gestalten Sie Ihre Tools und Prompts so präzise wie möglich, während Sie dennoch genügend Informationen bereitstellen, damit Claude die Tools effektiv nutzen kann.