Prezzi e token per l'uso degli strumenti
Le richieste di utilizzo degli strumenti hanno lo stesso prezzo di qualsiasi altra richiesta API di Claude, in base al numero totale di token di input inviati al modello (incluso nel parametro tools
) e al numero di token di output generati.
I token aggiuntivi derivanti dall’uso degli strumenti provengono da:
- Il parametro
tools
nelle richieste API (nomi, descrizioni e schemi degli strumenti) - Blocchi di contenuto
tool_use
nelle richieste e risposte API - Blocchi di contenuto
tool_result
nelle richieste API
Quando si utilizzano tools
, includiamo anche automaticamente un prompt di sistema speciale per il modello che abilita l’uso degli strumenti. Il numero di token richiesti per l’uso degli strumenti per ogni modello è elencato di seguito (esclusi i token aggiuntivi elencati sopra):
Modello | Scelta dello strumento | Conteggio token del prompt di sistema per l’uso degli strumenti |
---|---|---|
Claude 3 Opus | auto | 530 token |
Claude 3 Opus | any , tool | 281 token |
Claude 3 Sonnet | auto | 159 token |
Claude 3 Sonnet | any , tool | 235 token |
Claude 3 Haiku | auto | 264 token |
Claude 3 Haiku | any , tool | 340 token |
Claude 3 Opus (beta legacy: tools-2024-04-04 ) | auto | 395 token |
Questi conteggi di token vengono aggiunti ai normali token di input e output per calcolare il costo totale di una richiesta. Consulta la nostra tabella di riepilogo dei modelli per i prezzi attuali per modello.
Quando invii un prompt per l’uso di uno strumento, proprio come qualsiasi altra richiesta API, la risposta restituirà sia i conteggi dei token di input che di output come parte delle metriche di usage
riportate.
Tieni presente che l’uso degli strumenti spesso richiede più round trip tra il tuo codice e Claude (per eseguire gli strumenti e restituire i risultati), quindi una singola query dell’utente finale potrebbe comportare diverse richieste API e i relativi costi in token. Progetta i tuoi strumenti e prompt in modo che siano il più concisi possibile, fornendo al contempo informazioni sufficienti affinché Claude possa utilizzare efficacemente gli strumenti.