I token aggiuntivi derivanti dall’uso degli strumenti provengono da:

  • Il parametro tools nelle richieste API (nomi, descrizioni e schemi degli strumenti)
  • Blocchi di contenuto tool_use nelle richieste e risposte API
  • Blocchi di contenuto tool_result nelle richieste API

Quando si utilizzano tools, includiamo anche automaticamente un prompt di sistema speciale per il modello che abilita l’uso degli strumenti. Il numero di token richiesti per l’uso degli strumenti per ciascun modello è elencato di seguito (esclusi i token aggiuntivi elencati sopra):

ModelloConteggio token del prompt di sistema per l’uso degli strumenti
Claude 3 Opus395 token
Claude 3 Sonnet159 token
Claude 3 Haiku264 token

Questi conteggi di token vengono aggiunti ai normali token di input e output per calcolare il costo totale di una richiesta. Consulta la nostra tabella di riepilogo dei modelli per i prezzi attuali per modello.

Quando invii un prompt per l’uso di uno strumento, proprio come qualsiasi altra richiesta API, la risposta restituirà sia i conteggi dei token di input che di output come parte delle metriche di usage riportate.

Tieni presente che l’uso degli strumenti spesso richiede più round trip tra il tuo codice e Claude (per eseguire gli strumenti e restituire i risultati), quindi una singola query dell’utente finale potrebbe comportare diverse richieste API e i relativi costi in token. Progetta i tuoi strumenti e prompt in modo che siano il più concisi possibile, fornendo al contempo informazioni sufficienti affinché Claude possa utilizzare efficacemente gli strumenti.