Os tokens adicionais do uso de ferramentas vêm de:

  • O parâmetro tools nas solicitações da API (nomes de ferramentas, descrições e esquemas)
  • Blocos de conteúdo tool_use nas solicitações e respostas da API
  • Blocos de conteúdo tool_result nas solicitações da API

Quando você usa tools, também incluímos automaticamente um prompt de sistema especial para o modelo que habilita o uso de ferramentas. O número de tokens de uso de ferramentas necessários para cada modelo está listado abaixo (excluindo os tokens adicionais listados acima):

ModeloEscolha da ferramentaContagem de tokens do prompt de sistema de uso de ferramentas
Claude 3 Opusauto530 tokens
Claude 3 Opusany, tool281 tokens
Claude 3 Sonnetauto159 tokens
Claude 3 Sonnetany, tool235 tokens
Claude 3 Haikuauto264 tokens
Claude 3 Haikuany, tool340 tokens
Claude 3 Opus (beta legado: tools-2024-04-04)auto395 tokens

Essas contagens de tokens são adicionadas aos seus tokens normais de entrada e saída para calcular o custo total de uma solicitação. Consulte nossa tabela de visão geral de modelos para obter os preços atuais por modelo.

Quando você envia um prompt de uso de ferramenta, assim como qualquer outra solicitação da API, a resposta irá gerar contagens de tokens de entrada e saída como parte das métricas de usage relatadas.

Lembre-se de que o uso de ferramentas geralmente requer várias viagens de ida e volta entre seu código e o Claude (para executar ferramentas e retornar resultados), portanto, uma única consulta do usuário final pode resultar em várias solicitações da API e custos de tokens associados. Projete suas ferramentas e prompts para serem o mais concisos possível, fornecendo informações suficientes para que o Claude use as ferramentas de forma eficaz.