Preços e tokens de uso de ferramentas
As solicitações de uso de ferramentas são precificadas da mesma forma que qualquer outra solicitação da API do Claude, com base no número total de tokens de entrada enviados ao modelo (incluindo no parâmetro tools
) e no número de tokens de saída gerados.
Os tokens adicionais do uso de ferramentas vêm de:
- O parâmetro
tools
nas solicitações da API (nomes de ferramentas, descrições e esquemas) - Blocos de conteúdo
tool_use
nas solicitações e respostas da API - Blocos de conteúdo
tool_result
nas solicitações da API
Quando você usa tools
, também incluímos automaticamente um prompt de sistema especial para o modelo que habilita o uso de ferramentas. O número de tokens de uso de ferramentas necessários para cada modelo está listado abaixo (excluindo os tokens adicionais listados acima):
Modelo | Escolha da ferramenta | Contagem de tokens do prompt de sistema de uso de ferramentas |
---|---|---|
Claude 3 Opus | auto | 530 tokens |
Claude 3 Opus | any , tool | 281 tokens |
Claude 3 Sonnet | auto | 159 tokens |
Claude 3 Sonnet | any , tool | 235 tokens |
Claude 3 Haiku | auto | 264 tokens |
Claude 3 Haiku | any , tool | 340 tokens |
Claude 3 Opus (beta legado: tools-2024-04-04 ) | auto | 395 tokens |
Essas contagens de tokens são adicionadas aos seus tokens normais de entrada e saída para calcular o custo total de uma solicitação. Consulte nossa tabela de visão geral de modelos para obter os preços atuais por modelo.
Quando você envia um prompt de uso de ferramenta, assim como qualquer outra solicitação da API, a resposta irá gerar contagens de tokens de entrada e saída como parte das métricas de usage
relatadas.
Lembre-se de que o uso de ferramentas geralmente requer várias viagens de ida e volta entre seu código e o Claude (para executar ferramentas e retornar resultados), portanto, uma única consulta do usuário final pode resultar em várias solicitações da API e custos de tokens associados. Projete suas ferramentas e prompts para serem o mais concisos possível, fornecendo informações suficientes para que o Claude use as ferramentas de forma eficaz.