Uso de ferramentas com eficiência de tokens (beta)
O Claude Sonnet 3.7 é capaz de chamar ferramentas de maneira eficiente em termos de tokens. As solicitações economizam em média 14% em tokens de saída, chegando a até 70%, o que também reduz a latência. A redução exata de tokens e as melhorias de latência dependem da forma e do tamanho geral da resposta.
O uso de ferramentas com eficiência de tokens é um recurso beta. Certifique-se de avaliar suas respostas antes de usá-lo em produção.
Por favor, use este formulário para fornecer feedback sobre a qualidade das respostas do modelo, a API em si ou a qualidade da documentação—estamos ansiosos para ouvir você!
Se você optar por experimentar este recurso, recomendamos usar o Aprimorador de Prompts no Console para melhorar seu prompt.
O uso de ferramentas com eficiência de tokens atualmente não funciona com disable_parallel_tool_use
.
Os modelos Claude 4 (Opus e Sonnet) não suportam este recurso. O cabeçalho beta token-efficient-tools-2025-02-19
não quebrará uma solicitação de API, mas resultará em uma operação nula.
Para usar este recurso beta, basta adicionar o cabeçalho beta token-efficient-tools-2025-02-19
a uma solicitação de uso de ferramenta. Se você estiver usando o SDK, certifique-se de estar usando o SDK beta com anthropic.beta.messages
.
Aqui está um exemplo de como usar ferramentas com eficiência de tokens com a API:
A solicitação acima deve, em média, usar menos tokens de entrada e saída do que uma solicitação normal. Para confirmar isso, tente fazer a mesma solicitação, mas remova token-efficient-tools-2025-02-19
da lista de cabeçalhos beta.
Para manter os benefícios do cache de prompts, use o cabeçalho beta consistentemente para solicitações que você gostaria de armazenar em cache. Se você o usar seletivamente, o cache de prompts falhará.