도구 사용으로 인한 추가 토큰은 다음에서 발생합니다:

  • API 요청의 tools 매개변수(도구 이름, 설명 및 스키마)
  • API 요청 및 응답의 tool_use 콘텐츠 블록
  • API 요청의 tool_result 콘텐츠 블록

tools를 사용할 때, 우리는 또한 도구 사용을 가능하게 하는 특별한 시스템 프롬프트를 모델에 자동으로 포함합니다. 각 모델에 필요한 도구 사용 토큰 수는 아래에 나열되어 있습니다(위에 나열된 추가 토큰 제외):

ModelTool choiceTool use system prompt token count
Claude 3 Opusauto530 tokens
Claude 3 Opusany, tool281 tokens
Claude 3 Sonnetauto159 tokens
Claude 3 Sonnetany, tool235 tokens
Claude 3 Haikuauto264 tokens
Claude 3 Haikuany, tool340 tokens
Claude 3 Opus (legacy beta: tools-2024-04-04)auto395 tokens

이러한 토큰 수는 요청의 총 비용을 계산하기 위해 일반 입력 및 출력 토큰에 추가됩니다. 현재 모델별 가격은 모델 개요 표를 참조하세요.

도구 사용 프롬프트를 보낼 때, 다른 API 요청과 마찬가지로, 응답은 보고된 usage 메트릭의 일부로 입력 및 출력 토큰 수를 모두 출력합니다.

도구 사용은 종종 코드와 Claude 사이에 여러 번의 왕복을 필요로 한다는 점을 명심하세요(도구를 실행하고 결과를 반환하기 위해). 따라서 단일 최종 사용자 쿼리로 인해 여러 API 요청과 관련 토큰 비용이 발생할 수 있습니다. Claude가 도구를 효과적으로 사용하는 데 충분한 정보를 제공하면서도 도구와 프롬프트를 최대한 간결하게 설계하세요.