도구 사용 가격 책정 및 토큰
도구 사용 요청은 모델에 전송된 총 입력 토큰 수(tools
매개변수 포함)와 생성된 출력 토큰 수를 기준으로 다른 Claude API 요청과 동일하게 가격이 책정됩니다.
도구 사용으로 인한 추가 토큰은 다음에서 발생합니다:
- API 요청의
tools
매개변수(도구 이름, 설명 및 스키마) - API 요청 및 응답의
tool_use
콘텐츠 블록 - API 요청의
tool_result
콘텐츠 블록
tools
를 사용할 때, 우리는 또한 도구 사용을 가능하게 하는 특별한 시스템 프롬프트를 모델에 자동으로 포함합니다. 각 모델에 필요한 도구 사용 토큰 수는 아래에 나열되어 있습니다(위에 나열된 추가 토큰 제외):
Model | Tool choice | Tool use system prompt token count |
---|---|---|
Claude 3 Opus | auto | 530 tokens |
Claude 3 Opus | any , tool | 281 tokens |
Claude 3 Sonnet | auto | 159 tokens |
Claude 3 Sonnet | any , tool | 235 tokens |
Claude 3 Haiku | auto | 264 tokens |
Claude 3 Haiku | any , tool | 340 tokens |
Claude 3 Opus (legacy beta: tools-2024-04-04 ) | auto | 395 tokens |
이러한 토큰 수는 요청의 총 비용을 계산하기 위해 일반 입력 및 출력 토큰에 추가됩니다. 현재 모델별 가격은 모델 개요 표를 참조하세요.
도구 사용 프롬프트를 보낼 때, 다른 API 요청과 마찬가지로, 응답은 보고된 usage
메트릭의 일부로 입력 및 출력 토큰 수를 모두 출력합니다.
도구 사용은 종종 코드와 Claude 사이에 여러 번의 왕복을 필요로 한다는 점을 명심하세요(도구를 실행하고 결과를 반환하기 위해). 따라서 단일 최종 사용자 쿼리로 인해 여러 API 요청과 관련 토큰 비용이 발생할 수 있습니다. Claude가 도구를 효과적으로 사용하는 데 충분한 정보를 제공하면서도 도구와 프롬프트를 최대한 간결하게 설계하세요.