與 Claude 共同開發
代幣計數(測試版)
代幣計數功能目前處於測試階段
要使用此功能,請在您的 API 請求中包含 anthropic-beta: token-counting-2024-11-01
標頭,或在您的 SDK 呼叫中使用 client.beta.messages.count_tokens
。
我們將在接下來的幾週內持續改進這個公開測試版,因此我們非常感謝您的回饋。請使用此表單分享您的想法和建議。
代幣計數功能可讓您在向 Claude 發送訊息之前確定訊息中的代幣數量,幫助您對提示和使用做出明智的決定。使用代幣計數,您可以:
- 主動管理使用限制和成本
- 做出明智的模型路由決策
- 將提示優化到特定長度
如何計算訊息代幣
代幣計數端點接受與創建訊息相同的結構化輸入列表,包括支援系統提示、工具、圖像和 PDF。回應包含輸入代幣的總數。
代幣計數應被視為估計值。在某些情況下,創建訊息時實際使用的輸入代幣數量可能會有少許差異。
支援的模型
代幣計數端點支援以下模型:
- Claude 3.5 Sonnet
- Claude 3.5 Haiku
- Claude 3 Haiku
- Claude 3 Opus
計算基本訊息中的代幣
JSON
計算帶有工具的訊息中的代幣
JSON
計算帶有圖像的訊息中的代幣
JSON
計算帶有 PDF 的訊息中的代幣
JSON
代幣計數 API 支援的 PDF 與訊息 API 具有相同的限制。
定價和使用限制
代幣計數是免費使用的,但根據您的使用層級受每分鐘請求次數限制。如果您需要更高的限制,請通過 Anthropic Console 聯繫銷售團隊。
使用層級 | 每分鐘請求次數 (RPM) |
---|---|
1 | 100 |
2 | 2,000 |
3 | 4,000 |
4 | 8,000 |
代幣計數和訊息創建有各自獨立的使用限制 — 使用其中一個不會計入另一個的限制。