代幣計數功能目前處於測試階段

要使用此功能,請在您的 API 請求中包含 anthropic-beta: token-counting-2024-11-01 標頭,或在您的 SDK 呼叫中使用 client.beta.messages.count_tokens

我們將在接下來的幾週內持續改進這個公開測試版,因此我們非常感謝您的回饋。請使用此表單分享您的想法和建議。

代幣計數功能可讓您在向 Claude 發送訊息之前確定訊息中的代幣數量,幫助您對提示和使用做出明智的決定。使用代幣計數,您可以:

  • 主動管理使用限制和成本
  • 做出明智的模型路由決策
  • 將提示優化到特定長度

如何計算訊息代幣

代幣計數端點接受與創建訊息相同的結構化輸入列表,包括支援系統提示、工具圖像PDF。回應包含輸入代幣的總數。

代幣計數應被視為估計值。在某些情況下,創建訊息時實際使用的輸入代幣數量可能會有少許差異。

支援的模型

代幣計數端點支援以下模型:

  • Claude 3.5 Sonnet
  • Claude 3.5 Haiku
  • Claude 3 Haiku
  • Claude 3 Opus

計算基本訊息中的代幣

JSON
{ "input_tokens": 14 }

計算帶有工具的訊息中的代幣

JSON
{ "input_tokens": 403 }

計算帶有圖像的訊息中的代幣

JSON
{ "input_tokens": 1551 }

計算帶有 PDF 的訊息中的代幣

JSON
{ "input_tokens": 2188 }

代幣計數 API 支援的 PDF 與訊息 API 具有相同的限制


定價和使用限制

代幣計數是免費使用的,但根據您的使用層級受每分鐘請求次數限制。如果您需要更高的限制,請通過 Anthropic Console 聯繫銷售團隊。

使用層級每分鐘請求次數 (RPM)
1100
22,000
34,000
48,000

代幣計數和訊息創建有各自獨立的使用限制 — 使用其中一個不會計入另一個的限制。