프롬프트 캐싱

프롬프트 캐싱은 프롬프트의 특정 접두사에서 재개할 수 있게 함으로써 API 사용을 최적화하는 강력한 기능입니다. 이 접근 방식은 반복적인 작업이나 일관된 요소가 있는 프롬프트에 대한 처리 시간과 비용을 크게 줄입니다.

다음은 cache_control 블록을 사용하여 Messages API로 프롬프트 캐싱을 구현하는 예시입니다:

curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-4-20250514",
    "max_tokens": 1024,
    "system": [
      {
        "type": "text",
        "text": "You are an AI assistant tasked with analyzing literary works. Your goal is to provide insightful commentary on themes, characters, and writing style.\n"
      },
      {
        "type": "text",
        "text": "<the entire contents of Pride and Prejudice>",
        "cache_control": {"type": "ephemeral"}
      }
    ],
    "messages": [
      {
        "role": "user",
        "content": "Analyze the major themes in Pride and Prejudice."
      }
    ]
  }'

# Call the model again with the same inputs up to the cache checkpoint
curl https://api.anthropic.com/v1/messages # rest of input

JSON
{"cache_creation_input_tokens":188086,"cache_read_input_tokens":0,"input_tokens":21,"output_tokens":393}
{"cache_creation_input_tokens":0,"cache_read_input_tokens":188086,"input_tokens":21,"output_tokens":393}

이 예시에서는 “Pride and Prejudice”의 전체 텍스트가 cache_control 매개변수를 사용하여 캐시됩니다. 이를 통해 여러 API 호출에서 이 대용량 텍스트를 매번 다시 처리하지 않고도 재사용할 수 있습니다. 사용자 메시지만 변경하면 캐시된 콘텐츠를 활용하면서 책에 대한 다양한 질문을 할 수 있어 더 빠른 응답과 향상된 효율성을 얻을 수 있습니다.

프롬프트 캐싱 작동 방식

프롬프트 캐싱이 활성화된 요청을 보낼 때:

시스템은 지정된 캐시 중단점까지의 프롬프트 접두사가 최근 쿼리에서 이미 캐시되었는지 확인합니다.
발견되면 캐시된 버전을 사용하여 처리 시간과 비용을 줄입니다.
그렇지 않으면 전체 프롬프트를 처리하고 응답이 시작되면 접두사를 캐시합니다.

이는 다음과 같은 경우에 특히 유용합니다:

많은 예시가 포함된 프롬프트
많은 양의 컨텍스트나 배경 정보
일관된 지침이 있는 반복적인 작업
긴 다중 턴 대화

기본적으로 캐시는 5분 동안 유지됩니다. 캐시된 콘텐츠가 사용될 때마다 추가 비용 없이 캐시가 갱신됩니다.

프롬프트 캐싱은 전체 접두사를 캐시합니다

프롬프트 캐싱은 전체 프롬프트를 참조합니다 - tools, system, 그리고 messages(해당 순서대로) 중 cache_control로 지정된 블록까지 포함합니다.

가격 책정

프롬프트 캐싱은 새로운 가격 구조를 도입합니다. 아래 표는 지원되는 각 모델에 대한 백만 토큰당 가격을 보여줍니다:

Model	Base Input Tokens	5m Cache Writes	1h Cache Writes	Cache Hits & Refreshes	Output Tokens
Claude Opus 4	$15 / MTok	$18.75 / MTok	$30 / MTok	$1.50 / MTok	$75 / MTok
Claude Sonnet 4	$3 / MTok	$3.75 / MTok	$6 / MTok	$0.30 / MTok	$15 / MTok
Claude Sonnet 3.7	$3 / MTok	$3.75 / MTok	$6 / MTok	$0.30 / MTok	$15 / MTok
Claude Sonnet 3.5	$3 / MTok	$3.75 / MTok	$6 / MTok	$0.30 / MTok	$15 / MTok
Claude Haiku 3.5	$0.80 / MTok	$1 / MTok	$1.6 / MTok	$0.08 / MTok	$4 / MTok
Claude Opus 3	$15 / MTok	$18.75 / MTok	$30 / MTok	$1.50 / MTok	$75 / MTok
Claude Haiku 3	$0.25 / MTok	$0.30 / MTok	$0.50 / MTok	$0.03 / MTok	$1.25 / MTok

참고:

5분 캐시 쓰기 토큰은 기본 입력 토큰 가격의 1.25배입니다
1시간 캐시 쓰기 토큰은 기본 입력 토큰 가격의 2배입니다
캐시 읽기 토큰은 기본 입력 토큰 가격의 0.1배입니다
일반 입력 및 출력 토큰은 표준 요금으로 책정됩니다

프롬프트 캐싱 구현 방법

지원되는 모델

프롬프트 캐싱은 현재 다음 모델에서 지원됩니다:

Claude Opus 4
Claude Sonnet 4
Claude Sonnet 3.7
Claude Sonnet 3.5
Claude Haiku 3.5
Claude Haiku 3
Claude Opus 3

프롬프트 구조화

정적 콘텐츠(도구 정의, 시스템 지침, 컨텍스트, 예시)를 프롬프트 시작 부분에 배치하세요. cache_control 매개변수를 사용하여 캐싱을 위한 재사용 가능한 콘텐츠의 끝을 표시하세요.

캐시 접두사는 다음 순서로 생성됩니다: tools, system, 그리고 messages.

cache_control 매개변수를 사용하여 최대 4개의 캐시 중단점을 정의할 수 있으며, 이를 통해 서로 다른 재사용 가능한 섹션을 별도로 캐시할 수 있습니다. 각 중단점에서 시스템은 이전 위치에서 자동으로 캐시 히트를 확인하고 일치하는 가장 긴 접두사가 발견되면 이를 사용합니다.

캐시 제한사항

캐시 가능한 최소 프롬프트 길이는:

Claude Opus 4, Claude Sonnet 4, Claude Sonnet 3.7, Claude Sonnet 3.5 및 Claude Opus 3의 경우 1024 토큰
Claude Haiku 3.5 및 Claude Haiku 3의 경우 2048 토큰

더 짧은 프롬프트는 cache_control로 표시되어 있더라도 캐시될 수 없습니다. 이 수보다 적은 토큰을 캐시하려는 요청은 캐싱 없이 처리됩니다. 프롬프트가 캐시되었는지 확인하려면 응답 사용량 필드를 참조하세요.

동시 요청의 경우, 캐시 항목은 첫 번째 응답이 시작된 후에만 사용 가능해집니다. 병렬 요청에 대한 캐시 히트가 필요한 경우, 첫 번째 응답을 기다린 후 후속 요청을 보내세요.

현재 “ephemeral”은 유일하게 지원되는 캐시 유형이며, 기본적으로 5분 수명을 가집니다.

캐시 가능한 항목

요청의 대부분의 블록은 cache_control로 캐싱을 지정할 수 있습니다. 여기에는 다음이 포함됩니다:

도구: tools 배열의 도구 정의
시스템 메시지: system 배열의 콘텐츠 블록
텍스트 메시지: 사용자 및 어시스턴트 턴 모두에서 messages.content 배열의 콘텐츠 블록
이미지 및 문서: 사용자 턴의 messages.content 배열의 콘텐츠 블록
도구 사용 및 도구 결과: 사용자 및 어시스턴트 턴 모두에서 messages.content 배열의 콘텐츠 블록

이러한 요소 각각은 요청의 해당 부분에 대한 캐싱을 활성화하기 위해 cache_control로 표시될 수 있습니다.

캐시할 수 없는 항목

대부분의 요청 블록은 캐시할 수 있지만 몇 가지 예외가 있습니다:

사고 블록은 cache_control로 직접 캐시할 수 없습니다. 그러나 사고 블록은 이전 어시스턴트 턴에 나타날 때 다른 콘텐츠와 함께 캐시될 수 있습니다. 이렇게 캐시될 때는 캐시에서 읽을 때 입력 토큰으로 계산됩니다.
하위 콘텐츠 블록(인용과 같은)은 직접 캐시할 수 없습니다. 대신 최상위 블록을 캐시하세요.

인용의 경우, 인용의 소스 자료 역할을 하는 최상위 문서 콘텐츠 블록을 캐시할 수 있습니다. 이를 통해 인용이 참조할 문서를 캐싱하여 인용과 함께 프롬프트 캐싱을 효과적으로 사용할 수 있습니다.
빈 텍스트 블록은 캐시할 수 없습니다.

캐시 성능 추적

다음 API 응답 필드를 사용하여 캐시 성능을 모니터링하세요. 이 필드들은 응답의 usage 내에 있습니다(또는 스트리밍하는 경우 message_start 이벤트 내에 있습니다):

cache_creation_input_tokens: 새 항목을 생성할 때 캐시에 쓰여진 토큰 수.
cache_read_input_tokens: 이 요청에 대해 캐시에서 검색된 토큰 수.
input_tokens: 캐시에서 읽거나 캐시를 생성하는 데 사용되지 않은 입력 토큰 수.

효과적인 캐싱을 위한 모범 사례

프롬프트 캐싱 성능을 최적화하려면:

시스템 지침, 배경 정보, 대규모 컨텍스트 또는 자주 사용하는 도구 정의와 같은 안정적이고 재사용 가능한 콘텐츠를 캐시하세요.
최상의 성능을 위해 캐시된 콘텐츠를 프롬프트 시작 부분에 배치하세요.
서로 다른 캐시 가능한 접두사 섹션을 분리하기 위해 캐시 중단점을 전략적으로 사용하세요.
정기적으로 캐시 히트율을 분석하고 필요에 따라 전략을 조정하세요.

다양한 사용 사례에 맞게 최적화

시나리오에 맞게 프롬프트 캐싱 전략을 조정하세요:

대화형 에이전트: 특히 긴 지침이나 업로드된 문서가 있는 확장된 대화의 비용과 지연 시간을 줄입니다.
코딩 어시스턴트: 코드베이스의 관련 섹션이나 요약된 버전을 프롬프트에 유지하여 자동 완성 및 코드베이스 Q&A를 개선합니다.
대용량 문서 처리: 응답 지연 시간을 증가시키지 않고 이미지를 포함한 완전한 장문 자료를 프롬프트에 통합합니다.
상세한 지침 세트: Claude의 응답을 미세 조정하기 위해 광범위한 지침, 절차 및 예시 목록을 공유합니다. 개발자들은 종종 프롬프트에 한두 가지 예시를 포함하지만, 프롬프트 캐싱을 사용하면 20개 이상의 다양하고 고품질 답변 예시를 포함하여 더 나은 성능을 얻을 수 있습니다.
에이전트 도구 사용: 각 단계가 일반적으로 새로운 API 호출을 필요로 하는 여러 도구 호출 및 반복적인 코드 변경을 포함하는 시나리오의 성능을 향상시킵니다.
책, 논문, 문서, 팟캐스트 트랜스크립트 및 기타 장문 콘텐츠와 대화: 전체 문서를 프롬프트에 포함시키고 사용자가 질문할 수 있게 함으로써 모든 지식 기반을 활성화합니다.

일반적인 문제 해결

예상치 못한 동작이 발생하는 경우:

캐시된 섹션이 동일하고 호출 간에 동일한 위치에 cache_control로 표시되어 있는지 확인하세요
호출이 캐시 수명(기본적으로 5분) 내에 이루어졌는지 확인하세요
tool_choice와 이미지 사용이 호출 간에 일관되게 유지되는지 확인하세요
최소 토큰 수 이상을 캐싱하고 있는지 확인하세요
시스템은 캐시 중단점 이전 위치에서 이전에 캐시된 콘텐츠를 사용하려고 시도하지만, 프롬프트의 이전 부분에 대한 캐시 조회를 보장하기 위해 추가 cache_control 매개변수를 사용할 수 있습니다. 이는 매우 긴 콘텐츠 블록 목록이 있는 쿼리에 유용할 수 있습니다.

프롬프트 어디에서든 tool_choice의 변경이나 이미지의 존재/부재는 캐시를 무효화하여 새 캐시 항목을 생성해야 함을 유의하세요.

사고 블록과 함께 캐싱

확장 사고와 프롬프트 캐싱을 함께 사용할 때, 사고 블록은 특별한 동작을 가집니다:

다른 콘텐츠와 함께 자동 캐싱: 사고 블록은 cache_control로 명시적으로 표시될 수 없지만, 도구 결과와 함께 후속 API 호출을 할 때 요청 콘텐츠의 일부로 캐시됩니다. 이는 도구 사용 중에 대화를 계속하기 위해 사고 블록을 다시 전달할 때 일반적으로 발생합니다.

입력 토큰 계산: 사고 블록이 캐시에서 읽힐 때, 사용량 지표에서 입력 토큰으로 계산됩니다. 이는 비용 계산 및 토큰 예산 책정에 중요합니다.

캐시 무효화 패턴:

도구 결과만 사용자 메시지로 제공될 때 캐시는 유효하게 유지됩니다
도구 결과가 아닌 사용자 콘텐츠가 추가되면 캐시가 무효화되어 이전의 모든 사고 블록이 제거됩니다
이 캐싱 동작은 명시적인 cache_control 마커 없이도 발생합니다

도구 사용 예시:

요청 1: 사용자: "파리의 날씨는 어때요?"
응답: [thinking_block_1] + [tool_use block 1]

요청 2: 
사용자: ["파리의 날씨는 어때요?"], 
어시스턴트: [thinking_block_1] + [tool_use block 1], 
사용자: [tool_result_1, cache=True]
응답: [thinking_block_2] + [text block 2]
# 요청 2는 요청 콘텐츠를 캐시합니다(응답이 아님)
# 캐시에는 다음이 포함됩니다: 사용자 메시지, thinking_block_1, tool_use block 1, 및 tool_result_1

요청 3:
사용자: ["파리의 날씨는 어때요?"], 
어시스턴트: [thinking_block_1] + [tool_use block 1], 
사용자: [tool_result_1, cache=True], 
어시스턴트: [thinking_block_2] + [text block 2], 
사용자: [텍스트 응답, cache=True]
# 도구 결과가 아닌 사용자 블록이 포함되면 모든 사고 블록이 무시됩니다
# 이 요청은 사고 블록이 없었던 것처럼 처리됩니다

도구 결과가 아닌 사용자 블록이 포함되면, 이는 새로운 어시스턴트 루프를 지정하고 이전의 모든 사고 블록은 컨텍스트에서 제거됩니다.

자세한 정보는 확장 사고 문서를 참조하세요.

캐시 저장 및 공유

조직 격리: 캐시는 조직 간에 격리됩니다. 동일한 프롬프트를 사용하더라도 서로 다른 조직은 절대 캐시를 공유하지 않습니다.
정확한 매칭: 캐시 히트는 cache control로 표시된 블록까지 모든 텍스트와 이미지를 포함한 100% 동일한 프롬프트 세그먼트를 필요로 합니다.
출력 토큰 생성: 프롬프트 캐싱은 출력 토큰 생성에 영향을 미치지 않습니다. 받는 응답은 프롬프트 캐싱을 사용하지 않았을 때와 동일합니다.

1시간 캐시 기간(베타)

5분이 너무 짧다고 생각되면, Anthropic은 1시간 캐시 기간도 제공합니다.

확장 캐시를 사용하려면 요청에 베타 헤더로 extended-cache-ttl-2025-04-11을 추가한 다음, cache_control 정의에 다음과 같이 ttl을 포함하세요:

"cache_control": {
    "type": "ephemeral",
    "ttl": "5m" | "1h"
}

응답에는 다음과 같은 상세한 캐시 정보가 포함됩니다:

{
    "usage": {
        "input_tokens": ...,
        "cache_read_input_tokens": ...,
        "cache_creation_input_tokens": ...,
        "output_tokens": ...,
        
        "cache_creation": {
            "ephemeral_5m_input_tokens": 456,
            "ephemeral_1h_input_tokens": 100,
        }
    }
}

현재 cache_creation_input_tokens 필드는 cache_creation 객체의 값들의 합과 같습니다.

1시간 캐시를 사용해야 하는 경우

정기적인 간격으로 사용되는 프롬프트(즉, 5분보다 더 자주 사용되는 시스템 프롬프트)가 있는 경우, 추가 비용 없이 계속 새로 고쳐지므로 5분 캐시를 계속 사용하세요.

1시간 캐시는 다음과 같은 시나리오에서 가장 적합합니다:

5분보다 덜 자주 사용되지만 1시간보다 더 자주 사용될 가능성이 있는 프롬프트가 있는 경우. 예를 들어, 에이전트 측 에이전트가 5분 이상 걸리거나, 사용자와의 긴 채팅 대화를 저장하고 일반적으로 해당 사용자가 다음 5분 내에 응답하지 않을 것으로 예상되는 경우.
지연 시간이 중요하고 후속 프롬프트가 5분 이상 지난 후에 전송될 수 있는 경우.
캐시 히트가 속도 제한에서 차감되지 않으므로 속도 제한 활용도를 개선하려는 경우.

5분 및 1시간 캐시는 지연 시간 측면에서 동일하게 작동합니다. 일반적으로 긴 문서의 경우 첫 번째 토큰까지의 시간이 개선됩니다.

다양한 TTL 혼합

동일한 요청에서 1시간 및 5분 캐시 컨트롤을 모두 사용할 수 있지만, 중요한 제약이 있습니다: TTL이 더 긴 캐시 항목은 TTL이 더 짧은 항목 앞에 나타나야 합니다(즉, 1시간 캐시 항목은 5분 캐시 항목 앞에 나타나야 함).

TTL을 혼합할 때, 프롬프트에서 세 가지 청구 위치를 결정합니다:

위치 A: 가장 높은 캐시 히트의 토큰 수(또는 히트가 없는 경우 0).
위치 B: A 이후 가장 높은 1시간 cache_control 블록의 토큰 수(또는 없는 경우 A와 같음).
위치 C: 마지막 cache_control 블록의 토큰 수.

A가 가장 높은 캐시 히트이기 때문에, B 및/또는 C가 A보다 크면 반드시 캐시 미스가 됩니다.

다음에 대해 요금이 부과됩니다:

A에 대한 캐시 읽기 토큰.
(B - A)에 대한 1시간 캐시 쓰기 토큰.
(C - B)에 대한 5분 캐시 쓰기 토큰.

다음은 3가지 예시입니다. 이는 각각 다른 캐시 히트와 캐시 미스가 있는 3개의 요청의 입력 토큰을 보여줍니다. 각각은 결과적으로 색상이 있는 상자에 표시된 대로 다른 계산된 가격이 있습니다.

프롬프트 캐싱 예시

프롬프트 캐싱을 시작하는 데 도움이 되도록 상세한 예시와 모범 사례가 포함된 프롬프트 캐싱 쿡북을 준비했습니다.

아래에는 다양한 프롬프트 캐싱 패턴을 보여주는 여러 코드 스니펫이 포함되어 있습니다. 이 예시들은 다양한 시나리오에서 캐싱을 구현하는 방법을 보여주어 이 기능의 실용적인 응용을 이해하는 데 도움이 됩니다:

대규모 컨텍스트 캐싱 예시

curl https://api.anthropic.com/v1/messages \
     --header "x-api-key: $ANTHROPIC_API_KEY" \
     --header "anthropic-version: 2023-06-01" \
     --header "content-type: application/json" \
     --data \
'{
    "model": "claude-opus-4-20250514",
    "max_tokens": 1024,
    "system": [
        {
            "type": "text",
            "text": "You are an AI assistant tasked with analyzing legal documents."
        },
        {
            "type": "text",
            "text": "Here is the full text of a complex legal agreement: [Insert full text of a 50-page legal agreement here]",
            "cache_control": {"type": "ephemeral"}
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": "What are the key terms and conditions in this agreement?"
        }
    ]
}'

이 예시는 기본적인 프롬프트 캐싱 사용법을 보여주며, 법적 계약서의 전체 텍스트를 접두사로 캐싱하면서 사용자 지시는 캐시하지 않습니다.

첫 번째 요청의 경우:

input_tokens: 사용자 메시지만의 토큰 수
cache_creation_input_tokens: 법적 문서를 포함한 전체 시스템 메시지의 토큰 수
cache_read_input_tokens: 0(첫 번째 요청에서는 캐시 히트 없음)

캐시 수명 내의 후속 요청의 경우:

input_tokens: 사용자 메시지만의 토큰 수
cache_creation_input_tokens: 0(새 캐시 생성 없음)
cache_read_input_tokens: 전체 캐시된 시스템 메시지의 토큰 수

도구 정의 캐싱

curl https://api.anthropic.com/v1/messages \
     --header "x-api-key: $ANTHROPIC_API_KEY" \
     --header "anthropic-version: 2023-06-01" \
     --header "content-type: application/json" \
     --data \
'{
    "model": "claude-opus-4-20250514",
    "max_tokens": 1024,
    "tools": [
        {
            "name": "get_weather",
            "description": "Get the current weather in a given location",
            "input_schema": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA"
                    },
                    "unit": {
                        "type": "string",
                        "enum": ["celsius", "fahrenheit"],
                        "description": "The unit of temperature, either celsius or fahrenheit"
                    }
                },
                "required": ["location"]
            }
        },
        # many more tools
        {
            "name": "get_time",
            "description": "Get the current time in a given time zone",
            "input_schema": {
                "type": "object",
                "properties": {
                    "timezone": {
                        "type": "string",
                        "description": "The IANA time zone name, e.g. America/Los_Angeles"
                    }
                },
                "required": ["timezone"]
            },
            "cache_control": {"type": "ephemeral"}
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": "What is the weather and time in New York?"
        }
    ]
}'

이 예시에서는 도구 정의 캐싱을 보여줍니다.

cache_control 매개변수는 마지막 도구(get_time)에 배치되어 모든 도구를 정적 접두사의 일부로 지정합니다.

이는 get_weather와 get_time 이전에 정의된 다른 모든 도구를 포함한 모든 도구 정의가 단일 접두사로 캐시됨을 의미합니다.

이 접근 방식은 매번 다시 처리하지 않고 여러 요청에서 재사용하려는 일관된 도구 세트가 있을 때 유용합니다.

첫 번째 요청의 경우:

input_tokens: 사용자 메시지의 토큰 수
cache_creation_input_tokens: 모든 도구 정의 및 시스템 프롬프트의 토큰 수
cache_read_input_tokens: 0(첫 번째 요청에서는 캐시 히트 없음)

캐시 수명 내의 후속 요청의 경우:

input_tokens: 사용자 메시지의 토큰 수
cache_creation_input_tokens: 0(새 캐시 생성 없음)
cache_read_input_tokens: 모든 캐시된 도구 정의 및 시스템 프롬프트의 토큰 수

다중 턴 대화 계속하기

curl https://api.anthropic.com/v1/messages \
     --header "x-api-key: $ANTHROPIC_API_KEY" \
     --header "anthropic-version: 2023-06-01" \
     --header "content-type: application/json" \
     --data \
'{
    "model": "claude-opus-4-20250514",
    "max_tokens": 1024,
    "system": [
        {
            "type": "text",
            "text": "...long system prompt",
            "cache_control": {"type": "ephemeral"}
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "Hello, can you tell me more about the solar system?",
                }
            ]
        },
        {
            "role": "assistant",
            "content": "Certainly! The solar system is the collection of celestial bodies that orbit our Sun. It consists of eight planets, numerous moons, asteroids, comets, and other objects. The planets, in order from closest to farthest from the Sun, are: Mercury, Venus, Earth, Mars, Jupiter, Saturn, Uranus, and Neptune. Each planet has its own unique characteristics and features. Is there a specific aspect of the solar system you would like to know more about?"
        },
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "Good to know."
                },
                {
                    "type": "text",
                    "text": "Tell me more about Mars.",
                    "cache_control": {"type": "ephemeral"}
                }
            ]
        }
    ]
}'

이 예시에서는 다중 턴 대화에서 프롬프트 캐싱을 사용하는 방법을 보여줍니다.

각 턴마다 대화를 점진적으로 캐시할 수 있도록 마지막 메시지의 마지막 블록에 cache_control을 표시합니다. 시스템은 후속 메시지에 대해 이전에 캐시된 가장 긴 접두사를 자동으로 조회하고 사용합니다. 즉, 이전에 cache_control 블록으로 표시된 블록은 나중에 이 표시가 없더라도 5분 이내에 히트되면 캐시 히트(그리고 캐시 새로 고침!)로 간주됩니다.

또한 cache_control 매개변수가 시스템 메시지에 배치된 것에 주목하세요. 이는 캐시에서 제거된 경우(5분 이상 사용되지 않은 후) 다음 요청에서 다시 캐시에 추가되도록 하기 위함입니다.

이 접근 방식은 동일한 정보를 반복적으로 처리하지 않고도 진행 중인 대화에서 컨텍스트를 유지하는 데 유용합니다.

이것이 제대로 설정되면 각 요청의 사용량 응답에서 다음을 볼 수 있습니다:

input_tokens: 새 사용자 메시지의 토큰 수(최소한일 것임)
cache_creation_input_tokens: 새 어시스턴트 및 사용자 턴의 토큰 수
cache_read_input_tokens: 이전 턴까지의 대화 토큰 수

FAQ

캐시 수명은 얼마인가요?

몇 개의 캐시 중단점을 사용할 수 있나요?

프롬프트 캐싱은 모든 모델에서 사용 가능한가요?

프롬프트 캐싱은 확장 사고와 어떻게 작동하나요?

프롬프트 캐싱을 어떻게 활성화하나요?

프롬프트 캐싱을 다른 API 기능과 함께 사용할 수 있나요?

프롬프트 캐싱은 가격 책정에 어떤 영향을 미치나요?

캐시를 수동으로 지울 수 있나요?

캐싱 전략의 효과를 어떻게 추적할 수 있나요?

무엇이 캐시를 깰 수 있나요?

프롬프트 캐싱은 개인 정보 보호 및 데이터 분리를 어떻게 처리하나요?

Batches API와 함께 프롬프트 캐싱을 사용할 수 있나요?

Python에서 `AttributeError: 'Beta' object has no attribute 'prompt_caching'` 오류가 나타나는 이유는 무엇인가요?

이 오류는 일반적으로 SDK를 업그레이드했거나 오래된 코드 예제를 사용할 때 나타납니다. 프롬프트 캐싱은 이제 일반적으로 사용 가능하므로 더 이상 베타 접두사가 필요하지 않습니다. 다음 대신:

python client.beta.prompt_caching.messages.create(...)

간단히 다음을 사용하세요:

python client.messages.create(...)

'TypeError: Cannot read properties of undefined (reading 'messages')'가 나타나는 이유는 무엇인가요?

TypeScript
client.beta.promptCaching.messages.create(...)

간단히 다음을 사용하세요:

client.messages.create(...)

첫 단계

기능 살펴보기

모델 & 가격

Claude에 대해 알아보기

테스트 및 평가

법률 센터

에이전트 구성요소

프롬프트 캐싱

프롬프트 캐싱 작동 방식

가격 책정

프롬프트 캐싱 구현 방법

지원되는 모델

프롬프트 구조화

캐시 제한사항

캐시 가능한 항목

캐시할 수 없는 항목

캐시 성능 추적

효과적인 캐싱을 위한 모범 사례

다양한 사용 사례에 맞게 최적화

일반적인 문제 해결

사고 블록과 함께 캐싱

캐시 저장 및 공유

1시간 캐시 기간(베타)

1시간 캐시를 사용해야 하는 경우

다양한 TTL 혼합

프롬프트 캐싱 예시

FAQ

첫 단계

기능 살펴보기

모델 & 가격

Claude에 대해 알아보기

테스트 및 평가

법률 센터

에이전트 구성요소

​프롬프트 캐싱 작동 방식

​가격 책정

​프롬프트 캐싱 구현 방법

​지원되는 모델

​프롬프트 구조화

​캐시 제한사항

​캐시 가능한 항목

​캐시할 수 없는 항목

​캐시 성능 추적

​효과적인 캐싱을 위한 모범 사례

​다양한 사용 사례에 맞게 최적화

​일반적인 문제 해결

​사고 블록과 함께 캐싱

​캐시 저장 및 공유

​1시간 캐시 기간(베타)

​1시간 캐시를 사용해야 하는 경우

​다양한 TTL 혼합

​프롬프트 캐싱 예시

​FAQ

프롬프트 캐싱 작동 방식

가격 책정

프롬프트 캐싱 구현 방법

지원되는 모델

프롬프트 구조화

캐시 제한사항

캐시 가능한 항목

캐시할 수 없는 항목

캐시 성능 추적

효과적인 캐싱을 위한 모범 사례

다양한 사용 사례에 맞게 최적화

일반적인 문제 해결

사고 블록과 함께 캐싱

캐시 저장 및 공유

1시간 캐시 기간(베타)

1시간 캐시를 사용해야 하는 경우

다양한 TTL 혼합

프롬프트 캐싱 예시

FAQ