확장된 사고 모델

Claude 3.7 Sonnet은 표준 사고와 확장된 사고 모드를 모두 수행할 수 있는 하이브리드 모델입니다. 표준 모드에서 Claude 3.7 Sonnet은 Claude 3 제품군의 다른 모델들과 유사하게 작동합니다. 확장된 사고 모드에서는 Claude가 응답을 출력하기 전에 자신의 사고 과정을 출력하여 추론 과정에 대한 통찰력을 제공합니다.

​

Claude 3.7 개요

Claude 3.7 Sonnet은 두 가지 모드로 작동합니다:

• 표준 모드: 이전 Claude 모델들과 유사하게 내부 추론을 보여주지 않고 직접적인 응답을 제공
• 확장된 사고 모드: 최종 답변을 제공하기 전에 Claude의 추론 과정을 보여줌

​

표준 모드를 사용해야 할 때

표준 모드는 다음과 같은 대부분의 일반적인 사용 사례에 적합합니다:

• 일반 콘텐츠 생성
• 기본적인 코딩 지원
• 일상적인 에이전트 작업
• 컴퓨터 사용 안내
• 대부분의 대화형 애플리케이션

​

확장된 사고 모드를 사용해야 할 때

확장된 사고 모드는 다음과 같은 주요 영역에서 탁월합니다:

• 복잡한 분석: 여러 매개변수와 요소가 포함된 재무, 법률 또는 데이터 분석
• 고급 STEM 문제: 수학, 물리학, 연구 개발
• 긴 맥락 처리: 광범위한 입력에서 정보를 처리하고 종합
• 제약 조건 최적화: 여러 경쟁 요구사항이 있는 문제
• 상세 데이터 생성: 포괄적인 표 또는 구조화된 정보 세트 생성
• 복잡한 지시사항 따르기: 복잡한 시스템 프롬프트와 고려해야 할 많은 요소가 있는 챗봇
• 구조화된 창의적 작업: 상세한 계획, 개요 또는 여러 서사 요소 관리가 필요한 창의적 글쓰기

확장된 사고가 어떻게 작동하는지 자세히 알아보려면 확장된 사고를 참조하세요.

---

​

Claude 3.7 Sonnet 시작하기

Claude 3.7 Sonnet을 처음 사용해보는 경우, 다음과 같은 팁을 참고하세요:

1. 표준 모드로 시작: 기준 성능을 확립하기 위해 확장된 사고 없이 Claude 3.7 Sonnet을 사용하여 시작
2. 개선 기회 파악: 낮은 예산으로 확장된 사고 모드를 켜서 귀하의 사용 사례가 더 깊은 추론으로부터 이익을 얻을 수 있는지 확인. 확장된 사고보다 표준 모드에서 더 자세한 프롬프팅이 더 유용할 수 있습니다.
3. 점진적 구현: 필요한 경우, 요구사항에 대한 성능을 테스트하면서 사고 예산을 점진적으로 증가
4. 토큰 사용 최적화: 허용 가능한 성능에 도달하면 비용 관리를 위해 적절한 토큰 제한을 설정
5. 새로운 가능성 탐색: 확장된 사고 유무에 관계없이 Claude 3.7 Sonnet은 다양한 영역에서 이전 Claude 모델보다 더 뛰어난 능력을 보입니다. 이전에 다른 모델에서 한계를 경험했던 사용 사례에 대해 Claude 3.7 Sonnet을 시도해보시기를 권장합니다.

---

​

Claude 3.7 Sonnet 기반 구축하기

​

일반 모델 정보

Claude 3.7 Sonnet 및 기타 현재 Claude 모델의 가격, 컨텍스트 윈도우 크기 및 기타 정보는 모든 모델 개요를 참조하세요.

​

Claude 3.7 Sonnet의 최대 토큰 및 컨텍스트 윈도우 변경

이전 Claude 모델(Claude 3.7 Sonnet 이전)에서는 프롬프트 토큰과 max_tokens의 합이 모델의 컨텍스트 윈도우를 초과하면 시스템이 자동으로 max_tokens를 컨텍스트 제한 내에 맞도록 조정했습니다. 이는 큰 max_tokens 값을 설정하면 시스템이 필요에 따라 자동으로 이를 줄인다는 의미였습니다.

Claude 3.7 Sonnet에서는 max_tokens(사고가 활성화된 경우 사고 예산 포함)가 엄격한 제한으로 적용됩니다. 이제 프롬프트 토큰 + max_tokens가 컨텍스트 윈도우 크기를 초과하면 시스템이 유효성 검사 오류를 반환합니다.

​

확장된 출력 기능 (베타)

Claude 3.7 Sonnet은 최대 128K 출력 토큰(베타)을 지원하여 이전 모델보다 상당히 긴 응답을 생성할 수 있습니다—다른 Claude 모델보다 15배 이상 깁니다. 이 확장된 기능은 복잡한 추론, 풍부한 코드 생성 및 포괄적인 콘텐츠 생성과 관련된 확장된 사고 사용 사례에 특히 효과적입니다.

이 기능은 anthropic-beta 헤더에 output-128k-2025-02-19를 전달하여 활성화할 수 있습니다.

더 긴 출력과 함께 확장된 사고를 사용할 때, 최종 응답을 위한 충분한 토큰을 남겨두면서도 더 철저한 추론을 지원하기 위해 더 큰 사고 예산을 할당할 수 있습니다.

---

​

다른 모델에서 Claude 3.7 Sonnet으로 마이그레이션

다른 Claude 모델이나 다른 모델 제공업체에서 프롬프트를 이전하는 경우, 다음과 같은 팁을 참고하세요:

​

표준 모드 마이그레이션

• 프롬프트 단순화: Claude 3.7 Sonnet은 더 적은 안내가 필요합니다. 이전 버전에서 사용했던 모델별 안내 언어(예: 상세도 처리에 관한 언어)를 제거하세요 - 이러한 언어는 불필요할 가능성이 높으며 토큰을 절약하고 비용을 줄일 수 있습니다.

그 외에는 확장된 사고가 꺼진 상태로 Claude 3.7 Sonnet을 사용하는 경우 일반적으로 프롬프트 변경이 필요하지 않습니다. 문제가 발생하면 일반적인 프롬프트 엔지니어링 모범 사례를 적용하세요.

​

확장된 사고 모드 마이그레이션

확장된 사고를 사용할 때는 먼저 프롬프트에서 모든 사고 체인(CoT) 안내를 제거하세요. Claude 3.7 Sonnet의 사고 기능은 명시적인 추론 지침 없이도 효과적으로 작동하도록 설계되었습니다.

• 사고 패턴을 규정하는 대신, 먼저 Claude의 자연스러운 사고 과정을 관찰한 다음 관찰한 내용을 바탕으로 프롬프트를 조정하세요.
• 이후 사고 지침을 제공하고 싶다면, 프롬프트에 자연어로 지침을 포함할 수 있으며 Claude는 이러한 지침을 자체 사고로 일반화할 수 있습니다.
• 확장된 사고를 위한 프롬프트 작성에 대한 더 많은 팁은 확장된 사고 팁을 참조하세요.

​

다른 모델 제공업체에서 마이그레이션

Claude 3.7 Sonnet은 다른 제공업체의 모델에 최적화된 프롬프트 패턴에 다르게 응답할 수 있습니다. 특정 제공업체별 프롬프트 기법 대신 명확하고 직접적인 지침에 중점을 두는 것을 권장합니다. 특정 모델 제공업체에 맞춤화된 이러한 지침을 제거하면 더 나은 성능을 얻을 수 있습니다. Claude는 일반적으로 복잡한 지침을 기본적으로 잘 따르기 때문입니다.

---

​

다음 단계