OpenAI SDK 호환성
Anthropic은 OpenAI SDK를 사용하여 Anthropic API를 테스트할 수 있는 호환성 레이어를 제공합니다. 몇 가지 코드 변경으로 Anthropic 모델 기능을 빠르게 평가할 수 있습니다.
이 호환성 레이어는 주로 모델 기능을 테스트하고 비교하기 위한 것이며, 대부분의 사용 사례에서 장기적이거나 프로덕션 준비가 완료된 솔루션으로 간주되지 않습니다. 완전히 기능적으로 유지하고 호환성을 깨뜨리는 변경을 하지 않을 의도는 있지만, 우리의 우선순위는 Anthropic API의 신뢰성과 효과성입니다.
알려진 호환성 제한사항에 대한 자세한 정보는 중요한 OpenAI 호환성 제한사항을 참조하세요.
OpenAI SDK 호환성 기능에 문제가 발생하면 여기로 알려주세요.
최상의 경험과 Anthropic API의 전체 기능 세트(PDF 처리, 인용, 확장된 사고, 프롬프트 캐싱)에 액세스하려면 네이티브 Anthropic API를 사용하는 것을 권장합니다.
OpenAI SDK 시작하기
OpenAI SDK 호환성 기능을 사용하려면 다음이 필요합니다:
- 공식 OpenAI SDK 사용
- 다음 사항 변경
- 기본 URL을 Anthropic의 API로 가리키도록 업데이트
- API 키를 Anthropic API 키로 교체
- 모델 이름을 Claude 모델을 사용하도록 업데이트
- 지원되는 기능에 대한 아래 문서 검토
빠른 시작 예제
중요한 OpenAI 호환성 제한사항
API 동작
OpenAI 사용과의 가장 중요한 차이점은 다음과 같습니다:
- 함수 호출의
strict
매개변수는 무시되며, 이는 도구 사용 JSON이 제공된 스키마를 따르는 것이 보장되지 않음을 의미합니다. - 오디오 입력은 지원되지 않으며, 단순히 무시되고 입력에서 제거됩니다
- 프롬프트 캐싱은 지원되지 않지만, Anthropic SDK에서는 지원됩니다
- 시스템/개발자 메시지는 대화 시작 부분으로 끌어올려지고 연결됩니다. Anthropic은 단일 초기 시스템 메시지만 지원하기 때문입니다.
지원되지 않는 대부분의 필드는 오류를 발생시키지 않고 조용히 무시됩니다. 이들은 모두 아래에 문서화되어 있습니다.
출력 품질 고려사항
프롬프트를 많이 조정했다면, OpenAI에 특별히 잘 맞춰져 있을 가능성이 높습니다. 좋은 시작점으로 Anthropic Console의 프롬프트 개선기를 사용하는 것을 고려해보세요.
시스템 / 개발자 메시지 끌어올리기
OpenAI SDK에 대한 대부분의 입력은 Anthropic의 API 매개변수에 직접 명확하게 매핑되지만, 한 가지 뚜렷한 차이점은 시스템/개발자 프롬프트의 처리입니다. 이 두 프롬프트는 OpenAI를 통해 채팅 대화 전체에 배치될 수 있습니다. Anthropic은 초기 시스템 메시지만 지원하므로, 모든 시스템/개발자 메시지를 가져와서 그들 사이에 단일 개행(\n
)으로 연결합니다. 이 전체 문자열은 메시지 시작 부분에 단일 시스템 메시지로 제공됩니다.
확장된 사고 지원
thinking
매개변수를 추가하여 확장된 사고 기능을 활성화할 수 있습니다. 이는 복잡한 작업에 대한 Claude의 추론을 개선하지만, OpenAI SDK는 Claude의 상세한 사고 과정을 반환하지 않습니다. Claude의 단계별 추론 출력에 대한 액세스를 포함한 전체 확장된 사고 기능을 위해서는 네이티브 Anthropic API를 사용하세요.
속도 제한
속도 제한은 /v1/messages
엔드포인트에 대한 Anthropic의 표준 제한을 따릅니다.
상세한 OpenAI 호환 API 지원
요청 필드
단순 필드
필드 | 지원 상태 |
---|---|
model | Claude 모델 이름 사용 |
max_tokens | 완전 지원 |
max_completion_tokens | 완전 지원 |
stream | 완전 지원 |
stream_options | 완전 지원 |
top_p | 완전 지원 |
parallel_tool_calls | 완전 지원 |
stop | 모든 비공백 중지 시퀀스 작동 |
temperature | 0과 1 사이(포함). 1보다 큰 값은 1로 제한됩니다. |
n | 정확히 1이어야 함 |
logprobs | 무시됨 |
metadata | 무시됨 |
response_format | 무시됨 |
prediction | 무시됨 |
presence_penalty | 무시됨 |
frequency_penalty | 무시됨 |
seed | 무시됨 |
service_tier | 무시됨 |
audio | 무시됨 |
logit_bias | 무시됨 |
store | 무시됨 |
user | 무시됨 |
modalities | 무시됨 |
top_logprobs | 무시됨 |
reasoning_effort | 무시됨 |
tools
/ functions
필드
messages
배열 필드
응답 필드
필드 | 지원 상태 |
---|---|
id | 완전 지원 |
choices[] | 항상 길이가 1 |
choices[].finish_reason | 완전 지원 |
choices[].index | 완전 지원 |
choices[].message.role | 완전 지원 |
choices[].message.content | 완전 지원 |
choices[].message.tool_calls | 완전 지원 |
object | 완전 지원 |
created | 완전 지원 |
model | 완전 지원 |
finish_reason | 완전 지원 |
content | 완전 지원 |
usage.completion_tokens | 완전 지원 |
usage.prompt_tokens | 완전 지원 |
usage.total_tokens | 완전 지원 |
usage.completion_tokens_details | 항상 비어있음 |
usage.prompt_tokens_details | 항상 비어있음 |
choices[].message.refusal | 항상 비어있음 |
choices[].message.audio | 항상 비어있음 |
logprobs | 항상 비어있음 |
service_tier | 항상 비어있음 |
system_fingerprint | 항상 비어있음 |
오류 메시지 호환성
호환성 레이어는 OpenAI API와 일관된 오류 형식을 유지합니다. 그러나 상세한 오류 메시지는 동일하지 않습니다. 로깅 및 디버깅을 위해서만 오류 메시지를 사용하는 것을 권장합니다.
헤더 호환성
OpenAI SDK는 헤더를 자동으로 관리하지만, 직접 작업해야 하는 개발자를 위해 Anthropic의 API에서 지원하는 헤더의 전체 목록은 다음과 같습니다.
헤더 | 지원 상태 |
---|---|
x-ratelimit-limit-requests | 완전 지원 |
x-ratelimit-limit-tokens | 완전 지원 |
x-ratelimit-remaining-requests | 완전 지원 |
x-ratelimit-remaining-tokens | 완전 지원 |
x-ratelimit-reset-requests | 완전 지원 |
x-ratelimit-reset-tokens | 완전 지원 |
retry-after | 완전 지원 |
request-id | 완전 지원 |
openai-version | 항상 2020-10-01 |
authorization | 완전 지원 |
openai-processing-ms | 항상 비어있음 |