OpenAI SDK-Kompatibilität (Beta)
Mit einigen Codeänderungen können Sie das OpenAI SDK verwenden, um die Anthropic API zu testen. Anthropic bietet eine Kompatibilitätsschicht, die es Ihnen ermöglicht, die Fähigkeiten von Anthropic-Modellen mit minimalem Aufwand zu evaluieren.
Reichen Sie Feedback oder Fehler im Zusammenhang mit der OpenAI SDK-Kompatibilitätsfunktion hier ein.
Bevor Sie beginnen
Diese Kompatibilitätsschicht ist dafür gedacht, Modellfähigkeiten mit minimalem Entwicklungsaufwand zu testen und zu vergleichen, und wird nicht als langfristige oder produktionsreife Lösung für die meisten Anwendungsfälle betrachtet. Für die beste Erfahrung und Zugriff auf den vollen Funktionsumfang der Anthropic API (PDF-Verarbeitung, Zitationen, erweitertes Denken und Prompt-Caching) empfehlen wir die Verwendung der nativen Anthropic API.
Erste Schritte mit dem OpenAI SDK
Um die OpenAI SDK-Kompatibilitätsfunktion zu nutzen, müssen Sie:
- Ein offizielles OpenAI SDK verwenden
- Folgendes ändern:
- Aktualisieren Sie Ihre Basis-URL, um auf die Anthropic API zu verweisen
- Ersetzen Sie Ihren API-Schlüssel durch einen Anthropic API-Schlüssel
- Aktualisieren Sie Ihren Modellnamen, um ein Claude-Modell zu verwenden
- Lesen Sie die nachfolgende Dokumentation, um zu erfahren, welche Funktionen unterstützt werden
Schnellstart-Beispiel
Wichtige OpenAI-Kompatibilitätseinschränkungen
API-Verhalten
Hier sind die wesentlichsten Unterschiede zur Verwendung von OpenAI:
- Der Parameter
strict
für Funktionsaufrufe wird ignoriert, was bedeutet, dass das Tool-Use-JSON nicht garantiert dem bereitgestellten Schema folgt. - Audio-Eingabe wird nicht unterstützt; sie wird einfach ignoriert und aus der Eingabe entfernt
- Prompt-Caching wird nicht unterstützt, ist aber im Anthropic SDK verfügbar
- System-/Entwicklernachrichten werden an den Anfang der Konversation verschoben und zusammengefügt, da Anthropic nur eine einzige anfängliche Systemnachricht unterstützt.
Die meisten nicht unterstützten Felder werden stillschweigend ignoriert, anstatt Fehler zu erzeugen. Diese sind alle unten dokumentiert.
Überlegungen zur Ausgabequalität
Wenn Sie viel an Ihrem Prompt gefeilt haben, ist er wahrscheinlich speziell für OpenAI optimiert. Erwägen Sie die Verwendung unseres Prompt-Verbesserers in der Anthropic Console als guten Ausgangspunkt.
System- / Entwicklernachrichten-Verschiebung
Die meisten Eingaben für das OpenAI SDK lassen sich direkt auf Anthropics API-Parameter abbilden, aber ein deutlicher Unterschied ist die Behandlung von System-/Entwickler-Prompts. Diese beiden Prompts können über OpenAI in einer Chat-Konversation platziert werden. Da Anthropic nur eine anfängliche Systemnachricht unterstützt, nehmen wir alle System-/Entwicklernachrichten und fügen sie mit einem einzelnen Zeilenumbruch (\n
) dazwischen zusammen. Diese vollständige Zeichenfolge wird dann als eine einzige Systemnachricht am Anfang der Nachrichten bereitgestellt.
Unterstützung für erweitertes Denken
Sie können die Funktionen für erweitertes Denken aktivieren, indem Sie den Parameter thinking
hinzufügen. Während dies Claudes Denkvermögen für komplexe Aufgaben verbessert, gibt das OpenAI SDK Claudes detaillierten Denkprozess nicht zurück. Für vollständige Funktionen des erweiterten Denkens, einschließlich des Zugriffs auf Claudes schrittweise Denkausgabe, verwenden Sie die native Anthropic API.
Ratenbegrenzungen
Die Ratenbegrenzungen folgen Anthropics Standardlimits für den Endpunkt /v1/messages
.
Detaillierte OpenAI-kompatible API-Unterstützung
Anforderungsfelder
Einfache Felder
Feld | Unterstützungsstatus |
---|---|
model | Verwenden Sie Claude-Modellnamen |
max_tokens | Vollständig unterstützt |
max_completion_tokens | Vollständig unterstützt |
stream | Vollständig unterstützt |
stream_options | Vollständig unterstützt |
top_p | Vollständig unterstützt |
parallel_tool_calls | Vollständig unterstützt |
stop | Alle Stoppsequenzen ohne Leerzeichen funktionieren |
temperature | Zwischen 0 und 1 (inklusive). Werte größer als 1 werden auf 1 begrenzt. |
n | Muss genau 1 sein |
logprobs | Ignoriert |
metadata | Ignoriert |
response_format | Ignoriert |
prediction | Ignoriert |
presence_penalty | Ignoriert |
frequency_penalty | Ignoriert |
seed | Ignoriert |
service_tier | Ignoriert |
audio | Ignoriert |
logit_bias | Ignoriert |
store | Ignoriert |
user | Ignoriert |
modalities | Ignoriert |
top_logprobs | Ignoriert |
Reasoning_effort | Ignoriert |
tools
/ functions
Felder
messages
Array-Felder
Antwortfelder
Feld | Unterstützungsstatus |
---|---|
id | Vollständig unterstützt |
choices[] | Hat immer eine Länge von 1 |
choices[].finish_reason | Vollständig unterstützt |
choices[].index | Vollständig unterstützt |
choices[].message.role | Vollständig unterstützt |
choices[].message.content | Vollständig unterstützt |
choices[].message.tool_calls | Vollständig unterstützt |
object | Vollständig unterstützt |
created | Vollständig unterstützt |
model | Vollständig unterstützt |
finish_reason | Vollständig unterstützt |
content | Vollständig unterstützt |
usage.completion_tokens | Vollständig unterstützt |
usage.prompt_tokens | Vollständig unterstützt |
usage.total_tokens | Vollständig unterstützt |
usage.completion_tokens_details | Immer leer |
usage.prompt_tokens_details | Immer leer |
choices[].message.refusal | Immer leer |
choices[].message.audio | Immer leer |
logprobs | Immer leer |
service_tier | Immer leer |
system_fingerprint | Immer leer |
Fehlermeldungs-Kompatibilität
Die Kompatibilitätsschicht behält konsistente Fehlerformate mit der OpenAI API bei. Die detaillierten Fehlermeldungen werden jedoch nicht äquivalent sein. Wir empfehlen, die Fehlermeldungen nur für Protokollierung und Debugging zu verwenden.
Header-Kompatibilität
Während das OpenAI SDK automatisch Header verwaltet, hier ist die vollständige Liste der von Anthropics API unterstützten Header für Entwickler, die direkt mit ihnen arbeiten müssen.
Header | Unterstützungsstatus |
---|---|
x-ratelimit-limit-requests | Vollständig unterstützt |
x-ratelimit-limit-tokens | Vollständig unterstützt |
x-ratelimit-remaining-requests | Vollständig unterstützt |
x-ratelimit-remaining-tokens | Vollständig unterstützt |
x-ratelimit-reset-requests | Vollständig unterstützt |
x-ratelimit-reset-tokens | Vollständig unterstützt |
retry-after | Vollständig unterstützt |
request-id | Vollständig unterstützt |
openai-version | Immer 2020-10-01 |
authorization | Vollständig unterstützt |
openai-processing-ms | Immer leer |