Streaming von Textergänzungen
Legacy-API
Die Text Completions API ist eine Legacy-API. Zukünftige Modelle und Funktionen erfordern die Verwendung der Messages API, und wir empfehlen, so bald wie möglich zu migrieren.
Bei der Erstellung einer Textergänzung können Sie "stream": true
festlegen, um die Antwort inkrementell mithilfe von Server-Sent Events (SSE) zu streamen. Wenn Sie unsere Client-Bibliotheken verwenden, wird die Verarbeitung dieser Events automatisch für Sie übernommen. Wenn Sie jedoch eine direkte API-Integration erstellen, müssen Sie diese Events selbst verarbeiten.
Beispiel
Events
Jedes Event enthält einen benannten Event-Typ und zugehörige JSON-Daten.
Event-Typen: completion
, ping
, error
.
Fehler-Event-Typen
Gelegentlich können wir Fehler im Event-Stream senden. Zum Beispiel können Sie während Zeiten hoher Auslastung einen overloaded_error
erhalten, der normalerweise einem HTTP 529 in einem Nicht-Streaming-Kontext entsprechen würde:
Ältere API-Versionen
Wenn Sie eine API-Version vor 2023-06-01
verwenden, wird die Antwortstruktur anders sein. Weitere Details finden Sie unter Versionierung.