Completamenti di Testo in Streaming
Guida per utilizzare l’API Text Completions con streaming per ricevere risposte incrementali tramite server-sent events.
API Legacy
L’API Text Completions è un’API legacy. I modelli e le funzionalità future richiederanno l’uso dell’API Messages, e raccomandiamo di migrare il prima possibile.
Quando crei un Text Completion, puoi impostare "stream": true
per trasmettere incrementalmente la risposta utilizzando server-sent events (SSE). Se stai utilizzando le nostre librerie client, l’analisi di questi eventi verrà gestita automaticamente per te. Tuttavia, se stai costruendo un’integrazione API diretta, dovrai gestire questi eventi da solo.
Esempio
Eventi
Ogni evento include un tipo di evento denominato e dati JSON associati.
Tipi di evento: completion
, ping
, error
.
Tipi di evento di errore
Potremmo occasionalmente inviare errori nel flusso di eventi. Ad esempio, durante periodi di utilizzo elevato, potresti ricevere un overloaded_error
, che normalmente corrisponderebbe a un HTTP 529 in un contesto non-streaming:
Versioni API precedenti
Se stai utilizzando una versione API precedente al 2023-06-01
, la forma della risposta sarà diversa. Vedi versioning per i dettagli.