Streaming Text Completions
Pelajari cara menggunakan streaming dengan Text Completions API untuk menerima respons secara bertahap menggunakan server-sent events.
API Lama
Text Completions API adalah API lama. Model dan fitur masa depan akan memerlukan penggunaan Messages API, dan kami merekomendasikan untuk bermigrasi sesegera mungkin.
Saat membuat Text Completion, Anda dapat mengatur "stream": true
untuk melakukan streaming respons secara bertahap menggunakan server-sent events (SSE). Jika Anda menggunakan client libraries kami, parsing event-event ini akan ditangani secara otomatis untuk Anda. Namun, jika Anda membangun integrasi API langsung, Anda perlu menangani event-event ini sendiri.
Contoh
Events
Setiap event mencakup tipe event bernama dan data JSON terkait.
Tipe event: completion
, ping
, error
.
Tipe event error
Kami mungkin sesekali mengirim errors dalam event stream. Misalnya, selama periode penggunaan tinggi, Anda mungkin menerima overloaded_error
, yang biasanya sesuai dengan HTTP 529 dalam konteks non-streaming:
Versi API lama
Jika Anda menggunakan versi API sebelum 2023-06-01
, bentuk respons akan berbeda. Lihat versioning untuk detail.