Completaciones de Texto en Streaming
Aprende cómo usar streaming con la API de Completaciones de Texto para recibir respuestas incrementales usando eventos enviados por el servidor.
API Heredada
La API de Completaciones de Texto es una API heredada. Los modelos y características futuras requerirán el uso de la API de Mensajes, y recomendamos migrar tan pronto como sea posible.
Al crear una Completación de Texto, puedes establecer "stream": true
para transmitir incrementalmente la respuesta usando eventos enviados por el servidor (SSE). Si estás usando nuestras librerías cliente, el análisis de estos eventos se manejará automáticamente para ti. Sin embargo, si estás construyendo una integración directa con la API, necesitarás manejar estos eventos tú mismo.
Ejemplo
Eventos
Cada evento incluye un tipo de evento nombrado y datos JSON asociados.
Tipos de eventos: completion
, ping
, error
.
Tipos de eventos de error
Ocasionalmente podemos enviar errores en el flujo de eventos. Por ejemplo, durante períodos de alto uso, puedes recibir un overloaded_error
, que normalmente correspondería a un HTTP 529 en un contexto sin streaming:
Versiones anteriores de la API
Si estás usando una versión de API anterior a 2023-06-01
, la forma de la respuesta será diferente. Consulta versionado para más detalles.