Streaming de Conclusões de Texto
API Legada
A API de Conclusões de Texto é uma API legada. Modelos e recursos futuros exigirão o uso da API de Mensagens, e recomendamos migrar o quanto antes.
Ao criar uma Conclusão de Texto, você pode definir "stream": true
para transmitir incrementalmente a resposta usando eventos enviados pelo servidor (SSE). Se você estiver usando nossas bibliotecas cliente, a análise desses eventos será tratada automaticamente para você. No entanto, se você estiver construindo uma integração direta com a API, precisará tratar esses eventos por conta própria.
Exemplo
Eventos
Cada evento inclui um tipo de evento nomeado e dados JSON associados.
Tipos de eventos: completion
, ping
, error
.
Tipos de eventos de erro
Ocasionalmente, podemos enviar erros no fluxo de eventos. Por exemplo, durante períodos de alto uso, você pode receber um overloaded_error
, que normalmente corresponderia a um HTTP 529 em um contexto sem streaming:
Versões anteriores da API
Se você estiver usando uma versão da API anterior a 2023-06-01
, o formato da resposta será diferente. Consulte versionamento para obter detalhes.