流式文本补全
了解如何使用流式文本补全API来增量接收响应
在创建文本补全时,您可以设置"stream": true
来使用服务器发送事件 (SSE)增量流式传输响应。如果您使用我们的客户端库,这些事件的解析将自动为您处理。但是,如果您正在构建直接的API集成,您将需要自己处理这些事件。
示例
Shell
Response
事件
每个事件包括一个命名的事件类型和相关的JSON数据。
事件类型:completion
、ping
、error
。
错误事件类型
我们可能偶尔在事件流中发送错误。例如,在高使用率期间,您可能会收到overloaded_error
,这通常对应于非流式上下文中的HTTP 529:
Example error