스트리밍 텍스트 완성
스트리밍 텍스트 완성 API 사용법
레거시 API
텍스트 완성 API는 레거시 API입니다. 향후 모델과 기능은 Messages API 사용이 필요하며, 가능한 한 빨리 마이그레이션하는 것을 권장합니다.
텍스트 완성을 생성할 때 "stream": true
를 설정하여 서버 전송 이벤트 (SSE)를 사용해 응답을 점진적으로 스트리밍할 수 있습니다. 클라이언트 라이브러리를 사용하는 경우 이러한 이벤트 파싱이 자동으로 처리됩니다. 하지만 직접 API 통합을 구축하는 경우 이러한 이벤트를 직접 처리해야 합니다.
예제
Shell
Response
이벤트
각 이벤트는 명명된 이벤트 타입과 관련된 JSON 데이터를 포함합니다.
이벤트 타입: completion
, ping
, error
.
오류 이벤트 타입
이벤트 스트림에서 가끔 오류를 전송할 수 있습니다. 예를 들어, 높은 사용량 기간 동안 overloaded_error
를 받을 수 있으며, 이는 일반적으로 비스트리밍 컨텍스트에서 HTTP 529에 해당합니다:
Example error
이전 API 버전
2023-06-01
이전의 API 버전을 사용하는 경우 응답 형태가 다릅니다. 자세한 내용은 버전 관리를 참조하세요.