Diffusion de complétion de texte
API héritée
L’API de complétion de texte est une API héritée. Les futurs modèles et fonctionnalités nécessiteront l’utilisation de l’API Messages, et nous recommandons de migrer dès que possible.
Lors de la création d’une complétion de texte, vous pouvez définir "stream": true
pour diffuser progressivement la réponse en utilisant les événements envoyés par le serveur (SSE). Si vous utilisez nos bibliothèques client, l’analyse de ces événements sera gérée automatiquement pour vous. Cependant, si vous construisez une intégration API directe, vous devrez gérer ces événements vous-même.
Exemple
Événements
Chaque événement inclut un type d’événement nommé et des données JSON associées.
Types d’événements : completion
, ping
, error
.
Types d’événements d’erreur
Nous pouvons occasionnellement envoyer des erreurs dans le flux d’événements. Par exemple, pendant les périodes de forte utilisation, vous pouvez recevoir une overloaded_error
, qui correspondrait normalement à une erreur HTTP 529 dans un contexte sans diffusion :
Versions antérieures de l’API
Si vous utilisez une version d’API antérieure à 2023-06-01
, la forme de la réponse sera différente. Consultez la gestion des versions pour plus de détails.