Dépannage

​

Problèmes courants et stratégies d’atténuation avec les LLMs

1. Hallucinations : Les LLMs peuvent parfois générer du texte qui est factuellement incorrect, incohérent ou non pertinent pour le contexte donné. C’est ce qu’on appelle une hallucination et cela peut se produire lorsque le modèle essaie de combler les lacunes dans ses connaissances ou lorsque l’entrée est ambiguë.
   • Minimiser les hallucinations : Apprenez des techniques pour réduire l’occurrence de sorties factuellement incorrectes ou incohérentes du modèle. Cette page couvre des stratégies telles que permettre à Claude de dire quand il ne connaît pas la réponse, faire extraire des citations à Claude avant de répondre, et d’autres techniques d’ingénierie des prompts.
2. Jailbreaking et injections de prompts : Les utilisateurs peuvent tenter de contourner les mesures de protection et les directives éthiques du modèle en créant des prompts spécifiques qui exploitent les vulnérabilités dans l’entraînement du modèle. Cela peut amener le modèle à générer du contenu inapproprié ou nuisible.
   • Atténuer les jailbreaks et les injections de prompts : Découvrez les meilleures pratiques pour empêcher les utilisateurs d’exploiter les vulnérabilités du modèle et de générer du contenu inapproprié. Cette page traite des méthodes telles que la validation des entrées et d’autres stratégies de prompts.
3. Fuites de prompts : Les utilisateurs peuvent tenter d’amener le modèle à révéler des parties du prompt d’entrée dans sa sortie générée. Cela peut être préoccupant lorsqu’il s’agit d’informations sensibles ou lorsque le prompt contient des détails qui ne doivent pas être divulgués.
   • Réduire les fuites de prompts : Découvrez comment minimiser le risque que le modèle révèle des informations sensibles du prompt d’entrée dans sa sortie générée. Cette page explore des techniques telles que la séparation du contexte des requêtes, les stratégies de prompts et l’application de post-traitement à la sortie.
4. Réponses hors personnage : Lors de l’utilisation de LLMs pour des scénarios de jeu de rôle ou pour émuler une personnalité spécifique, le modèle peut parfois s’écarter des traits de caractère prévus, conduisant à des réponses incohérentes ou irréalistes, en particulier lors de longues conversations.
   • Garder Claude dans le personnage : Obtenez des conseils pour maintenir des réponses cohérentes et dans le personnage lorsque vous utilisez Claude pour des scénarios de jeu de rôle. Cette page couvre des stratégies comme fournir des descriptions claires des personnages et utiliser des prompts de définition de contexte.
5. Sorties non déterministes : En raison de la nature probabiliste des LLMs, la sortie générée peut varier même lorsqu’on lui donne la même entrée. Cela peut être problématique dans des scénarios où des résultats cohérents et reproductibles sont souhaités.
   • Bien que les LLMs ne puissent pas être entièrement déterministes, vous pouvez définir temperature à 0.0 pour réduire le hasard autant que possible. Pour plus d’informations sur les paramètres de l’API, consultez notre documentation de l’API Messages.

En plus de ces guides de dépannage, nous vous recommandons de consulter notre documentation sur l’ingénierie des prompts pour un aperçu complet de la façon de créer des prompts très efficaces. Ce guide offre d’autres informations sur l’optimisation des prompts, l’amélioration de la dirigeabilité du modèle et l’augmentation de la réactivité globale de Claude.

Si vous continuez à avoir des problèmes, n’hésitez pas à contacter notre équipe d’assistance clientèle. Nous sommes là pour vous aider à tirer le meilleur parti de Claude.