Dieses Phänomen wird als “Halluzination” bezeichnet und kann auftreten, wenn das Modell versucht, Wissenslücken zu füllen oder wenn die Eingabe mehrdeutig ist.

Lassen Sie uns verschiedene Strategien erkunden, um Halluzinationen zu minimieren und die Genauigkeit und Zuverlässigkeit der Ausgaben von Claude zu verbessern. Durch die Implementierung dieser Techniken können Sie eine bessere Benutzererfahrung und vertrauenswürdigere Ergebnisse sicherstellen.

​
Erlauben Sie Claude zu sagen: “Ich weiß es nicht”

Eine effektive Möglichkeit, Halluzinationen zu reduzieren, besteht darin, Claude ausdrücklich die Erlaubnis zu geben, “Ich weiß es nicht” zu sagen, insbesondere wenn faktenbezogene Fragen gestellt werden (auch bekannt als “Claude einen Ausweg geben”). Dies ermöglicht es Claude, seine Grenzen anzuerkennen und die Generierung falscher Informationen zu vermeiden.

Hier ist ein Beispiel-Prompt, der Claude ermutigt zuzugeben, wenn es die Antwort nicht weiß:

Inhalt
SystemBitte beantworten Sie die folgende Frage nach bestem Wissen und Gewissen. Wenn Sie sich unsicher sind oder nicht genügend Informationen haben, um eine sichere Antwort zu geben, sagen Sie einfach “Ich weiß es nicht” oder “Ich bin mir nicht sicher.”
UserWas ist die Hauptstadt von Burkina Faso?

Indem Sie Claude einen expliziten “Ausweg” geben, können Sie die Wahrscheinlichkeit verringern, dass es ungenaue Informationen generiert.

Erinnerung

Obwohl Claude viel im Internet gelesen hat und Dinge über die reale Welt weiß, hat es keinen Internetzugang. Claude wurde mit Daten trainiert, die über ein Jahr alt sein können. Es weiß auch nichts über aktuelle Ereignisse.

​
Fragen Sie Claude nach direkten Zitaten

Bei der Arbeit mit langen Dokumenten kann das Bitten von Claude, wörtliche Zitate zu extrahieren, die für eine bestimmte Frage relevant sind, dazu beitragen, Halluzinationen zu minimieren. Dieser Ansatz ist für längere Dokumente (>300 Wörter) effektiver und kann für kürzere weniger zuverlässig sein.

Hier ist ein Beispiel-Prompt, der direkte Zitate anfordert:

RolleInhalt
UserBetrachten Sie das folgende Dokument:
\
{{DOCUMENT}}
\

Bitte extrahieren Sie wörtliche Zitate aus diesem Dokument, die für die Frage <question>{{QUESTION}}</question> relevant sind. Wenn es in diesem Dokument keine Zitate gibt, die für diese Frage relevant erscheinen, sagen Sie “Ich kann keine relevanten Zitate finden.”

Durch das Anfordern direkter Zitate können Sie die Richtigkeit der von Claude bereitgestellten Informationen leichter überprüfen (und Claude außerdem dazu bringen, Zitate für Inline-Zitate zu verwenden). Sie können auch einen String-Abgleich durchführen oder den Prozentsatz der Überschneidung zwischen den Zitaten und dem Originaldokument berechnen, um sicherzustellen, dass das Modell nicht halluziniert.

Hinweis zur Genauigkeit der Zitat-Extraktion

Wenn Sie nach Zitaten fragen, erhalten Sie möglicherweise keine 100%ige Wiedergabe des Originaldokumenttextes, aber die Genauigkeit sollte hoch sein. Zum Beispiel könnte das Modell “[sic.]” hinzufügen, wenn ein Fehler im Dokument vorliegt, oder Kontext zu Zitaten hinzufügen, wie er [Brian] lud sie [Diana] zum Abendessen ein, was in Ordnung ist, solange der hinzugefügte Inhalt korrekt ist.

Wenn Sie denken, dass Claude ungenauen Inhalt hinzufügt, möchten Sie möglicherweise nach einem sehr hohen Grad an Übereinstimmung filtern und die Anweisungen strenger gestalten, z. B. indem Sie etwas wie Bitte stellen Sie sicher, dass Ihre Zitate direkt wörtlich aus dem Dokument entnommen werden. Fügen Sie keine zusätzlichen Inhalte wie Disambiguierungen oder Kommentare hinzu. hinzufügen.

Sie können die direkten Zitate, die Claude extrahiert, weiter nutzen, indem Sie Claude sagen, nur zu antworten, wenn relevante Informationen in diesen Zitaten gefunden werden, oder seine Antwort nur auf die in den extrahierten Zitaten gefundenen Informationen zu stützen. Sehen Sie sich diesen Beispiel-Prompt basierend auf Zitaten aus unserer Prompt-Bibliothek an:

Inhalt
SystemSie sind ein Experte für Rechercheassistenz. Hier ist ein Dokument, zu dem Sie Fragen beantworten werden:
\
{{DOCUMENT}}
\
ÜbersichtVerhinderung von Jailbreaks und Prompt-Injektionen