Halluzinationen reduzieren

Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Text generieren, der sachlich falsch oder inkonsistent mit dem gegebenen Kontext ist. Dieses Phänomen, bekannt als “Halluzination”, kann die Zuverlässigkeit Ihrer KI-gestützten Lösungen untergraben. Dieser Leitfaden untersucht Techniken, um Halluzinationen zu minimieren und sicherzustellen, dass Claudes Ausgaben genau und vertrauenswürdig sind.

Grundlegende Strategien zur Minimierung von Halluzinationen

Claude erlauben, “Ich weiß es nicht” zu sagen: Geben Sie Claude ausdrücklich die Erlaubnis, Unsicherheit zuzugeben. Diese einfache Technik kann falsche Informationen drastisch reduzieren.

Rolle	Inhalt
Benutzer	Als unser M&A-Berater analysieren Sie bitte diesen Bericht über die mögliche Übernahme von AcmeCo durch ExampleCorp. <report> {{REPORT}} </report> Konzentrieren Sie sich auf Finanzprognosen, Integrationsrisiken und regulatorische Hürden. Wenn Sie sich bei einem Aspekt unsicher sind oder der Bericht notwendige Informationen nicht enthält, sagen Sie: “Ich habe nicht genügend Informationen, um dies mit Sicherheit zu beurteilen.”

Rolle

Inhalt

Benutzer

Als unser M&A-Berater analysieren Sie bitte diesen Bericht über die mögliche Übernahme von AcmeCo durch ExampleCorp.

<report>
{{REPORT}}
</report>

Konzentrieren Sie sich auf Finanzprognosen, Integrationsrisiken und regulatorische Hürden. Wenn Sie sich bei einem Aspekt unsicher sind oder der Bericht notwendige Informationen nicht enthält, sagen Sie: “Ich habe nicht genügend Informationen, um dies mit Sicherheit zu beurteilen.”

Direkte Zitate für faktische Begründung verwenden: Für Aufgaben mit langen Dokumenten (>20K Token) bitten Sie Claude, zuerst wörtliche Zitate zu extrahieren, bevor es seine Aufgabe ausführt. Dies verankert seine Antworten im tatsächlichen Text und reduziert Halluzinationen.

Rolle	Inhalt
Benutzer	Als unser Datenschutzbeauftragter überprüfen Sie bitte diese aktualisierte Datenschutzrichtlinie auf DSGVO- und CCPA-Konformität. <policy> {{POLICY}} </policy><br/><br/>1. Extrahieren Sie exakte Zitate aus der Richtlinie, die für die DSGVO- und CCPA-Konformität am relevantesten sind. Wenn Sie keine relevanten Zitate finden können, geben Sie “Keine relevanten Zitate gefunden” an.<br/><br/>2. Verwenden Sie die Zitate, um die Konformität dieser Richtlinienabschnitte zu analysieren, und verweisen Sie dabei auf die Zitate nach Nummer. Stützen Sie Ihre Analyse nur auf die extrahierten Zitate.

Rolle

Inhalt

Benutzer

Als unser Datenschutzbeauftragter überprüfen Sie bitte diese aktualisierte Datenschutzrichtlinie auf DSGVO- und CCPA-Konformität.
<policy>
{{POLICY}}
</policy> 1. Extrahieren Sie exakte Zitate aus der Richtlinie, die für die DSGVO- und CCPA-Konformität am relevantesten sind. Wenn Sie keine relevanten Zitate finden können, geben Sie “Keine relevanten Zitate gefunden” an. 2. Verwenden Sie die Zitate, um die Konformität dieser Richtlinienabschnitte zu analysieren, und verweisen Sie dabei auf die Zitate nach Nummer. Stützen Sie Ihre Analyse nur auf die extrahierten Zitate.

**Mit Zitaten verifizieren: Machen Sie Claudes Antwort überprüfbar, indem Sie es Zitate und Quellen für jede seiner Behauptungen zitieren lassen. Sie können Claude auch jede Behauptung verifizieren lassen, indem es nach der Generierung einer Antwort ein unterstützendes Zitat findet. Wenn es kein Zitat finden kann, muss es die Behauptung zurückziehen. </callout>

Rolle	Inhalt
Benutzer	Entwerfen Sie eine Pressemitteilung für unser neues Cybersicherheitsprodukt AcmeSecurity Pro, wobei Sie nur Informationen aus diesen Produktbeschreibungen und Marktberichten verwenden. <documents> {{DOCUMENTS}} </documents><br/><br/>Überprüfen Sie nach dem Entwurf jede Behauptung in Ihrer Pressemitteilung. Finden Sie für jede Behauptung ein direktes Zitat aus den Dokumenten, das sie stützt. Wenn Sie kein unterstützendes Zitat für eine Behauptung finden können, entfernen Sie diese Behauptung aus der Pressemitteilung und markieren Sie die Stelle, an der sie entfernt wurde, mit leeren []-Klammern.

Rolle

Inhalt

Benutzer

Entwerfen Sie eine Pressemitteilung für unser neues Cybersicherheitsprodukt AcmeSecurity Pro, wobei Sie nur Informationen aus diesen Produktbeschreibungen und Marktberichten verwenden.
<documents>
{{DOCUMENTS}}
</documents> Überprüfen Sie nach dem Entwurf jede Behauptung in Ihrer Pressemitteilung. Finden Sie für jede Behauptung ein direktes Zitat aus den Dokumenten, das sie stützt. Wenn Sie kein unterstützendes Zitat für eine Behauptung finden können, entfernen Sie diese Behauptung aus der Pressemitteilung und markieren Sie die Stelle, an der sie entfernt wurde, mit leeren []-Klammern.

Fortgeschrittene Techniken

Chain-of-Thought-Verifikation: Bitten Sie Claude, seine Argumentation Schritt für Schritt zu erklären, bevor es eine endgültige Antwort gibt. Dies kann fehlerhafte Logik oder Annahmen aufdecken.
Best-of-N-Verifikation: Lassen Sie Claude denselben Prompt mehrmals durchlaufen und vergleichen Sie die Ausgaben. Inkonsistenzen zwischen den Ausgaben könnten auf Halluzinationen hindeuten.
Iterative Verfeinerung: Verwenden Sie Claudes Ausgaben als Eingaben für Folge-Prompts und bitten Sie es, frühere Aussagen zu verifizieren oder zu erweitern. Dies kann Inkonsistenzen erkennen und korrigieren.
Beschränkung des externen Wissens: Weisen Sie Claude ausdrücklich an, nur Informationen aus den bereitgestellten Dokumenten zu verwenden und nicht sein allgemeines Wissen.

Denken Sie daran, dass diese Techniken Halluzinationen zwar erheblich reduzieren, sie aber nicht vollständig beseitigen. Validieren Sie immer kritische Informationen, insbesondere bei Entscheidungen mit hohem Risiko.

Erste Schritte

Über Claude lernen

Mit Claude entwickeln

Testen und Evaluieren

Ressourcen

Halluzinationen reduzieren

Grundlegende Strategien zur Minimierung von Halluzinationen

Fortgeschrittene Techniken

Erste Schritte

Über Claude lernen

Mit Claude entwickeln

Testen und Evaluieren

Ressourcen

​Grundlegende Strategien zur Minimierung von Halluzinationen

​Fortgeschrittene Techniken

Grundlegende Strategien zur Minimierung von Halluzinationen

Fortgeschrittene Techniken