Halluzinationen reduzieren

Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Text generieren, der sachlich falsch oder inkonsistent mit dem gegebenen Kontext ist. Dieses Phänomen, bekannt als “Halluzination”, kann die Zuverlässigkeit Ihrer KI-gestützten Lösungen beeinträchtigen. Dieser Leitfaden wird Techniken zur Minimierung von Halluzinationen erkunden und sicherstellen, dass Claudes Ausgaben genau und vertrauenswürdig sind.

Grundlegende Strategien zur Minimierung von Halluzinationen

Erlauben Sie Claude “Ich weiß es nicht” zu sagen: Geben Sie Claude ausdrücklich die Erlaubnis, Unsicherheit einzugestehen. Diese einfache Technik kann falsche Informationen drastisch reduzieren.

Rolle	Inhalt
Benutzer	Analysieren Sie als unser M&A-Berater diesen Bericht über die potenzielle Übernahme von AcmeCo durch ExampleCorp. <report> {{REPORT}} </report> Konzentrieren Sie sich auf Finanzprognosen, Integrationsrisiken und regulatorische Hürden. Wenn Sie sich bei einem Aspekt unsicher sind oder wenn dem Bericht notwendige Informationen fehlen, sagen Sie “Ich habe nicht genügend Informationen, um dies zuverlässig zu beurteilen.”

Rolle

Inhalt

Benutzer

Analysieren Sie als unser M&A-Berater diesen Bericht über die potenzielle Übernahme von AcmeCo durch ExampleCorp.

<report>
{{REPORT}}
</report>

Konzentrieren Sie sich auf Finanzprognosen, Integrationsrisiken und regulatorische Hürden. Wenn Sie sich bei einem Aspekt unsicher sind oder wenn dem Bericht notwendige Informationen fehlen, sagen Sie “Ich habe nicht genügend Informationen, um dies zuverlässig zu beurteilen.”

Verwenden Sie direkte Zitate zur faktischen Fundierung: Bei Aufgaben mit langen Dokumenten (>20K Token) bitten Sie Claude, zuerst wörtliche Zitate zu extrahieren, bevor es seine Aufgabe ausführt. Dies verankert seine Antworten im tatsächlichen Text und reduziert Halluzinationen.

Rolle	Inhalt
Benutzer	Überprüfen Sie als unser Datenschutzbeauftragter diese aktualisierte Datenschutzrichtlinie auf DSGVO- und CCPA-Konformität. <policy> {{POLICY}} </policy> 1. Extrahieren Sie exakte Zitate aus der Richtlinie, die für die DSGVO- und CCPA-Konformität am relevantesten sind. Wenn Sie keine relevanten Zitate finden können, geben Sie “Keine relevanten Zitate gefunden” an. 2. Verwenden Sie die Zitate, um die Konformität dieser Richtlinienabschnitte zu analysieren, indem Sie sich auf die nummerierten Zitate beziehen. Basieren Sie Ihre Analyse ausschließlich auf den extrahierten Zitaten.

Rolle

Inhalt

Benutzer

Überprüfen Sie als unser Datenschutzbeauftragter diese aktualisierte Datenschutzrichtlinie auf DSGVO- und CCPA-Konformität.
<policy>
{{POLICY}}
</policy>

1. Extrahieren Sie exakte Zitate aus der Richtlinie, die für die DSGVO- und CCPA-Konformität am relevantesten sind. Wenn Sie keine relevanten Zitate finden können, geben Sie “Keine relevanten Zitate gefunden” an.

2. Verwenden Sie die Zitate, um die Konformität dieser Richtlinienabschnitte zu analysieren, indem Sie sich auf die nummerierten Zitate beziehen. Basieren Sie Ihre Analyse ausschließlich auf den extrahierten Zitaten.

Mit Zitaten verifizieren: Machen Sie Claudes Antworten überprüfbar, indem Sie es Zitate und Quellen für jede seiner Behauptungen angeben lassen. Sie können Claude auch jede Behauptung verifizieren lassen, indem es nach der Generierung einer Antwort ein unterstützendes Zitat findet. Wenn es kein Zitat finden kann, muss es die Behauptung zurückziehen.

Rolle	Inhalt
Benutzer	Verfassen Sie eine Pressemitteilung für unser neues Cybersecurity-Produkt, AcmeSecurity Pro, unter ausschließlicher Verwendung von Informationen aus diesen Produktbeschreibungen und Marktberichten. <documents> {{DOCUMENTS}} </documents> Überprüfen Sie nach dem Verfassen jede Behauptung in Ihrer Pressemitteilung. Finden Sie für jede Behauptung ein direktes Zitat aus den Dokumenten, das diese unterstützt. Wenn Sie kein unterstützendes Zitat für eine Behauptung finden können, entfernen Sie diese Behauptung aus der Pressemitteilung und markieren Sie die Stelle, wo sie entfernt wurde, mit leeren [] Klammern.

Rolle

Inhalt

Benutzer

Verfassen Sie eine Pressemitteilung für unser neues Cybersecurity-Produkt, AcmeSecurity Pro, unter ausschließlicher Verwendung von Informationen aus diesen Produktbeschreibungen und Marktberichten.
<documents>
{{DOCUMENTS}}
</documents>

Überprüfen Sie nach dem Verfassen jede Behauptung in Ihrer Pressemitteilung. Finden Sie für jede Behauptung ein direktes Zitat aus den Dokumenten, das diese unterstützt. Wenn Sie kein unterstützendes Zitat für eine Behauptung finden können, entfernen Sie diese Behauptung aus der Pressemitteilung und markieren Sie die Stelle, wo sie entfernt wurde, mit leeren [] Klammern.

Fortgeschrittene Techniken

Gedankenketten-Verifizierung: Bitten Sie Claude, seine Gedankengänge Schritt für Schritt zu erklären, bevor es eine endgültige Antwort gibt. Dies kann fehlerhafte Logik oder Annahmen aufdecken.
Best-of-N-Verifizierung: Führen Sie Claude mehrmals durch denselben Prompt und vergleichen Sie die Ausgaben. Inkonsistenzen zwischen den Ausgaben könnten auf Halluzinationen hinweisen.
Iterative Verfeinerung: Verwenden Sie Claudes Ausgaben als Eingaben für Folge-Prompts und bitten Sie es, vorherige Aussagen zu überprüfen oder zu erweitern. Dies kann Inkonsistenzen aufdecken und korrigieren.
Einschränkung externen Wissens: Weisen Sie Claude ausdrücklich an, nur Informationen aus bereitgestellten Dokumenten und nicht sein allgemeines Wissen zu verwenden.

Denken Sie daran, dass diese Techniken Halluzinationen zwar erheblich reduzieren, sie aber nicht vollständig eliminieren. Überprüfen Sie immer kritische Informationen, besonders bei wichtigen Entscheidungen.

Erste Schritte

Mit Claude entwickeln

Testen und auswerten

Erfahren Sie mehr über Claude

Verwaltung

Ressourcen

Rechtszentrum

Halluzinationen reduzieren

Grundlegende Strategien zur Minimierung von Halluzinationen

Fortgeschrittene Techniken

Erste Schritte

Mit Claude entwickeln

Testen und auswerten

Erfahren Sie mehr über Claude

Verwaltung

Ressourcen

Rechtszentrum

​Grundlegende Strategien zur Minimierung von Halluzinationen

​Fortgeschrittene Techniken

Grundlegende Strategien zur Minimierung von Halluzinationen

Fortgeschrittene Techniken