Halluzinationen reduzieren

Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Text generieren, der faktisch falsch oder inkonsistent mit dem gegebenen Kontext ist. Dieses Phänomen, bekannt als „hallucination" (Halluzination), kann die Zuverlässigkeit deiner KI-gestützten Lösungen untergraben. Dieser Leitfaden stellt Techniken vor, um Halluzinationen zu minimieren und sicherzustellen, dass Claudes Ausgaben korrekt und vertrauenswürdig sind.



Grundlegende Strategien zur Minimierung von Halluzinationen

• Erlaube Claude, „Ich weiß es nicht" zu sagen: Gib Claude ausdrücklich die Erlaubnis, Unsicherheit einzugestehen. Diese einfache Technik kann falsche Informationen drastisch reduzieren.

• Verwende direkte Zitate zur faktischen Verankerung: Bei Aufgaben mit langen Dokumenten (>20k Token) bitte Claude, zunächst wortwörtliche Zitate zu extrahieren, bevor es seine Aufgabe ausführt. Dies verankert die Antworten im tatsächlichen Text und reduziert Halluzinationen.

• Mit Quellenangaben verifizieren: Mache Claudes Antwort überprüfbar, indem du es für jede seiner Behauptungen Zitate und Quellen angeben lässt. Du kannst Claude auch jede Behauptung verifizieren lassen, indem es nach dem Generieren einer Antwort ein unterstützendes Zitat sucht. Wenn es kein Zitat finden kann, muss es die Behauptung zurückziehen.



Fortgeschrittene Techniken

• Chain-of-thought-Verifizierung: Bitte Claude, seine Argumentation Schritt für Schritt zu erklären, bevor es eine endgültige Antwort gibt. Dies kann fehlerhafte Logik oder Annahmen aufdecken.

• Best-of-N-Verifizierung: Lasse Claude denselben Prompt mehrmals durchlaufen und vergleiche die Ausgaben. Inkonsistenzen zwischen den Ausgaben könnten auf Halluzinationen hindeuten.

• Iterative Verfeinerung: Verwende Claudes Ausgaben als Eingaben für Folge-Prompts und bitte es, frühere Aussagen zu verifizieren oder zu erweitern. Dies kann Inkonsistenzen aufdecken und korrigieren.

• Einschränkung auf externes Wissen: Weise Claude ausdrücklich an, nur Informationen aus bereitgestellten Dokumenten zu verwenden und nicht sein allgemeines Wissen.