Prompt-Leaks reduzieren

„Prompt leaks" (Prompt-Leaks) können sensible Informationen offenlegen, von denen du erwartest, dass sie in deinem Prompt „verborgen" bleiben. Obwohl keine Methode absolut sicher ist, können die folgenden Strategien das Risiko erheblich reduzieren.



Bevor du versuchst, Prompt-Leaks zu reduzieren

Erwäge den Einsatz von leak-resistenten Prompt-Engineering-Strategien nur, wenn es absolut notwendig ist. Versuche, deinen Prompt leak-sicher zu machen, können zusätzliche Komplexität hinzufügen, die die Leistung in anderen Teilen der Aufgabe beeinträchtigen kann, da die Gesamtkomplexität der Aufgabe für das LLM erhöht wird.

Wenn du dich entscheidest, leak-resistente Techniken zu implementieren, teste deine Prompts gründlich, um sicherzustellen, dass die zusätzliche Komplexität die Leistung des Modells oder die Qualität seiner Ausgaben nicht negativ beeinflusst.



Strategien zur Reduzierung von Prompt-Leaks

• Trenne Kontext von Anfragen: Du kannst versuchen, System-Prompts zu verwenden, um wichtige Informationen und Kontext von Benutzeranfragen zu isolieren. Du kannst wichtige Anweisungen im User-Turn hervorheben und diese Anweisungen dann durch Vorausfüllen des Assistant-Turns erneut betonen. (Hinweis: Vorausfüllen wird bei Claude 4.6 und späteren Modellen sowie bei Claude Mythos Preview nicht unterstützt.)

• Verwende Nachbearbeitung: Filtere Claudes Ausgaben nach Schlüsselwörtern, die auf ein Leak hindeuten könnten. Zu den Techniken gehören die Verwendung von regulären Ausdrücken, Schlüsselwortfilterung oder andere Textverarbeitungsmethoden.
• Vermeide unnötige proprietäre Details: Wenn Claude sie nicht benötigt, um die Aufgabe auszuführen, füge sie nicht hinzu. Zusätzlicher Inhalt lenkt Claude davon ab, sich auf „Kein-Leak"-Anweisungen zu konzentrieren.
• Regelmäßige Audits: Überprüfe regelmäßig deine Prompts und Claudes Ausgaben auf potenzielle Leaks.

Denke daran, das Ziel ist nicht nur, Leaks zu verhindern, sondern auch Claudes Leistung aufrechtzuerhalten. Übermäßig komplexe Leak-Prävention kann die Ergebnisse verschlechtern. Balance ist der Schlüssel.