Снижение риска утечки подсказок

Утечки подсказок могут раскрыть конфиденциальную информацию, которую вы считаете «скрытой» в вашей подсказке. Хотя ни один метод не является абсолютно надёжным, приведённые ниже стратегии могут значительно снизить этот риск.



Прежде чем пытаться снизить риск утечки подсказок

Рассматривайте использование устойчивых к утечкам стратегий инженерии подсказок только в случае крайней необходимости. Попытки защитить подсказку от утечек могут добавить сложность, которая способна ухудшить производительность в других частях задачи из-за увеличения общей сложности задачи для «large language model» (большой языковой модели), или LLM.

Если вы решите внедрить методы защиты от утечек, обязательно тщательно протестируйте свои подсказки, чтобы убедиться, что добавленная сложность не оказывает негативного влияния на производительность модели или качество её выходных данных.



Стратегии снижения риска утечки подсказок

• Отделяйте контекст от запросов: Вы можете попробовать использовать системные подсказки, чтобы изолировать ключевую информацию и контекст от пользовательских запросов. Вы можете подчеркнуть ключевые инструкции в реплике User, а затем повторно подчеркнуть эти инструкции, предварительно заполнив реплику Assistant. (Примечание: предварительное заполнение не поддерживается в Claude 4.6 и более поздних моделях, а также в Claude Mythos Preview.)

• Используйте постобработку: фильтруйте выходные данные Claude на предмет ключевых слов, которые могут указывать на утечку. Методы включают использование регулярных выражений, фильтрацию по ключевым словам или другие способы обработки текста.
• Избегайте ненужных проприетарных деталей: если Claude не нуждается в них для выполнения задачи, не включайте их. Лишний контент отвлекает Claude от соблюдения инструкций «не допускать утечек».
• Регулярные аудиты: периодически проверяйте свои подсказки и выходные данные Claude на предмет потенциальных утечек.

Помните, что цель состоит не только в предотвращении утечек, но и в сохранении производительности Claude. Чрезмерно сложная защита от утечек может ухудшить результаты. Ключевое значение имеет баланс.