減少幻覺

即使是最先進的語言模型（如 Claude），有時也會生成與事實不符或與給定上下文不一致的文本。這種現象稱為「hallucination」（幻覺），可能會削弱您的 AI 驅動解決方案的可靠性。 本指南將探討將幻覺降至最低的技術，並確保 Claude 的輸出準確且值得信賴。



基本的幻覺最小化策略

• 允許 Claude 說「我不知道」： 明確允許 Claude 承認不確定性。這個簡單的技術可以大幅減少錯誤資訊。

• 使用直接引用作為事實依據： 對於涉及長文件（超過 20k tokens）的任務，請要求 Claude 在執行任務之前先逐字提取引用內容。這能使其回應以實際文本為依據，從而減少幻覺。

• 透過引用進行驗證：讓 Claude 為其每項主張引用出處和來源，使其回應可供審核。您也可以讓 Claude 在生成回應後，透過尋找支持性引用來驗證每項主張。如果找不到引用，則必須撤回該主張。



進階技術

• 思維鏈驗證：要求 Claude 在給出最終答案之前逐步解釋其推理過程。這可以揭示錯誤的邏輯或假設。

• N 選最佳驗證：使用相同的提示多次執行 Claude 並比較輸出結果。輸出之間的不一致可能表示存在幻覺。

• 迭代優化：將 Claude 的輸出作為後續提示的輸入，要求其驗證或擴展先前的陳述。這可以發現並修正不一致之處。

• 限制外部知識：明確指示 Claude 僅使用所提供文件中的資訊，而非其一般知識。