Claude Platform Docs
ベストプラクティスユースケース

チケットルーティング

このガイドでは、Claudeの高度な自然言語理解能力を活用して、顧客の意図、緊急度、優先順位、顧客プロファイルなどに基づいてカスタマーサポートチケットを大規模に分類する方法を説明します。

前提条件

  • ClaudeのAPIキーとClaude SDKのインストール
  • 既存のサポートチケットシステムへのアクセスと、そのシステムに関する知識
  • テスト用の過去のサポートチケットのサンプルセット

チケットルーティングにClaudeを使用するかどうかを判断する

分類タスクに従来のMLアプローチではなく、Claudeのような「large language model」(大規模言語モデル)、すなわちLLMを使用すべきであることを示す主な指標を以下に示します。


LLMサポートワークフローを構築してデプロイする

現在のサポートアプローチを理解する

自動化する前に、既存のチケットシステムを理解することが重要です。まず、サポートチームが現在どのようにチケットルーティングを処理しているかを調査することから始めましょう。

次のような質問を検討してください。

  • どのSLA/サービス提供が適用されるかを決定するために、どのような基準が使用されていますか?
  • チケットルーティングは、チケットがどのサポート階層または製品スペシャリストに送られるかを決定するために使用されていますか?
  • すでに導入されている自動化ルールやワークフローはありますか?それらはどのような場合に失敗しますか?
  • エッジケースや曖昧なチケットはどのように処理されていますか?
  • チームはどのようにチケットの優先順位を付けていますか?

人間が特定のケースをどのように処理しているかを知れば知るほど、Claudeと協力してタスクをより適切に実行できるようになります。

ユーザー意図のカテゴリを定義する

明確に定義されたユーザー意図カテゴリのリストは、Claudeによる正確なサポートチケット分類に不可欠です。Claudeがシステム内でチケットを効果的にルーティングする能力は、システムのカテゴリがどれだけ明確に定義されているかに正比例します。

ユーザー意図のカテゴリとサブカテゴリの例を以下に示します。

意図に加えて、チケットのルーティングと優先順位付けは、緊急度、顧客タイプ、SLA、言語などの他の要因にも影響される場合があります。自動ルーティングシステムを構築する際には、他のルーティング基準も必ず考慮してください。

成功基準を確立する

サポートチームと協力して、測定可能なベンチマーク、しきい値、目標を含む明確な成功基準を定義してください。

サポートチケットルーティングにLLMを使用する際の標準的な基準とベンチマークを以下に示します。

LLMを使用するかどうかに関係なく役立つ可能性のある一般的な成功基準を以下に示します。

適切なClaudeモデルを選択する

モデルの選択は、コスト、精度、応答時間のトレードオフによって決まります。

Claude Haiku 5.5(claude-haiku-5-5)はチケットルーティングに適しています。現行モデルの中で最も高速かつ費用対効果が高く、lowエフォートで分類のような単純で大量のリクエストを処理できます。分類の問題に深い専門知識、大量の意図カテゴリ、または複雑な推論が必要な場合は、より大きなSonnetモデルを選択することもできます。

強力なプロンプトを構築する

チケットルーティングは分類タスクの一種です。Claudeはサポートチケットの内容を分析し、問題の種類、緊急度、必要な専門知識、またはその他の関連要因に基づいて、事前定義されたカテゴリに分類します。

チケット分類プロンプトを作成しましょう。最初のプロンプトには、ユーザーリクエストの内容を含め、推論と意図の両方を返すようにする必要があります。

以下は、チケットルーティング分類プロンプトの例です。

def classify_support_request(ticket_contents):
    # 分類タスク用のプロンプトを定義します
    classification_prompt = f"""You will be acting as a customer support ticket classification system. Your task is to analyze customer support requests and output the appropriate classification intent for each request, along with your reasoning.

        Here is the customer support request you need to classify:

        <request>{ticket_contents}</request>

        Please carefully analyze the above request to determine the customer's core intent and needs. Consider what the customer is asking for has concerns about.

        First, write out your reasoning and analysis of how to classify this request inside <reasoning> tags.

        Then, output the appropriate classification label for the request inside a <intent> tag. The valid intents are:
        <intents>
        <intent>Support, Feedback, Complaint</intent>
        <intent>Order Tracking</intent>
        <intent>Refund/Exchange</intent>
        </intents>

        A request may have ONLY ONE applicable intent. Only include the intent that is most applicable to the request.

        As an example, consider the following request:
        <request>Hello! I had high-speed fiber internet installed on Saturday and my installer, Kevin, was absolutely fantastic! Where can I send my positive review? Thanks for your help!</request>

        Here is an example of how your output should be formatted (for the above example request):
        <reasoning>The user seeks information in order to leave positive feedback.</reasoning>
        <intent>Support, Feedback, Complaint</intent>

        Here are a few more examples:
        <examples>
        <example 2>
        Example 2 Input:
        <request>I wanted to write and personally thank you for the compassion you showed towards my family during my father's funeral this past weekend. Your staff was so considerate and helpful throughout this whole process; it really took a load off our shoulders. The visitation brochures were beautiful. We'll never forget the kindness you showed us and we are so appreciative of how smoothly the proceedings went. Thank you, again, Amarantha Hill on behalf of the Hill Family.</request>

        Example 2 Output:
        <reasoning>User leaves a positive review of their experience.</reasoning>
        <intent>Support, Feedback, Complaint</intent>
        </example 2>
        <example 3>

        […]

        </example 8>
        <example 9>
        Example 9 Input:
        <request>Your website keeps sending ad-popups that block the entire screen. It took me twenty minutes just to finally find the phone number to call and complain. How can I possibly access my account information with all of these popups? Can you access my account for me, since your website is broken? I need to know what the address is on file.</request>

        Example 9 Output:
        <reasoning>The user requests help accessing their web account information.</reasoning>
        <intent>Support, Feedback, Complaint</intent>
        </example 9>

        Remember to always include your classification reasoning before your actual intent output. The reasoning should be enclosed in <reasoning> tags and the intent in <intent> tags. Return only the reasoning and the intent.
        """

このプロンプトの主要な構成要素は次のとおりです。

  • プロンプトテンプレートは、ticket_contentsを<request>タグに挿入します。
  • プロンプトは、チケットの内容を注意深く分析して顧客の核となる意図とニーズを判断する分類システムとして、Claudeに明確に定義された役割を与えています。
  • プロンプトは、適切な出力形式についてClaudeに指示しています。この場合、推論と分析を<reasoning>タグ内に記述し、その後に適切な分類ラベルを<intent>タグ内に記述するよう指示しています。
  • プロンプトは、有効な意図カテゴリとして「Support, Feedback, Complaint」、「Order Tracking」、「Refund/Exchange」を指定しています。
  • プロンプトには、出力の形式を示すためのいくつかの例(いわゆる「few-shot prompting」(フューショットプロンプティング))が含まれており、精度と一貫性が向上します。

Claudeに応答を個別のXMLタグセクションに分割させることで、正規表現を使用して出力から推論と意図を個別に抽出できます。これにより、意図のみを使用してチケットをルーティングする担当者を決定するなど、チケットルーティングワークフローにおける的を絞った次のステップを作成できます。

プロンプトをデプロイする

テスト用の本番環境にデプロイして評価を実行しなければ、プロンプトがどの程度うまく機能するかを知ることは困難です。

デプロイ構造を構築しましょう。まず、Claudeへの呼び出しをラップするメソッドシグネチャを定義することから始めます。先ほど書き始めた、ticket_contentsを入力として受け取るメソッドを拡張し、推論と意図を出力として返すようにします。従来のMLを使用した既存の自動化がある場合は、代わりにそのメソッドシグネチャに従うとよいでしょう。

import re

# Claude APIクライアントのインスタンスを作成します
client = anthropic.Anthropic()

# デフォルトのモデルを設定します
DEFAULT_MODEL = "claude-haiku-5-5"


def classify_support_request(ticket_contents):
    # 分類タスク用のプロンプトを定義します
    classification_prompt = f"""You will be acting as a customer support ticket classification system.
        […]
        ... The reasoning should be enclosed in <reasoning> tags and the intent in <intent> tags. Return only the reasoning and the intent.
        """
    # サポートリクエストを分類するため、プロンプトをAPIに送信します。
    message = client.messages.create(
        model=DEFAULT_MODEL,
        max_tokens=2048,
        output_config={"effort": "low"},
        messages=[{"role": "user", "content": classification_prompt}],
        stream=False,
    )
    reasoning_and_intent = next(
        (block.text for block in message.content if block.type == "text"), ""
    )

    # Pythonの正規表現ライブラリを使用して`reasoning`を抽出します。
    reasoning_match = re.search(
        r"<reasoning>(.*?)</reasoning>", reasoning_and_intent, re.DOTALL
    )
    reasoning = reasoning_match.group(1).strip() if reasoning_match else ""

    # 同様に、`intent`も抽出します。
    intent_match = re.search(r"<intent>(.*?)</intent>", reasoning_and_intent, re.DOTALL)
    intent = intent_match.group(1).strip() if intent_match else ""

    return reasoning, intent

このコードは次のことを行います。

  • APIキーを使用してクライアントインスタンスを作成します。
  • ticket_contents文字列を受け取るclassify_support_request関数を定義します。
  • classification_promptを使用して、分類のためにticket_contentsをClaudeに送信します。
  • 応答から抽出したモデルの推論と意図を返します。

解析の前に推論と意図のテキスト全体が生成されている必要があるため、この例では応答をストリーミングしません。


プロンプトを評価する

プロンプティングを本番環境で使用できる状態にするには、多くの場合テストと最適化が必要です。ソリューションの準備状況を判断するには、先に確立した成功基準としきい値に基づいてパフォーマンスを評価します。

評価を実行するには、実行対象となるテストケースが必要です。このガイドの残りの部分では、すでにテストケースを開発済みであることを前提としています。

評価関数を構築する

このガイドの評価例では、3つの主要な指標に沿ってClaudeのパフォーマンスを測定します。

  • 精度
  • 分類あたりのコスト

重要な要因に応じて、他の軸でClaudeを評価する必要がある場合もあります。

これを評価するには、まずスクリプトを変更して、予測された意図と実際の意図を比較し、正しい予測の割合を計算する関数を追加します。次に、コスト計算と時間測定の機能を追加します。

import re

# Claude APIクライアントのインスタンスを作成します
client = anthropic.Anthropic()

# デフォルトのモデルを設定します
DEFAULT_MODEL = "claude-haiku-5-5"


def classify_support_request(request, actual_intent):
    # 分類タスク用のプロンプトを定義します
    classification_prompt = f"""You will be acting as a customer support ticket classification system.
        […]
        ...The reasoning should be enclosed in <reasoning> tags and the intent in <intent> tags. Return only the reasoning and the intent.
        """

    message = client.messages.create(
        model=DEFAULT_MODEL,
        max_tokens=2048,
        output_config={"effort": "low"},
        messages=[{"role": "user", "content": classification_prompt}],
    )
    usage = message.usage  # Get the usage statistics for the API call for how many input and output tokens were used.
    reasoning_and_intent = next(
        (block.text for block in message.content if block.type == "text"), ""
    )

    # Pythonの正規表現ライブラリを使用して`reasoning`を抽出します。
    reasoning_match = re.search(
        r"<reasoning>(.*?)</reasoning>", reasoning_and_intent, re.DOTALL
    )
    reasoning = reasoning_match.group(1).strip() if reasoning_match else ""

    # 同様に、`intent`も抽出します。
    intent_match = re.search(r"<intent>(.*?)</intent>", reasoning_and_intent, re.DOTALL)
    intent = intent_match.group(1).strip() if intent_match else ""

    # モデルの予測が正しいかどうかを確認します。
    correct = actual_intent.strip() == intent.strip()

    # reasoning、intent、correct、usageを返します。
    return reasoning, intent, correct, usage

変更点の内訳は次のとおりです。

  • classify_support_requestメソッドは、テストケースからactual_intentを受け取り、それをClaudeの意図分類と比較して一致するかどうかを評価するようになりました。
  • このメソッドは、API呼び出しの使用統計を抽出し、使用された入力トークンと出力トークンに基づいてコストを計算します。

評価を実行する

適切な評価には、何が良い結果であるかを判断するための明確なしきい値とベンチマークが必要です。前述のスクリプトは精度、応答時間、分類あたりのコストの実行時の値を返しますが、明確に確立されたしきい値が依然として必要です。例:

  • 精度: 95%(100件のテスト中)
  • 分類あたりのコスト: 現在のルーティング方法から平均50%削減(100件のテスト全体で)

これらのしきい値を設けることで、どの方法が最適か、また要件により適合させるためにどのような変更が必要かを、大規模かつ公平な実証に基づいて迅速かつ容易に判断できます。


パフォーマンスを向上させる

複雑なシナリオでは、標準的なプロンプトエンジニアリング手法やガードレール実装戦略を超えて、パフォーマンスを向上させるための追加の戦略を検討することが役立つ場合があります。一般的なシナリオを以下に示します。

20以上の意図カテゴリがある場合は分類階層を使用する

クラスの数が増えると、必要な例の数も増え、プロンプトが扱いにくくなる可能性があります。代替案として、複数の分類器を組み合わせた階層的な分類システムの実装を検討できます。

  1. 意図を分類ツリー構造に整理します。
  2. ツリーの各レベルで一連の分類器を作成し、カスケード型のルーティングアプローチを可能にします。

たとえば、チケットを「Technical Issues」、「Billing Questions」、「General Inquiries」に大まかに分類するトップレベルの分類器を用意できます。これらの各カテゴリには、分類をさらに絞り込むための独自のサブ分類器を持たせることができます。

  • 長所 - より細かなニュアンスと精度: 親パスごとに異なるプロンプトを作成できるため、より的を絞った、文脈に応じた分類が可能になります。これにより、精度が向上し、顧客のリクエストをよりきめ細かく処理できるようになります。

  • 短所 - レイテンシの増加: 複数の分類器を使用すると「latency」(レイテンシ)が増加する可能性があることに注意してください。Anthropicは、このアプローチを最も高速なモデルであるHaikuで実装することを推奨しています。

ベクトルデータベースと類似検索による取得を使用して、ばらつきの大きいチケットを処理する

例を提供することがパフォーマンスを向上させる最も効果的な方法であるにもかかわらず、サポートリクエストのばらつきが大きい場合、1つのプロンプトに十分な例を含めることが難しい場合があります。

このシナリオでは、ベクトルデータベースを使用して例のデータセットから類似検索を行い、特定のクエリに最も関連性の高い例を取得できます。

分類レシピで詳しく説明されているこのアプローチは、精度を71%から93%に向上させることが示されています。

予想されるエッジケースを具体的に考慮する

Claudeがチケットを誤分類する可能性のあるシナリオを以下に示します(状況に固有の他のシナリオもあるかもしれません)。これらのシナリオでは、Claudeがエッジケースをどのように処理すべきかについて、プロンプト内で明示的な指示や例を提供することを検討してください。


Claudeをより大きなサポートワークフローに統合する

適切な統合には、Claudeベースのチケットルーティングスクリプトが、より大きなチケットルーティングシステムのアーキテクチャにどのように適合するかについて、いくつかの決定を行う必要があります。これには2つの方法があります。

  • プッシュベース: 使用しているサポートチケットシステム(例:Zendesk)がルーティングサービスにWebhookイベントを送信することでコードをトリガーし、ルーティングサービスが意図を分類してルーティングします。
    • このアプローチはWebスケーラビリティに優れていますが、パブリックエンドポイントを公開する必要があります。
  • プルベース: コードが所定のスケジュールに基づいて最新のチケットをプルし、プル時にルーティングします。
    • このアプローチは実装が容易ですが、プル頻度が高すぎるとサポートチケットシステムへの不要な呼び出しが発生する可能性があり、プル頻度が低すぎると過度に遅くなる可能性があります。

どちらのアプローチでも、スクリプトをサービスでラップする必要があります。アプローチの選択は、サポートチケットシステムが提供するAPIによって決まります。


その他のサンプルコードと詳細な評価ガイダンスについては、分類クックブックをご覧ください。

Claude Consoleでワークフローの構築と評価を始めましょう。

Was this page helpful?