AdministrationHooks d'inférence

Hooks d'inférence

Envoyez chaque prompt gouverné au serveur de sécurité IA de votre organisation pour obtenir un verdict d'autorisation ou de refus avant que l'inférence ne se poursuive.

Les « Inference hooks » (hooks d'inférence) permettent à une organisation Claude Enterprise d'acheminer chaque prompt gouverné via un « AI security server » (serveur de sécurité IA), un service HTTPS exploité par l'organisation ou son fournisseur de sécurité, avant l'exécution de l'inférence. Lorsqu'un utilisateur soumet un prompt, Anthropic envoie la transcription de la conversation à votre serveur de sécurité IA et attend un verdict d'autorisation ou de refus ; une requête refusée n'atteint jamais le modèle. Les équipes de sécurité et de conformité utilisent les Inference hooks pour appliquer les politiques relatives aux données en ligne, et les développeurs construisent le serveur de sécurité IA qui évalue chaque requête.

Comme le hook s'exécute sur les serveurs d'Anthropic, après que la requête a quitté le client et avant l'exécution du modèle, il s'applique uniformément à chaque requête gouvernée, sans rien à installer ni à déployer sur les appareils des utilisateurs.

Il existe deux événements de hook. prompt se déclenche une fois par requête d'inférence gouvernée, avant le début de l'inférence. tool_call se déclenche lorsque la réponse de Claude contient des appels d'outils, avant l'exécution de l'un d'entre eux, dans les organisations où l'option Validate tool calls est activée.

Fonctionnement des Inference hooks

Un utilisateur soumet un prompt sur une surface gouvernée.
Anthropic envoie une requête HTTPS POST au point de terminaison du serveur de sécurité IA configuré par votre organisation. Le corps de la requête contient la transcription de la conversation, et chaque requête est signée conformément à la spécification Standard Webhooks dès que votre organisation génère son secret de signature, afin que votre serveur puisse vérifier qu'elle provient d'Anthropic.
Votre serveur de sécurité IA évalue le contenu et répond avec un verdict dans le délai de verdict configuré par votre organisation (5 secondes par défaut).
En cas de allow, l'inférence se poursuit normalement. En cas de deny, la requête est rejetée et l'utilisateur voit un message de blocage par politique composé de deux parties : la raison propre à la requête fournie par votre serveur de sécurité IA dans le champ deny_reason du verdict, suivie d'un message permanent configuré par vos administrateurs (par exemple, qui contacter ou où demander une exception). Si vos administrateurs n'en ont pas configuré, un message par défaut intégré invite l'utilisateur à les contacter. Chaque refus est également enregistré dans l'Activity Feed de votre organisation.

Le diagramme suivant retrace un exemple (une requête Cowork dans laquelle Claude appelle également un outil O365) pour illustrer quelles parties du flux sont interceptées par un hook. Les points interceptés sont les étapes 1, 2 et 3 du diagramme, où le prompt arrive, où Claude appelle l'outil et où le résultat de l'outil revient. À chacun de ces points, votre serveur de sécurité IA renvoie un verdict avant que le flux ne se poursuive. L'étape 2 n'est interceptée que si l'option Validate tool calls est activée, et son verdict unique couvre tous les appels d'outils d'une réponse.

Un verdict est un petit objet JSON : {"action": "allow"} permet à la requête de se poursuivre, et un refus contient la raison destinée à l'utilisateur. Pour le schéma complet du verdict, consultez Renvoyer un verdict.

Votre serveur de sécurité IA voit ce que voit l'utilisateur : le texte de la transcription, les appels d'outils et leurs résultats, ainsi que le texte extrait des pièces jointes. Il ne reçoit jamais les octets bruts des fichiers ou des images, les invites système ni le contexte interne d'Anthropic.

Le système des Inference hooks ne conserve pas sa propre copie du contenu des prompts ou des réponses. Il stocke uniquement la configuration de votre hook et les métadonnées relatives à l'activité du hook, telles que les verdicts, les horodatages et les identifiants de requête. Le produit Claude que vous utilisez stocke les prompts et les réponses selon ses propres règles de conservation des données, que les hooks soient activés ou non. Par exemple, un message bloqué par un hook sur claude.ai reste dans la conversation.

Si votre serveur de sécurité IA est injoignable, renvoie une erreur ou ne répond pas dans le délai imparti, le paramètre de gestion des défaillances de votre organisation détermine le résultat : bloquer la requête, ou lui permettre de se poursuivre sans inspection. Des défaillances persistantes imputables à votre serveur déclenchent un « circuit breaker » (disjoncteur) : Anthropic cesse de le contacter et applique votre paramètre de gestion des défaillances à chaque requête, puis réinitialise automatiquement le disjoncteur dès qu'il détecte que votre serveur renvoie à nouveau des verdicts ; consultez Disjoncteur.

L'application peut être déployée à votre rythme, de sorte que personne n'a besoin d'être bloqué dès le premier jour : le mode « shadow » (mode fantôme) observe les verdicts sur le trafic réel sans rien bloquer, un pourcentage de déploiement inspecte une fraction choisie des requêtes, et les exclusions exemptent entièrement les membres des rôles choisis. Consultez Configurer les Inference hooks.

Pour les schémas complets des requêtes et des réponses, la vérification des signatures et les détails opérationnels, consultez Développer une intégration.

Poursuivre une conversation après une requête refusée

Chaque requête inclut l'intégralité de la conversation, de sorte qu'un message refusé est renvoyé avec chaque message ultérieur. Si votre serveur de sécurité IA évalue l'intégralité de la transcription, il refuse également ces requêtes. Pour poursuivre, l'utilisateur retire le contenu refusé de ce que l'application envoie ensuite, y compris tout fichier que Claude relirait.

Les étapes dépendent de l'application :

claude.ai, y compris Claude Desktop et les applications mobiles. L'utilisateur modifie le message refusé, ou un message antérieur, plutôt que d'envoyer une copie corrigée sous forme de nouveau message. Sur le web et dans Claude Desktop, la modification renvoie les pièces jointes du message, sauf si l'utilisateur les supprime. Une nouvelle conversation fonctionne également.
Claude Code. L'utilisateur exécute /rewind et sélectionne le prompt qui a introduit le contenu en premier. Si cela lui est demandé, il sélectionne Restore conversation, puis modifie ou efface le prompt qui revient dans le champ de saisie. /clear permet de recommencer à zéro. Consultez Checkpointing.
Cowork. L'utilisateur modifie le message refusé s'il s'agit de son dernier message. La modification renvoie les fichiers joints, et Restart from here renvoie l'intégralité du message sans modification. Si le contenu se trouve dans un fichier ou dans un message antérieur, l'utilisateur sélectionne New task.
Claude Tag. Dans Slack, l'utilisateur modifie d'abord le message refusé, ou le supprime s'il s'agit d'une réponse. Il envoie ensuite @Claude !restart seul à l'endroit où Claude répondait : dans ce fil, ou au niveau principal du canal. La nouvelle session relit les messages encore présents dans Slack, c'est pourquoi la modification ou la suppression doit intervenir en premier. Consultez la commande !restart.

Cas d'utilisation

« Data loss prevention » (prévention des pertes de données), ou DLP. Transmettez la transcription à votre scanner DLP et refusez les prompts contenant des informations réglementées ou classifiées. Il s'agit du déploiement le plus courant.
Archivage des transcriptions en temps réel. Archivez chaque transcription à son arrivée et renvoyez toujours allow, comme alternative en mode push à l'interrogation de la Compliance API.
Télémétrie des prompts. Mesurez la façon dont votre organisation utilise Claude, au moment même de l'utilisation.
Moteurs de politiques. Appliquez vos propres règles avant l'inférence : listes d'autorisation de modèles, restrictions limitées à un projet ou contrôles des heures de travail.

Limitations actuelles

Les pièces jointes sont représentées par des métadonnées et du texte extrait. Les octets bruts des fichiers et des images ne sont jamais envoyés, de sorte que le contenu uniquement sous forme d'image (par exemple, une capture d'écran d'un document) n'est pas inspecté.
Les verdicts sont soit une autorisation, soit un refus. La réécriture ou la rédaction d'un prompt n'est pas prise en charge.
Les organisations de plateforme (accès API via la Claude Platform) sont hors du périmètre.

Disponibilité

Les Inference hooks sont disponibles pour les organisations Claude Enterprise. Leur configuration nécessite l'autorisation organization:manage, que seuls les rôles Owner et Primary owner détiennent.

Un seul hook gouverne les conversations sur claude.ai, Cowork, Claude Code et les sessions Claude Tag de votre organisation Claude Enterprise, qu'elles s'exécutent sur le web, dans les applications de bureau ou mobiles, dans la CLI ou dans Slack. Les Inference hooks ne sont pas disponibles sur Amazon Bedrock ni sur Google Cloud.

Les requêtes gouvernées sont les requêtes d'inférence qui sous-tendent la conversation de l'utilisateur. Les requêtes annexes ne sont pas envoyées à votre point de terminaison. Celles-ci incluent la génération du titre de la conversation et une mesure qu'Anthropic effectue sur la réponse de Claude après que Claude Tag l'a publiée dans Slack. Les invites système et les définitions d'outils ne sont jamais incluses dans ce qui est envoyé. En mode vocal, les prompts et les appels d'outils sont également envoyés à votre point de terminaison, bien qu'une petite partie des appels d'outils ne le soit pas ; ne comptez donc pas sur les Inference hooks comme seul contrôle pour le mode vocal. Si votre point de terminaison refuse une requête en mode vocal, l'appel vocal se termine généralement par un message d'erreur générique, et votre raison de refus n'est pas affichée.

Lorsque l'option Validate tool calls est activée, les événements tool_call peuvent omettre les appels à certains outils propres à claude.ai, tels que les outils qui listent, recherchent ou suggèrent des connecteurs, des plugins ou des skills, qui suggèrent de lancer une recherche ou d'activer la recherche web, qui recherchent d'autres outils, qui basculent vers un modèle plus grand, qui mettent fin à la conversation, qui donnent à Claude l'heure locale de l'utilisateur, ou qui lisent les conversations passées et la mémoire enregistrée de l'utilisateur. Ces appels et leurs résultats restent dans la conversation, de sorte que le prochain événement prompt de cette conversation, s'il y en a un, les inclut.

Certaines fonctionnalités qu'Anthropic exécute pour votre organisation effectuent leurs propres appels au modèle. Votre organisation voit les résultats de ces appels, mais pas leurs transcriptions. Ces appels ne sont pas des requêtes gouvernées et ne sont pas envoyés à votre point de terminaison. Ils incluent les éléments suivants :

Analyses Claude Security (bêta). Claude Security exécute des analyses hébergées sur vos dépôts connectés. Une session qu'un utilisateur ouvre pour corriger un résultat, ainsi que le plugin Claude Security dans Claude Code, sont gouvernés.
Code Review (aperçu de recherche). Code Review effectue des revues sur vos pull requests GitHub. Une revue qu'un utilisateur exécute localement dans Claude Code avec /code-review est gouvernée.
Smart reports (bêta). Anthropic effectue des appels au modèle pour générer les smart reports de votre organisation.