AdministraciónHooks de inferencia

Hooks de inferencia

Copy page



Envía cada prompt gobernado al servidor de seguridad de IA de tu organización para obtener un veredicto de permitir o denegar antes de que continúe la inferencia.

Los "Inference hooks" (hooks de inferencia) permiten que una organización de Claude Enterprise enrute cada prompt gobernado a través de un "AI security server" (servidor de seguridad de IA), un servicio HTTPS que opera la organización o su proveedor de seguridad, antes de que se ejecute la inferencia. Cuando un usuario envía un prompt, Anthropic envía la transcripción de la conversación a tu servidor de seguridad de IA y espera un veredicto de permitir o denegar; una solicitud denegada nunca llega al modelo. Los equipos de seguridad y cumplimiento usan los Inference hooks para aplicar políticas de datos en línea, y los desarrolladores crean el servidor de seguridad de IA que evalúa cada solicitud.

Como el hook se ejecuta en los servidores de Anthropic, después de que la solicitud sale del cliente y antes de que se ejecute el modelo, se aplica de manera uniforme a cada solicitud gobernada, sin nada que instalar ni desplegar en los dispositivos de los usuarios.

Hay dos eventos de hook. prompt se activa una vez por cada solicitud de inferencia gobernada, antes de que comience la inferencia. tool_call se activa cuando la respuesta de Claude contiene llamadas a herramientas, antes de que se ejecute cualquiera de ellas, en las organizaciones que tienen activada la opción Validar llamadas a herramientas.

---

Cómo funcionan los Inference hooks

1. Un usuario envía un prompt en una superficie gobernada.
2. Anthropic envía un POST HTTPS al endpoint del servidor de seguridad de IA configurado por tu organización. El cuerpo de la solicitud contiene la transcripción de la conversación, y cada solicitud se firma según la especificación Standard Webhooks una vez que tu organización genera su secreto de firma, para que tu servidor pueda verificar que proviene de Anthropic.
3. Tu servidor de seguridad de IA evalúa el contenido y responde con un veredicto dentro del tiempo de espera de veredicto que configura tu organización (5 segundos de forma predeterminada).
4. Con allow, la inferencia continúa normalmente. Con deny, la solicitud se rechaza y el usuario ve un mensaje de bloqueo por política compuesto de dos partes: el motivo específico de la solicitud que tu servidor de seguridad de IA proporcionó en el campo deny_reason del veredicto, seguido de un mensaje fijo que configuran tus administradores (por ejemplo, a quién contactar o dónde solicitar una excepción). Si tus administradores no han configurado uno, un mensaje predeterminado integrado indica al usuario que se comunique con ellos. Cada denegación también se registra en el Activity Feed de tu organización.

El siguiente diagrama sigue un ejemplo (una solicitud de Cowork en la que Claude también llama a una herramienta de O365) para ilustrar qué partes del flujo tienen hooks. Los puntos con hooks son los pasos 1, 2 y 3 del diagrama, donde llega el prompt, Claude llama a la herramienta y se devuelve el resultado de la herramienta. En cada uno, tu servidor de seguridad de IA devuelve un veredicto antes de que continúe el flujo. El paso 2 tiene hook solo con Validar llamadas a herramientas activado, y su único veredicto cubre todas las llamadas a herramientas de una respuesta.

Un veredicto es un pequeño objeto JSON: {"action": "allow"} permite que la solicitud continúe, y una denegación incluye el motivo que se muestra al usuario. Para ver el esquema completo del veredicto, consulta Devolver un veredicto.

Tu servidor de seguridad de IA ve lo que ve el usuario: el texto de la transcripción, las llamadas a herramientas y sus resultados, y el texto extraído de los archivos adjuntos. Nunca recibe los bytes sin procesar de archivos o imágenes, las indicaciones del sistema ni el contexto interno de Anthropic.

El sistema de Inference hooks no guarda su propia copia del contenido de los prompts ni de las respuestas. Solo almacena la configuración de tu hook y metadatos sobre la actividad del hook, como veredictos, marcas de tiempo e identificadores de solicitud. El producto de Claude que usas almacena los prompts y las respuestas según sus propias reglas de retención de datos, estén o no activados los hooks. Por ejemplo, un mensaje que un hook bloquea en claude.ai permanece en la conversación.

Si tu servidor de seguridad de IA no está accesible, devuelve un error o no responde dentro del tiempo de espera, la configuración de manejo de fallos de tu organización decide el resultado: bloquear la solicitud o permitir que continúe sin inspección. Los fallos sostenidos atribuibles a tu servidor activan un "circuit breaker" (disyuntor): Anthropic deja de contactarlo y aplica tu configuración de manejo de fallos a cada solicitud, y luego restablece el disyuntor automáticamente cuando detecta que tu servidor vuelve a devolver veredictos; consulta Interruptor de circuito.

La aplicación de políticas puede implementarse a tu ritmo, para que nadie tenga que quedar bloqueado desde el primer día: el "shadow mode" (modo sombra) observa los veredictos sobre el tráfico real sin bloquear nada, un porcentaje de implementación inspecciona una fracción elegida de las solicitudes y las exclusiones eximen por completo a los miembros de los roles elegidos. Consulta Configurar Inference hooks.

Para ver los esquemas completos de solicitud y respuesta, la verificación de firmas y los detalles operativos, consulta Desarrollar una integración.

---

Continuar una conversación después de una solicitud denegada

Cada solicitud incluye toda la conversación, por lo que un mensaje denegado se vuelve a enviar con cada mensaje posterior. Si tu servidor de seguridad de IA evalúa toda la transcripción, también deniega esas solicitudes. Para continuar, el usuario debe quitar el contenido denegado de lo que la aplicación envía a continuación, incluido cualquier archivo que Claude volvería a leer.

Los pasos dependen de la aplicación:

• claude.ai, incluidos Claude Desktop y las aplicaciones móviles. El usuario edita el mensaje denegado, o uno anterior, en lugar de enviar una copia corregida como un mensaje nuevo. En la web y en Claude Desktop, la edición vuelve a enviar los archivos adjuntos del mensaje, a menos que el usuario los quite. Un chat nuevo también funciona.
• Claude Code. El usuario ejecuta /rewind y selecciona el prompt que introdujo el contenido por primera vez. Si se le solicita, selecciona Restore conversation y luego edita o borra el prompt que vuelve al campo de entrada. /clear empieza de nuevo. Consulta Checkpointing.
• Cowork. El usuario edita el mensaje denegado si es el más reciente. La edición vuelve a enviar los archivos adjuntos, y Restart from here vuelve a enviar el mensaje completo sin cambios. Si el contenido está en un archivo o en un mensaje anterior, el usuario selecciona New task.
• Claude Tag. En Slack, el usuario primero edita el mensaje denegado, o lo elimina si es una respuesta. Luego envía @Claude !restart por sí solo donde Claude estaba respondiendo: en ese hilo o en el nivel superior del canal. La nueva sesión vuelve a leer los mensajes que aún están en Slack, por lo que la edición o eliminación debe hacerse primero. Consulta el comando !restart.

---

Casos de uso

• "Data loss prevention" (prevención de pérdida de datos), o DLP. Reenvía la transcripción a tu escáner de DLP y deniega los prompts que contengan material regulado o clasificado. Esta es la implementación más común.
• Archivado de transcripciones en tiempo real. Archiva cada transcripción a medida que llega y devuelve siempre allow, como alternativa basada en envío (push) a consultar periódicamente la Compliance API.
• Telemetría de prompts. Mide cómo usa Claude tu organización, en el momento de uso.
• Motores de políticas. Aplica tus propias reglas antes de la inferencia: listas de modelos permitidos, restricciones por proyecto o controles de horario laboral.

---

Limitaciones actuales

• Los archivos adjuntos se representan mediante metadatos y texto extraído. Los bytes sin procesar de archivos e imágenes nunca se envían, por lo que el contenido que solo consiste en imágenes (por ejemplo, una captura de pantalla de un documento) no se inspecciona.
• Los veredictos son permitir o denegar. No se admite reescribir ni censurar partes de un prompt.
• Las organizaciones de Platform (acceso a la API a través de Claude Platform) quedan fuera del alcance.

---

Disponibilidad

Los Inference hooks están disponibles para las organizaciones de Claude Enterprise. Configurarlos requiere el permiso organization:manage, que solo tienen los roles Owner y Primary owner.

Un solo hook gobierna las conversaciones en las sesiones de claude.ai, Cowork, Claude Code y Claude Tag de tu organización de Claude Enterprise, ya sea que se ejecuten en la web, en las aplicaciones de escritorio o móviles, en la CLI o en Slack. Los Inference hooks no están disponibles en Amazon Bedrock ni en Google Cloud.

Las solicitudes gobernadas son las solicitudes de inferencia detrás de la conversación del usuario. Las solicitudes auxiliares no se envían a tu endpoint. Estas incluyen la generación de títulos de conversación y una medición que Anthropic ejecuta sobre la respuesta de Claude después de que Claude Tag la ha publicado en Slack. Las indicaciones del sistema y las definiciones de herramientas nunca se incluyen en lo que se envía. En el modo de voz, los prompts y las llamadas a herramientas también se envían a tu endpoint, aunque una pequeña parte de las llamadas a herramientas no, así que no dependas de los Inference hooks como tu único control para la voz. Si tu endpoint deniega una solicitud en el modo de voz, la llamada de voz normalmente termina con un mensaje de error general y tu motivo de denegación no se muestra.

Con Validar llamadas a herramientas activado, los eventos tool_call pueden omitir llamadas a algunas de las herramientas propias de claude.ai, como herramientas que enumeran, buscan o sugieren conectores, plugins o skills, sugieren iniciar una investigación o activar la búsqueda web, buscan otras herramientas, cambian a un modelo más grande, terminan el chat, le dan a Claude la hora local del usuario o leen los chats anteriores y la memoria guardada del propio usuario. Estas llamadas y sus resultados permanecen en la conversación, por lo que el siguiente evento prompt de esa conversación, si lo hay, los incluye.

Algunas funciones que Anthropic ejecuta para tu organización realizan sus propias llamadas al modelo. Tu organización ve los resultados de esas llamadas, pero no sus transcripciones. Estas llamadas no son solicitudes gobernadas y no se envían a tu endpoint. Incluyen las siguientes:

• Escaneos de Claude Security (beta). Claude Security ejecuta escaneos alojados en tus repositorios conectados. Una sesión que un usuario abre para corregir un hallazgo, y el plugin de Claude Security en Claude Code, sí están gobernados.
• Code Review (vista previa de investigación). Code Review ejecuta revisiones en tus pull requests de GitHub. Una revisión que un usuario ejecuta localmente en Claude Code con /code-review sí está gobernada.
• Smart reports (beta). Anthropic realiza llamadas al modelo para crear los smart reports de tu organización.

---

Inference hooks frente a la Compliance API

Ambas funciones están dirigidas a los equipos de seguridad, legales y de cumplimiento de las organizaciones de Claude Enterprise.

Usa los Inference hooks para detener una solicitud antes de que llegue al modelo, y la Compliance API para auditar lo que ocurrió después.

---

En esta sección