Guía

Gobernanza y control de costos para agentes de IA

Gobierna un agente al asignar una persona responsable, limitar datos y acciones, revisar resultados y medir el costo por tarea completada y revisada por una persona.

Por AgentShelfActualizado 28 de septiembre de 2026

Guía de conocimiento de AgentShelf

Para gobernar un agente, define su propósito, su acceso y su proceso de revisión, y asigna a alguien que supervise su funcionamiento y costo. Mide el costo en relación con el trabajo útil, como una revisión de incorporación completada. Deja claro quién responderá si la calidad o el costo quedan fuera de los límites acordados.

Ciclo continuo para fijar límites, revisar y ajustar, con el modelo, las herramientas, los reintentos y la revisión humana como componentes del costo.

Fija límites, revisa la calidad y el costo, y luego ajusta con una persona responsable.

Define la responsabilidad y los límites antes del piloto

Usa un mismo flujo de trabajo ficticio en toda esta guía: una persona revisora de Compras solicita: «Revisa el expediente de incorporación de Northstar Supplies e indícame qué falta». El agente compara el expediente enviado con la lista vigente para incorporar proveedores y la ficha actual del proveedor. Al expediente le falta un certificado de seguro vigente, así que el agente prepara un resumen para revisión y una solicitud en borrador. Una persona sigue decidiendo si envía la solicitud o continúa la revisión del proveedor.

El registro operativo de ese borrador podría decir:

Revisión operativa de Northstar Supplies (borrador)
Responsable: La persona responsable del proceso de Compras; asigna a alguien antes del piloto.
Permitido: Leer el expediente, la lista vigente y la ficha actual del proveedor; preparar un resumen y una solicitud en borrador.
Decisión humana: Una persona revisora de Compras comprueba la evidencia y decide si envía la solicitud. El agente no puede modificar el registro ni aprobar al proveedor.
Señales de revisión: Hallazgos de evidencia faltante, correcciones de quien revisa, transferencias y costo por expediente revisado.
Límite de costo: Lo define junto con la persona responsable del presupuesto según la carga de trabajo prevista y el punto de referencia del piloto; este ejemplo no fija un umbral.
Estado: Borrador para revisión antes del piloto.

Antes del piloto, asigna a una persona responsable del proceso y a otra que atienda las excepciones. Registra quién puede solicitar la revisión, qué expediente y fuentes de referencia entran en el alcance, qué puede leer el agente y qué puede preparar. En este ejemplo, el resultado permitido es texto en borrador; modificar la ficha del proveedor, enviar una solicitud o aprobarlo quedan fuera de la autoridad del agente. Nombra a quien puede pausar el flujo y a quien revisa el borrador.

Revisa las mismas señales en cada etapa

  1. Antes del piloto: Acuerden el trabajo, las fuentes aprobadas, los permisos de lectura y escritura, el punto de revisión humana, el procedimiento alternativo y las pruebas. Fijen un límite de uso y gasto que el entorno elegido pueda aplicar realmente.
  2. Durante el piloto: Revisen los borradores completados y las excepciones. Registren el volumen de expedientes, el costo por expediente revisado, el tiempo de revisión, la detección de evidencia faltante y las correcciones. Interpreten las métricas en conjunto: un costo bajo por expediente no sirve si hay que rehacer el trabajo, y transferir un caso puede ser lo correcto cuando falta evidencia.
  3. Antes de ampliar el acceso: Confirmen que la persona responsable, el grupo de usuarios, el acceso a los datos, las herramientas y las reglas de revisión sigan correspondiendo al flujo de trabajo. Revisen las pruebas si cambian la lista, los registros de origen o los permisos.

En el ejemplo de Northstar, una unidad útil es un expediente que una persona revisora pueda evaluar con el resumen y la evidencia. Incluye el uso del modelo, los intentos repetidos, los cargos por servicios conectados y el tiempo de revisión o corrección al medir el costo. No deduzcas ahorros a partir de la cantidad de borradores; compara costo y calidad con el proceso humano actual usando el mismo conjunto de trabajo.

Define paradas separadas para calidad, gasto y autoridad

Elige un detonante y una persona responsable para cada tipo de parada. Estos ejemplos ficticios de Northstar no fijan un umbral universal:

Desplázate horizontalmente para ver todas las columnas.

CondiciónEjemplo de detonanteRespuesta
CalidadLa persona revisora no puede vincular un hallazgo requerido con el expediente, la lista o la ficha aprobados.Pausa el borrador de ese expediente, identifica la evidencia faltante o contradictoria y vuelve a probar el caso antes de aceptar el resultado.
GastoLa prueba piloto alcanza el límite de uso o gasto definido con la persona responsable del presupuesto.Detén las nuevas ejecuciones y deja pendientes los expedientes incompletos mientras esa persona revisa el uso.
AutoridadUna ejecución intenta enviar una solicitud, modificar la ficha del proveedor o aprobarlo.Trátala como una infracción de límites, bloquea la acción y comprueba el estado del sistema antes de reintentar.

Define el umbral de gasto según la carga prevista y el costo de revisar un expediente. Comprueba que la configuración se aplique al flujo previsto; si el entorno no puede pausar el uso, asigna a una persona operadora para que lo vigile y lo detenga manualmente. Revisa los registros disponibles de fuentes, actividad de herramientas, transferencias y fallos. Después de un cambio, compara un conjunto repetible de expedientes habituales, incompletos y contradictorios. Si un registro no permite explicar un borrador, añade un paso de revisión adecuado antes de ampliar el uso.

Mantén actualizado el registro operativo

Mantén un registro vigente de:

  • Responsabilidad: La persona responsable del flujo y los usuarios previstos.
  • Alcance y permisos: Las fuentes aprobadas, el alcance de las acciones y las reglas de aprobación.
  • Evidencia y evaluación: Los criterios de evaluación y el punto de referencia de costos.
  • Límites operativos: Los límites conocidos y el procedimiento para pausar el flujo.
  • Revisión: La fecha de revisión.

Revisa el registro según un calendario y después de cualquier cambio importante. Consulta la revisión de permisos, la guía de evaluación previa al piloto y el resumen de gobernanza y control de costos.

Tus opciones de privacidad

Usamos tecnologías opcionales de personalización del asistente, análisis y publicidad solo cuando lo autorizas. Las funciones necesarias del sitio permanecen activas. Política de cookies