Antes de iniciar una prueba piloto, asigna a alguien responsable del agente y decide quién puede usarlo, a qué puede acceder, qué resultados necesitan revisión y cuándo detenerlo. Conserva evidencia que otra persona pueda comprobar. Estas decisiones son la base de la gobernanza.
Esta ruta ayuda a quienes dirigen pilotos y operaciones, así como a las personas revisoras. Las guías ofrecen preguntas y plantillas de trabajo; la documentación de los sistemas que uses describe su comportamiento específico de control.
Prepárate para decidir sobre el piloto
- Evalúa el agente antes de ponerlo en producción. Define casos representativos, resultados esperados y criterios de lanzamiento antes de evaluar el piloto.
- Revisa los permisos y los límites. Comprueba por separado el acceso a la información y la autoridad para realizar acciones.
- Diseña la revisión humana. Identifica a quien revisará el trabajo y define cómo se pausa o se escala.
- Planifica la gobernanza y los controles de costos. Asigna responsabilidades por el uso, los gastos, los cambios y los incidentes.
Lleva un registro breve de las decisiones
Un registro práctico identifica el agente y su versión, la persona responsable de la tarea, las fuentes y acciones permitidas, la evidencia de evaluación, los límites conocidos y quién aceptó el alcance del piloto. Añade la fecha de la próxima revisión y una manera de detener el flujo de trabajo.
Por ejemplo, un piloto acotado de preguntas y respuestas sobre políticas internas podría registrar lo siguiente:
- Responsable: La persona responsable de las políticas mantiene las fuentes aprobadas y revisa las excepciones.
- Evidencia de evaluación: Incluye preguntas respondidas por la política vigente, una fuente faltante y versiones contradictorias. Continúa solo si las respuestas respaldadas citan una fuente vigente y los demás casos se derivan claramente. Consulta la guía de evaluación.
- Permisos: Lectura de material aprobado para esta tarea; sin acceso a expedientes de empleados ni permiso para editarlos. Revisa el límite con la guía de permisos y límites.
- Límite y decisión: Solo se preparan borradores de explicaciones. Si falta evidencia o hay conflictos, se pausa el trabajo y se deriva la consulta a la persona responsable. El piloto se mantiene dentro de este alcance hasta que esa persona revise los resultados.
No reduzcas los problemas de calidad, gastos y permisos a una sola puntuación general. Una ejecución económica aún puede producir una respuesta inútil; una respuesta convincente aún puede exceder la autoridad del flujo de trabajo. Define un criterio de decisión propio para las infracciones graves de los límites.
Revisa después de un cambio importante
Vuelve a examinar la evidencia cuando cambien las instrucciones, las fuentes, los modelos, las herramientas o los accesos. Repite los casos afectados por el cambio y conserva suficiente contexto para explicar la decisión.
Para consultar las descripciones de producto de AgentShelf, visita las páginas sobre límites de confianza y gobernanza y controles de costos. Vuelve al diseño de agentes cuando haya que modificar la tarea.
Todas las guías de este tema
- Evalúa un agente de IA: Evalúa un agente con tareas representativas, uso de herramientas, manejo de fallos y límites de aprobación antes de ampliar su acceso.
- Permisos y límites de los agentes de IA: Define los límites de un agente según su identidad, la información, las capacidades, el entorno y la supervisión; comprueba cada límite en los sistemas conectados.
- Gobernanza y control de costos para agentes de IA: Gobierna un agente al asignar una persona responsable, limitar datos y acciones, revisar resultados y medir el costo por tarea completada y revisada por una persona.
- Define quién puede usar y ver el trabajo de un agente: Separa los límites de audiencia, del espacio de trabajo y de administración para que las personas invoquen, mantengan y revisen un agente en el contexto adecuado.
- Fallos de un agente de IA y cómo recuperarse: Diagnostica los fallos a partir de la evidencia y elige entre un reintento acotado, una corrección, una detención segura o la derivación a una persona.
- Gestiona el uso de IA no aprobado en tu equipo: Haz visible el uso de IA con pautas claras, una vía segura para pedir ayuda, una revisión de riesgos proporcional y una forma aprobada de realizar el trabajo útil.
- Gestiona los cambios de agentes con revisión y reversión: Registra los cambios en instrucciones, fuentes, herramientas, modelo y acceso, y vuelve a probar los casos afectados antes de ampliar el uso.
- Lista de control de gobernanza para equipos: Asigna a cada flujo de un agente una persona responsable, un alcance aprobado, una ruta de revisión, un contacto operativo y una decisión para cambiarlo o detenerlo.
- Lista de control para revisar la seguridad de un agente de IA: Revisa las personas usuarias, los flujos de información, las identidades, las herramientas, las dependencias, las pruebas y las personas responsables de responder antes de ampliar el uso o el acceso de un agente.
- Observabilidad de un agente de IA: qué registrar: Registra la actividad del flujo, los errores, las derivaciones y las señales de recursos para que una persona responsable pueda investigar una ejecución y decidir qué revisar.
- Revisa las herramientas y el acceso a datos de un agente: Inspecciona cada herramienta conectada: su identidad, alcance de datos, operaciones permitidas, efectos, información devuelta y comportamiento ante fallos.