Supervisión humana de agentes de IA: guía práctica
Respuesta corta: Un agente de IA nunca debería tener más autonomía que la que le darías a un practicante nuevo en su primera semana: útil, pero con límites claros y alguien mirando. La supervisión humana se diseña en tres niveles según el costo del error: autonomía total solo para tareas internas de bajo riesgo (borradores, resúmenes, clasificación); aprobación previa —el agente prepara y una persona revisa antes de ejecutar— para todo lo que salga hacia clientes o comprometa recursos, como cotizaciones, respuestas de reclamos o correos de cobranza; y prohibición directa para acciones irreversibles o sensibles, como pagos, borrado de datos, descuentos fuera de rango o compromisos contractuales. Los mecanismos concretos son simples: bandejas de aprobación donde el agente deja propuestas, topes de monto y de cantidad de acciones por día, listas de temas que siempre derivan a un humano, y revisión periódica de una muestra de lo que el agente hizo solo. La regla de oro: parte con el agente en modo borrador, mide su tasa de acierto durante semanas, y solo entonces suéltale la correa de a poco, tarea por tarea, nunca todo de una vez.
La pregunta más importante al instalar un agente de IA no es qué puede hacer, sino qué le vas a permitir hacer sin preguntar. Ese diseño —los flujos de aprobación y los límites de autonomía— es la diferencia entre un agente que ayuda y uno que un día manda una cotización con un cero de más.
¿Por qué un agente necesita supervisión?
Porque se equivoca, y se equivoca distinto que un software tradicional: con seguridad y sin avisar. Un agente puede malinterpretar un mensaje, inventar un dato o tomar una instrucción ambigua al pie de la letra. Nada de eso es raro ni escandaloso —los modelos actuales fallan un porcentaje de las veces—, pero significa que la autonomía tiene que ganarse con evidencia, no darse por defecto. El detalle de por qué la IA inventa cosas está en /articulos/alucinaciones-ia-como-mitigarlas/.
La analogía útil: trata a tu agente como a un practicante nuevo. Capaz, rápido, incansable, pero en su primera semana no firma nada, no promete nada y no toca la caja.
¿Cuáles son los niveles de autonomía?
Diseña la supervisión por niveles, según el costo del error de cada tarea:
| Nivel | Qué significa | Tareas típicas |
|---|---|---|
| Autonomía total | El agente ejecuta solo, revisas muestras después | Borradores internos, resúmenes, clasificar correos, ordenar datos |
| Aprobación previa | El agente propone, una persona aprueba antes de ejecutar | Cotizaciones, respuestas a reclamos, correos de cobranza, publicaciones |
| Solo con humano presente | El agente asiste en vivo, la persona decide cada paso | Negociaciones, casos de clientes molestos, temas legales |
| Prohibido | Bloqueado por diseño, no solo por instrucciones | Pagos, borrar datos, descuentos fuera de rango, firmar compromisos |
El error clásico es tener solo dos modos: “todo manual” (y el agente no aporta) o “todo automático” (y un día explota). Los niveles intermedios son donde está el valor.
¿Cómo se ve un flujo de aprobación en la práctica?
No necesitas software sofisticado. Un flujo típico para cotizaciones:
- Llega la consulta del cliente por WhatsApp o correo.
- El agente entiende qué pide, arma la cotización con la lista de precios oficial y la deja en una bandeja de pendientes.
- Una persona la revisa: precios, condiciones, tono. Aprueba, corrige o rechaza. Dos minutos.
- Recién ahí se envía al cliente.
- Una vez a la semana, alguien revisa los rechazos: cada corrección repetida es una instrucción que falta.
El agente hizo el 90% del trabajo; la persona puso el criterio. Ese reparto es el objetivo. El mismo esquema sirve para cobranza, donde el tono importa tanto como el monto: mira /articulos/ia-para-cobranza/.
¿Qué límites duros debes configurar?
Además de las aprobaciones, ponle topes al agente. Los más útiles:
- Tope de monto: ninguna cotización, descuento o nota de crédito sobre $X sin aprobación.
- Tope de volumen: máximo de mensajes o acciones por día; frena bucles y errores masivos.
- Lista de derivación obligatoria: reclamos, temas legales, clientes que piden hablar con una persona, cualquier mención a demandas o SERNAC → directo a un humano.
- Accesos mínimos: el agente solo ve y toca los sistemas que su tarea exige. Leer la agenda no implica poder borrarla.
- Registro de todo: cada acción del agente queda registrada, con fecha y contenido, para poder auditar.
Importante: los límites duros van en la configuración y los permisos, no en el prompt. “Por favor no hagas transferencias” es una sugerencia; no tener acceso al banco es un límite.
¿Cómo se amplía la autonomía con el tiempo?
Con evidencia y de a poco:
- Semanas 1-4: modo borrador. El agente propone todo, ejecuta nada. Mides qué porcentaje de sus propuestas se aprueba sin cambios.
- Cuando una tarea supera un umbral alto de acierto (por ejemplo, 95% aprobado sin cambios durante un mes), esa tarea específica pasa a autonomía con revisión de muestras.
- Las tareas críticas nunca se gradúan: pagos, compromisos y datos sensibles quedan en aprobación previa para siempre.
- La correa se acorta cuando algo falla: un error nuevo devuelve la tarea al modo aprobación mientras se corrige. Sin drama: así se opera.
Cierre accionable
Antes de encender cualquier agente, escribe en media página su “contrato”: qué puede hacer solo, qué requiere aprobación y de quién, qué tiene prohibido, y qué topes de monto y volumen tiene. Si no puedes escribir ese contrato, no estás listo para encenderlo. Con contrato claro, un agente supervisado es de las mejores inversiones que puede hacer una pyme.
Preguntas frecuentes
¿Puedo dejar que un agente de IA responda solo a mis clientes?
Solo en consultas simples y bien acotadas, como horarios o estado de un pedido, y después de semanas midiendo su tasa de acierto en modo borrador. Todo lo que involucre precios, reclamos, garantías o compromisos debe pasar por aprobación humana antes de enviarse.
¿Qué acciones nunca debería ejecutar un agente de IA sin autorización?
Pagos y transferencias, borrado o modificación masiva de datos, descuentos o precios fuera de un rango definido, compromisos contractuales, y cualquier acción irreversible. Esas acciones deben estar bloqueadas por diseño, no solo desaconsejadas en las instrucciones.
¿Cómo superviso a un agente sin revisar todo lo que hace?
Clasifica sus tareas por riesgo: revisa el 100% de lo crítico antes de que se ejecute, y para lo rutinario revisa una muestra periódica, por ejemplo 10 conversaciones a la semana. Suma alertas automáticas para casos raros: montos altos, clientes molestos, temas fuera de lista.
¿Cuándo puedo darle más autonomía a mi agente de IA?
Cuando lleva semanas en modo aprobación con una tasa de acierto alta y estable en una tarea específica. La autonomía se amplía tarea por tarea y siempre es reversible: si aparecen errores nuevos, vuelves al modo aprobación sin drama.