fundamentals

Aprobación humana en automatizaciones: guía práctica de límites

Decide qué acciones automatizadas requieren aprobación, qué debe ver la persona revisora y cuándo el flujo debe detenerse en vez de pedir un clic.

Exige aprobación humana antes de que una automatización ejecute una acción externa o de alto impacto —como enviar un mensaje, mover dinero, modificar un contrato o un permiso de acceso, eliminar datos o influir en una decisión sobre una persona— cuando una persona revisora cualificada pueda comprender el contexto, inspeccionar la acción exacta, rechazarla o corregirla y mantener el flujo bloqueado hasta que se tome la decisión.

La lectura, la organización y la preparación de borradores pueden recibir una supervisión más ligera cuando el trabajo esté autorizado, acotado, probado y sea reversible. Pero que una persona haga clic en Aprobar no corrige el uso no autorizado de datos, los permisos excesivos, una persona revisora sin competencia o una tarea que nunca debería haber entrado en la automatización.

Esta guía ofrece un kit práctico de límites. Es un punto de partida operativo, no una regla jurídica universal, una certificación de seguridad ni una promesa de que los errores desaparecerán.

La aprobación no es lo mismo que la seguridad o la autoridad

La revisión humana solo es útil cuando cambia lo que el sistema puede hacer. La persona debe ver los hechos materiales, tomar una decisión informada y detener la acción. Si la interfaz oculta el destinatario, el importe, la fuente o el contenido final, se está pidiendo a la persona revisora que haga un gesto, no que tome una decisión.

El NIST AI Risk Management Framework recomienda definir responsabilidades en las configuraciones humano–IA y documentar los procesos de supervisión humana. Esto no significa que todos los sistemas necesiten la misma revisión. El Apéndice C del NIST describe un espectro entre configuraciones totalmente manuales y totalmente autónomas y advierte que la interacción humano–IA puede, en determinadas condiciones, amplificar los sesgos humanos en lugar de eliminarlos.

La conclusión práctica no es “coloca una persona en todas partes”. Es: identifica cada acción, su autoridad y sus consecuencias; después elige un control que un operador real pueda ejecutar.

Si todavía no has elegido o mapeado el proceso, empieza por cómo elegir una primera automatización de bajo riesgo y cómo mapear el proceso real y sus excepciones. El diseño de la aprobación no compensa un flujo mal definido.

Clasifica las acciones, no las herramientas completas

Una sola automatización puede contener acciones con consecuencias muy diferentes:

  • leer una hoja de cálculo autorizada;
  • clasificar un documento interno;
  • preparar un borrador para el cliente;
  • cambiar un precio;
  • enviar la actualización;
  • eliminar el registro de origen.

Llamar “de bajo riesgo” a todo el flujo oculta estas diferencias. Clasifica cada acción por separado con cuatro preguntas de límite:

  1. Datos: ¿la entrada está autorizada para esa finalidad y solo se expone lo necesario?
  2. Autoridad: ¿en nombre de quién ocurrirá la acción y qué permiso la autoriza?
  3. Consecuencia: ¿un error puede afectar dinero, contratos, acceso, personas, reputación, privacidad u operaciones?
  4. Reversibilidad: ¿es posible deshacer por completo el efecto antes de que cause un daño significativo?

La salida generativa añade otro cuidado. El Perfil de IA Generativa del NIST describe la confabulación: un modelo puede presentar con confianza contenido falso o incoherente, incluidos razonamientos o citas aparentemente plausibles. Por lo tanto, un borrador fluido no demuestra que sus afirmaciones o su destino sean correctos.

Kit de límites para la aprobación humana

Usa el kit siguiente en un flujo cada vez. Guárdalo junto al mapa del proceso y actualízalo cuando cambien el flujo, los permisos o el impacto.

1. Inventario de acciones

Crea una fila para cada acción que pueda ejecutar la automatización.

Campo Pregunta que debes responder
Acción exacta ¿Qué se leerá, creará, modificará, enviará, pagará, aprobará o eliminará?
Objeto y destino ¿Qué registro, persona, cuenta, canal o sistema se verá afectado?
Autoridad ¿En nombre de quién ocurre y qué permiso autoriza la acción?
Datos ¿Qué datos entran, salen o permanecen registrados?
Consecuencia ¿Un error puede afectar dinero, contratos, acceso, personas, reputación, privacidad u operaciones?
Reversibilidad ¿El efecto puede deshacerse por completo antes de que cause un daño significativo?
Alcance ¿Afecta a un elemento, un cliente, un equipo o muchos destinatarios?
Urgencia ¿Hay tiempo para una revisión atenta?
Evidencia ¿Qué debe ver la persona revisora para decidir?
Responsable ¿Quién tiene la competencia y autoridad para aprobar o escalar?

No supongas la información que falte. Marca no lo sabemos e investiga.

2. Aplica el filtro de límites en orden

Este filtro no tiene puntuación de forma deliberada. Una nota alta no puede rescatar una acción que falla un límite eliminatorio.

  1. Fuera del límite: si los datos, la finalidad, la integración, el permiso o la acción no están autorizados, no ejecutes. Una aprobación posterior no corrige ese fallo.
  2. Efecto material o decisión sobre una persona: para acciones jurídicas, contractuales, financieras, laborales, de acceso, eliminación, comunicación externa o consecuencias similares, detente antes del efecto y deriva a una persona cualificada, salvo que se aplique un control más restrictivo.
  3. Resultado no verificable: si la persona revisora no dispone de suficiente evidencia, solicita información, devuelve el elemento o detente. No muestres un botón de aprobación vacío.
  4. Trabajo reversible y de bajo impacto: la lectura, organización o redacción autorizadas y sin efecto externo pueden funcionar con límites, muestreo, supervisión y una ruta de excepciones después de probarse.
  5. Cambio de contexto: si el destinatario, el importe, el contenido, la fuente, el permiso, el ejecutor o el plazo cambian después de la aprobación, invalida la decisión y solicita otra.

Este filtro es un modelo editorial de Pulse Work Lab. No certifica que una acción sea segura ni que cumpla la normativa.

3. Elige el modo de control

Modo Cuándo puede servir Ejemplo ficticio
La persona decide La persona toma la decisión; la automatización solo organiza la evidencia Aprobar una condición comercial excepcional
Aprobación antes de la acción El flujo prepara y permanece bloqueado antes de producir un efecto Enviar un informe semanal al cliente
Revisión por excepción La ruta habitual acotada funciona; los elementos fuera de las reglas se detienen Falta un campo obligatorio o dos fuentes no coinciden
Supervisión posterior Solo para trabajo autorizado, acotado, reversible y probado Clasificar una copia interna de documentos no sensibles
Prohibido/fuera del alcance La acción no entra en el flujo Usar datos sin autorización o conceder acceso innecesario

No conviertas la supervisión posterior en el modo predeterminado para decisiones sobre personas, acciones irreversibles, dinero, contratos, permisos, eliminación o comunicación externa.

4. Define la autoridad financiera antes de conectar un medio de pago

Los agentes que compran o pagan están pasando de ser un concepto a una capacidad anunciada. En octubre de 2026, Walmart presentó perfiles de agentes con aprobación por compra o límites de gasto; Wix y Stripe describieron compras iniciadas por agentes con un importe máximo y una aprobación específica. Esto demuestra una capacidad emergente, no que esté disponible en tu país, que sea adecuada para tu empresa ni que esté lista para acceder al dinero sin restricciones.

Usa una escala de autoridad explícita. Empieza en el nivel 0 y avanza solo después de observar el nivel anterior con datos ficticios o en un entorno controlado:

Nivel Autoridad del agente Límite mínimo Regla de parada
0 — Recomendar Investiga y prepara una solicitud; no compra Sin credencial de pago Cualquier intento de ejecución bloquea el flujo
1 — Solicitar aprobación Prepara la compra y espera una decisión para cada transacción Importe, comercio, artículo y moneda visibles Cambia un campo material: nueva aprobación
2 — Ejecutar una compra acotada Usa una autorización de un solo uso para el comercio y el límite aprobados Tarjeta o token restringido, caducidad corta y un solo uso Importe, moneda, comercio o plazo fuera del alcance
3 — Operar un presupuesto cerrado Compra solo categorías y comercios permitidos dentro de límites por operación y periodo Límite por transacción y acumulado Excepción, división artificial de compra o presupuesto agotado
4 — Autonomía ampliada Opera sin revisión artículo por artículo dentro de una política madura Contención, auditoría, revocación inmediata y conciliación independiente Anomalía, fallo de registro, política no disponible o descuadre de conciliación

Para una pyme, los niveles 0 y 1 son el punto de partida prudente. El nivel 2 puede evaluarse para una compra concreta. Los niveles 3 y 4 exigen controles financieros, de seguridad, conciliación y respuesta que este artículo no certifica.

No elijas un umbral porque “500 € parece poco”. Estima primero la exposición planificada:

exposición planificada del periodo = min(límite por transacción × número máximo de operaciones, límite acumulado) + compromisos recurrentes fuera de ese límite + coste de recuperación estimado

Ejemplo ficticio: un agente puede gastar hasta 40 € por operación, como máximo cuatro veces por semana, con un límite semanal de 120 €. También puede iniciar una suscripción de 20 € fuera de ese límite, y el coste estimado de corregir o disputar una compra es de 50 €. La exposición planificada es 120 € + 20 € + 50 € = 190 €, no 40 €. Si la empresa no puede perder, inmovilizar o recuperar ese importe sin afectar sus operaciones, reduce la autoridad o permanece en el nivel 1.

Limita más que el importe: comercio, categoría, moneda, frecuencia, horario, cantidad, recurrencia y destino. Mantén las credenciales fuera del agente; usa una autorización de un solo uso o de alcance estrecho; bloquea la división de una compra para eludir el límite; registra solicitud, política aplicada, aprobación, ejecución y conciliación; y permite la revocación inmediata. Un límite por transacción sin límite acumulado sigue permitiendo muchas compras pequeñas.

5. Crea la ficha de decisión

La persona revisora debe ver:

  • la acción exacta propuesta y el contenido o payload final;
  • el origen de los hechos relevantes;
  • el destinatario, la cuenta, el importe o el objeto afectado;
  • el actor en cuyo nombre se ejecutará la acción;
  • la identidad ejecutora, la herramienta y la operación permitidas;
  • los parámetros materiales normalizados y un identificador de integridad;
  • los campos ausentes, conflictos, excepciones e incertidumbres;
  • el motivo por el que se exige aprobación;
  • las consecuencias de aprobar y rechazar;
  • las respuestas disponibles: aprobar, devolver/editar, rechazar o escalar;
  • la competencia y autoridad esperadas de la persona revisora;
  • el momento de caducidad;
  • un approval_id único que vincule la decisión, el actor, el ejecutor, la operación, el objetivo, los parámetros y la versión aprobada;
  • una indicación de uso único y protección contra duplicados o replay;
  • el resultado seguro cuando nadie responda.

“¿Enviar el informe?” no basta. “Enviar report-v3 a client-example@example.test usando la hoja de métricas aprobada, antes de las 14:00 UTC, sin afirmaciones sin respaldo” proporciona a la persona revisora un objeto de decisión.

La aprobación humana debe estar vinculada a la ejecución

El control más importante ocurre después del clic.

El agente puede proponer una acción, pero no debe decidir si su propia autorización es válida. Un componente separado de política o ejecución debe validar la aprobación inmediatamente antes de la acción. La OWASP AI Agent Security Cheat Sheet recomienda separar la decisión de la ejecución para las acciones de alto impacto y vincular la aprobación al actor, la herramienta, el objetivo, los parámetros normalizados y la caducidad. También recomienda una autorización de corta duración, protección contra replay, control de duplicados y fallo cerrado cuando fallen la política, la validación de la aprobación o el registro obligatorio.

El ejecutor debe:

  1. normalizar de forma determinista los parámetros materiales;
  2. compararlos con los parámetros aprobados o el resumen de integridad;
  3. verificar la identidad, la autoridad, el alcance, el estado y la caducidad de quien aprueba;
  4. verificar la identidad ejecutora, la herramienta, la operación y el objetivo;
  5. confirmar que la autorización todavía no se ha consumido;
  6. rechazar el replay, la reutilización con otro objetivo y la ejecución duplicada;
  7. consumir la autorización de un solo uso antes de ejecutar o de forma atómica con la ejecución;
  8. bloquear de forma predeterminada cuando fallen la política, la integridad, la caducidad, la prevención de duplicados o el registro obligatorio.

La OWASP Transaction Authorization Cheat Sheet proporciona los principios transaccionales utilizados aquí: mostrar los datos significativos a quien autoriza, aplicar la autorización en un componente de confianza, preservar el orden de los estados, invalidar la decisión cuando cambien los datos, volver a verificar durante la ejecución, limitar la validez y usar credenciales únicas por operación.

La implementación puede usar una firma, MAC, token de un solo uso, registro transaccional u otro mecanismo adecuado. Este artículo especifica el resultado, no un diseño criptográfico universal. La arquitectura y las pruebas de seguridad siguen siendo trabajos separados.

Registra la decisión y la ejecución por separado

Usa un libro de registro mínimo:

approval_id actor que aprueba ejecutor herramienta/operación objetivo parámetros normalizados/resumen decisión fecha de decisión caducidad estado/consumo execution_id resultado/excepción

Registra los rechazos y las solicitudes de información, no solo las aprobaciones. Mantén aprobado separado de ejecutado. No introduzcas en el registro contenido personal o confidencial innecesario.

El segundo uso del mismo approval_id, un payload modificado, una decisión caducada o una clave de idempotencia repetida deben generar un evento bloqueado, no un segundo efecto externo. Si el sistema no puede registrar la evidencia mínima exigida para una acción de alto impacto, la acción debe permanecer bloqueada.

Comprueba si la revisión es significativa

La persona revisora debe responder sí a estas diez preguntas:

  1. ¿Sé exactamente qué acción y qué versión estoy aprobando?
  2. ¿Puedo verificar las fuentes y los campos críticos?
  3. ¿Tengo la competencia y la autoridad para decidir?
  4. ¿Puedo rechazar o editar sin presión para limitarme a confirmar?
  5. ¿Entiendo quién o qué se verá afectado?
  6. ¿Puedo identificar las limitaciones relevantes de la automatización?
  7. ¿La acción permanece bloqueada hasta mi decisión?
  8. ¿Un cambio posterior invalida esta aprobación?
  9. ¿Existe una parada segura, una ruta de escalamiento y un registro?
  10. ¿El volumen de solicitudes permite una revisión atenta?

Cualquier respuesta no impide llamar a este paso aprobación humana significativa. Cualquier no lo sabemos se convierte en una investigación antes de que el flujo continúe.

Los puntos 1–4 comprueban el objeto de la decisión, la evidencia, la competencia y la libertad para decidir. Los puntos 5–6 comprueban la comprensión del impacto y las limitaciones. Los puntos 7–8 comprueban el bloqueo y la integridad. El punto 9 comprueba la contención y la trazabilidad. El punto 10 comprueba que exista capacidad humana real, no solo en el diagrama.

Ejemplo completo: aprobación de un informe semanal

Imagina que el flujo de informes semanales para clientes reúne métricas aprobadas y prepara un borrador. Producir el borrador es asistencia. Enviarlo es una acción externa separada.

Todos los datos siguientes son ficticios:

action: send weekly client report
status_before_approval: blocked
exact_artifact: report-v3
recipient: client-example@example.test
approval_binding:
  approval_id: approval-example-2026-09-28-001
  approver_actor: account-owner-example
  executor_identity: reporting-service-example
  tool: email-service-example
  operation: send_message
  target: client-example@example.test
  normalized_parameters_digest: sha256-example-not-a-real-digest
  expires_at: 2026-09-29T14:00:00Z
  one_time: true
  idempotency_key: execution-example-001
sources:
  - approved project board export
  - approved metrics sheet
checks:
  required_metrics_present: true
  sources_agree: true
  unsupported_claims: none
allowed_responses:
  - approve exact report-v3
  - return with edits
  - reject
invalidate_if:
  - report changes
  - recipient changes
  - source data changes
  - executor, tool or operation changes
execution_policy:
  validate_outside_agent: true
  consume_approval_once: true
  reject_replay: true
  reject_duplicate_execution: true
  fail_closed_if:
    - policy lookup fails
    - approval validation fails
    - payload digest differs
    - mandatory audit log cannot be recorded
on_timeout: keep blocked and notify owner

Aprobar report-v3 no aprueba report-v4, otro destinatario ni un mensaje regenerado. Cada cambio material crea una nueva decisión.

Pruebas conceptuales antes de implementar

Prueba el kit con escenarios ficticios antes de elegir el software. Comprueba, como mínimo:

  1. clasificación interna de documentos no sensibles, sin efecto externo;
  2. preparación de un informe con el envío todavía bloqueado;
  3. envío de un mensaje a un cliente;
  4. concesión de un descuento fuera del límite;
  5. pago de una factura;
  6. modificación de un permiso de acceso;
  7. eliminación de un registro;
  8. recomendación sobre una persona candidata, empleada o cliente;
  9. falta una fuente obligatoria;
  10. las fuentes no coinciden;
  11. solicitud caducada;
  12. contenido modificado después de la aprobación;
  13. persona aprobadora sin autoridad;
  14. volumen demasiado alto para una revisión atenta;
  15. datos o finalidad no autorizados, que deben detenerse antes de la aprobación;
  16. payload normalizado diferente del aprobado;
  17. reutilización del approval_id con otro objetivo;
  18. replay de una autorización ya consumida;
  19. dos intentos idénticos con la misma clave de idempotencia;
  20. fallo de validación externa, consulta de políticas o comprobación de integridad;
  21. fallo al guardar el registro mínimo obligatorio;
  22. cambio de ejecutor, herramienta, operación, objetivo, destinatario, importe o contenido después de la decisión.

En cada escenario, registra el modo de control, la justificación, la información mostrada, la respuesta disponible, la condición de parada, los datos minimizados y el resultado esperado. Las pruebas 15–22 deben fallar de forma cerrada. Dos solicitudes de ejecución idénticas deben producir como máximo un efecto.

Cuándo no usar este modelo como único control

Detente y busca una gobernanza más adecuada cuando:

  • la recopilación, el intercambio o la finalidad de los datos no estén autorizados;
  • el sistema tenga permisos superiores a los necesarios;
  • la persona revisora no tenga autoridad, competencia, tiempo o evidencia;
  • la acción pueda cambiar después de la aprobación;
  • la interfaz oculte el destinatario, el importe, el contenido, la fuente o la consecuencia;
  • el volumen o los incentivos fomenten la confirmación automática;
  • no exista una forma de rechazar, editar, escalar o detener;
  • pueda producirse un daño grave antes de detectar el fallo;
  • la ley, el contrato, la política interna o una profesión regulada exijan otro control;
  • el proceso no se haya mapeado o probado en condiciones cercanas a las reales;
  • la acción no deba automatizarse.

El trabajo de revisión forma parte del costo operativo. Inclúyelo al estimar el costo y el payback de la automatización. Un diseño que reduce la preparación, pero crea una cola imposible de revisar, solo desplaza el trabajo.

La aprobación también debe cubrir la autoridad para la contención y la reanudación. Documenta ambas en un plan de contingencia para fallos de automatización.

Límites jurídicos y de privacidad

La aprobación humana no autoriza introducir datos personales, sensibles o confidenciales, credenciales o secretos en una herramienta inadecuada. Minimiza la información de la ficha y del registro. Aplica los permisos en el sistema de destino, en vez de preguntar al modelo si la acción está permitida.

En Brasil, la ANPD explica que el titular puede solicitar la revisión de decisiones tomadas únicamente mediante el tratamiento automatizado de datos personales que afecten a sus intereses y puede pedir una explicación de los criterios y procedimientos utilizados. Esto no significa que toda automatización brasileña exija universalmente la misma persona revisora. La aplicación depende del tratamiento concreto y del contexto jurídico.

En la Unión Europea, el artículo 14 del Reglamento Europeo de IA establece requisitos de supervisión humana para sistemas de IA de alto riesgo, incluida la capacidad de comprender las limitaciones, evitar la confianza automática, interpretar los resultados, sustituirlos y detener el sistema. No presentes las obligaciones de los sistemas de alto riesgo como una regla universal para todos los flujos de pequeñas empresas.

Este artículo es educativo. No constituye asesoramiento jurídico, laboral, contable, financiero, de seguridad ni de protección de datos.

Preguntas frecuentes

¿Toda salida de IA necesita aprobación?

No existe una regla universal adecuada para todos los usos. La preparación autorizada, acotada y reversible puede recibir muestreo o revisión por excepción después de las pruebas. Las acciones externas o relevantes exigen controles más sólidos. Clasifica la acción, no solo la presencia de IA.

¿Basta con una bandeja de revisión?

No. La persona revisora necesita evidencia, autoridad y opciones reales mientras la acción permanece bloqueada. El objeto aprobado también debe estar vinculado mediante un control criptográfico o transaccional a lo que ejecutará el sistema.

¿La misma aprobación puede cubrir acciones repetidas?

No lo supongas. Para las acciones de alto impacto, usa un alcance estrecho, caducidad y una autorización de un solo uso o explícitamente delimitada. Un cambio de objetivo o payload exige una nueva decisión.

¿Qué ocurre si nadie responde?

Mantén la acción bloqueada, deja que caduque la solicitud y avisa o escala a la persona responsable definida. El silencio no es una aprobación.

¿Un agente de IA puede validar su propia aprobación?

No en el patrón de alto impacto de esta guía. Un componente de política o ejecución externo al agente proponente debe validar la autorización y fallar de forma cerrada.

¿Cómo se reduce la fatiga de aprobación?

Elimina acciones innecesarias, limita los permisos, mejora las entradas y deriva solo las excepciones reales. No reduzcas la fatiga ampliando la autonomía silenciosamente. Mide el volumen de solicitudes, el tiempo de revisión, las correcciones y las excepciones no detectadas.

Aplica este límite al payload exacto de la propuesta o del seguimiento en el flujo comercial controlado y a la asignación relevante u otras consecuencias en el flujo de mensajes a tareas.

Para los sistemas de clientes, el paquete de decisión Hoja de cálculo o CRM aplica el mismo límite al acceso a datos, las exportaciones, la autoridad para migrar y el cambio definitivo.

Fuentes y notas metodológicas

El filtro de límites, la ficha de decisión, el libro de registro y la prueba de revisión significativa son herramientas editoriales de Pulse Work Lab. Las fuentes orientan sus principios, pero no certifican el kit, garantizan seguridad ni establecen cumplimiento jurídico.