fundamentals

Inyección de instrucciones en adjuntos: limita las acciones de la IA

Separa los datos de las órdenes en archivos recibidos y decide qué acciones requieren revisión.

Una propuesta, un PDF o un currículo recibido puede contener texto que parece una orden para la IA. El archivo es fuente de datos, no una persona autorizada. Microsoft describe instrucciones escondidas en adjuntos; OpenAI explica cómo el contenido externo puede desviar a un asistente. Ningún filtro detecta todos los casos.

Respuesta breve

Define la tarea antes de abrir el archivo: extraer campos de una propuesta y preparar un borrador para revisión. Trata las instrucciones dentro del adjunto como contenido que se analiza o ignora, nunca como permiso para enviar mensajes o usar herramientas. Separa permisos para leer, proponer y ejecutar. Envíos, compartición, cambios de acceso, pagos y escrituras requieren normas y aprobación externas al documento.

Matriz de autoridad para archivos recibidos

Acción Qué puede aportar el archivo Control antes de actuar
Resumir o extraer Datos candidatos y pasajes referenciados Confirmar origen, finalidad, datos permitidos y errores
Sugerir una tarea Solicitud aparente, fecha y contexto Responsable y plazo siguen pendientes de decisión humana
Crear o modificar un registro Datos que deben verificarse Restringir campos y permisos; revisar antes de guardar
Enviar, compartir o pagar Ninguna autoridad Aprobación humana de destinatario, contenido, importe y destino; si no es viable, no automatizar

La matriz de Pulse ayuda a decidir; no garantiza protección. Una frase que pide enviar una lista de clientes sigue siendo texto del archivo aunque afirme ser una instrucción del sistema. No la conviertas en una llamada a una herramienta con acceso amplio.

Diseña la frontera de confianza

  1. Elige buzón autorizado, finalidad y tipos de archivo. Define una política de uso de IA para datos y herramientas.
  2. Concede acceso solo a los archivos necesarios. Para resumir propuestas no hacen falta permisos de correo saliente ni pagos.
  3. Solicita campos estructurados, incertidumbre y pasajes de origen. Un formato correcto no demuestra que el dato sea cierto.
  4. Sitúa una persona o regla externa al adjunto antes de acciones con consecuencias. OpenAI recomienda aprobar el uso de herramientas.
  5. Conserva el registro mínimo de decisiones según tu finalidad y plazo de retención; evita guardar archivos sensibles sin necesidad.

Ensayo con documentos ficticios

Prepara una propuesta inventada con datos comerciales normales y una nota fuera de contexto que pida otra acción al asistente. El resultado esperado es extraer solo campos permitidos, señalar la nota para revisión y no usar la herramienta de envío. Prueba también un archivo normal para comprobar que la tarea legítima funciona. Es un diseño de prueba sugerido, no una prueba realizada por Pulse.

Si el proceso convierte mensajes en tareas, consulta el contrato de entrada. El adjunto no puede concederse autoridad. Ante instrucciones sospechosas en producción, pausa acciones externas y revisa accesos y registros dentro del entorno autorizado antes de reanudar.

Fuentes