El primer riesgo de privacidad con IA no suele ser el modelo. Es el prompt: una pregunta útil con nombres, emails, números de contrato o datos de pago pegados como contexto. Con agentes pasa lo mismo, pero de forma automática y en cada petición.
La regla general:
- Conservar lo que el modelo necesita para hacer la tarea.
- Enmascarar los valores cuya estructura importa pero cuyo valor real no.
- Bloquear lo que nunca debe salir.
- Pasar a una persona cuando el dato es demasiado sensible para decidir de forma automática.
Qué buscar
Identificadores personales
Nombres, emails, teléfonos, DNI y pasaportes, identificadores de empleado. Si el modelo no necesita la identidad, sustitúyela por un marcador estable:
María López→[PERSONA_01]maria@acme.es→[EMAIL_01]12345678Z→[ID_01]
Referencias de contratos y cuentas
Los números de referencia parecen inofensivos, pero pueden revelar una relación con un cliente o un expediente.
CT-48291→[CONTRATO_01]FAC-1042→[FACTURA_01]
Importes
El modelo puede necesitar saber que hay un importe, no la cifra exacta.
48.200 EUR→[IMPORTE_01]
Salud y otros datos regulados
Diagnósticos, notas de tratamiento y siniestros necesitan algo más que enmascarar. Normalmente la respuesta es una ruta aparte con una política explícita, a menudo con un modelo privado.
Secretos
Claves de API, tokens, contraseñas, URLs internas y detalles de productos no lanzados no deben ir en un prompt. Se bloquean; no se enmascaran.
Conservar el sentido
Una redacción que destruye la tarea fracasa, porque la gente vuelve a pegar los datos en bruto. Conserva el tipo de entidad, las relaciones, la secuencia de hechos y la escala cuando importa:
"Resume el riesgo de renovación de [PERSONA_01] en [EMPRESA_01]. El contrato es [CONTRATO_01] y el importe pendiente es [IMPORTE_01]."
El modelo puede seguir razonando. Simplemente no ve de quién se trata.
Errores habituales
- Limpiar después. Cuando el dato en bruto está en un chat, ya ha salido. El control tiene que estar antes del modelo.
- Redactarlo todo. Sin contexto, las respuestas empeoran y la gente busca cómo saltarse el control.
- Tratar todas las herramientas igual. Una app de chat de consumo, un espacio de equipo y un gateway privado son rutas distintas y necesitan reglas distintas.
Antes de que salga cualquier prompt
- ¿Contiene datos personales, financieros, de salud o confidenciales del negocio?
- ¿Necesita el modelo el valor exacto?
- ¿Se pueden sustituir los identificadores por marcadores?
- ¿Debería ir a un modelo privado o a una persona?
- ¿Queda registrado el prompt final?
Hacerlo a mano no escala, y menos cuando son los agentes quienes envían las peticiones. Ese es el trabajo de una capa de control como nuestro Privacy Gateway; mira también IA privada.
¿Qué pasa primero a piloto automático?
Cuéntanos cómo trabajas hoy. Te diremos por dónde empezar.
Reservar una llamada