Lo que encontramos en un WhatsApp de empresa antes de dárselo a la IA

Para que un asistente aprenda de las conversaciones de una empresa, alguien tiene que leerlas primero. Cuando lo hicimos con el historial real de WhatsApp de una escuela de pilotos de drones aparecieron cosas que no deberían estar ahí: usuarios y contraseñas de acceso a una plataforma, enviados tal cual, y algún número de cuenta bancaria.

No es raro. WhatsApp es rápido y está a mano, y en el día a día se usa para todo. Pero esos datos no pueden llegar a un modelo de lenguaje, ni a una base de búsqueda, ni a las fichas de ejemplo que verá el agente.

Anonimizar en dos pasos, antes de enviar nada

1. Reglas en código. Teléfonos, correos, documentos de identidad, cuentas bancarias, tarjetas y credenciales se sustituyen por marcadores como [IBAN] o [CREDENCIAL] antes de que el texto salga de la máquina. Es determinista: no depende de que un modelo se acuerde.
2. Revisión del modelo. Al extraer cada caso, el modelo sustituye lo que las reglas no reconocen, como los nombres de otras personas.

Después, una validación automática rechaza cualquier caso con un patrón que se haya escapado. Un caso que contenía credenciales queda bloqueado. Y ninguno se usa sin que una persona lo apruebe.

Además, la búsqueda semántica se calcula con un modelo que corre en nuestra máquina: esos textos no salen fuera para eso.

Lo que aprendimos

• Mira los datos antes de diseñar. El riesgo no estaba en el agente, estaba en el historial.
• La privacidad va en código. Una regla que sustituye un número de cuenta no se olvida ni se cansa.
• Díselo al cliente. Le recomendamos no enviar contraseñas por WhatsApp o, al menos, obligar a cambiarlas en el primer acceso. Arreglar la costumbre vale más que cualquier filtro.

Antes de enseñar a una IA cómo trabaja tu equipo, conviene saber qué ha ido escribiendo tu equipo.

Fuente de las cifras: Diseño de un asistente de WhatsApp para una escuela de pilotos de drones (Kalmia Zen).