Seguridad y confidencialidad de datos al usar IA
Qué preguntar a un proveedor, cómo configurar el acceso a información interna y qué reglas mínimas evitan la mayoría de los incidentes.
El riesgo de seguridad con inteligencia artificial no suele venir de un ataque sofisticado. Viene de alguien que pegó un documento confidencial en una herramienta gratuita para resolver algo rápido un martes a la tarde.
Las medidas que previenen la mayoría de los incidentes son simples y no requieren tecnología adicional.
Las tres preguntas al proveedor
¿Dónde se procesan y almacenan los datos? En qué región, en qué infraestructura y por cuánto tiempo se retienen. Si la empresa tiene obligaciones regulatorias de localización, esta respuesta define si el proveedor es viable.
¿Se usan nuestros datos para entrenar modelos? La respuesta debe estar en el contrato, no en una página de preguntas frecuentes que puede cambiar. En general los planes empresariales incluyen este compromiso y varios planes gratuitos no lo hacen.
¿Quién puede acceder del lado del proveedor? Qué personal técnico puede ver el contenido, bajo qué circunstancias, y qué controles existen.
El error más común al conectar documentación interna
Cuando se implementa un asistente sobre documentos propios, el riesgo no es el modelo: es el alcance del acceso.
Si el sistema indexa todo el repositorio y responde a cualquier empleado con información de cualquier documento, se convirtió en una puerta de acceso a información restringida. Alguien que no podía abrir la carpeta de remuneraciones ahora puede preguntar y obtener la respuesta.
La solución es que el asistente respete los permisos existentes en el origen: cada persona recibe respuestas basadas únicamente en los documentos a los que ya tiene acceso. Es un requisito que hay que verificar explícitamente antes de implementar, porque no todas las soluciones lo cumplen.
Las reglas mínimas que conviene establecer
Cuatro reglas cubren la mayor parte del riesgo real:
- Herramientas aprobadas. Una lista concreta con nombres, y un camino simple para pedir el alta de otras.
- Información que nunca se carga. Datos personales sensibles, credenciales, material bajo acuerdo de confidencialidad con terceros.
- Versiones de pago para uso laboral. No por la funcionalidad, por las condiciones de tratamiento de datos.
- Un canal de consulta. Donde preguntar antes, en lugar de decidir solo.
Caben en media página y resuelven más que cualquier herramienta de control.
El riesgo de los accesos amplios
Cuando un sistema de IA se integra con sistemas internos, hereda sus permisos. La práctica frecuente de otorgar accesos amplios "para la prueba" y nunca ajustarlos es uno de los riesgos más concretos.
Dos criterios:
- Acceso mínimo necesario, igual que para una persona.
- Revisión periódica, porque los permisos otorgados para un piloto suelen sobrevivir años.
Qué registrar
Para poder investigar un incidente, hacen falta tres registros:
- Quién consultó qué. Para detectar usos indebidos.
- A qué fuentes accedió el sistema en cada respuesta.
- Qué acciones ejecutó, en el caso de sistemas que operan sobre otros sistemas.
Estos registros además son lo que permite responder una auditoría sin reconstruir la historia de memoria.
La capa que suele faltar: las personas
La mayoría de los incidentes no son técnicos. Son de uso. Una capacitación de veinte minutos con ejemplos concretos del propio trabajo resuelve más que un documento de políticas de quince páginas.
Lo que hay que transmitir es simple: qué herramientas usar, qué nunca cargar, qué verificar antes de usar una salida y a quién preguntar ante la duda. Si alguien puede repetir esas cuatro cosas, la mayor parte del riesgo está cubierto.
Un chequeo rápido para hacer esta semana
Preguntar al equipo qué herramientas de IA están usando hoy. La lista casi siempre es más larga de lo que el área de sistemas supone, e incluye herramientas que nadie evaluó.
Esa lista es el punto de partida real de cualquier política de seguridad sobre el tema.
Preguntas frecuentes
¿Los proveedores de IA usan nuestros datos para entrenar sus modelos?
Depende del plan contratado. En general, las versiones empresariales y de pago incluyen el compromiso de no usar los datos de clientes para entrenamiento, mientras que varias versiones gratuitas sí los usan. Hay que verificarlo en el contrato.
¿Es seguro conectar un asistente de IA a nuestros documentos internos?
Sí, si respeta los permisos existentes: cada usuario debe recibir respuestas basadas solo en lo que ya tiene derecho a ver. Conectar todo el repositorio sin filtrar permisos es el error más grave y el más común.
¿Qué información nunca debería cargarse en una herramienta externa?
Datos personales sensibles, credenciales y claves, información sujeta a acuerdos de confidencialidad con terceros, y datos regulados que no pueden salir de determinada jurisdicción.