Shadow AI en empresas: cómo detectarla y controlarla sin frenar al equipo
El lunes a primera hora aparece en el buzón un resumen impecable de la reunión del viernes. Nadie recuerda haber aprobado un asistente para grabarla, pero el documento está ahí. Poco después, una persona del equipo comercial comenta que ha preparado una propuesta con su cuenta personal de ChatGPT. En marketing, alguien ha instalado una extensión que reescribe correos; en administración, una herramienta gratuita está resumiendo facturas.
No hay mala intención. Casi siempre ocurre lo contrario: alguien intenta trabajar más rápido y resuelve una necesidad que la empresa todavía no ha atendido.
El problema empieza cuando nadie puede responder cuatro preguntas sencillas: qué herramienta se está usando, qué datos recibe, dónde termina esa información y quién se hace cargo si la respuesta es incorrecta o el dato sale de la organización.
Eso es shadow AI en empresas: el uso de herramientas o funciones de inteligencia artificial sin aprobación, inventario o supervisión suficiente. No es una tecnología distinta. Puede ser un chatbot, un asistente de reuniones, una extensión del navegador, una función nueva dentro de un programa que ya pagamos o una automatización creada por un departamento sin avisar a nadie.
La solución tampoco consiste en publicar una prohibición y dar el asunto por cerrado. Si la herramienta resuelve un problema real, lo más probable es que el uso continúe por otra vía. La empresa necesita localizarlo, entenderlo y ofrecer una alternativa razonable.
La shadow AI no se controla preguntando solo “¿qué herramientas usáis?”.
Se controla entendiendo qué trabajo intenta resolver cada persona, con qué datos y qué consecuencias tendría un error.
Índice
- Qué es shadow AI y qué no es
- Siete lugares donde suele esconderse la IA en la sombra
- Cómo detectar shadow AI sin convertir la empresa en un sistema de vigilancia
- Una matriz sencilla para decidir qué hacer
- Ocho controles que funcionan mejor que una prohibición general
- Plan de 30 días para ordenar la shadow AI
- Qué medir para saber si el control funciona
- Shadow AI, RGPD y AI Act: qué puede afirmarse con rigor
- Cuatro ejemplos resueltos
- Preguntas frecuentes
- El objetivo no es atrapar al equipo, sino dejar de trabajar a ciegas
Qué es shadow AI y qué no es
Hablamos de shadow AI —o IA en la sombra— cuando una persona o un equipo utiliza capacidades de inteligencia artificial fuera de los mecanismos de decisión y control de la organización.
Puede ser algo tan visible como abrir una cuenta personal en un chatbot. También puede estar escondido dentro de una aplicación autorizada: el proveedor incorpora una función de resumen, activa un copiloto o añade un agente que accede a información a la que la herramienta principal ya tenía permiso.
No todo uso espontáneo tiene el mismo riesgo. Pedir ideas para el título de una presentación a partir de información pública no se parece a subir una nómina, un contrato, un historial médico o una base de clientes. Tampoco es igual generar un borrador que enviar una respuesta automáticamente en nombre de la empresa.
Por eso conviene evitar dos atajos:
- “Toda IA no autorizada es una brecha.” No necesariamente. Primero hay que comprobar qué ocurrió, qué datos se trataron y qué impacto tuvo.
- “Como no ha pasado nada, el uso es inocuo.” Tampoco. La ausencia de un incidente visible no demuestra que el proveedor, la cuenta, los permisos o el tratamiento sean adecuados.
Shadow AI no es una categoría jurídica autónoma ni una infracción automática. Es una señal de falta de visibilidad. A partir de ahí, las consecuencias dependen del uso real.
Siete lugares donde suele esconderse la IA en la sombra
La revisión no debería limitarse a preguntar quién usa ChatGPT. En una pyme, los usos más habituales suelen aparecer en estos puntos:
1. Cuentas personales de chatbots
Una persona utiliza su correo privado o un plan gratuito para redactar, resumir, traducir o analizar documentos de trabajo. La empresa no puede revisar la configuración, aplicar una baja cuando esa persona se marcha ni comprobar qué condiciones aceptó.
2. Asistentes de reuniones
Un bot se incorpora a una videollamada, transcribe lo hablado y genera un resumen. Puede captar voces, nombres, decisiones, información comercial o datos personales. A veces aparece como invitado; otras, funciona desde la cuenta de una sola persona y pasa desapercibido para el resto.
3. Extensiones del navegador y complementos
Prometen escribir mejor, resumir páginas o responder correos. Para hacerlo, algunas solicitan acceso amplio a las pestañas, al contenido de las páginas o al correo. El riesgo no depende solo del modelo de IA, sino de los permisos de la extensión.
4. Funciones de IA dentro de aplicaciones ya contratadas
CRM, suites de ofimática, herramientas de diseño y plataformas de atención al cliente incorporan IA continuamente. Que el programa esté aprobado no significa que todas sus funciones nuevas hayan sido revisadas.
5. Automatizaciones creadas por un departamento
Una persona conecta formularios, hojas de cálculo, correo y un modelo de lenguaje para ahorrar tiempo. El flujo funciona, pero nadie ha documentado las credenciales, los datos, los proveedores o la forma de detenerlo.
6. Herramientas gratuitas para archivos
Transcriptores, conversores, resumidores de PDF, analizadores de hojas de cálculo o generadores de presentaciones reciben documentos completos. La comodidad de “arrastrar y soltar” oculta que el archivo está saliendo del entorno habitual.
7. Agentes con permisos sobre otras aplicaciones
El uso ya no termina en generar texto. Un agente puede consultar el correo, leer una carpeta, modificar el CRM o crear una tarea. En ese caso, hay que revisar no solo la información que recibe, sino también lo que puede cambiar o enviar. La guía sobre agentes de IA, datos, permisos y control explica cómo separar lectura, propuesta, aprobación y ejecución.
Cómo detectar shadow AI sin convertir la empresa en un sistema de vigilancia
Una búsqueda policial suele producir respuestas defensivas y un inventario incompleto. Funciona mejor plantear la revisión como una mejora del trabajo.
Empieza por las tareas, no por las marcas
En lugar de enviar un correo preguntando “¿quién usa herramientas de IA no autorizadas?”, prueba con preguntas como estas:
- ¿Qué tareas repetitivas estás resolviendo con IA?
- ¿Qué herramienta utilizas y con qué cuenta?
- ¿Qué información introduces?
- ¿El resultado se revisa antes de utilizarlo?
- ¿La herramienta puede enviar, modificar o borrar algo?
- ¿Qué perderías si mañana dejara de estar disponible?
- ¿Qué alternativa aprobada necesitarías para hacer el mismo trabajo?
La diferencia no es cosmética. La primera pregunta busca culpables; la segunda busca casos de uso.
Crea un inventario mínimo que se pueda mantener
No hace falta empezar con un documento de cincuenta columnas. Para cada uso detectado, registra al menos:
| Campo | Qué anotar |
|---|---|
| Tarea | Qué problema resuelve |
| Herramienta y cuenta | Producto, plan y tipo de cuenta |
| Datos de entrada | Públicos, internos, personales, confidenciales o sensibles |
| Resultado | Borrador, análisis, decisión, contenido o acción |
| Acción externa | Si consulta, modifica, envía o ejecuta algo |
| Responsable | Quién conoce el proceso y puede detenerlo |
| Estado | Permitido, en revisión, limitado o no permitido |
El inventario no tiene que descubrir todas las herramientas el primer día. Tiene que permitir tomar una decisión y actualizarla cuando cambie el uso.
Combina conversación y evidencia
En organizaciones con medios técnicos, los registros corporativos, el inicio de sesión único, la gestión de aplicaciones SaaS o las alertas de seguridad pueden ayudar a localizar servicios. Pero la evidencia técnica no explica para qué se usan ni si el resultado se incorpora a una decisión.
Además, cualquier medida de supervisión sobre dispositivos o actividad laboral debe ser proporcionada y respetar la normativa aplicable. Antes de desplegar controles invasivos, conviene revisar el contexto laboral, de privacidad y seguridad con las personas responsables.
Para una pyme, una conversación bien diseñada con cada área y una revisión de los procesos críticos suele aportar más valor inicial que comprar una plataforma de detección que nadie sabe interpretar.
Una matriz sencilla para decidir qué hacer
La siguiente clasificación es orientativa. No sustituye un análisis jurídico, de protección de datos o de seguridad cuando sea necesario.
Verde: uso acotado y de bajo impacto
Ejemplos:
- generar ideas a partir de información pública;
- mejorar la estructura de un texto sin datos de clientes;
- resumir documentación pública;
- crear un borrador que una persona revisa antes de usar.
Condiciones recomendables:
- cuenta o herramienta aprobada;
- sin información personal, confidencial ni credenciales;
- revisión humana;
- el sistema no ejecuta acciones externas;
- existe una persona responsable.
Ámbar: necesita revisión y límites
Ejemplos:
- trabajar con información interna;
- resumir reuniones con clientes;
- analizar datos personales minimizados;
- utilizar una función de IA incorporada recientemente a un SaaS;
- preparar recomendaciones que afectan a una decisión relevante;
- conectar la herramienta con correo, CRM o archivos en modo lectura.
Preguntas que deben resolverse:
- ¿Cuál es la finalidad y qué datos son realmente necesarios?
- ¿Qué proveedor y subproveedores intervienen?
- ¿Qué condiciones se aplican al contenido introducido?
- ¿Dónde se procesa y cuánto tiempo se conserva?
- ¿Quién revisa el resultado?
- ¿Cómo se revoca el acceso?
Rojo: detener hasta aclarar el caso
Ejemplos:
- introducir contraseñas, claves, secretos o credenciales;
- subir categorías especiales de datos sin un análisis previo;
- utilizar IA para decidir sobre empleo, crédito, salud o derechos de una persona;
- enviar respuestas externas de forma autónoma;
- permitir pagos, borrados o cambios de permisos;
- usar una cuenta personal para bases completas de clientes o documentación confidencial;
- desplegar un agente con acceso amplio y sin registros ni parada.
“Rojo” no significa siempre “prohibido para siempre”. Significa que el uso no debería continuar en esas condiciones.
Ocho controles que funcionan mejor que una prohibición general
1. Ofrece una alternativa aprobada
Si se bloquea una herramienta útil sin resolver la necesidad, el equipo buscará otra. La alternativa puede ser una cuenta corporativa, una función ya incluida en una aplicación revisada o un proceso de solicitud rápido.
2. Publica reglas cortas y comprensibles
La política debe explicar qué herramientas están permitidas, qué datos no deben introducirse, qué usos requieren consulta y quién resuelve las dudas. La guía para crear una política interna de uso de IA desarrolla esa estructura paso a paso.
Una norma que nadie puede aplicar sin llamar al departamento jurídico no reducirá la shadow AI.
3. Distingue datos, decisiones y acciones
Tres preguntas cambian casi cualquier evaluación:
- ¿Qué información recibe la herramienta?
- ¿Para qué se utiliza el resultado?
- ¿Puede actuar sobre otra persona o sistema?
Cuanto más sensibles sean los datos, más relevante la decisión y menos reversible la acción, mayor debe ser el control.
4. Revisa proveedores y configuraciones
No basta con reconocer una marca. Hay que comprobar el plan contratado, las condiciones aplicables, las opciones de administración, la conservación, los permisos, los subencargados y las integraciones activas. Una versión corporativa puede ofrecer controles que no existen en una cuenta personal, pero sigue necesitando configuración.
5. Separa borrador y ejecución
Permitir que una herramienta prepare un resumen o una respuesta no obliga a permitirle enviarla. El modo borrador conserva gran parte de la utilidad y reduce el impacto de un error.
6. Forma por tareas reales
Una charla genérica sobre “los riesgos de la IA” se olvida rápido. Es más útil enseñar a cada perfil qué puede hacer, qué no debe hacer y cómo pedir ayuda con ejemplos de su propio trabajo. El plan de formación en IA para empresas propone una forma proporcionada de organizarlo.
7. Crea una vía de consulta sin castigo automático
Si declarar un uso genera un expediente, nadie declarará el siguiente. La empresa necesita un canal para preguntar, proponer una herramienta o comunicar un error con rapidez. Eso no impide actuar ante una conducta grave; evita que todo quede oculto hasta que el problema sea mayor.
8. Revisa de nuevo cuando cambia el producto
Los proveedores añaden modelos, memoria, conectores y agentes. Un uso aprobado hace seis meses puede haber cambiado. Conviene revisar cuando se activa una función nueva, se amplía el acceso, cambia la finalidad o aparecen datos distintos.
Plan de 30 días para ordenar la shadow AI
Semana 1. Escuchar y localizar
- Identificar las tareas donde ya se utiliza IA.
- Abrir una declaración sencilla y sin lenguaje sancionador.
- Registrar herramienta, cuenta, datos, resultado y responsable.
- Priorizar áreas con clientes, personal, finanzas, legal o información sensible.
Resultado: primer inventario de usos, aunque todavía sea incompleto.
Semana 2. Clasificar y decidir
- Aplicar la matriz verde, ámbar y roja.
- Detener solo los casos que presenten un riesgo inmediato o no aclarado.
- Elegir tres o cuatro casos útiles para revisión prioritaria.
- Asignar una persona responsable de cada proceso.
Resultado: mapa de decisiones y lista corta de casos críticos.
Semana 3. Habilitar un camino seguro
- Aprobar una alternativa para los usos frecuentes.
- Definir reglas mínimas sobre datos, revisión y acciones.
- Configurar cuentas, permisos y bajas.
- Probar un caso en modo lectura o borrador.
Resultado: el equipo puede hacer parte del trabajo de forma autorizada.
Semana 4. Formar, medir y corregir
- Explicar las reglas con ejemplos reales.
- Activar el canal de consulta e incidencias.
- Revisar qué usos se han migrado y cuáles siguen sin resolver.
- Fijar la próxima revisión.
Resultado: sistema básico de gobierno, no una fotografía que quedará obsoleta.
Qué medir para saber si el control funciona
Contar herramientas bloqueadas ofrece una visión muy pobre. Conviene observar también:
- usos declarados y usos revisados;
- porcentaje con responsable identificado;
- casos migrados a una alternativa aprobada;
- tiempo medio para responder a una solicitud;
- incidencias y gravedad;
- excepciones abiertas y fecha de revisión;
- personas formadas por perfil;
- errores detectados antes de una acción externa;
- adopción de las herramientas seguras.
Si baja la detección pero también baja la declaración, puede que el problema no haya desaparecido: simplemente ha vuelto a esconderse.
Shadow AI, RGPD y AI Act: qué puede afirmarse con rigor
La shadow AI no está prohibida como concepto. Las obligaciones dependen del tratamiento, del sistema, del papel de la empresa y de la finalidad.
RGPD
Cuando el uso implica datos personales, el RGPD se aplica al tratamiento, aunque la herramienta sea gratuita, la utilice una sola persona o se presente como una simple ayuda de redacción.
Según el caso, habrá que revisar finalidad, base jurídica, minimización, información a las personas, acceso, proveedores, transferencias, conservación y medidas de seguridad. Introducir datos en una IA no deja de ser tratamiento porque el resultado sea un resumen.
La AEPD recomienda no compartir con herramientas de IA datos personales o información delicada sin las garantías necesarias y, en el ámbito laboral, seguir las políticas de información y seguridad de la organización. Para los casos con datos de clientes, la guía ¿Puedo usar ChatGPT con datos de clientes? desarrolla las comprobaciones esenciales.
AI Act
El AI Act no convierte cualquier uso de un chatbot en un sistema de alto riesgo. La clasificación y las obligaciones dependen del sistema y del uso previsto.
El artículo 4 del Reglamento (UE) 2024/1689 exige a proveedores y responsables del despliegue adoptar medidas para procurar un nivel suficiente de alfabetización en IA de las personas que utilizan estos sistemas por su cuenta, atendiendo a sus conocimientos, experiencia y contexto de uso. Una lista de prohibiciones enviada por correo difícilmente demuestra por sí sola una formación suficiente y proporcionada.
Puede resultar útil separar los planos:
| Nivel | Aplicación a shadow AI |
|---|---|
| Obligación legal | Cumplir el RGPD cuando se tratan datos personales y aplicar las obligaciones del AI Act que correspondan al sistema, al papel de la empresa y al caso de uso. |
| Obligación condicionada | Revisar contratos, registro de actividades, información, evaluación de impacto u otras medidas cuando el tratamiento y el riesgo real lo exijan. |
| Buena práctica | Mantener inventario, responsables, permisos limitados, canal de consulta, revisión humana y capacidad de parada. |
| Recomendación de AI Structura | Empezar por los usos reales, ofrecer una alternativa segura y aumentar capacidades solo después de comprobar resultados e incidentes. |
Cuando el caso afecta a empleo, salud, crédito, categorías especiales de datos, vigilancia, menores, decisiones relevantes o sectores regulados, conviene solicitar revisión jurídica y de protección de datos antes de continuar.
Cuatro ejemplos resueltos
Una propuesta comercial preparada con una cuenta personal
Si la persona introduce únicamente información pública y revisa el borrador, el impacto puede ser limitado, pero la cuenta sigue fuera de la administración de la empresa. Si añade precios negociados, datos del cliente o contratos, el caso pasa a requerir revisión. La solución razonable suele ser una cuenta aprobada y reglas claras sobre qué información puede utilizarse.
Un asistente que entra en reuniones con clientes
Hay que aclarar qué graba, quién lo ha activado, dónde se almacena la transcripción, quién accede y qué se comunica a las personas participantes. No debería normalizarse su entrada automática en todas las reuniones por comodidad.
Recursos Humanos resume currículums con una herramienta gratuita
Hay datos personales y el resultado puede influir en una decisión sobre empleo. No es un caso para improvisar. Deben revisarse finalidad, proveedor, datos, criterios, sesgos, intervención humana y normativa aplicable antes de utilizarlo.
Marketing genera ideas con información pública
Con una herramienta aprobada, sin datos confidenciales, revisión humana y sin publicación automática, puede ser un uso de bajo impacto. La política no tiene que dificultarlo; debe dejar claro por qué ese caso sí es aceptable.
Preguntas frecuentes
¿Usar ChatGPT en el trabajo siempre es shadow AI?
No. Lo será cuando se utilice fuera de los mecanismos de aprobación o supervisión de la empresa. Una cuenta corporativa autorizada y configurada puede formar parte del entorno aprobado, aunque el uso concreto siga necesitando límites.
¿Hay que prohibir las cuentas gratuitas?
No existe una respuesta universal. Las cuentas gratuitas suelen ofrecer menos administración y control corporativo, pero la decisión depende del proveedor, los datos y el uso. Para información sensible o procesos relevantes, una cuenta personal sin gestión es una mala base.
¿Cómo se detecta sin espiar a los empleados?
Empieza por las tareas y los procesos: entrevistas breves, declaración voluntaria, inventario de casos y revisión de áreas críticas. La evidencia técnica puede complementar el análisis, pero cualquier medida de monitorización debe ser necesaria, proporcionada y revisada en su contexto laboral y de privacidad.
¿La shadow AI vulnera siempre el RGPD?
No. El RGPD se aplica cuando hay tratamiento de datos personales. Que exista una infracción depende de cómo se hayan tratado los datos y de las garantías aplicables. El uso no autorizado es una alerta, no una conclusión jurídica automática.
¿Quién debería hacerse responsable?
El propietario del proceso debe participar siempre. Según el caso también intervendrán dirección, IT, seguridad, protección de datos, legal, compras o Recursos Humanos. Dejar toda la decisión al departamento técnico suele ignorar la finalidad y el impacto real.
¿Cuál es el primer documento que necesita una pyme?
Un inventario breve de usos y una política aplicable. El inventario explica qué está pasando; la política permite decidir qué se admite, qué se limita y qué requiere consulta. Ninguno funciona si no se asignan responsables y una vía para mantenerlo actualizado.
El objetivo no es atrapar al equipo, sino dejar de trabajar a ciegas
La shadow AI suele aparecer donde hay una necesidad real y una respuesta oficial demasiado lenta, poco útil o inexistente. Tratarla solo como desobediencia pierde información valiosa sobre cómo trabaja la empresa.
Ordenar no significa autorizarlo todo. Significa distinguir un borrador inocuo de una decisión sensible, una cuenta administrada de una cuenta personal y una herramienta que ayuda de otra que actúa. Esa claridad permite frenar los casos peligrosos sin bloquear los que aportan valor.
Si no sabes qué herramientas de IA está utilizando tu equipo o sospechas que la política actual no refleja el trabajo real, AI Structura puede ayudarte a crear el inventario, clasificar los usos y definir controles que la empresa pueda mantener.
La IA Responsable empieza por quien la usa.
Fuentes de referencia
- AEPD · Recomendaciones para proteger la privacidad al usar herramientas de IA
- AEPD · Política general interna para el uso de IA generativa
- EUR-Lex · Reglamento (UE) 2024/1689, artículo 4
- EDPB · Opinion 28/2024 on certain data protection aspects related to AI models
- INCIBE-CERT · Medidas de ciberseguridad y ciberresiliencia ante modelos de IA de frontera
- Microsoft Learn · Evitar la fuga de datos para sombrear la inteligencia artificial
