En el mundo jurídico contemporáneo, la inteligencia artificial (AI) no solo agiliza y transforma procesos, sino que plantea dilemas éticos y normativos urgentes. Uno de los más inquietantes es la Shadow AI: el uso no autorizado de herramientas de AI por parte de empleados sin supervisión del área de TI.
¿Qué es Shadow AI?
Es el uso informal de aplicaciones de AI —como GenAI o ML o LLM— (p.e. Grammarly, ChatGPT, y similares) para tareas laborales sin aprobación institucional. Aunque suele surgir por motivos legítimos (eficiencia, innovación), este fenómeno puede comprometer la seguridad, el cumplimiento normativo y la reputación de las organizaciones.
Shadow AI vs Shadow IT
Ambos conceptos comparten la falta de supervisión, pero la Shadow AI implica riesgos más profundos:
• TI en la sombra: uso de software o hardware sin autorización (p.e. Dropbox personal o Grammarly ).
• Shadow AI: uso de modelos predictivos, generativos o automatizados sin control, lo que puede afectar decisiones críticas, privacidad de datos y cumplimiento legal.
Riesgos clave
1. Fugas de datos: en México el 88% de las empresas han sufrido filtraciones por el uso IA sin controles corporativos. Fuente: Índice de Preparación en Ciberseguridad 2025
2. Incumplimiento normativo: violaciones al RGPD pueden costar hasta el 4% de ingresos globales. RGPD y MX Tesis: 2031010
3. Daño reputacional: decisiones sesgadas o contenido generado por IA pueden erosionar la confianza pública (p.e. el caso de Sports Illustrated y Uber Eats).
¿Por qué ocurre?
• Democratización de la AI: herramientas accesibles como servicios web permiten su uso sin intervención de TI.
• Presión por productividad: empleados buscan automatizar tareas repetitivas y reducir tiempos.
• Cultura de innovación informal: se prioriza la agilidad sobre la gobernanza.
Matriz de riesgos.
| Proveedor | Uso de datos para entrenamiento | Acceso por terceros | Protección de datos sensibles | Controles de privacidad disponibles | Riesgo general (versión gratuita) |
| ChatGPT (OpenAI) | ⚠️ Sí, salvo en cuentas empresariales | ⚠️ Posible acceso por personal autorizado | ❌ No recomendado ingresar datos sensibles | ⚠️ Limitados en versión gratuita | 🔴 Alto |
| DeepSeek | ⚠️ Presunto uso para mejora del modelo | ⚠️ No especificado claramente | ❌ Sin garantías explícitas | ⚠️ Términos poco detallados | 🔴 Alto |
| Gemini (Google) | ⚠️ Sí, salvo configuración empresarial | ⚠️ Integración con otros servicios de Google | ❌ Riesgo si se está autenticado | ⚠️ Algunos controles en cuenta Google | 🟠 Moderado |
| Copilot (Microsoft) | ⚠️ Posible uso para mejora del servicio | ⚠️ Acceso técnico autorizado | ❌ No recomendado en versión gratuita | ⚠️ Configuraciones disponibles en Edge y Windows | 🟠 Moderado |
Para los abogados del futuro, entender la Shadow AI no es opcional: es esencial para anticipar conflictos, diseñar políticas y proteger derechos en la era digital.
Estoy a sus órdenes para cualquier duda o comentario.