La IA está entrando en las organizaciones a una velocidad difícil de controlar. Un departamento utiliza un asistente generalista para analizar documentos. Otro ha contratado una herramienta especializada que incorpora inteligencia artificial. Un equipo de desarrollo consume directamente varios modelos mediante API. Marketing experimenta con generación de contenidos. Y algunos profesionales utilizan, por iniciativa propia, servicios externos para resolver tareas cotidianas.
Individualmente, muchas de estas decisiones tienen sentido. El problema aparece cuando nadie dispone de una visión completa de lo que está ocurriendo.
Es lo que conocemos como Shadow AI: el uso de modelos, herramientas o servicios de IA fuera de los mecanismos de conocimiento, control o gobierno establecidos por la organización.
La primera reacción puede ser intentar impedirlo. Probablemente sea la equivocada.
La cuestión no es evitar que una organización utilice muchos modelos. En un entorno tecnológico que avanza hacia la especialización y la multiplicidad de proveedores, eso será cada vez más habitual.
La cuestión es cómo permitir esa diversidad sin perder el control.
La IA ha reducido enormemente la barrera de entrada
Adoptar una nueva tecnología corporativa solía requerir decisiones relativamente visibles. Había que adquirir infraestructura, contratar software, realizar integraciones o involucrar al departamento de tecnología. Esto generaba puntos naturales de control.
Con la IA generativa, muchas de esas barreras han desaparecido. Un profesional puede comenzar a utilizar una nueva herramienta en minutos. Un desarrollador puede conectar una API con unas pocas líneas de código. Un departamento puede contratar una aplicación SaaS que incorpora modelos externos sin tener necesariamente visibilidad sobre toda la cadena tecnológica que existe detrás.
Esta facilidad de acceso es una de las razones por las que la IA se está difundiendo tan rápidamente.
Pero también dificulta responder a preguntas básicas:
- ¿Qué inteligencia artificial estamos utilizando realmente?
- ¿Qué información corporativa estamos compartiendo con ella?
- ¿Para qué decisiones o procesos se está utilizando?
Si la organización no puede responderlas, tiene un problema de gobierno.
Shadow AI no significa únicamente ChatGPT
Reducir Shadow AI al uso no autorizado de asistentes públicos sería simplificar demasiado el problema. La IA puede entrar en una organización de muchas formas.
- Puede hacerlo directamente, cuando un empleado utiliza un modelo externo.
- Puede incorporarse a través de una API integrada en una aplicación interna.
- Puede estar incluida en una plataforma SaaS que la empresa ya utilizaba y cuyo proveedor añade nuevas funcionalidades de IA.
- Puede formar parte de una herramienta especializada contratada por un departamento.
Incluso puede existir una cadena de varios proveedores y modelos detrás de una única funcionalidad visible para el usuario.
Por tanto, gobernar la IA exige mirar más allá de la interfaz.
La pregunta relevante no es únicamente qué aplicaciones utilizamos, sino qué modelos intervienen, qué datos reciben, dónde se procesan y qué función desempeñan dentro de nuestros procesos.
El riesgo de perder de vista el dato
Uno de los problemas más evidentes del Shadow AI es la información. Cuando utilizamos un sistema de IA, el dato puede abandonar los límites tradicionales de la infraestructura corporativa.
Documentos internos, código, información sobre clientes, contratos, datos personales o conocimiento estratégico pueden terminar siendo procesados por servicios externos. Esto no significa que utilizar servicios externos sea necesariamente inseguro. Muchos proveedores ofrecen mecanismos empresariales adecuados de privacidad y protección del dato.
El problema aparece cuando la organización no sabe que ese tratamiento está ocurriendo.
Sin visibilidad resulta difícil determinar qué información puede utilizarse, qué proveedores cumplen los requisitos corporativos, qué políticas de retención se aplican o en qué jurisdicción se procesan determinados datos.
Por eso, una estrategia de gobierno de IA no puede limitarse a publicar una política indicando qué herramientas están permitidas. Debe ser capaz de trasladar esas reglas a la arquitectura tecnológica.
Muchos modelos pueden ser una ventaja
Existe, sin embargo, otra cara del problema. Intentar centralizar toda la inteligencia artificial de una organización en un único modelo tampoco parece una estrategia especialmente sólida.
Los modelos son diferentes. Unos destacan en razonamiento. Otros en programación. Algunos ofrecen costes inferiores para tareas sencillas. Otros permiten trabajar con grandes volúmenes de contexto. Determinados casos pueden requerir modelos especializados y otros pueden necesitar ejecutarse en infraestructuras privadas. Además, este mercado cambia con extraordinaria rapidez.
El modelo adecuado hoy puede no serlo dentro de seis meses. Por eso, una organización madura debería poder aprovechar un ecosistema de modelos sin obligar a cada aplicación o departamento a resolver individualmente cómo acceder a ellos.
El enfoque multmodelo puede proporcionar flexibilidad, capacidad de negociación, resiliencia y libertad tecnológica. Pero esa diversidad necesita una capa común de control.
Separar las aplicaciones de los modelos
Una de las decisiones arquitectónicas más importantes consiste precisamente en desacoplar las aplicaciones del proveedor de IA. Si cada aplicación se conecta directamente a un modelo determinado, la organización va acumulando dependencias.
Cambiar de proveedor exige modificar aplicaciones. Las políticas de seguridad deben implementarse repetidamente. La observabilidad queda fragmentada. Y resulta mucho más difícil conocer cuánto se está utilizando cada modelo y para qué.
Una capa corporativa de acceso a IA permite plantear el problema de otra manera. Las aplicaciones solicitan una capacidad (por ejemplo, clasificar un documento, resumir información o ejecutar una tarea de razonamiento) y una capa intermedia puede determinar qué modelo debe utilizarse de acuerdo con criterios previamente establecidos.
Esos criterios pueden incluir capacidad, coste, latencia, sensibilidad del dato, ubicación del procesamiento, disponibilidad o requisitos regulatorios.
Así, la selección del modelo deja de estar dispersa entre aplicaciones y puede convertirse en una decisión gobernada de arquitectura.
Gobernar no significa bloquear
Existe un riesgo cuando las organizaciones descubren que el uso de IA está creciendo más rápido que sus mecanismos de control: responder únicamente mediante prohibiciones. Puede ser necesario restringir determinados usos. Especialmente cuando existen datos sensibles, riesgos elevados o herramientas que no ofrecen garantías suficientes.
Pero una estrategia basada exclusivamente en bloquear puede tener un efecto no deseado. Si los profesionales encuentran valor real en la inteligencia artificial y la organización no proporciona mecanismos adecuados para utilizarla, es probable que busquen alternativas por su cuenta.
El objetivo debería ser ofrecer un camino seguro y sencillo para acceder a las capacidades que necesitan. Eso requiere combinar políticas con tecnología.
Definir qué modelos están autorizados. Establecer qué información puede enviarse a cada uno. Aplicar controles de acceso. Registrar el uso. Limitar determinados comportamientos. Gestionar credenciales de manera centralizada. Medir consumo y costes.
El gobierno funciona mejor cuando forma parte de la infraestructura y no depende exclusivamente de que cada usuario recuerde una lista de normas.
De controlar herramientas a gobernar capacidades
Este cambio de perspectiva es importante. Las organizaciones están acostumbradas a gobernar aplicaciones: qué software está aprobado, quién puede instalarlo y quién puede acceder a él.
La IA introduce una realidad diferente. Una misma capacidad puede estar disponible a través de múltiples modelos y aplicaciones. Y una misma aplicación puede cambiar los modelos que utiliza sin que el usuario lo perciba.
Por eso, el gobierno debe evolucionar desde el control de herramientas hacia el gobierno de capacidades de inteligencia artificial.
- ¿Qué sistemas pueden acceder a información confidencial?
- ¿Qué modelos pueden procesarla?
- ¿Qué usos requieren supervisión humana?
- ¿Qué acciones puede ejecutar un agente?
- ¿Qué información debe registrarse?
- ¿Qué proveedores pueden intervenir?
Responder a estas preguntas permite establecer políticas que permanezcan válidas aunque cambien las tecnologías concretas.
Visibilidad antes que control
Hay un principio todavía más básico. No podemos gobernar aquello que no conocemos.
Antes de diseñar políticas sofisticadas, una organización necesita construir una visión razonablemente completa de su ecosistema de IA: sistemas, modelos, proveedores, casos de uso, responsables y datos involucrados.
Ese inventario no debería concebirse como una fotografía estática. La velocidad de adopción de la IA obliga a mantenerlo vivo.
A partir de esa visibilidad es posible clasificar riesgos, establecer diferentes niveles de control y decidir dónde es necesaria una intervención más estricta.
No todos los usos de IA necesitan el mismo gobierno. Generar una primera versión de un texto interno y utilizar un modelo para intervenir en una decisión crítica no plantean las mismas consecuencias.
El control debe ser proporcional al contexto.
Libertad tecnológica con control
El debate sobre Shadow AI puede plantearse como una tensión entre dos objetivos aparentemente contradictorios. Por una parte, las organizaciones quieren aprovechar rápidamente las capacidades que ofrecen nuevos modelos y proveedores. Por otra, necesitan proteger sus datos, controlar sus costes, cumplir sus obligaciones y saber qué está ocurriendo dentro de sus sistemas.
No deberían tener que elegir entre ambos. La arquitectura adecuada puede permitir experimentar con nuevos modelos, sustituir proveedores y seleccionar la tecnología más conveniente para cada necesidad manteniendo unas reglas comunes de acceso, seguridad, trazabilidad y gobierno.
Ese equilibrio es especialmente importante en un mercado que seguirá cambiando. La respuesta al Shadow AI no consiste en reducir artificialmente el número de modelos que utiliza una organización. Consiste en conseguir que la diversidad tecnológica no implique pérdida de control.
Porque la verdadera madurez no estará en utilizar un único modelo. Estará en poder utilizar muchos cuando aporten valor y seguir sabiendo, en todo momento, qué inteligencia estamos utilizando, para qué la utilizamos y bajo qué reglas.