IA en local vs nube: privacidad, costes y cuándo elegir cada una

Elegir entre IA en local o en la nube se reduce a tres variables: qué datos van a pasar por el modelo, cuánto volumen de uso tendrás y cuánta calidad de modelo necesita tu caso. Para la mayoría de pymes, la respuesta corta es nube (API) con garantías contractuales bien elegidas: mejor calidad, coste proporcional al uso y cero infraestructura. El despliegue en local con modelos abiertos tiene sentido en casos concretos —datos que no pueden salir, volumen masivo y constante, o requisitos regulatorios estrictos— y cuesta bastante más de lo que parece.

Como agencia montamos ambas arquitecturas, y en nuestros propios negocios usamos las dos: APIs cloud para la mayor parte del trabajo y GPU local para cargas específicas. Esta guía desmonta la decisión pieza a pieza —privacidad real, RGPD, coste de GPU contra coste de tokens, calidad— para que la tomes con números y no con miedos.

¿Qué significa exactamente "IA en local" y "IA en la nube"?

IA en la nube significa que tu aplicación llama por API a un modelo alojado por un proveedor (OpenAI, Anthropic, Google, o sus versiones dentro de Azure/AWS/GCP): pagas por uso, en tokens, y el proveedor opera la infraestructura. IA en local significa ejecutar modelos de pesos abiertos (Llama, Mistral, Qwen y similares) en hardware que controlas: tu servidor con GPU, tu centro de datos o una nube privada donde solo tú tienes acceso a la máquina.

Hay una tercera vía que a menudo resuelve el dilema: la nube privada gestionada, donde el modelo corre en tu tenant de Azure/AWS con las garantías de aislamiento del hiperescalar. Combina buena parte del control del local con la comodidad del cloud, y para muchas empresas reguladas es el punto medio práctico.

Privacidad y RGPD: ¿qué es verdad y qué es mito?

El mito principal: "si uso una API cloud, mis datos entrenan al modelo". Con las APIs empresariales de los grandes proveedores, no: los términos de uso empresarial excluyen contractualmente el entrenamiento con tus datos de API, ofrecen acuerdos de tratamiento de datos (DPA) y retención configurable. Otra cosa son las versiones gratuitas de consumo — ahí sí conviene leer la letra pequeña, y por eso la política de empresa debe prohibir pegar datos de clientes en herramientas gratuitas personales.

Lo que sí es verdad: con una API, los datos salen de tu perímetro y se procesan en servidores de un tercero, a menudo fuera de la UE. Para RGPD eso es gestionable —DPA, cláusulas contractuales tipo, regiones de procesamiento en la UE que ya ofrecen los principales proveedores—, pero exige hacer los deberes: registro de tratamiento, minimización (¿de verdad necesita el modelo el DNI del cliente, o puedes seudonimizar antes de enviar?) y evaluación de impacto si tratas categorías especiales.

El local elimina la salida de datos de raíz, y en tres supuestos es la opción correcta casi por definición: secretos industriales cuyo valor es la propia información (fórmulas, diseños, know-how), sectores con prohibición expresa de tratamiento fuera de perímetro, y datos de categoría especial a gran escala donde la evaluación de impacto lo desaconseje. Fuera de esos supuestos, "local por privacidad" suele ser una intuición cara: la mayoría de fugas de datos reales vienen de accesos mal gestionados, no de las APIs de los proveedores. El control de permisos importa más que la ubicación del modelo — lo desarrollamos en nuestra guía de gobernanza y permisos de agentes de IA.

Costes: GPU contra tokens, con números

La comparación honesta se hace por volumen mensual de uso, porque las dos curvas de coste tienen formas opuestas: la API es lineal (pagas lo que usas, desde cero) y el local es escalonado (pagas la infraestructura, la uses o no).

• Nube (API): una pyme con un copiloto interno y un par de agentes en producción gasta típicamente 100-800€/mes en inferencia según volumen y modelos. Sin inversión inicial, sin personal de infraestructura, con modelos punteros siempre actualizados.
• Local: un servidor con una GPU seria para modelos medianos parte de 5.000-15.000€ de hardware (o 500-1.500€/mes alquilando GPU en cloud), más electricidad, más lo que casi todos olvidan: las horas de ingeniería para operar, actualizar y asegurar el sistema, que en la práctica son varios cientos de euros al mes en tiempo de alguien cualificado.

La regla aproximada que usamos: por debajo de 1.500-2.000€/mes de gasto equivalente en API, el local no compensa económicamente casi nunca; el ahorro en tokens no cubre hardware más operación. Por encima de ese umbral, con cargas constantes y predecibles (clasificación masiva, procesamiento documental continuo), los números empiezan a favorecer al local — y aun así conviene recalcular cada año, porque el precio por token de los modelos cloud lleva años bajando con fuerza.

Calidad: ¿cuánto pierdes con modelos abiertos?

Depende de la tarea, y la brecha se ha estrechado. Para tareas acotadas —clasificar, extraer campos, resumir, responder sobre una base documental— los modelos abiertos medianos actuales rinden de sobra, y bien ajustados igualan a los cloud en ese caso concreto. Para razonamiento complejo, agentes multi-paso y generación de calidad sobre temas abiertos, los modelos punteros de API siguen por delante, y esa diferencia se nota en tasas de error que pagarás en revisión humana.

La consecuencia práctica es que la decisión no tiene por qué ser única: la arquitectura híbrida —local para lo masivo y sensible, API para lo complejo— es lo que usamos nosotros y lo que más se despliega en empresas maduras.

Tabla de decisión: local vs nube

Cómo decidir en tu caso: 4 pasos

1. Clasifica tus datos. Qué categorías van a pasar por el modelo: públicos, internos, personales, especiales, secretos industriales. Solo las dos últimas justifican considerar local por sí mismas.
2. Estima el volumen. Proyecta el gasto mensual en API de tus casos de uso a 12 meses. Por debajo del umbral de 1.500-2.000€/mes, la economía dicta nube.
3. Prueba la calidad barata. Antes de comprar GPU, valida tu caso con un modelo abierto en GPU alquilada por horas: sabrás si la calidad te llega sin inmovilizar capital.
4. Diseña híbrido si hay motivo. Seudonimiza antes de enviar a API cuando puedas; reserva el local para la carga que de verdad lo exige.

El coste del modelo, en cualquier caso, es la parte pequeña del proyecto: la integración con tus sistemas, los límites y la supervisión pesan más en el presupuesto, como desglosamos en cuánto cuesta un agente de IA a medida.

Preguntas frecuentes

¿Es ilegal usar APIs americanas con datos personales de clientes europeos?

No, si se hace con las garantías adecuadas: DPA firmado, mecanismos de transferencia válidos (cláusulas contractuales tipo o el marco de adecuación UE-EEUU vigente) y, cuando el proveedor lo ofrece, procesamiento en región europea. Lo ilegal es hacerlo sin registro, sin DPA y sin minimización — que es como se hace cuando nadie se lo plantea.

¿Puedo empezar en nube y migrar a local después?

Sí, y es la ruta que recomendamos: si tu capa de aplicación se construye agnóstica al proveedor (una interfaz de modelo intercambiable), cambiar el motor después es un proyecto acotado, no una reescritura. Lo caro es lo contrario: comprar hardware antes de validar el caso.

¿Un modelo local pequeño no será demasiado tonto para mi caso?

Para conversación abierta y razonamiento largo, probablemente; para la mayoría de tareas empresariales reales —clasificar, extraer, resumir, buscar— los modelos abiertos de 2025-2026 son más que suficientes y ajustables a tu dominio. La prueba con tus datos reales cuesta unas decenas de euros de GPU alquilada y zanja la discusión.

¿Qué pasa con Azure OpenAI o Bedrock? ¿Es nube o es local?

Es nube con más control: el modelo corre en la región y el tenant que eliges, con las garantías de cumplimiento del hiperescalar, sin gestionar hardware. Para muchas empresas reguladas europeas es el equilibrio práctico: garantías de perímetro cloud privado con calidad de modelo puntero.

¿Qué hardware necesito de verdad para empezar en local?

Para modelos medianos cuantizados, una estación con una GPU de gama alta de consumo (del orden de 2.000-4.000€) sirve para pilotos y cargas modestas; para producción con concurrencia, hablas de GPUs profesionales y de 10.000€ en adelante. Empezar alquilando por horas en la nube evita equivocarse de tamaño.

Si dudas de qué arquitectura encaja con tus datos y tu presupuesto, en nuestra consultoría de inteligencia artificial hacemos ese análisis con tu clasificación de datos y tu volumen proyectado — y sin vender GPUs, que ayuda a ser objetivos.