Inteligencia Artificial, en tu propia infraestructura

Es ejecutar modelos de inteligencia artificial sobre infraestructura que tú controlas —tu centro de datos, o un cloud privado dedicado— en lugar de enviar tus datos al servicio de un tercero.

Soberanía significa tres cosas concretas y comprobables:

• Sabes en qué máquina física se ejecuta el modelo y en qué país está.
• Sabes dónde se guarda lo que le das de comer y quién puede leerlo.
• Nadie usa tu información para entrenar nada, porque no sale de tu perímetro.

No es una tecnología distinta. Son en buena medida los mismos modelos que ya conoces, desplegados de otra manera. La diferencia está en la arquitectura y en el contrato, no en la magia.

En quién custodia el dato y en qué puedes verificar. Seamos justos: los planes empresariales de los grandes proveedores sí ofrecen por contrato que no entrenan con tus datos, y son opciones legítimas. El argumento honesto no es «te roban los datos».

Las diferencias reales son otras:

• Verificabilidad. Con una promesa contractual confías; con infraestructura propia compruebas.
• Ubicación del dato. Con un proveedor global, el dato puede tratarse fuera del EEE con garantías; en local, no sale.
• Coste previsible. Pagas infraestructura fija en lugar de facturación por consumo que escala sin avisar.
• Continuidad. Ni cambios de precio, ni modelos retirados, ni condiciones de uso modificadas a mitad de proyecto.

Si tu caso de uso no toca información sensible y el volumen es bajo, un servicio en la nube probablemente te salga mejor. Te lo diremos.

Depende de la tarea, y esta es la respuesta honesta: para la mayoría de usos empresariales, sí; para los más exigentes, todavía no.

Los modelos abiertos actuales resuelven con solvencia extracción de datos de documentos, clasificación, resumen, redacción de borradores y preguntas y respuestas sobre documentación interna. En razonamiento complejo de varios pasos, programación difícil o tareas agénticas largas, los modelos comerciales de frontera siguen por delante.

La pregunta útil no es cuál es mejor en abstracto, sino cuál es suficiente para tu tarea concreta. Y eso no se decide leyendo comparativas: se mide con tus propios documentos y tus propios criterios de acierto. Es exactamente lo que hacemos en la prueba de concepto.

La variable que manda es la memoria de la GPU (VRAM), no la potencia bruta. Un modelo tiene que caber entero en memoria para ir rápido.

Como orden de magnitud, con cuantización a 4 bits:

• Un modelo de 7–8 mil millones de parámetros cabe en unos 6 GB de VRAM.
• Uno de 30–35 mil millones, en torno a 20 GB.
• Uno de 70 mil millones, a partir de 40 GB.

A eso hay que sumar memoria por cada conversación simultánea, que es lo que suele olvidarse al dimensionar: no es lo mismo un asistente para cinco personas que para quinientas.

Y no, no siempre hay que comprar. Se puede empezar con GPU dedicada alquilada en infraestructura europea, medir el uso real durante unos meses y decidir la compra con datos en la mano en lugar de con una previsión.

Son dos estructuras de coste distintas: la API es variable y crece con el uso; la infraestructura propia es fija y no depende de cuánto la exprimas.

De ahí sale la regla práctica: la infraestructura propia compensa cuando la GPU está ocupada. Una GPU parada el noventa por ciento del tiempo es cara se mire como se mire. Un asistente que usan cien personas todos los días es otra historia.

Antes de comprar nada, el ejercicio correcto es medir el volumen real de un mes —cuántas consultas, de qué tamaño— y comparar ese coste variable con el fijo del equipo equivalente. En la valoración inicial hacemos ese cálculo, y si el resultado dice que te conviene la API, te lo decimos.

Dos marcos que conviene no mezclar.

RGPD. Si en las consultas al modelo entran datos personales, el proveedor de IA actúa como encargado del tratamiento y hace falta el contrato del artículo 28. Si además trata datos fuera del Espacio Económico Europeo, necesitas garantías para la transferencia. Mantener el modelo dentro de tu perímetro simplifica el análisis, porque no hay ni transferencia ni encargado externo.

Reglamento Europeo de IA (UE 2024/1689). Impone obligaciones según el nivel de riesgo del uso, y se aplica de forma escalonada. La mayoría de usos internos de empresa —asistentes documentales, clasificación, redacción— caen en riesgo mínimo o limitado, donde lo exigible es sobre todo transparencia. Los usos que afectan a personas, como selección de personal o evaluación crediticia, sí entran en categorías más exigentes.

Esto es orientación general, no asesoramiento jurídico: el encuadre concreto depende de tu caso.

Sí, y la clave está en un principio de diseño: el asistente no debe tener más permisos que la persona que pregunta.

El error habitual es conectar el modelo con un usuario administrador «para que lo vea todo». Eso convierte al asistente en una vía para que cualquiera consulte lo que no le corresponde, sin haber roto ninguna seguridad: simplemente preguntando.

La arquitectura correcta hereda la identidad del usuario:

• Cada consulta se ejecuta con los permisos de quien pregunta.
• El índice de búsqueda guarda a qué puede acceder cada perfil, y filtra antes de responder.
• Toda acción queda registrada: quién preguntó qué y qué datos se usaron para responder.

Sobre Microsoft Dynamics —AX, NAV o 365— esto es terreno conocido para nosotros: llevamos años operando esas plataformas.

Se la inventará alguna vez. Cualquiera que te diga lo contrario te está vendiendo algo. Lo que se puede hacer es que cuando ocurra, se note.

• Citar la fuente siempre. Si cada respuesta enlaza el documento y el párrafo de donde sale, verificarla cuesta diez segundos.
• Acotar el alcance. Un asistente que solo responde sobre tu documentación se equivoca mucho menos que uno que opina de todo.
• Revisión humana donde hay consecuencias. Para redactar un borrador, no hace falta; para decidir sobre una persona o firmar un número, sí.
• Medir de forma continua. Un conjunto de preguntas con respuesta conocida, pasado en cada actualización, detecta las regresiones antes que los usuarios.

Un asistente que cita sus fuentes es una herramienta. Uno que responde sin justificar de dónde lo saca es un riesgo.