José ZegarraDDN y Nebul: eficiencia para la IA soberana | IT/USERS® Magazine
La soberanía digital también exige controlar el contexto que una inteligencia artificial conserva al procesar documentos. Un caso europeo muestra cómo reutilizar ese trabajo puede reducir la espera y el costo, aunque las mejoras dependen de las condiciones de cada implementación.
Berlín, Alemania, 26 de octubre de 2026.— DDN anunció el pasado 21 de octubre que el proveedor europeo de nube Nebul utiliza su plataforma Infinia para conservar y reutilizar cálculos de inteligencia artificial en infraestructura NVIDIA. Según las pruebas comunicadas por ambas compañías, esta arquitectura permite entregar antes el primer fragmento de respuesta y reducir el costo de procesar información de entrada, manteniendo el contexto dentro del entorno que Nebul presenta como soberano.
El anuncio aborda dos decisiones que suelen evaluarse por separado: cuánto cuesta operar una IA empresarial y quién mantiene el control sobre la información que utiliza. La propuesta consiste en evitar que los procesadores gráficos repitan trabajo ya realizado, sin dejar esa memoria de procesamiento atada a un único servidor. Los resultados corresponden a ensayos del proveedor; no son una garantía de rendimiento para cualquier organización. Fuente: DDN
Table of Contents
La información que queda después de una consulta
Cuando una persona pide a un asistente que revise un contrato extenso, el modelo debe procesar su contenido antes de responder. Durante esa operación genera representaciones intermedias que conserva en una memoria técnica denominada caché de claves y valores, o caché KV.
Esta memoria permite aprovechar cálculos anteriores mientras se genera una respuesta. Cuando existen condiciones compatibles, también puede reutilizarse en consultas posteriores que comparten contexto. No equivale a guardar una respuesta terminada ni a entrenar nuevamente el modelo.
Pensemos en un equipo que consulta repetidamente un mismo manual corporativo. Volver a procesar desde cero las partes compartidas consume capacidad de cómputo y añade tiempo de espera. La reutilización del contexto busca reducir ese esfuerzo.
La explicación técnica de DDN sobre la implementación en Nebul describe una capa de almacenamiento accesible desde el conjunto de servidores con GPU. Así, el contexto compatible puede recuperarse en lugar de permanecer disponible únicamente en el equipo que lo generó.
Cada vez que una GPU reconstruye un contexto que ya ha procesado, está dedicando ciclos a repetir trabajo», afirmó Alex Bouzari, CEO y cofundador de DDN, según traducción del comunicado original.
El beneficio potencial depende de cuánto trabajo pueda reutilizarse. Un servicio con documentos y consultas recurrentes no tiene necesariamente el mismo comportamiento que otro donde cada solicitud utiliza información completamente distinta.
Qué muestran las pruebas y qué falta conocer
Nebul señala que comparó las configuraciones con las mismas ocho GPU, el mismo modelo y las mismas cargas de trabajo. Los ensayos incluyeron solicitudes breves y contextos extensos bajo demanda concurrente.
Esa equivalencia ayuda a interpretar la comparación. Sin embargo, el comunicado no detalla todos los elementos necesarios para reproducirla, como la identificación del modelo y los aceleradores, la distribución de tamaños de contexto o la frecuencia con la que las solicitudes encontraron información reutilizable.
| Indicador comunicado | Resultado atribuido por DDN y Nebul | Alcance y limitación |
|---|---|---|
| Tiempo hasta el primer token | Mejora cercana a diez veces frente a la caché propia de Nebul en CPU y memoria | Mide cuándo comienza la respuesta; no cuánto tarda en completarse. |
| Respuesta de tokens frente a alternativas | Hasta cinco veces más rápida | El comunicado no identifica suficientemente las alternativas ni desglosa esta métrica. |
| Procesamiento de entrada | 2.5 veces más tokens por segundo con las mismas GPU | El resultado depende de las cargas y de la posibilidad de reutilizar contexto. |
| Costo por millón de tokens de entrada | Reducción cercana al 60% | No representa necesariamente una reducción equivalente del costo total del servicio. |
| Configuración comparada | Ocho GPU, mismo modelo y cargas de trabajo | Es una base de comparación útil, pero no sustituye una metodología reproducible. |
Fuente: resultados comunicados por DDN y Nebul. El anuncio no presenta una validación independiente.
Para una empresa compradora, la distinción importa. Empezar a recibir una respuesta antes puede mejorar la experiencia del usuario, pero no demuestra por sí mismo que todo el proceso termine diez veces más rápido. Tampoco un menor costo de procesamiento de entrada permite calcular, sin otros datos, el ahorro final después de incorporar almacenamiento, red, licencias y operación.
Soberanía digital: controlar también la memoria de la IA
Conservar contexto útil crea una responsabilidad adicional: determinar quién puede acceder a él, durante cuánto tiempo permanece disponible y cómo se elimina.
Según el comunicado, Infinia mantiene asociados al contexto los ámbitos de cliente, subcliente y conjunto de datos. También aplica políticas para retirar información de la caché cuando aumenta la presión sobre su capacidad, sin detener la inferencia.
Estos mecanismos son relevantes en una nube compartida. Cada organización necesita aprovechar la infraestructura sin que el contexto de sus consultas quede disponible para otros clientes. Sin embargo, describir una separación mediante espacios de nombres no permite evaluar, por sí solo, toda la seguridad del sistema.
La soberanía de la IA no debería lograrse a costa del rendimiento», sostuvo Arnold Juffer, CEO de Nebul, según traducción del original.
La afirmación plantea un objetivo empresarial razonable. Para convertirlo en una condición verificable, el cliente necesita conocer además la ubicación del procesamiento, los permisos de administración, la gestión de claves de cifrado, las copias de respaldo y los procedimientos de eliminación.
También debe distinguirse residencia de datos de soberanía digital. Saber en qué territorio opera una plataforma responde una parte de la pregunta. El control contractual, operativo y tecnológico exige examinar otras dependencias. En este caso, la infraestructura europea continúa utilizando tecnología NVIDIA.
Documentos internos y servicios públicos
El comunicado identifica dos tipos de uso. Centric utiliza Nebul para ejecutar inferencia orientada a aplicaciones empresariales y del sector público. Leukeleu aloja allí SureGPT, un asistente privado pensado para trabajar con información interna, como estrategias de directorio, modelos financieros y planes de productos.
Los ejemplos ayudan a entender el problema: las organizaciones quieren consultar conocimiento propio mediante IA sin perder capacidad de decisión sobre su tratamiento.
No obstante, estos casos no prueban que ambos clientes hayan obtenido las mismas mejoras de las pruebas de Infinia. Tampoco corresponde trasladar al asistente de IA todo el alcance de los servicios que esas empresas ofrecen.
Para profundizar en la arquitectura y sus resultados declarados, puede consultarse el anuncio original de DDN y Nebul.
Visión estratégica para Perú y Latinoamérica
Para las organizaciones peruanas y latinoamericanas que evalúan asistentes sobre expedientes, contratos o documentación técnica, este caso ofrece un criterio de compra: preguntar qué sucede con la información después de que el modelo la procesa. La evaluación debería abarcar documentos, instrucciones, contexto almacenado, registros y respaldos.
En una prueba de concepto conviene medir por separado el tiempo hasta la primera respuesta, el tiempo total, el costo por consulta y la proporción de contexto efectivamente reutilizado. También comparar solicitudes nuevas con consultas repetidas y verificar el aislamiento entre usuarios con permisos diferentes.
La decisión dependerá del tipo de información y del servicio esperado. El comunicado no anuncia una instalación en Perú ni acredita cumplimiento de requisitos nacionales. Su aporte regional consiste en mostrar qué preguntas técnicas y contractuales deben acompañar una inversión en IA: quién controla cada capa, cómo se verifica ese control y cuánto cuesta sostenerlo.
Glosario
Soberanía digital
Capacidad de decidir y ejercer control sobre datos, infraestructura y servicios digitales, considerando sus dependencias técnicas, operativas y jurisdiccionales.
Residencia de datos
Ubicación geográfica donde se almacena o procesa información. Es una dimensión del control de datos.
Inferencia
Ejecución de un modelo ya entrenado para producir respuestas, predicciones u otros resultados.
Caché KV
Memoria de claves y valores que conserva representaciones intermedias de los tokens procesados para evitar repetir determinados cálculos.
Token
Unidad en la que un modelo divide la información que procesa. En texto puede corresponder a una palabra, parte de ella o un signo.
Tiempo hasta el primer token
Intervalo entre el envío de una solicitud y la aparición del primer fragmento de respuesta.
GPU
Procesador gráfico utilizado para ejecutar en paralelo numerosas operaciones, incluidas las necesarias para modelos de IA.
Entorno multicliente
Infraestructura compartida por distintas organizaciones que requiere controles para separar sus datos y accesos.
Política de expulsión de caché
Regla que determina qué información se retira de esa memoria cuando es necesario liberar capacidad.
Tu Opinión Nos Importa 🗣️
Me interesa conocer qué pesa más en las decisiones de tu organización: el costo de operar la IA, la rapidez de sus respuestas o la posibilidad de comprobar quién accede a la información. ¿Tu evaluación ya incluye el contexto que conserva el modelo después de cada consulta?
Comparte tu experiencia y comenta con nuestros hashtags #ItusersAwards2026 y #superfan.
Apoya al Periodismo Independiente
¿Te sirvió en algo este contenido?, ayúdanos a combatir la Desinformación, dona desde S/ 1.00 a nuestro PLIN 943-438-457
