Qumulo LogoQumulo Logo

Blog

Deja de pagar por GPU inactivas

Cómo CNQ convierte el seguro Multi-AZ en una ventaja competitiva neutra desde el punto de vista de los costes

La nube promete computación elástica que se ejecuta en cualquier lugar, en cualquier región. Las cargas de trabajo de GPU han roto silenciosamente esa promesa.

Las GPU existen en la nube, pero ¿están disponibles en la misma región o zona donde residen tus datos? Están disponibles las GPU cuando las necesitas?

La demanda de computación acelerada supera ahora la oferta localizada. Para muchas organizaciones, la demanda de GPU supera la capacidad de GPU en una sola zona de disponibilidad, o incluso en una sola región, lo que provoca retrasos críticos en el trabajo. La capacidad aparece brevemente, cambia de forma impredecible y desaparece con la misma rapidez.

Los desequilibrios en la disponibilidad de GPU crean una nueva realidad operativa. Los equipos ya no programan el trabajo en la GPU. Buscan GPUs donde y cuando estén disponibles. A medida que la disponibilidad de cálculo se vuelve dinámica, la localización de los datos se convierte en una limitación. Las GPU aparecen por fin, pero los datos nunca están donde ellas.

La mayoría de las organizaciones responden a este problema de dos costosas maneras.

Opción 1: Reserve y espere
GPUs reservadas por valor de millones de dólares permanecen ociosas, no porque el trabajo no esté listo, sino porque los datos no están donde hay computación disponible. Los equipos se aseguran la escasa capacidad de las GPU con un gasto inmenso y luego esperan horas o días a que los datos se copien en la zona de disponibilidad "correcta". El cálculo se reserva primero. El trabajo empieza después. Mientras nada se ejecuta, el contador sigue avanzando por segundos.

Opción 2: Precopia y esperanza
Los equipos replican los datos en varias zonas de disponibilidad, regiones o incluso nubes por adelantado. Los datos deben transferirse, almacenarse y mantenerse en cada ubicación, lo que multiplica los gastos de red, los costes de almacenamiento y la sobrecarga operativa. Muchos de esos datos permanecen inactivos, consumiendo presupuesto mucho antes de que ninguna GPU realice un trabajo útil.

Como resultado, cada gran despliegue de GPU en la nube esconde una pérdida silenciosa. Tanto si las organizaciones esperan por los datos como si esperan por el cálculo, el resultado es el mismo. La empresa gasta dinero antes de empezar a trabajar.

Los ejecutivos rara vez ven esta pérdida en los cuadros de mando. En cambio, aparece en facturas en la nube, proyectos retrasados, ventanas perdidas y equipos que avanzan más despacio que su competencia.

No se trata de un problema de capacidad. Es un problema de arquitectura que Cloud Native Qumulo ha creado para resolver.

El coste oculto de la caza de GPU

En teoría, la computación en nube es elástica. En la práctica, la capacidad de GPU está fragmentada en zonas de disponibilidad y cambia constantemente. Una zona tiene capacidad hoy. Otra la tiene mañana.

La mayoría de las arquitecturas de sistemas de almacenamiento no pueden adaptarse a estas condiciones.

Los sistemas de archivos en la nube tradicionales siguen anclando los datos activos en una única zona. Incluso cuando se etiquetan como "multi-AZ", se basan en una ubicación primaria donde debe ejecutarse la computación. Existen réplicas en otros lugares, pero el rendimiento y, por tanto, la ejecución permanecen anclados.

El resultado es previsible:

  • La disponibilidad de GPU no coincide con la residencia zonal de los datos

  • Los datos deben copiarse para que coincidan con la disponibilidad de GPU por zonas

  • Las GPU permanecen inactivas mientras se mueven cientos de terabytes

 

Este "impuesto de caza de GPU" es ahora un coste estructural de hacer IA, ML y simulación en la nube.

Y empeora a escala.

Cuanto más caro y escaso es el cálculo, más perjudicial resulta cada segundo ocioso. Cuando el almacenamiento dicta dónde puede realizarse el trabajo, la disponibilidad en toda la región se vuelve irrelevante.

El fallo arquitectónico que Multi-AZ debía solucionar

La Zona de Disponibilidad Múltiple se diseñó para cumplir los requisitos de resiliencia, y lo hace. Pero para las cargas de trabajo de GPU, la resiliencia no es el problema.

El acceso es.

Si su arquitectura no puede asociar computación a datos dondequiera que exista capacidad, no tiene un sistema multi-AZ. Lo que tiene es un sistema de una sola zona de almacenamiento con copias de seguridad.

Ese es el defecto que Cloud Native Qumulo pretendía eliminar.

CNQ elimina el coste de la GPU inactiva

Cloud Native Qumulo (CNQ) es multizona de disponibilidad por diseño, no por duplicación.

No hay zona primaria.

Sin gravedad de datos: Compute se une a los datos al instante y en cualquier lugar.

No hay fase de puesta en escena.

Con CNQ, la informática de varias zonas de disponibilidad puede acceder simultáneamente al mismo conjunto de datos en tiempo real. Otras plataformas restringen el acceso a una zona de disponibilidad principal. 

Con CNQ, los datos existen una sola vez, protegidos de forma duradera a nivel regional, mientras que el rendimiento se proporciona dondequiera que haya GPU disponibles.

Cuando la capacidad se desplaza:

  • Nada se mueve

  • Nada reconstruye

  • Nada espera

 

Los equipos simplemente funcionan donde existen GPUs en este momento. El trabajo comienza inmediatamente. Sin ralentí. 

En lugar de copiar petabytes de antemano por si acaso, CNQ transmite datos bajo demanda. Sólo los datos a los que realmente se accede cruzan la red. El resto permanece intacto. Las GPU se conectan a los datos al instante, independientemente de la zona. 

La búsqueda de GPU deja de ser un ejercicio logístico para convertirse en una decisión de programación.

Multi-AZ de coste neutro es el gran avance

La mayoría de los sistemas de almacenamiento multi-AZ imponen costes reales a cambio de resiliencia. Si habilita otra Zona de Disponibilidad, los costes de almacenamiento aumentan porque los datos se replican por completo y se aparcan en esa nueva zona. Este proceso se repite para cada nueva zona de disponibilidad. Multi-AZ se convierte en algo que las organizaciones activan a regañadientes, reservado para escenarios de fallo en lugar de para las operaciones diarias.

CNQ funciona de forma diferente. CNQ descarga la disponibilidad y la durabilidad a Amazon S3, que proporciona protección regional por diseño. Como resultado, el conjunto de datos existe una vez a nivel regional, no una vez por zona de disponibilidad. No tiene que pagar por varias copias completas de los mismos datos simplemente para que sean accesibles en todas las zonas. El coste de almacenamiento se mantiene plano tanto si utiliza una AZ como muchas.

No se trata de un truco de ajuste. Es una decisión arquitectónica fundamental.

Con CNQ, sí:

  • Sin incremento de costes por múltiples copias de datos aparcadas en múltiples Zonas de Disponibilidad

  • Sin penalización de rendimiento para el acceso multi-AZ

  • Resiliencia sin costes de inactividad

 

En aras de la transparencia, CNQ puede incurrir en modestos gastos de red de zona de disponibilidad cruzada cuando los datos se escriben activamente. Sin embargo, para la gran mayoría de las cargas de trabajo de IA, ML y análisis, los patrones de acceso son abrumadoramente de lectura. En la práctica, esta sobrecarga sigue siendo mínima y sólo se produce mientras se ejecuta el trabajo, no mientras los datos permanecen inactivos. Como siempre, lo mejor es revisar su carga de trabajo específica con un ingeniero de soluciones.

Nota: Qumulo ofrece sesiones gratuitas de revisión de arquitecturas y concepción de soluciones. 

Cuando los equipos despliegan CNQ para seguir la disponibilidad de la GPU en todas las zonas de disponibilidad, consiguen automáticamente disponibilidad y durabilidad multi-AZ para el sistema de almacenamiento. Lo que normalmente se trata como una función de seguro se convierte en un beneficio incorporado. Multi-AZ ya no es un coste añadido que sólo se justifica como precaución. Es una capacidad básica que permite ejecutar el trabajo dondequiera que haya GPU disponibles, sin multiplicar los costes de almacenamiento.

Por qué esto cambia la economía de la GPU

En cuanto se aprovisiona una GPU, se incurre en costes por cada segundo de funcionamiento. Los segundos ociosos se traducen en dinero malgastado. Cada retraso se acumula en todos los equipos y proyectos.

Cuando las GPU escasean, los equipos se enfrentan a un dilema constante: o incurrir en costes de computación mientras esperan los datos, o pagar por el almacenamiento y la capacidad de red mientras esperan la computación. A menudo, acaban pagando por ambas cosas. En todos los casos, se paga el impuesto de caza de la GPU. 

Al eliminar por completo el anclaje zonal, CNQ elimina ambos inconvenientes. La capacidad de la GPU regional se convierte en capacidad utilizable. Los clientes ya no pagan por esperar los datos ni por mantener copias inactivas de los mismos. Sólo pagan cuando la GPU realiza trabajo.

La ventaja más profunda es la opcionalidad.

Con CNQ:

  • Los equipos no tienen que predecir dónde estarán disponibles las GPU con semanas de antelación

  • El almacenamiento ya no les obliga a tomar decisiones anticipadas

  • Se pueden adoptar nuevas familias de instancias sin migración ni tiempo de inactividad

A medida que cambian la capacidad, los precios y el rendimiento, la infraestructura se adapta in situ.

Ahora, la promesa de recursos a escala de la nube se hace realidad. Computación elástica, independiente de la ubicación, que se adapta en tiempo real, desvinculada de las decisiones de ubicación de la infraestructura y libre para funcionar dondequiera que haya capacidad disponible.

De la arquitectura defensiva a la ventaja competitiva

Sería acertado decir que CNQ hace menos dolorosa la adquisición de GPU.

Pero eso subestima el impacto.

Lo que CNQ realmente elimina es la gravedad arquitectónica. El almacenamiento ya no dicta dónde se puede trabajar. La informática ya no está atrapada por las decisiones de ubicación de ayer. Los equipos se mueven cuando aparece la oportunidad, no cuando la infraestructura lo permite.

En ese momento, la Zona de Disponibilidad Múltiple ya no consiste en sobrevivir a los fallos. Se trata de moverse más rápido que la competencia, empezar a trabajar inmediatamente cuando la capacidad esté disponible y convertir en resultados reales lo que antes era tiempo ocioso de la GPU.

Eso no es un seguro.

Eso es una ventaja.

Deja de pagar por GPU inactivas