El mundo de inteligencia artificial (IA) ha experimentado un crecimiento exponencial y tiene un hambre insaciable de consumir datos. Desde los coches autoconducidos hasta los chatbots que imitan la conversación humana, la IA está revolucionando las industrias a un ritmo vertiginoso. El poder de la IA se deriva de su columna vertebral de datos. El acceso a los datos, la velocidad de su procesamiento y el rendimiento del almacenamiento escalable son factores fundamentales que determinan la eficiencia de un canal de IA. Aquí es donde Qumulo ha demostrado ser la mejor solución de almacenamiento de datos del planeta para cargas de trabajo de IA, como la solución de datos de archivos de mayor rendimiento y más rentable del sector en la nube.
Por qué Qumulo es ideal para cargas de trabajo de IA basadas en archivos
Las aplicaciones de IA, ya sean modelos de aprendizaje profundo o redes neuronales, requieren un conjunto único de características de almacenamiento, todas ellas satisfechas por Qumulo:
Escalabilidad: Los conjuntos de datos de IA son dinámicos. Crecen con el tiempo a medida que se recopilan y procesan más datos. La capacidad de Qumulo para escalar con un alto rendimiento predecible garantiza que, a medida que crecen las cargas de trabajo de IA, Qumulo puede satisfacer sus demandas a cualquier escala.
Rentabilidad: Financiar iniciativas de IA puede suponer una inversión importante. Ahorrar en costes de almacenamiento sin comprometer el rendimiento puede liberar recursos para otras áreas críticas, ya sea investigación, desarrollo o despliegues de producción.
Capacidad para escalar en cualquier lugarTM: Los propietarios de infraestructuras y los científicos de datos se benefician de la flexibilidad de formarse en un lugar, pero desplegarse en otro, con una infraestructura altamente segura. El sistema de almacenamiento definido por software de Qumulo puede desplegarse y ejecutarse en cualquier lugar. Esto hace que sea fácil entrenar un modelo de IA en el centro de datos central, pero llevarlo a producción en cualquier lugar.
Rendimiento: Los modelos de IA, especialmente los utilizados en escenarios como vehículos autónomos o transacciones financieras, necesitan acceso a los datos en tiempo real para el entrenamiento previo y posterior del modelo. La recuperación de datos a alta velocidad de Qumulo garantiza que los datos estén disponibles en el momento en que sea necesario.
Profundicemos en el punto 4 y subrayemos la importancia de una recuperación de datos y metadatos fluida y rápida como el rayo. Esto es vital para las aplicaciones de IA que requieren un almacenamiento de archivos escalable, en las instalaciones o en la nube.
Al probar cargas de trabajo sintéticas de IA, descubrimos que somos la solución en la nube basada en archivos más rápida del mercado para la IA, en la que los científicos de datos pueden utilizar Qumulo para la recopilación de datos, el preentrenamiento, el entrenamiento de producción y la inferencia continua, sin importar la escala.
Siga leyendo.
Benchmark de IA de amplia aplicación
Para poner en perspectiva las capacidades de rendimiento de Qumulo, vamos a sumergirnos en el último resultado obtenido con Qumulo ejecutándose en la nube en la infraestructura de AWS. Utilizamos SPECstorage para caracterizar el rendimiento de AI en Qumulo. Esta prueba comparativa (llamada AI_Image) utiliza tamaños de archivo y patrones de E/S que ejercitan de forma sintética y precisa cargas de trabajo de IA comunes:
Basado en Tensorflow buenas prácticas - el marco AI/ML más utilizado del mundo
Trazado a partir de 3 modelos diferentes: Resnet, VGG (Visual Geometry Group) y SSD (Single shot detector)
Utilización de conjuntos de datos de código abierto de CityScape, ImageNet y COCO
Debido a la ubicuidad de Tensorflow en el espacio de la IA, el benchmark se aplica a una amplia gama de cargas de trabajo de modelos de IA que producen resultados de IA para:
Clasificación de imágenes y detección de objetos
Procesamiento del lenguaje natural (PLN)
Reconocimiento de voz
Sistemas de recomendación
Modelos generativos
Sanidad y ciencias de la vida
...y MUCHO más
Descripción del criterio de referencia y resultados obtenidos
El objetivo del benchmark es servir datos rápidamente desde el almacenamiento de Qumulo a la capa de aplicación (usando GPUs) que ejecuta los trabajos de IA. El benchmark prueba el rendimiento y la latencia del almacenamiento a partir de un conjunto realista de patrones de E/S de un lote de clientes. Los clientes incrementan su número de trabajos de IA hasta alcanzar el objetivo, que en el caso de esta prueba es un total de 480 trabajos. Hay cuatro operaciones principales en el benchmark, con 4 subcargas de trabajo concurrentes independientes:
AI_SF - Lectura de archivos de imagen pequeños
AI_TF - Escribe archivos de mayor tamaño (idealmente archivos de más de 100 MB)
AI_TR - Lee en TFRecords grandes
AI_CP - Realiza puntos de control ocasionales
Resultados
La Fig. 1 muestra los siguientes resultados:
El eje X muestra el número de trabajos que ejecutan la prueba comparativa de IA a lo largo del tiempo
El eje Y muestra la latencia global durante la duración de la prueba
La latencia muestra que el rendimiento del almacenamiento es rápido y predecible a medida que aumenta el número de trabajos de IA
Aplicabilidad in situ
Aunque las pruebas del benchmark SPECstorage utilizaron un entorno basado en la nube, estos resultados pueden extrapolarse fácilmente para estimar resultados utilizando hardware local similar. Cuando Qumulo publique este benchmark en la web de SPEC (ETA diciembre/2023), se podrán encontrar los detalles y el coste del entorno, anotando los tipos de instancia EC2 (número de núcleos, memoria disponible,etc.) utilizados y el ancho de banda disponible en el entorno de red. Mientras tanto, incluimos los detalles suplementarios en el apéndice de este blog para los lectores curiosos.
Científicos e ingenieros de datos. ¡Pruébelo usted mismo!
En el mundo de la IA, que avanza a gran velocidad, disponer de una solución de almacenamiento sólida, rápida y escalable no es un lujo, sino una necesidad. Qumulo, con su rendimiento y rentabilidad líderes en el sector, destaca como la solución de archivos basada en la nube para cargas de trabajo de IA. El benchmark no solo subraya la destreza de Qumulo, sino que también consolida su posición como la solución de almacenamiento más rápida y más ampliamente aplicable para la IA.
Véase resultados completos publicado en Spec.org
Anexo
Rendimiento
Tiempo de respuesta global = 1,22 ms
Empresas
Métrica
(AI_Jobs)Media
Latencia media
(mseg)AI_Jobs
Ops/SecAI_Jobs
MB/Sec161.36069601565321.281139213127481.313208824691641.213278436255801.201348047822961.1474176593851121.15848726109501281.12355687125141441.12262648140821601.10969609156441761.14476570172081921.11783530187742081.11290491203402241.11297452218992401.121104413234702561.271111374250372721.143118335265982881.155125296281613041.197132257297293201.205139218312893361.257146178328593521.323153139344183681.430160100359843841.503167061375524001.63217402239112
Información sobre productos y pruebas
Qumulo - Referencia de nube públicaProbado porQumulo, Inc.Hardware disponibleNoviembre de 2023Software disponibleNoviembre de 2023Fecha de pruebaNoviembre de 2023Número de licencia6738Localizaciones del licenciatarioSeattle, WA EE.UU
Qumulo es una solución de almacenamiento de archivos en la nube híbrida que ofrece escalabilidad de más de exabytes en un único espacio de nombres, funciones idénticas tanto en la nube como en local y compatibilidad total con varios protocolos, lo que garantiza la flexibilidad y compatibilidad con diversas aplicaciones. Al integrarse perfectamente con la infraestructura de nube pública, Qumulo ofrece almacenamiento de datos no estructurados a cualquier escala, con visibilidad en tiempo real del rendimiento del almacenamiento y el uso de los datos.
El sistema de archivos nativo de la nube de Qumulo permite a las organizaciones migrar sin problemas aplicaciones y cargas de trabajo basadas en archivos al entorno de la nube pública. Con Qumulo, las empresas pueden gestionar eficientemente exabytes de datos, ya sea en las instalaciones o en la nube. Los siguientes resultados demuestran claramente que el sistema de archivos Qumulo destaca por su excelente rendimiento cuando se implementa en AWS.
Lista de materiales de la solución sometida a prueba
Artículo N.ºCantidadTipoProveedorModelo/NombreDescripción116AWS EC2 InstancesAWSc5n.18xlargeNodos Qumulo - instancias EC2 de Amazon c5n (las instancias c5n.18xlarge tienen 72 vCPU, 192GiB de memoria, red de 100Gbps)216AWS EC2 InstancesAWSc5n.18clientes xlargeUbuntu - clúster Qumulo - instancias Amazon c5n EC2 (las instancias c5n.18xlarge tienen 72 vCPU, 192GiB de memoria, 100Gbps de red)
Diagramas de configuración
Qumulo en AWS
Software de componentes
Item NoComponentTypeName and VersionDescription1Qumulo CoreFile System6.2.2El sistema de archivos nativo de la nube de Qumulo permite a las organizaciones mover sin esfuerzo aplicaciones y cargas de trabajo basadas en archivos a la nube pública.2UbuntuOperating System22.04El sistema operativo Ubuntu está desplegado en los dieciséis nodos de computación c5n.18xlarge. Se utilizan como clientes que ejecutan los benchmarks SPEC Storage 2020.
Configuración y ajuste del hardware - Físico
Nombre del componenteNombre del parámetroValorDescripciónSR-IOVEnabledHabilita la tecnología de virtualización de CPUVelocidad de puerto100 GbEEn cada nodo hay conectividad 100 GbE
Notas sobre configuración y ajuste del hardware
Ninguno
Configuración y ajuste del software - Virtual
NetworkingParameter NameValueDescriptionJumbo Frames9001Habilita tramas jumbo Ethernet de hasta 9001 bytesUbuntu Clients NFS Mount ParametersParameter NameValueDescriptionvers3Use NFSv3nconnect16Aumente el número de conexiones de cliente NFS hasta 16tcpTCP protocolo de transporte de red protocolo de transporte para comunicarse con el cluster Qumulolocal_lockallEl cliente asume que tanto los bloqueos flock como POSIX son localesParámetros de Volumen EBSParámetros NameValueDescriptionIOPS16000Máximo IOPS para Volumen EBSThroughput1000Máximo Throughput para Volumen EBS
Notas sobre configuración y ajuste del software
Ninguno
Notas sobre el SLA del servicio
AWS realiza esfuerzos comercialmente razonables para que cada uno de los Productos y Servicios Incluidos esté disponible con un Porcentaje de Tiempo de Actividad Mensual de al menos el 99,99%, en cada caso durante cualquier ciclo de facturación mensual. El Porcentaje Mensual de Tiempo de Actividad se calcula restando del 100% el porcentaje de minutos durante el mes en el que cualquiera de los Productos y Servicios Incluidos, según corresponda, estuvo en el estado de "Región No Disponible".
Almacenamiento y sistemas de archivos
Artículo NoDescripciónProtección de DatosAlmacenamiento EstableCantidad1Volumen de Almacenamiento en Bloques Elástico, capacidad de 1TB gp3. Cada nodo Qumulo tiene 6 volúmenes EBS.Protección de 2 unidades o 1 nodo con codificación de borradoAWS EBS96Número de sistemas de archivos1Capacidad total78,54 TBTipo de sistema de archivosQumulo
Notas sobre la creación de sistemas de archivos
El sistema de archivos de Qumulo Core se implementa en AWS a través de una plantilla de formación de nube o Terraform. La AMI de Qumulo Core se implementa y el sistema de archivos se configura como parte del proceso automatizado de formación de la nube o a través de Terraform. No se requieren pasos adicionales de creación del sistema de archivos.
Notas sobre almacenamiento y sistemas de archivos
Ninguno
Configuración de transporte - Virtual
Item NoTransport TypeNumber of Ports UsedNotes1100Gbps Ethernet Virtual NIC16Usado por máquinas cliente2100Gbps Ethernet Virtual NIC16Usado por Qumulo Core para comunicaciones inter-nodales así como comunicaciones a cualquier cliente.
Notas sobre la configuración del transporte
Ninguno
Conmutadores - Virtuales
Nº de artículoNombre del conmutadorTipo de conmutadorCuento total de puertosCuento de puertos utilizadosNotas1AWS100Gbps Ethernet con red mejorada1616Usado por equipos cliente2AWS100Gbps Ethernet con red mejorada1616Usado por nodos Qumulo Core
Elementos de procesamiento - Virtual
Nº de artículoCantidadTipoUbicaciónDescripciónFunción de procesamiento11152vCPUc5n.18xlarge Qumulo CoreProcesadores intel Xeon Platinum a 3,5 GHzQumulo Core, comunicación de red, funciones de almacenamiento21152vCPUc5n.18xlarge Qumulo CoreProcesadores intel Xeon Platinum a 3,5 GHzSpec Procesadores Storage Client Benchmark
Notas sobre los elementos de procesamiento
Ninguno
Memoria - Virtual
DescripciónTamaño en GiNúmero de instanciasNonvolatileTotal GiBAWS EC2 c5n.18xmemoria de instancia grande19216V3072AWS EC2 c5n.18xmemoria de instancia grande19216V3072Gibibytes totales de memoria grande6144
Notas de memoria
Ninguno
Almacenamiento estable
Qumulo Core utiliza dispositivos Elastic Block Storage (EBS), que proporcionan un almacenamiento estable.
Solución bajo prueba Notas de configuración
La solución probada era un clúster distribuido estándar construido utilizando Qumulo Core. Los clústeres Qumulo Core pueden manejar E/S de archivos grandes y pequeños junto con aplicaciones intensivas de metadatos. No se requiere ningún ajuste especializado para cargas de trabajo diferentes o de uso mixto.