Qumulo LogoQumulo Logo

Blog

Atributos de un sistema moderno de almacenamiento de archivos

Hace unas dos décadas, varias empresas desarrollaron un sistema de almacenamiento de archivos paralelo y distribuido. El impulso fue que, cuando los datos empezaron a crecer exponencialmente, quedó claro que el almacenamiento scale-out era el paradigma a seguir para los grandes conjuntos de datos. WAFL, IBM Spectrum Scale (también conocido como GPFS), Lustre, ZFS y OneFS son ejemplos de sistemas de almacenamiento de archivos escalables. Todos estos sistemas tienen algo en común: tuvieron su "primer arranque" en algún momento alrededor del año 2000. También tienen sus puntos fuertes y débiles. Algunos de estos sistemas no son realmente escalables; otros son difíciles de instalar y utilizar; algunos requieren hardware especial o no son compatibles con los protocolos NAS habituales; pueden tener límites de escalabilidad o carecer de velocidad de innovación.

El hecho de que estos sistemas se diseñaran hace 20 años es un problema. Muchas tendencias tecnológicas importantes de Internet, como DevOps los grandes datos, la infraestructura convergente, los contenedores, el IoT o todo lo virtual se inventaron mucho después del año 2000, por lo que estos sistemas de almacenamiento de archivos se utilizan ahora en situaciones para las que nunca fueron diseñados. Está claro que ha llegado el momento de dar un nuevo enfoque al almacenamiento de archivos.

Qumulo fue diseñado por varios de los mismos ingenieros que construyeron y crearon el almacenamiento escalable hace aproximadamente 15 años, y obviamente sus experiencias les llevaron a una solución muy moderna y flexible.

El sistema moderno de almacenamiento de archivos es independiente del hardware

Varios proveedores afirman que su producto es independiente de los requisitos específicos del hardware. Pueden haber utilizado el término "definido por software" Según Wikipedia, dos cualidades de un producto definido por software son:

  1. Independiente de cualquier dependencia específica del hardware

  2. Extensible mediante programación

Qumulo cumple admirablemente ambos requisitos. Puede ejecutar Qumulo en hardware estándar proporcionado por Qumulo, en Servidores HPE Apollo 4200 y en AWS. Para fines de desarrollo y pruebas, Qumulo ofrece un paquete OVA gratuito para que pueda ejecutar un clúster totalmente funcional en VMware Workstation o Fusion. También puede ejecutar una instancia independiente de Qumulo, con 5 TB de almacenamiento, en AWS de forma gratuita. Solo pagas por la infraestructura de AWS.

Dado que Qumulo es totalmente gestionable a través de una API, es totalmente ampliable y puede integrarse en cualquier entorno operativo.

El sistema moderno de almacenamiento de archivos se ejecuta en el espacio de usuario

El sistema operativo Qumulo se basa en Ubuntu. Los desarrolladores de Qumulo pueden aprovechar todas las capacidades del ecosistema Linux.

Los procesos del sistema de almacenamiento de archivos Qumulo se ejecutan en el espacio de usuario de Linux y no en el espacio del núcleo, lo que tiene una serie de ventajas:

  • Qumulo tiene sus propias implementaciones de protocolos como SMB, NFS y LDAP, que son independientes del SO subyacente. Por ejemplo, NFS se ejecuta como un servicio con sus propias notaciones de usuarios/grupos. Esto hace que Qumulo sea más portable.

  • El modo kernel es principalmente para controladores de dispositivos que trabajan con hardware específico. Al operar en espacio de usuario, Qumulo refuerza su independencia del hardware. Puede ejecutarse en una amplia variedad de configuraciones y entornos

  • Al ejecutarse en el espacio de usuario, Qumulo puede desarrollar y ofrecer funciones a un ritmo mucho más rápido.

  • Ejecutarse en el espacio de usuario mejora la fiabilidad de Qumulo. Como proceso independiente del espacio de usuario, Qumulo está aislado de otros componentes del sistema que podrían introducir corrupción de memoria, y los procesos de desarrollo de Qumulo pueden hacer uso de herramientas avanzadas de verificación de memoria que permiten detectar errores de codificación relacionados con la memoria antes de lanzar el software. Al utilizar una estrategia de partición dual para las actualizaciones de software, Qumulo puede actualizar automáticamente tanto el sistema operativo como el software Qumulo para obtener actualizaciones rápidas y fiables. Puede reiniciar Qumulo fácilmente sin tener que reiniciar el sistema operativo, el nodo o el clúster.

API interactiva, análisis en tiempo real y cuotas

Qumulo es extensible mediante programación. Dispone de una API completa, que puede ampliarse e integrarse en cualquier entorno de centro de datos.

Si lo desea, puede utilizar la API como interfaz principal para todas sus tareas de gestión y operación. Sin embargo, para mayor comodidad, también hay una UI web y una CLI disponibles. Tanto la UI como la CLI usan la misma API que cualquiera puede usar para interactuar con Qumulo. La API y Python bindings son documentado y disponible en GitHub. Lo mismo ocurre con el envoltorio de línea de comandos, qq.

Una de las cosas más inteligentes de Qumulo es su capacidad de análisis en tiempo real. Los metadatos, como los bytes utilizados y el recuento de archivos, se agregan cuando se crean o modifican archivos y directorios, lo que significa que la información está disponible para su procesamiento oportuno sin costosos paseos por el árbol del sistema de almacenamiento de archivos.

La interfaz de usuario web incluye un gran número de paneles y gráficos en tiempo real, como puntos de acceso de E/S y puntos de acceso de rendimiento, y todos los datos se pueden recuperar a través de la API bien documentada si también desea procesarlos con otras herramientas.