Qumulo LogoQumulo Logo

Blog

Merkmale eines modernen Dateispeichersystems

Vor etwa zwei Jahrzehnten entwickelten mehrere Unternehmen ein paralleles und verteiltes Dateispeichersystem. Auslöser dafür war, dass angesichts des exponentiellen Datenwachstums deutlich wurde, dass Scale-out-Speicher das Paradigma der Zukunft für große Datensätze war. WAFL, IBM Spectrum Scale (auch bekannt als GPFS), Lustre, ZFS und OneFS sind allesamt Beispiele für Scale-Out-Dateispeichersysteme. All diese Systeme haben eines gemeinsam: Sie wurden alle um das Jahr 2000 herum erstmals in Betrieb genommen. Außerdem weisen sie alle ihre jeweiligen Stärken und Schwächen auf. Einige dieser Systeme sind nicht wirklich skalierbar; andere sind schwierig zu installieren und zu betreiben; manche erfordern spezielle Hardware oder unterstützen keine gängigen NAS-Protokolle; sie können Skalierbarkeitsgrenzen aufweisen oder es mangelt ihnen an Innovationsgeschwindigkeit.

Dass diese Systeme vor 20 Jahren entwickelt wurden, stellt ein Problem dar. Viele wichtige Trends in der Internet-Technologie, wie zum Beispiel DevOps, Big Data, konvergente Infrastruktur, Container, das Internet der Dinge (IoT) oder die umfassende Virtualisierung wurden erst weit nach dem Jahr 2000 entwickelt, sodass diese Dateispeichersysteme heute in Situationen eingesetzt werden, für die sie ursprünglich gar nicht konzipiert waren. Es ist eindeutig an der Zeit für einen neuen Ansatz im Bereich der Dateispeicherung.

Qumulo wurde von einigen der gleichen Ingenieure entwickelt, die vor rund 15 Jahren den Scale-out-Speicher konzipiert und realisiert haben, und offensichtlich haben ihre Erfahrungen zu einer sehr modernen und flexiblen Lösung geführt.

Das moderne Dateispeichersystem ist hardwareunabhängig

Mehrere Anbieter geben an, ihr Produkt sei unabhängig von hardwarespezifischen Anforderungen. Möglicherweise haben sie dabei den Begriff „softwaredefiniert“ verwendet. Laut Wikipedia zeichnen sich softwaredefinierte Produkte durch folgende zwei Eigenschaften aus:

  1. Unabhängig von jeglichen hardwarespezifischen Abhängigkeiten

  2. Programmgesteuert erweiterbar

Qumulo erfüllt beide Anforderungen hervorragend. Sie können Qumulo auf Standardhardware betreiben, die von Qumulo bereitgestellt wird, auf HPE Apollo 4200-Server, sowie in AWS. Für Entwicklungs- und Testzwecke bietet Qumulo ein kostenloses OVA-Paket an, mit dem Sie einen voll funktionsfähigen Cluster auf VMware Workstation oder Fusion betreiben können. Sie können außerdem eine eigenständige Instanz von Qumulo mit 5 TB Speicherplatz kostenlos auf AWS betreiben.. Sie zahlen nur für die AWS-Infrastruktur.

Da sich Qumulo vollständig über eine API verwalten lässt, ist es uneingeschränkt erweiterbar und lässt sich in jede Betriebsumgebung integrieren.

Das moderne Dateispeichersystem läuft im Benutzerbereich.

Das Qumulo-Betriebssystem basiert auf Ubuntu. Qumulo-Entwickler können alle Möglichkeiten des Linux-Ökosystems nutzen.

Die Prozesse des Qumulo-Dateispeichersystems laufen im Linux-Benutzerraum und nicht im Kernelraum, was eine Reihe von Vorteilen mit sich bringt:

  • Qumulo verfügt über eigene Implementierungen von Protokollen wie SMB, NFS und LDAP, die unabhängig vom zugrunde liegenden Betriebssystem sind. So läuft beispielsweise NFS als Dienst mit eigenen Benutzer- und Gruppennamen. Dies macht Qumulo portabler.

  • Der Kernel-Modus ist in erster Linie für Gerätetreiber vorgesehen, die mit bestimmter Hardware zusammenarbeiten. Durch den Betrieb im Benutzerraum unterstreicht Qumulo seine Hardwareunabhängigkeit. Das System kann in einer Vielzahl von Konfigurationen und Umgebungen ausgeführt werden.

  • Da Qumulo im Benutzerbereich läuft, kann das Unternehmen Funktionen wesentlich schneller entwickeln und bereitstellen.

  • Der Betrieb im Benutzerbereich erhöht die Zuverlässigkeit von Qumulo. Als eigenständiger Prozess im Benutzerbereich ist Qumulo von anderen Systemkomponenten isoliert, die zu Speicherfehlern führen könnten, und die Qumulo-Entwicklungsteams können fortschrittliche Tools zur Speicherüberprüfung nutzen, mit denen speicherbezogene Programmierfehler bereits vor der Softwareveröffentlichung erkannt werden können. Durch den Einsatz einer Dual-Partition-Strategie für Software-Upgrades kann Qumulo sowohl das Betriebssystem als auch die Qumulo-Software automatisch aktualisieren und so schnelle und zuverlässige Upgrades gewährleisten. Sie können Qumulo problemlos neu starten, ohne das Betriebssystem, den Knoten oder den Cluster neu starten zu müssen.

Interaktive API, Echtzeit-Analysen und Kontingente

Qumulo ist programmgesteuert erweiterbar. Es verfügt über eine umfassende API, die erweitert und in jede Rechenzentrumsumgebung integriert werden kann.

Wenn Sie möchten, können Sie die API als primäre Schnittstelle für alle Ihre Verwaltungs- und Betriebsaufgaben nutzen. Der Einfachheit halber stehen jedoch auch eine Web-Benutzeroberfläche und eine Befehlszeilenschnittstelle (CLI) zur Verfügung. Sowohl die Benutzeroberfläche als auch die CLI nutzen dieselbe API, über die jeder mit Qumulo interagieren kann. Die API und die Python-Bindings sind dokumentiert und auf GitHub verfügbar. Das Gleiche gilt für die Befehlszeilen-Wrapper, qq.

Zu den intelligentesten Funktionen von Qumulo zählen die Echtzeit-Analysefunktionen. Metadaten wie die Anzahl der belegten Bytes und die Anzahl der Dateien werden bei der Erstellung oder Änderung von Dateien und Verzeichnissen aggregiert, sodass die Informationen für eine zeitnahe Verarbeitung zur Verfügung stehen, ohne dass kostspielige Durchläufe der Dateispeicherstruktur erforderlich sind.

Die Web-Benutzeroberfläche umfasst eine Vielzahl von Echtzeit-Dashboards und Diagrammen, wie beispielsweise IO-Hotspots und Durchsatz-Hotspots. Alle Daten können über die gut dokumentierte API abgerufen werden, falls Sie diese auch mit anderen Tools weiterverarbeiten möchten.