Vous êtes plongé dans la planification de votre prochaine solution d'IA/ML. Avez-vous pris toutes les décisions relatives au stockage ? Sur site ou dans le nuage ? Objet ou fichier ? Où exécuterez-vous vos solutions d'IA/ML ?
D'ailleurs, avant de commencer, je dois vous dire quelque chose. Je déteste le terme intelligence artificielle. Sérieusement, l'IA est moins intelligente qu'une poignée de porte ! Il ne s'agit que de mathématiques, de statistiques avec des volumes de données tout simplement gigantesques exécutés, toutes les heures, sur plus d'unités de traitement qu'il n'en existait dans le monde entier il y a seulement quelques décennies.
Voici un excellent article sur ce qui se passe VRAIMENT dans les coulisses du ChatGPT. Je déteste tellement le terme IA que je vais utiliser ML pour ce billet.
Bon, j'arrête mon discours. Parlons de la raison pour laquelle le stockage est si important pour l'IA - je veux dire ML ..
Le ML est une question de données. Il suffit de les trouver !
Les données qui alimentent les charges de travail de ML sont partout. Il en va de même pour les solutions de ML. Quelques exemples (tous issus des flux de travail réels de nos clients) :
Usines. Des caméras placées un peu partout capturent toutes sortes d'informations en temps réel sur les opérations de fabrication automatisées. Toutes ces informations sont agrégées en permanence sur un support local.
Les données de chaque ligne de fabrication sont centralisées (dans le nuage ou sur site) et deviennent la source des modèles d'entraînement pour automatiser la détection des défaillances. Les solutions de ML dans chaque usine, puis les modèles d'inférence qui en résultent pour améliorer les rendements.
D'ailleurs, certains de nos clients utilisent Qumulo pour ce même flux de travail !
Véhicules à conduite autonome. Des vidéos multi-spectres en haute définition du monde réel sont capturées en continu, d'abord par des centaines de véhicules d'essai, puis par des milliers de véhicules expérimentaux, et enfin par des millions de véhicules ordinaires.
La voiture envoie ces vidéos à la maison mère via votre Wi-Fi (Tesla, je te regarde !). Ces données constituent la source d'entraînement des modèles pour aider les conducteurs, permettre le pilotage automatique et faire de la voiture autonome une réalité.
Les modèles d'inférence dérivés de ce qui précède sont exécutés par des moteurs d'inférence sur les voitures pour traiter les données en temps réel.
Et oui, nous avons des clients qui utilisent Qumulo dans ce flux de travail également !
Sécurité assistée ML : Des centaines de milliers d'appareils réseau génèrent des journaux d'activité qui sont consolidés localement et agrégés (soit dans le nuage, soit sur site, soit les deux). Ces données constituent l'ensemble des données d'entraînement pour les modèles de détection des intrusions non autorisées dans le réseau.
Les dispositifs de réseau modernes utilisent ces modèles d'inférence pour analyser les événements observés en temps réel, afin de repérer les intrusions non autorisées.
Vous l'avez deviné, nous avons des clients qui le font aujourd'hui !
Pouvez-vous repérer le fil conducteur ? Il s'agit d'un flux de travail "partout", à la périphérie du réseau, au cœur du réseau et dans les nuages publics.
Choix, choix, choix
Qu'en est-il de la solution ML ? vous sur lesquels vous travaillez ? Comme ces cas d'utilisation l'ont montré, vous devrez faire une série de choix importants concernant l'endroit et la manière dont vous construisez vos modèles. Je m'explique..
Edge, Core ou Cloud ? Où se trouvent les données ? Où se trouve le modèle ? Où se trouve la solution ? Les adeptes de l'informatique dématérialisée insistent sur le fait que c'est (et ce sera toujours) dans l'informatique dématérialisée. Et, oui, ils ont un parti pris, mais ils ont aussi une bonne raison.
Après tout, quelle organisation est en mesure de maintenir l'infrastructure nécessaire à l'opérationnalisation de la formation à la gestion de l'apprentissage tout au long de la vie alors que la quasi-totalité de la pile change toutes les semaines ? J'ai parlé à de nombreuses organisations qui disent que le ML a été la goutte d'eau qui a fait déborder le vase dans leur débat interne sur le cloud ou sur site.
Mais avant de dire "game over", voici une tendance intéressante. Je parle à de nombreux clients qui dépensent des centaines de millions de dollars chaque trimestre sur le nuage et qui rapatrient leurs charges de travail stables sur site. Pourquoi ? Ils estiment que pour un mature ML, sur site, offre une solution plus stable et plus économique.
En d'autres termes, l'expérimentation rapide et l'opérationnalisation précoce se font dans le nuage, tandis que les solutions de ML matures jouissent d'une plus grande stabilité et d'une meilleure rentabilité dans les centres de données que nous possédons et exploitons. Mais ce n'est qu'un choix ..
Objet ou fichier ? Avant de répondre, réfléchissez à ceci. Le cloud gère très bien le stockage d'objets, mais il est nul pour les données de fichiers. Quant au stockage sur site, il gère très bien les données de fichiers, mais pas les objets. Et nous venons de voir que vous aurez probablement besoin à la fois du cloud et du stockage sur site. Qu'est-ce qui est le mieux pour le ML ? Eh bien ... c'est compliqué.
D'une part, la plupart des LLM sont open source et s'attendent à accéder aux données via une interface de stockage locale. C'est un problème pour le cloud, où vous devez créer des chargeurs de données sur mesure qui copient les données de l'objet vers le disque local (instance attached NVMe ou EBS / Managed Disks) avant que les GPU gourmands en données puissent être alimentés. Regardez ce que Google PCG dit à ce sujet :
"Mais lorsqu'il s'agit pour une charge de travail d'IA d'accéder réellement aux données [d'IA], ce n'est pas toujours simple, car la plupart des charges de travail d'IA nécessitent une sémantique de système de fichiers, plutôt que la sémantique d'objet que fournit le stockage en nuage."
Que faire ?
Autant de questions ! Sur site ou dans le nuage pour vos charges de travail d'IA / ML ? Fichier ou objet comme référentiel des données qui alimentent vos LLM ? Comment allez-vous agréger des données provenant de différents endroits et les gérer tout au long de leur cycle de vie ? Les décisions que vous prenez ont un impact sur la solution de stockage qui vous convient le mieux - Dell, VAST, NetApp.
Ou .. le font-ils ??
Voici Scale Anywhere™ de Qumulo, une solution de stockage et de gestion des données non structurées 100 % logicielle. Besoin d'une solution de centre de données de base ? Nuage public ? Vérifier. Fichier ? Vérifier. Objet ? Oui. Prenez les décisions ML que vous voulez - nous nous contentons de s'en moque. Qumulo fonctionne partout où vous le souhaitez.
Nous avons des clients qui couvrent plusieurs plates-formes matérielles de serveurs de stockage sur site et plusieurs nuages publics. L'avantage est que leurs charges de travail de données non structurées basées sur Qumulo sont unifiées à travers ces plateformes.
Je suis tout le temps en contact avec les clients et je reçois beaucoup de commentaires positifs à ce sujet. C'est une nouveauté pour moi par rapport aux autres entreprises dans lesquelles j'ai travaillé, mais je m'y suis vite habituée !
Prenez les choix de ML à bras-le-corps avec Qumulo's Scale Anywhere™.
La mise en œuvre de la ML nécessite un grand nombre de décisions difficiles. Mais la plateforme de stockage à utiliser n'en fait pas partie. Essayez Scale Anywhere™ avec Qumulo, et vous pourrez gérer toutes vos charges de travail ML indépendamment des décisions que vous prenez...
Edge, Core, ou Cloud
Fichier ou objet
Pour la collecte, l'agrégation et la conservation des données de formation
Ou ... pour vous permettre de pousser vos modèles d'inférence jusqu'à votre périphérie distribuée
Qumulo est votre choix de ML le plus simple.