Qumulo LogoQumulo Logo

Blog

Surmonter la gravité des données en cryo-EM : comment l'architecture intelligente de données hybrides accélère l'avenir de la découverte de médicaments

La cryo-EM contribue à redéfinir l'avenir de la biologie structurelle, du développement de vaccins et de l'innovation pharmaceutique en permettant la visualisation 3D au niveau atomique des protéines, des virus et des complexes moléculaires. Ces capacités permettent l'étude détaillée de structures cellulaires fines et de structures biologiques complexes à l'échelle subcellulaire et moléculaire. 

Si les percées scientifiques font souvent la une des journaux, les problèmes d'infrastructure qui les sous-tendent sont rarement évoqués.

En réalité, les flux de travail de la cryo-EM sont parmi les plus gourmands en données des sciences de la vie modernes.

Chaque projet peut générer entre 10 et 200 To de données de microscopie à haute résolution, souvent composées de dizaines de milliers de petits fichiers d'images et de séquences vidéo. Ces données naissent généralement dans le laboratoire humide où les microscopes capturent des échantillons biologiques, mais les calculs lourds - y compris la correction de mouvement, l'estimation du CTF, la sélection des particules, la classification 2D et l'affinement 3D - nécessitent une capacité de calcul dense en GPU, dont la plupart ne se trouvent que dans des centres de données massifs ou sur l'une des plateformes publiques de cloud computing.

Pour de nombreuses organisations, cela crée un problème coûteux et complexe sur le plan opérationnel.

Les données doivent être copiées des environnements de laboratoire vers l'infrastructure HPC ou cloud, ce qui signifie que beaucoup plus de choses doivent être mises en place pour chaque projet. Un stockage supplémentaire doit être prévu pour héberger les ensembles de données répliquées - jusqu'à 200 To de capacité par projet et par site. Les pipelines de réplication doivent être mis en œuvre et maintenus pour chaque projet et chaque point d'extrémité, et un temps précieux est consacré par le personnel à la validation de la construction des pipelines de données, à la surveillance des tâches de réplication actives et à la vérification de l'intégrité des données après chaque transfert important. 

Non seulement la duplication des données et la complexité de l'environnement augmentent le coût de chaque projet, mais elles peuvent également allonger les délais. Les scientifiques doivent souvent attendre des heures, voire des jours, avant de pouvoir commencer le traitement, tandis que les résultats finaux doivent souvent être transférés à nouveau pour être validés, visualisés et faire l'objet d'une collaboration plus large.

Il existe encore d'autres coûts cachés qui vont bien au-delà de la seule capacité de stockage. La réplication élargit l'empreinte de l'infrastructure, augmente les exigences en matière de réseau, rend les scripts opérationnels plus complexes, nécessite une supervision informatique plus poussée et crée une dépendance humaine importante au sein de plusieurs équipes. Les spécialistes du microscope, les administrateurs informatiques, les architectes de l'informatique en nuage, les équipes de bio-informatique, les ingénieurs du stockage et les chercheurs deviennent tous les maillons d'une chaîne opérationnelle fragile, chacun faisant des heures supplémentaires pour s'assurer que les données arrivent là où elles doivent être, de manière cohérente et dans les délais impartis.

Imaginez une approche plus simple : un système de fichiers qui toucherait simultanément tous les points de l'organisation, où les données créées à un endroit seraient instantanément accessibles depuis n'importe quel autre endroit. 

Prenons l'exemple d'une entreprise pharmaceutique qui gère trois programmes simultanés de découverte de médicaments sur des sites situés à Palo Alto, à Boston et chez un partenaire CRO au Royaume-Uni. Dans le cadre d'un modèle de réplication traditionnel, chaque site conserve sa propre copie de chaque ensemble de données - capacité de stockage multipliée par trois, pipelines de réplication maintenus sur chaque point d'extrémité, et une fenêtre d'attente de 12 à 24 heures avant qu'un cluster GPU en nuage ne puisse commencer le traitement. Avec une structure de données unifiée, cette même organisation fonctionne à partir d'une seule copie de chaque ensemble de données : les données d'instrument écrites à Palo Alto sont immédiatement visibles par les clusters GPU dans AWS, les pipelines d'analyse fonctionnant à Boston et l'équipe CRO au Royaume-Uni - simultanément, sans qu'un seul travail de réplication ne soit exécuté. La complexité informatique diminue, les frais de stockage baissent proportionnellement et le délai entre l'acquisition des données et les résultats exploitables passe de quelques jours à quelques heures.

L'architecture de données hybrides de Qumulo modifie fondamentalement cette équation.

Le système de fichiers de Qumulo expose les données à travers tous les points finaux via des protocoles standard - NFS v3/v4.1, SMB 3.0 et API objet compatible S3 - ce qui signifie que les pipelines bioinformatiques existants, les planificateurs de tâches HPC et les outils natifs du cloud montent ou accèdent à l'espace de noms sans modification. L'espace de noms global maintient un plan de métadonnées unique et cohérent entre les nœuds sur site et les instances cloud simultanément : les listes de répertoires, les attributs de fichiers et l'état des inodes sont cohérents quel que soit le point d'extrémité qui émet la requête, ce qui élimine les conditions de cerveau divisé et les échecs de cache statique courants dans les architectures de réplication traditionnelles. Les accélérateurs cloud se présentent comme des points de montage NFS standard vers les instances de calcul cloud, permettant aux charges de travail GPU de commencer le traitement dès que les premiers fichiers sont visibles dans l'espace de noms - avec des fonctions intelligentes de lecture anticipée et de préchargement gérant l'écart de latence entre l'emplacement physique des données et le point d'extrémité cloud - tandis que les appliances Edge Accelerator sur les sites d'instrumentation absorbent les flux d'écriture à large bande passante provenant des détecteurs et des scanners directement dans la structure, sans mise en scène intermédiaire.

En éliminant la réplication inutile et en permettant un accès mondial unifié aux ensembles de données, Qumulo permet aux organisations de transformer la cryo-EM d'un défi logistique fragmenté en un flux de travail scientifique rationalisé. Plutôt que de forcer les données à passer par des cycles répétés de copie, de validation, de transfert et de remise en mémoire, la plate-forme de données en nuage permet une disponibilité mondiale immédiate, permettant au traitement de se produire là où les ressources informatiques sont les plus efficaces, tout en garantissant que les résultats sont instantanément accessibles partout où ils sont nécessaires.

En connectant les laboratoires, les environnements HPC en nuage et les équipes de recherche en temps réel par le biais d'un espace de noms mondial unifié, Qumulo permet à une copie unique des données d'exister dans un emplacement physique tout en étant instantanément accessible à travers les sites, les plates-formes et les nuages. Il n'est pas nécessaire de dupliquer les ensembles de données, ni de dépendre de scripts de transfert fragiles, ni de cycles de validation répétés, ni de ralentissement opérationnel causé par les méthodes de réplication traditionnelles.

Tout cela se fait sans répliquer un seul ensemble de données, ce qui signifie qu'il n'y a qu'une seule copie des données à stocker et à gérer, de sorte que les équipes informatiques de l'organisation réduisent considérablement les frais généraux de stockage, la complexité de la gestion et le délai de rentabilité.

Construite en associant le système de fichiers évolutif et performant de Qumulo - disponible sur la place de marché des principaux hyperscalers tels que AWS, Azure et GCP, ou déployé sur site à l'aide du matériel de votre OEM préféré - avec les capacités de système de fichiers étendues de Qumulo Cloud Data Fabric, la Qumulo Cloud Data Platform crée un véritable environnement hybride pour les sciences de la vie, qui relie la génération de données, l'accélération GPU et la collaboration mondiale en temps réel. Les appliances Edge Accelerator optionnelles connectent les sites distants et les laboratoires humides à la structure, tandis que les Cloud Accelerators ouvrent des portails éphémères qui projettent les données de l'endroit où elles vivent vers le cloud, permettant aux charges de travail d'éclater vers la capacité GPU disponible du cloud et d'échelonner le calcul à la demande lorsque les ressources locales sont limitées - tout cela sans avoir à déplacer de données.

Pour les entreprises pharmaceutiques et biotechnologiques, cela signifie accélérer les initiatives de modélisation moléculaire, raccourcir les délais de découverte thérapeutique de quelques semaines à quelques jours, permettre un développement plus agile des vaccins, maximiser l'utilisation des ressources coûteuses du GPU et, en fin de compte, réduire le coût et la complexité de la R&D elle-même.

Alors que l'IA, le calcul intensif et l'imagerie biologique avancée continuent de converger, les organisations qui obtiendront un avantage stratégique ne seront pas simplement celles qui possèdent les meilleurs microscopes ou les plus grands clusters de GPU, mais celles qui construiront une infrastructure capable d'éliminer complètement la gravité des données....

La prochaine frontière des sciences de la vie n'est pas seulement informatique.

Il s'agit d'une architecture de données intelligente, et des solutions telles que Qumulo Cloud Data Fabric contribuent à rendre cet avenir possible.

L'architecture de données hybrides accélère la découverte...