Está inmerso en la planificación de su próxima solución AI/ML. ¿Ya ha tomado todas las decisiones relacionadas con el almacenamiento? ¿En las instalaciones o en la nube? ¿Objeto o archivo? ¿Dónde ejecutará sus soluciones de IA/ML?
Por cierto, antes de empezar, tengo que desahogarme. Odio el término inteligencia artificial. En serio, ¡la IA es menos inteligente que el pomo de una puerta! Son sólo matemáticas, estadísticas con volúmenes de datos sencillamente descomunales ejecutados, cada hora, en más unidades de procesamiento que las que existían en todo el mundo hace sólo unas décadas.
He aquí un magnífico artículo sobre qué ocurre REALMENTE entre bastidores en ChatGPT. Odio tanto el término IA que voy a utilizar ML para este post.
Bueno, me voy. Hablemos de por qué el almacenamiento es tan importante para la IA, quiero decir, el ML..
El ML es cuestión de datos. Solo hay que encontrarlos
Los datos que alimentan las cargas de trabajo de ML son en todas partes. También lo es la necesidad de soluciones de ML. Algunos ejemplos (todos derivados de los flujos de trabajo reales de nuestros clientes):
Fábricas. Cámaras colocadas por todas partes captan todo tipo de información en tiempo real de las operaciones de fabricación automatizadas. Todo ello se agrega continuamente en el almacenamiento local.
Los datos de cada línea de fabricación se centralizan (en la nube o en las instalaciones) y se convierten en la fuente de modelos de entrenamiento para automatizar la detección de fallos. Soluciones ML en cada fábrica y, a continuación, los modelos de inferencia resultantes para mejorar los rendimientos.
Por cierto, ¡tenemos clientes que utilizan Qumulo exactamente para este flujo de trabajo!
Vehículos autoconducidos. El vídeo multiespectral de alta definición del mundo real se captura continuamente, al principio por cientos de vehículos de prueba, luego por miles de vehículos experimentales y, finalmente, por millones de vehículos normales.
El coche envía estos vídeos a la nave nodriza a través de tu Wi-Fi (Tesla, ¡te estoy mirando a ti!). Los datos anteriores son la fuente de entrenamiento de los modelos para ayudar a los conductores, activar el piloto automático y hacer realidad los coches autoconducidos.
Los modelos de inferencia derivados de lo anterior son ejecutados por motores de inferencia en los coches para procesar datos en tiempo real.
Y sí, también tenemos clientes que utilizan Qumulo en este flujo de trabajo
Seguridad asistida por ML: Cientos de miles de dispositivos de red generan registros de actividad que se consolidan localmente y se agregan (en la nube, en las instalaciones o en ambas). Esto constituye el conjunto de datos de entrenamiento para los modelos de detección de intrusiones no autorizadas en la red.
Los dispositivos de red modernos utilizan estos modelos de inferencia para analizar en tiempo real los eventos observados, buscando detectar intrusiones no autorizadas.
Lo has adivinado, ¡hoy tenemos clientes que lo hacen!
¿Encuentras el hilo conductor? Se trata de un flujo de trabajo "en todas partes", desde el borde de la red hasta el núcleo y las nubes públicas.
Elecciones, elecciones, elecciones
¿Qué pasa con la solución ML usted ¿en qué está trabajando? Como estos casos de uso, tendrás que tomar una serie de decisiones importantes sobre dónde y cómo construir tus modelos. Déjame que te lo explique..
¿Edge, Core o Nube? ¿Dónde vivirán los datos? ¿Dónde vivirá el modelo? ¿Dónde vivirá la solución? La gente de la nube insiste en que está (y siempre estará) en la nube. Y, sí, son parciales, pero también tienen razón.
Después de todo, ¿qué organización puede mantenerse al día con la infraestructura necesaria para poner en funcionamiento los LLM de formación cuando prácticamente toda la pila cambia cada semana? He hablado con muchas organizaciones que dicen que el ML fue la gota que colmó el vaso en su debate interno entre la nube y las instalaciones locales.
Pero antes de decir "game over", he aquí una tendencia interesante. Hablo con muchos clientes que gastan cientos de millones de dólares cada trimestre en la nube y que están repatriando sus cargas de trabajo estacionarias de vuelta a las instalaciones. ¿Por qué? Creen que para madura ML, on-premises proporciona una solución más estable y de coste optimizado.
En otras palabras, la experimentación rápida y la operatividad temprana viven en la nube, mientras que las soluciones de ML maduras disfrutan de más estabilidad y mejor economía en centros de datos propios y operados. Pero esa es solo una opción..
¿Objeto o archivo? Antes de responder, considera esto. La nube gestiona muy bien el almacenamiento de objetos, pero es pésima con los datos de archivos. Y las instalaciones gestionan muy bien los datos de archivos, pero son pésimas para los objetos. Y acabamos de hablar de que es probable que necesites tanto la nube como las instalaciones locales. ¿Cuál es mejor para ML? Bueno... es complicado.
Por un lado, la mayoría de los LLM son de código abierto y esperan acceder a los datos a través de una interfaz de almacenamiento local. Esto es un problema para la nube, donde hay que crear cargadores de datos a medida que copien los datos del objeto al disco local (NVMe conectado a la instancia o EBS / discos gestionados) antes de poder alimentar las GPU hambrientas de datos. Mira lo que Google GCP dice sobre esto:
"Pero cuando llega el momento de que una carga de trabajo de IA acceda realmente a los datos [de IA], no siempre es sencillo, ya que la mayoría de las cargas de trabajo de IA requieren la semántica del sistema de archivos, en lugar de la semántica de objetos que proporciona el almacenamiento en la nube."
¿Qué hacer?
¡Cuántas preguntas! ¿En local o en la nube para sus cargas de trabajo de IA / ML? ¿Archivo u objeto como repositorio de los datos que impulsan sus LLM? ¿Cómo agregará datos de varias ubicaciones y los gestionará a lo largo de todo el ciclo de vida? Las decisiones que tome afectarán a la solución de almacenamiento que más le convenga: Dell, VAST o NetApp.
O.. lo hacen?
Presentamos Scale Anywhere™ de Qumulo, una solución de almacenamiento y gestión de datos no estructurados 100% basada en software. Necesita una solución de centro de datos central? ¿Nube pública? Compruébelo. ¿Fichero? Comprobado. ¿Objeto? Comprobado. Toma las decisiones de ML que quieras - nosotros simplemente no me importa. Qumulo funciona donde usted lo necesite.
Tenemos clientes que abarcan varias plataformas de hardware de servidores de almacenamiento locales y varias nubes públicas. Lo mejor es que sus cargas de trabajo de datos no estructurados basadas en Qumulo están unificadas en todas ellas.
Estoy delante de los clientes todo el tiempo, y recibo muchos comentarios positivos al respecto. Es algo nuevo para mí en comparación con otras empresas en las que he trabajado, ¡pero me acostumbré rápido!
Tome las decisiones de ML con calma con Scale Anywhere™ de Qumulo.
Implantar ML requiere tomar muchas decisiones difíciles. Pero qué plataforma de almacenamiento utilizar no es una de ellas. Pruebe Scale Anywhere™ con Qumulo, y podrá gestionar todas sus cargas de trabajo de ML independientemente de las decisiones que tome..
Edge, Core o Cloud
Fichero u objeto
Recopilación, agregación y conservación de datos de formación
O ... para permitirle llevar sus modelos de inferencia a su borde distribuido
Qumulo es su opción de ML más sencilla.