일부 인프라 다이어그램은 단순한 기술 도식 이상의 의미를 지니며, 최첨단 컴퓨팅 성능과 진정으로 중요한 미션이 만나면 어떤 일이 가능한지에 대한 이야기를 담고 있습니다.
이 사례는 암 발견과 치료의 미래를 바꾸기 위해 노력하는 글로벌 의료 연구 및 치료 기관에서 나온 것입니다. 이 기관은 지금까지 제가 본 것 중 가장 인상적인 구축 사례 중 하나인 생명을 구하는 인사이트를 가속화한다는 한 가지 목적을 위해 설계된 랙 규모의 AI 슈퍼컴퓨터를 사용하고 있습니다.
이 시스템의 핵심은 64개의 NVIDIA HGX B200 GPU를 실행하는 수냉식 슈퍼마이크로 플랫폼입니다. 이는 단일 AI 시스템에서 1백만 개 이상의 CUDA 코어와 11테라바이트 이상의 고대역폭 메모리를 제공합니다. 테라비트급 멀티 100Gbps 네트워크를 통해 9대의 슈퍼마이크로 기반 올플래시 서버에 연결되며, 각각 Qumulo 데이터 플랫폼을 실행하는 이 설정은 밀리초 미만의 지연 시간으로 250억에서 300억 개의 파일 네임스페이스에 걸쳐 초당 50GB 이상의 읽기 및 초당 42GB의 쓰기를 유지하며 클러스터 전체에서 모두 내구성 있게 기록되고 보호됩니다.
이 점을 기억하세요.
초당 50기가바이트, 수백억 개의 데이터 포인트가 암 전이의 초기 신호를 포착하도록 설계된 고급 AI 모델에 공급되는 데 사용되고 있습니다. 이는 곧 조기 진단을 의미합니다. 보다 정확한 치료 계획. 삶의 질 향상. 그리고 수백만 명에게 희망을 줍니다.
이 클러스터는 1.25페타바이트의 가용 TLC 기반 NVMe 스토리지로 시작하지만 랙 내에서 3배로 확장한 후 하이브리드 TLC/QLC 기반 플래시 계층으로 원활하게 계층화할 수 있어 높은 성능과 비용 효율성을 유지할 수 있습니다. 이 아키텍처의 모든 요소(GPU 밀도, 대역폭, 규모, 파일 시스템 처리량)는 이 워크로드를 위해 특별히 설계되었습니다.
하지만 가장 인상적인 부분은 기술이 아닙니다.
사양보다 더 중요한 것은 목적입니다. 그리고 이 인프라에는 새로운 차원의 의료용 인식 AI를 구현하는 목적이 있습니다. 인간이 볼 수 없는 패턴을 볼 수 있습니다. 임상의가 데이터에 기반하여 더 빨리 개입할 수 있는 자신감을 갖게 하는 것입니다. 대규모로 생명을 구할 수 있습니다.
Qumulo에서는 이것이 바로 우리가 구축하는 이유입니다. 수십억 개의 파일을 처리하기 위해서가 아닙니다. 초당 테라바이트를 전송하기 위해서도 아닙니다. 의학, 과학, 인간 경험의 한계를 뛰어넘기 위해 노력하는 사람들을 지원하기 위해서입니다.
이 시스템을 구축하는 팀과 이 시스템에 의존하는 임상의 여러분께 감사드립니다. 여러분은 저희가 계속해서 놀라운 기술을 개발할 수 있도록 매일 영감을 주십니다.