DGX SuperPOD — это высокоинтегрированное суперкомпьютерное решение, выпущенное NVIDIA и предназначенное для предоставления предприятиям и исследовательским учреждениям высокопроизводительных вычислительных возможностей искусственного интеллекта. Это решение позволяет пользователям быстро создавать и развертывать крупномасштабные кластеры графических процессоров для решения сложных задач искусственного интеллекта и машинного обучения.

Основные особенности

1. Высокопроизводительные вычислительные возможности.

DGX SuperPOD можно настроить как суперкомпьютерный кластер с возможностями вычислений с плавающей запятой на пета-уровне, что означает, что он может выполнять десятки петафлопс операций с плавающей запятой в секунду.

Используйте новейшие графические технологии NVIDIA, такие как графические процессоры H100 и H200, которые обеспечивают чрезвычайно высокую плотность вычислений и эффективность.

2. Гибкая масштабируемость

Пользователи могут выбирать различное количество узлов для создания кластеров в соответствии со своими потребностями, и каждый узел основан на NVIDIA DGX A100 или более продвинутых системах.

Такая гибкость позволяет DGX SuperPOD адаптироваться к потребностям любого размера, от небольших проектов до крупных предприятий.

3. Высокоскоростное соединение

DGX SuperPOD использует технологии высокоскоростного соединения NVIDIA, такие как NVLink и NVSwitch, а также коммутаторы NVIDIA Mellanox InfiniBand или NVIDIA Spectrum Ethernet, чтобы обеспечить передачу данных с низкой задержкой и высокой пропускной способностью между узлами внутри кластера.

4. Экосистема программного обеспечения

DGX SuperPOD интегрирует программный стек NVIDIA, включая NVIDIA CUDA-X AI и NVIDIA GPU Cloud (NGC), предоставляя разработчикам множество инструментов и инфраструктур для ускорения разработки и развертывания приложений искусственного интеллекта.

Программный пакет NVIDIA AI Enterprise также предоставляет комплексные возможности управления, помогающие пользователям легко управлять и отслеживать состояние кластера.

5. Простота развертывания и управления.

NVIDIA Bright Cluster Manager упрощает развертывание кластера и предоставляет интуитивно понятный интерфейс для мониторинга и управления.

Пользователи могут быстро настроить полную вычислительную среду с помощью простых шагов, и для ее работы не требуется глубоких технических знаний.

Сценарии применения

Масштабное обучение машинному обучению

Он подходит для обучения крупномасштабных моделей нейронных сетей, таких как большие модели обработки естественного языка (NLP), компьютерного зрения и других областей.

высокопроизводительные вычисления

Он подходит для задач научных вычислений, требующих больших объемов вычислительных ресурсов, таких как моделирование климата, геномный анализ и т. д.

Особенности архитектуры DGX SuperPOD

NVIDIA DGX SuperPOD — это высокоинтегрированное суперкомпьютерное решение со следующими архитектурными особенностями: строительные блоки - DGX GB200 система за DGX GB200система： Содержит 36 карт-ускорителей GB200, каждая карта-ускоритель содержит 2 карты Blackwell. графического процессора, поэтому каждый набор содержит в общей сложности 72 графических процессора Blackwell. GPU。 Каждая карта-ускоритель GB200 также оснащена функцией Grace. CPU。 Он имеет 13,3 ТБ видеопамяти HBM3e и 30,2 ТБ высокоскоростной памяти. Подключайтесь через NVLink пятого поколения.

Состав кластера: на 8 или более DGX Состав системы GB200. Все графические процессоры в этой системе могут быть подключены через NVLink для формирования единого пула вычислительных ресурсов. от NVIDIA Quantum Сетевое подключение InfiniBand поддерживает высокоскоростную связь между тысячами графических процессоров. Вычислительная производительность: Обеспечивает точность 11,5 при FP4. эксафлопс мощности суперкомпьютера искусственного интеллекта. за DGX Вычислительная мощность системы GB200 достигает 1440 при точности FP4 PFLOPS。 В целом система может обеспечить до 240 ТБ высокоскоростной видеопамяти.

Технология охлаждения:

Он использует эффективную архитектуру стоечного типа с водяным охлаждением, обеспечивающую стабильную работу и хороший эффект рассеивания тепла. Масштабируемость: Это можно сделать, увеличив DGX. Система GB200 позволит расширить масштабы всего кластера, который теоретически можно расширить до десятков тысяч суперчипов GB200.

Поддержка программного обеспечения: Включает набор библиотечных технологий, таких как технология NVIDIA Magnum IO™ и технология NVIDIA CUDA-X™, которые оптимизируют производительность связи между графическими процессорами и максимизируют производительность приложений. Программный пакет NVIDIA AI Enterprise предоставляет возможности управления кластером, мониторинга и оптимизации.

Конфигурация узла

NVIDIA DGX Архитектура SuperPOD состоит из нескольких DGX. В составе системы GB200. за DGX Система GB200 содержит 36 карт-ускорителей GB200, каждая карта-ускоритель содержит 2 карты Blackwell. графический процессор, поэтому каждый набор DGX Система GB200 содержит в общей сложности 72 Blackwell. GPU。 По умолчанию DGX SuperPOD состоит из 8 DGX Состав системы GB200 Имеется в виду DGX в стандартной конфигурации. Всего в SuperPOD имеется: 8 * 72 = 576 Итак, стандартная конфигурация DGX SuperPOD от 576 Blackwell Состав графического процессора. Следует отметить, что DGX SuperPOD теоретически масштабируется за счет добавления большего количества DGX. GB200система для расширения масштабов всего кластера. поэтому,В реальных развертываниях может быть больше узлов графического процессора. Но что касается конфигурации по умолчанию.,Он содержит 576 узлов графического процессора.

Подвести итог

DGX SuperPOD — это высокоинтегрированное и простое в использовании суперкомпьютерное решение, предназначенное для ускорения ивысокопроизводительных процессов искусственного интеллекта. Предназначен для вычислений. Он сочетает в себе мощную вычислительную производительность, Гибкая. масштабируемостьи идеальныйпрограммное Поддержка программного обеспечения позволяет пользователям сосредоточиться на инновациях и решении проблем, не слишком беспокоясь о технических деталях.

DGX SuperPODиз Архитектура Характеристики вращаются вокругвысокопроизводительные Вычисления разработаны и оптимизированы с помощью высокоинтегрированной аппаратной программы стек программного обеспечения предоставляет пользователям мощную и гибкую вычислительную платформу. Эта Архитектура особенно подходит для тех Сценариев, которым необходимо обрабатывать крупномасштабные наборы данных и сложные вычислительные задачи. применения, такие как глубокое обучение, обучение ивысокопроизводительные вычисления Задача。