Архитектура NVIDIA Ampere и архитектура Hopper соответственно представляют собой две важные вехи в разработке графических процессоров компании. Обе технологии имеют значительный прогресс и различия в производительности, энергоэффективности и поддержке различных сценариев приложений.

Амперная архитектура (Амперная архитектура)

Время выпуска: архитектура Ampere дебютировала с вычислительной картой NVIDIA A100 в 2020 году и в основном ориентирована на центры обработки данных, профессиональные графические приложения и рынки высококлассных игр.

Основные технические характеристики:

1. Более высокие возможности параллельных вычислений: по сравнению с архитектурой предыдущего поколения конструкция Ampere поддерживает больше параллельных вычислений, улучшая возможности обработки высокопроизводительных вычислений (HPC) и задач анализа сложных данных.

2. Ядро RT второго поколения и тензорное ядро ​​третьего поколения. Внедрение этих ядер значительно расширило возможности трассировки лучей и вычислений на основе искусственного интеллекта, значительно улучшив рендеринг в реальном времени, физическое моделирование и рассуждения ИИ в играх и профессиональных приложениях.

3. Улучшенная конструкция потокового мультипроцессора (SM): повышенная производительность на ватт, что позволяет выполнять больше операций за такт.

4. Большая пропускная способность и более быстрая память. Благодаря использованию более быстрой памяти HBM2e и поддержке PCIe 4.0 скорость передачи данных повышается.

Сценарии применения: архитектура Ampere широко используется в ускорении центров обработки данных, профессиональных рабочих станциях, высококлассных игровых видеокартах и ​​т. д., например, в игровых видеокартах серии RTX 30.

Бункерная архитектура

Бункерная от NVIDIA архитектура – ​​это крупная технологическая инновация,Создан для ускорения компьютерного проектирования.,Разработан для удовлетворения потребностей рабочих нагрузок, начиная от малого бизнеса и заканчивая экзафлопсными высокопроизводительными вычислениями (HPC) и экзафлопсным искусственным интеллектом (ИИ).

Время выхода: Бункерная архитектура была официально запущена в 2022 году совместно с американским ученым-компьютерщиком Грейс. Название Hopper знаменует собой еще одно важное нововведение в конструкции графических процессоров Nvidia, ориентированное в основном на рынок центров обработки данных и высокопроизводительных вычислений.

Бункерная Анализ технических принципов архитектуры: 1. Конструкция многочипового модуля (MCM) Бункерная архитектура использует инновационную конструкцию многочипового модуля (MCM), это серьезное изменение, которое означает, что графический процессор больше не представляет собой один большой чип, а состоит из нескольких маленьких чипов, объединенных вместе с помощью технологии высокоскоростного соединения. Такая конструкция обеспечивает более гибкое масштабирование и более высокую плотность производительности, а также помогает повысить производительность и снизить затраты. 2. Tensor Основная эволюция Бункерная Тензорное ядро ​​архитектуры Ядра) были дополнительно улучшены для поддержки более широкого диапазона точности математических операций, таких как FP64, TF32, FP16 и т. д., что имеет решающее значение для задач научного моделирования и обучения искусственного интеллекта, требующих высокоточных вычислений. Что касается производительности ИИ, H100 Графический процессор достигает лучших результатов по сравнению с предыдущим поколением A100 при различной точности. Улучшение производительности графического процессора до 3 раз. 3. Поддержка и оптимизация разреженности NVIDIA уделяет все больше внимания технологии разреженности, Бункерная архитектура поддерживает динамическую разреженность, позволяя графическому процессору пропускать расчет нулевых весов при обработке нейронных сетей, тем самым повышая эффективность и производительность. Это особенно полезно для крупномасштабных моделей глубокого обучения, которые, как правило, содержат большое количество весов с нулевыми значениями. 4. Безопасность и масштабируемость Бункерная архитектура делает упор на безопасность и имеет множество встроенных функций безопасности, обеспечивающих безопасность данных во время передачи и обработки. В то же время этот дизайн используется для безопасного расширения и поддержки различных центров. обработки рабочие нагрузки данных, от периферийных вычислений до гипермасштабируемых центров обработки данных, может обеспечить эффективную и безопасную работу. 5. Передовые технологии производства H100 В графических процессорах используются передовые производственные процессы (например, 4N или 5-нм процессы TSMC), которые позволяют им интегрировать больше транзисторов при сохранении энергоэффективности, достигая порядка 80–140 миллиардов, что значительно повышает плотность вычислений и энергоэффективность. 6. Технология высокоскоростного соединения и хранения данных Бункерная архитектура оптимизирует пропускную способность памяти и скорость передачи данных, возможно, используя HBM3 или аналогичную технологию высокоскоростной памяти, а также улучшенную технологию NVLink и NVSwitch для обеспечения эффективного обмена данными в конфигурациях с несколькими графическими процессорами, что имеет решающее значение для крупномасштабных параллельных вычислений. 7. Экологическая поддержка программного обеспечения Помимо аппаратных инноваций, Бункерная архитектура также сопровождается комплексным обновлением экосистемы программного обеспечения, включая оптимизацию инструментов и библиотек, таких как CUDA, cuDNN и TensorRT, гарантируя, что разработчики смогут полностью использовать потенциал новой архитектуры, упростить процесс разработки и ускорить применение. развертывание.

Сценарий применения: Бункерная Ожидается, что архитектура будет использована в центре обработки данныхвысота целипроизводительностьвычислить、Большая языковая модель、исследования искусственного интеллекта, глубокое обучение и другие востребованные области,А также лучшие профессиональные графические продукты.

В заключение Бункерная архитектура — это комплексное обновление Ampere Архитектура. Оно содержит значительные улучшения с точки зрения количества транзисторов, дизайна чипов, производственного процесса и т. д. Цель — удовлетворить спрос на более высокие вычислительные мощности и энергоэффективность в ближайшие несколько лет, особенно в быстрорастущих странах. ИИ и центр обработки данныхрынок。