Описание объема вычислений модели и вычислительной мощности видеокарты
О глубоком обучениеиз Вычислительная мощность、Сумма В расчетах много элементов, и в этой статье отражено соответствующее содержание.
концепция
Вычислительная мощность
Относится к способности вычислительного оборудования (GPU, CPU, NPU и т. д.) выполнять вычисления. Общий показатель оценки — это количество операций, выполненных в единицу времени.
Сумма расчета
Относится к объему вычислений, необходимых в процессе вывода модели. Обычно используется для оценки размера модели и времени выполнения вывода.
Общие единицы
Тип устройства | Английская аббревиатура | Английский | значение |
|---|---|---|---|
Класс скорости чипа | OPS | operations per second | Время обработки в секунду (заглавная буква S означает секунду) обычно относится к количеству операций над типом INT8, а целочисленный тип по умолчанию опущен. |
Класс скорости чипа | FLOPS | Floating point number operations per second | Сколько раз в секунду обрабатывается число с плавающей запятой (заглавная буква S означает секунду), обычно FP32, с упором на плавающую запятую. |
Класс скорости чипа | TOPS | Tera operations per second | Триллионы раз обработано в секунду $10^{12}$ (заглавная буква S означает секунду) |
Класс скорости чипа | TFLOPS | Tera Floating point number operations per second | Обработка чисел с плавающей запятой триллионы раз в секунду $10^{12}$ (заглавная буква S означает секунду) |
Класс скорости чипа | FLOPs | Floating point number operations | Количество операций с плавающей запятой, которые необходимо обработать при выводе модели (S — в нижнем регистре, что указывает на комплексное число). |
Класс объема модели | TFLOPs | Tera Floating point number operations | Вывод модели требует обработки триллионов операций с плавающей запятой $10^{12}$ (S — строчная буква, обозначающая множественное число) |
- Наиболее часто используемые и легко путаемые: TOPS и ФЛОПС, ФЛОПС.
1. Самая большая путаница,Вышеупомянутые три существительных — это две разные вещи.,Уведомление“S/s”из Случай。TOPSиFLOPSобратитесь кизв секундуиз Сумма Расчет, обозначающий скорость, используется в чип-вычислительной системе. мощностьпроизводительностьначальство。FLOPsобратитесь киздаглубокое обучение Модельсамиз Сумма Расчет, обозначающий объем, используется в глубоком обучение Сам параметр модели Сумма расчетаначальство。
2、против Вычислительная мощность TOPS и FLOPS с точки зрения скорости, где OPS относится к Времени обработки в секунду,Но обычно это количество раз обработки по умолчанию для целых чисел INT8 (INT8 опускается и не записывается).,После добавления FL FLOPS обозначает количество раз обработки чисел с плавающей запятой FP32.
3. По-прежнему таргетинг на Вычислительную мощность TOPSиFLOPS в терминах скорости, где T относится к величине (Тера , триллионы, 10^12), аналогично терафлопс конкретно относится к числу триллионов раз, когда числа с плавающей запятой обрабатываются в секунду.
- На рисунке ниже показана часть информации о Вычислительной мощности nvidia-A100/H100, которую можно сравнить с разницей TOPS/TFLOPS.
- дляописывать Модель Вычислительная мощностьиз TFLOPs
сеть | Сумма операции |
|---|---|
AlexNet | Чтобы AlexNet мог обрабатывать изображения размером 224*224, требуется 1,4 ГБ FLOPS. |
ResNet-152 | Для изображений 224*224 ResNet-152 требует 22,6 ГБ FLOPS. |
Преобразование величины вычислительного блока питания
единица | описывать |
|---|---|
1 MOPS = 10^6 FLOPS | Один MFLOPS (мегафлопс) равен одному миллиону (=10^6) операций с плавающей запятой в секунду. |
1 GOPS = 10^9 FLOPS | Один GFLOPS (гигафлопс) равен одному миллиарду (=10^9) операций с плавающей запятой в секунду, миллиарду (в некоторых местах может использоваться B, миллиард, миллиард) |
1 TOPS = 10^12 FLOPS | Один терафлопс (терафлопс) равен одному триллиону (= 10^12) операций с плавающей запятой в секунду (1 тера). |
1 PFLOPS = 10^15 FLOPS | Один ПФЛОПС (петафлопс) равен одному квадриллиону (= 10^15) операций с плавающей запятой в секунду. |
1 EFLOPS = 10^18 FLOPS | Сто (=10^18) операций с плавающей запятой в секунду. |
1 ZFLOPS = 10^21 FLOPS | Эквивалент ста тысяч (= 10^21) операций с плавающей запятой в секунду. |
Преобразование единиц научных вычислений
10^15 | стреляй в это | P | peta | |
|---|---|---|---|---|
10^12 | Тера (миллиардов) | T | tera | триллион триллион |
10^9 | Джика (миллиардов) | G | giga | миллиард миллиардов |
10^6 | Триллион (миллионов) | M | mega | миллион миллионов |
10^3 | тысяча | k | kilo | |
Ссылки
- https://blog.csdn.net/zaibeijixing/article/details/135425642
- https://blog.csdn.net/zwqjoy/article/details/132056456
- https://zhuanlan.zhihu.com/p/649993943
Ссылка на статью:
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
Идеальная интеграция Cursor и DeepSeek API
DeepSeek V3 снижает затраты на обучение больших моделей
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
Cloud Native｜Практика: установка Dashbaord для K8s, графика неплохая
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
Центр конфигурации————Накос
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
[Зона легкого облачного игрового сервера] Управление игровыми архивами
