Подробное объяснение QPS, TPS, RT и пропускной способности — этих показателей производительности с высоким уровнем параллелизма.
Подробное объяснение QPS, TPS, RT и пропускной способности — этих показателей производительности с высоким уровнем параллелизма.

С развитием интернет-технологий и приложений в нашей жизни требуется все больше и больше систем с высоким параллелизмом. Важными показателями для оценки уровней производительности этих систем с высоким уровнем параллелизма являются QPS, TPS, RT и пропускная способность.

  1. QPS

QPS — это аббревиатура английского Queries Per Seconds, что переводится на китайский язык как количество запросов в секунду. Обычно это относится к способности обрабатывать запросы, что означает количество запросов, которые сервер обрабатывает в единицу времени, в единицах раз/секунду. QPS позволяет примерно оценить максимальный трафик доступа, который может выдержать система в различных конфигурациях. Это один из показателей, используемых для оценки производительности внутреннего сервера. Когда нагрузка высока, один сервер может оказаться не в состоянии удовлетворить бизнес-потребности. Для расширения емкости и решения проблемы можно использовать другие методы.

  1. TPS

TPS — это аббревиатура Transactions Per Second, которая переводится на китайский язык как количество транзакций в секунду. По сравнению с QPS, TPS представляет собой более низкий уровень. Он не только представляет количество запросов или запросов, но и представляет статус выполнения отдельного элемента в системе, то есть количество раз, когда завершается полная обработка запроса. Значение ближе к фактической эффективности работы системы. TPS обычно используется для оценки в системах OLTP (онлайн-обработка транзакций), которые могут эффективно оценить фактический эффект производительности системы.

  1. RT

RT — это аббревиатура Response Time, которая переводится на китайский язык как время отклика. Это время, необходимое для одного запроса от выдачи запроса до получения ответа от сервера, включая время сетевой передачи, время обработки, время ожидания в очереди сервера и время, необходимое клиенту для получения данных. Быстрое реагирование особенно важно в современной интернет-индустрии. Идеальное время отклика должно быть на уровне миллисекунд.

  1. Пропускная способность

Пропускная способность в большинстве случаев связана с QPS или TPS, но является более точным показателем возможностей передачи и обработки данных системы. Использование пропускной способности для описания производительности системы может более точно представить количество одновременных запросов, которые система может обработать в течение заданного периода времени, а также может отражать стабильность и запас мощности системы. Как и в случае с шириной дороги, необходимо учитывать не только количество транспортных средств, но и то, может ли ширина дороги позволить всем транспортным средствам двигаться одновременно.

В практическом применении эти показатели также переплетены, связаны и влияют друг на друга. Например, чем больше QPS и TPS, тем больше запросов или транзакций обрабатывает система, что повлияет на производительность RT по времени ответа. В то же время из-за перегрузки накопление запросов подвержено таким проблемам, как снижение пропускной способности. Поэтому при оценке системы с высоким уровнем параллелизма нельзя просто смотреть на один из показателей производительности. Необходимо проводить оценку и анализ в нескольких измерениях, чтобы лучше измерить доступность и производительность системы, понять ее фактические возможности обработки и оптимизировать. и проанализировать при необходимости.

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose