Что означает стресс-тест tps_стресс-тест с высоким параллелизмом
Что означает стресс-тест tps_стресс-тест с высоким параллелизмом

Всем привет, мы снова встретились, я ваш друг Цюаньчжаньцзюнь.

В последнее время я сильно давлю на код.тест,Вот краткое изложение индикаторов и методов, используемых в стресс-тестировании.

Каталог статей

1 Показатели стресс-тестирования

1.1 TPS

TPS Транзакции Per Secondаббревиатура,Количество транзакций, обрабатываемых в секунду. Транзакция — это процесс, в котором клиент отправляет запрос серверу, а сервер отвечает** (полная обработка,То есть клиент инициирует запрос и получает ответ)**. Клиент начинает отсчет времени, когда отправляет запрос,Окончание времени после получения ответа сервера,Используйте это для расчета затраченного времени и количества завершенных транзакций.,Окончательная оценка с использованием этой информации равна。Транзакция может соответствовать нескольким запросам. Вы можете обратиться к транзакционной операции базы данных.

1.2 QPS

QPS Запросы Per Аббревиатура Second — количество запросов, которые могут быть обработаны в секунду (полная обработка, то есть клиент инициирует запрос и получает ответ). Это количество запросов, на которые сервер может ответить в секунду, и является мерой объема трафика, который конкретный сервер запросов обрабатывает в течение определенного периода времени. Из его полного английского названия можно сделать вывод, что оно означает запрос. Оказывается, в Интернете производительность машины как сервера системы доменных имен часто измеряется скоростью запросов в секунду. Соответствует числу выборок в секунду, то есть количеству запросов ответа в секунду. Хотя номинально это означает запрос, на самом деле сейчас принято использовать QPS для описания возможностей обработки одного сервиса интерфейса (даже если это не операция запроса).

1.3 Среднее время обработки (RT)

RT: Время ответа, среднее время обработки, необходимое для обработки запроса. Обычно мы также ориентируемся на среднее время обработки 90% запросов, поскольку из-за условий сети могут возникнуть экстремальные ситуации.

1.4 Количество одновременных пользователей (параллелизм)

Количество пользователей, отправляющих запросы к тестируемому интерфейсу в секунду.

1.5 Отношения конверсии

QPS = количество параллелизма/среднее время ответа Параллелизм = количество запросов в секунду * среднее время ответа

Например, к тестируемому интерфейсу одновременно обращаются 3000 пользователей (параллельно). Согласно пользовательской статистике, среднее время ответа для 3000 пользователей составляет 1188,538 мс. Таким образом, QPS = 3000/1,188538 с = 2524,11 кв/с. Мы можем описать этот тест следующим образом. В случае 3000 параллелизма QPS составляет 2524,11, а среднее время ответа — 1188,538 мс.

1.5 Разница между TPS и QPS

В начале этого вопроса я думал, что это одно и то же, но, увидев их английские имена на Чжиху, я теперь думаю: QPS может обрабатывать количество запросов в секунду, но сейчас он обычно используется для количества запросов в секунду, которое может обработать один сервисный интерфейс. Количество транзакций, обрабатываемых TPS в секунду. Если транзакция завершается только для одного сервисного интерфейса, мы также можем рассматривать это как QPS.

PS: Еще есть понятие запроса RPS в секунду. Количество запросов в секунду аналогично QPS и TPS при определенных условиях.

2 Метод стресс-тестирования

Мы можем использовать инструменты стресс-тестирования, чтобы имитировать стресс-тестирование системы несколькими пользователями. Позже будет представлено введение в инструменты измерения давления.

Метод тестирования заключается в сохранении определенного общего количества запросов неизменным, постепенном увеличении параллелизма и наблюдении за изменениями количества запросов в секунду и среднего времени ответа. Например, общее количество запросов составляет 10 000, затем проверяется значение QPS при параллельности 100, а затем 200, 300, 400, 500 и т. д.

Пропускная способность системы обычно определяется двумя факторами: TPS и параллелизмом. Каждая система имеет относительное предельное значение для этих двух значений. Под давлением сценариев приложения, пока определенный элемент достигает наивысшего значения системы. пропускная способность системы будет Если давление продолжает расти, вместо этого пропускная способность системы уменьшится. Причина в том, что система перегружена, переключение контекста, использование памяти и другие виды потребления приводят к снижению производительности системы. Вот диаграмма измерения давления с помощью инструмента ab.

На картинке видно, что время Параллелизма в 2000 году,QPS достигло около 2500,Последующие увеличения параллелизма сохранят это число на уровне 2500.,Указывает, что интерфейс находится в этой конфигурации,QPS – 2500.,То есть система может обрабатывать всего около 2500 запросов в секунду.,Последующее увеличение параллелизма приведет лишь к увеличению среднего времени ответа.(PS:Потому что он может обрабатывать только2500запросы,И одновременно существует 7000 параллелей.,Естественно, это вызовет нагромождение запросов.,привести ксреднее время (ответ станет длиннее) Мы видим, что даже QPS начинает резко падать после превышения 14 000, что говорит о том, что система перегружена, из-за чего производительность начинает резко падать. И вообще, мы считаем, что среднее время Когда ответ достигает определенного значения, он уже неприемлем.

3 Сопутствующие документы

Блог, созданный для оценки параллельной работы устройств IoT: https://blog.csdn.net/m0_37263637/article/details/88649056 Инструмент стресс-тестирования ab: https://blog.csdn.net/m0_37263637/article/details/78558890 Node результаты стресс-теста экспресс-фреймворка: https://blog.csdn.net/m0_37263637/article/details/88749198

Издатель: Лидер стека программистов полного стека, укажите источник для перепечатки: https://javaforall.cn/125192.html Исходная ссылка: https://javaforall.cn

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose