Введение в часто используемые инструменты стресс-тестирования HTTP-сервисов.
Введение в часто используемые инструменты стресс-тестирования HTTP-сервисов.

Прежде чем проект будет официально запущен, нам обычно необходимо использовать стресс-тестирование, чтобы оценить объем запросов, которые может поддерживать текущая система, и устранить возможные скрытые ошибки. В то же время понимание реальных возможностей обработки программы может помочь нам лучше соответствовать требованиям. фактические потребности проекта и экономия затрат на ресурсы.

Инструмент стресс-тестирования HTTP-сервиса

Прежде чем проект будет официально запущен, нам обычно необходимо использовать стресс-тестирование, чтобы оценить объем запросов, которые может поддерживать текущая система, и устранить возможные скрытые ошибки. В то же время понимание реальных возможностей обработки программы может помочь нам лучше соответствовать требованиям. фактические потребности проекта и экономия затрат на ресурсы.

Термины, связанные со стресс-тестированием

  • Время ответа (RT): относится к времени, которое требуется системе для ответа на запрос.
  • Пропускная способность: относится к количеству запросов, обрабатываемых системой в единицу времени.
  • Частота запросов QPS в секунду (Query Per Second) :“Скорость запросов в секунду”,Количество запросов, на которые сервер Служить может ответить в секунду.,Это мера того, какой объем трафика обрабатывает конкретный сервер запросов в течение определенного периода времени.
  • TPS (TransactionPerSecond): количество транзакций или транзакций, которые система может обрабатывать в секунду.
  • Количество одновременных подключений:некоторое время Служитьпринимается устройством Всего запросов

Инструменты стресс-тестирования

ab

Полное название ab — Apache Bench, собственный инструмент тестирования производительности Apache. Используя этот инструмент, вам нужно всего лишь указать количество одновременных подключений, количество запросов и URL-адрес для проверки производительности веб-сайта или веб-программы.

Отправляя запрос через ab для имитации одновременного доступа нескольких посетителей к определенному URL-адресу, вы можете получить статистические данные, такие как количество передаваемых байтов в секунду, количество обрабатываемых запросов в секунду и время обработки каждого запроса. .

Формат команды:

Язык кода:javascript
копировать
ab [options] [http://]hostname[:port]/path

Обычно используемые параметры следующие:

Язык кода:javascript
копировать
-n requests Всего запросов
-c concurrency Количество запросов, генерируемых одновременно, можно понимать как количество параллелизма.
-t timelimit Максимальное количество секунд, которое занимает тест, Может использоваться как таймаут запроса.
-p postfile Файл, содержащий данные для отправки POST.
-T content-type Информация заголовка типа контента, используемая данными POST.

Пожалуйста, посмотрите больше параметровОфициальная документация

Например, протестируйте интерфейс запроса GET:

Язык кода:javascript
копировать
ab -n 10000 -c 100 -t 10 "http://127.0.0.1:8080/api/v1/posts?size=10"

Проверьте интерфейс запроса POST:

Язык кода:javascript
копировать
ab -n 10000 -c 100 -t 10 -p post.json -T "application/json" "http://127.0.0.1:8080/api/v1/post"

wrk

wrkЭто открытый исходный кодHTTPпроизводительностьтестинструмент,Это то же самое, что упоминалось вышеabпринадлежат к одному и тому жеHTTPпроизводительностьтестинструмент,это лучше, чемabБолее мощный,Более сложные сценарии тестирования можно поддерживать путем написания сценариев Lua.

Установка под Mac:

Язык кода:javascript
копировать
brew install wrk

Общие параметры команды:

Язык кода:javascript
копировать
-c --conections: количество поддерживаемых соединений.
-d --duration: продолжительность стресс-теста (сек)
-t --threads: общее количество используемых потоков
-s --script: загрузить lua-скрипт
-H --header: добавить некоторые параметры в заголовок запроса
--latency Печать подробной статистики задержки
--timeout Максимальный таймаут для запросов (с)

Пример использования:

Язык кода:javascript
копировать
wrk -t8 -c100 -d30s --latency http://127.0.0.1:8080/api/v1/posts?size=10

Результат вывода:

Язык кода:javascript
копировать
Running 30s test @ http://127.0.0.1:8080/api/v1/posts?size=10
  8 threads and 100 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency    14.55ms    2.02ms  31.59ms   76.70%
    Req/Sec   828.16     85.69     0.97k    60.46%
  Latency Distribution
     50%   14.44ms
     75%   15.76ms
     90%   16.63ms
     99%   21.07ms
  198091 requests in 30.05s, 29.66MB read
Requests/sec:   6592.29
Transfer/sec:      0.99MB

go-wrk

go-wrkдаGoязыковая версияwrk,Студенты Windows могут использовать его для тестирования,Используйте следующую команду для установкиgo-wrk

Язык кода:javascript
копировать
go get github.com/adeven/go-wrk

Способ использования такой же, как иwrkпохожий,Основной формат следующий:

Язык кода:javascript
копировать
go-wrk [flags] url

Часто используемые параметры:

Язык кода:javascript
копировать
-H="User-Agent: go-wrk 0.1 bechmark\nContent-Type: text/html;": Заголовки запросов, разделенные '\n'
-c=100: Максимальное количество используемых соединений
-k=true: Отключить ли проверку активности
-i=false: if TLS security checks are disabled
-m="GET": Метод HTTP-запроса
-n=1000: Всего запросов
-t=1: Количество используемых потоков
-b="" Тело HTTP-запроса
-s="" Если указано, будет подсчитано, как часто ответ содержит искомую строку s.

Выполните тест:

Язык кода:javascript
копировать
go-wrk -t=8 -c=100 -n=10000 "http://127.0.0.1:8080/api/v1/posts?size=10"

Результат вывода:

Язык кода:javascript
копировать
==========================BENCHMARK==========================
URL:                            http://127.0.0.1:8080/api/v1/posts?size=10

Used Connections:               100
Used Threads:                   8
Total number of calls:          10000

===========================TIMINGS===========================
Total time passed:              2.74s
Avg time per request:           27.11ms
Requests per second:            3644.53
Median time per request:        26.88ms
99th percentile time:           39.16ms
Slowest time for request:       45.00ms

=============================DATA=============================
Total response body sizes:              340000
Avg response body per request:          34.00 Byte
Transfer rate per second:               123914.11 Byte/s (0.12 MByte/s)
==========================RESPONSES==========================
20X Responses:          10000   (100.00%)
30X Responses:          0       (0.00%)
40X Responses:          0       (0.00%)
50X Responses:          0       (0.00%)
Errors:                 0       (0.00%)
boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose