QPS (Queries Per Second) запросов в секунду

Скорость запросов в секунду, количество запросов, которые система может обработать в секунду, то есть количество соответствующих запросов, которые сервер может обработать в секунду, является мерой того, какой объем трафика обрабатывает конкретный сервер запросов в течение определенного периода. времени.

Существует две формулы расчета:

QPS = запрос/сек = количество запросов в секунду

QPS = общее количество запросов / (общее количество процессов * время запроса)

TPS (транзакций в секунду) транзакций в секунду

Транзакций в секунду, то есть количества транзакций, которые система может обработать в секунду.

Процесс TPS включает в себя: клиент запрашивает сервер, сервер выполняет внутреннюю обработку и сервер возвращает клиенту. Клиент начинает отсчет времени, когда отправляет запрос, и заканчивает, когда получает ответ сервера, для расчета затраченного времени и количества завершенных транзакций.

Разница между TPS и QPS

Транзакция — это процесс, в котором клиент отправляет запрос серверу, а сервер отвечает. В этом TPS для обработки первого запроса может потребоваться несколько последующих посещений сервера для завершения работы. Каждое посещение засчитывается как QPS. Следовательно, TPS может содержать несколько QPS.

Посещение страницы составляет один Tps, но запрос страницы может генерировать несколько запросов к серверу. Эти запросы от сервера могут учитываться в «Qps». Например: при доступе к странице запросится сервер 3 раза, и как только он будет выпущен, будет сгенерировано «T» и 3 «Q».

PV（Page View）просмотры страниц

Подсчитывается количество просмотров страницы, каждый раз, когда пользователь посещает или обновляет страницу.

Когда пользователь обновляет одну и ту же страницу несколько раз, количество посещений суммируется. С PV связано RV, то есть количество повторных посетителей.

Формула расчета:

Ежедневное PV=QPS*60*60*24 //Это QPS, умноженное на секунды в день.

Пиковое количество запросов в секунду = (дневное PV*80%)/(60*60*24*20%)//Общая формула 80% посещений каждый день сосредоточены в20%В то время это 20% времени называется пиковым временем

UV (Unique Visitor) — количество уникальных посетителей.

Подсчитайте количество пользователей, посетивших определенный сайт в течение 1 дня (на основе файлов cookie). Один компьютерный терминал является посетителем.

Его можно понимать как количество компьютеров, посещающих веб-сайт. Веб-сайт определяет личность посещающего компьютера посредством файлов cookie посещающего компьютера. Если вы измените IP-адрес, но не очистите файлы cookie, а затем посетите тот же веб-сайт, номер UV в статистике веб-сайта останется неизменным. Если пользователь посещает сайт без сохранения файлов cookie, удаляет файлы cookie или посещает сайт с другого устройства, счетчик будет увеличен на 1. Многократные посещения одного и того же клиента в период с 00:00 до 24:00 будут учитываться только как 1 посетитель.

IP (Интернет-протокол) Независимый счетчик IP

Относится к тому, сколько независимых IP-адресов просматривали страницу за один день, то есть подсчитывает количество просматривающих пользователей с разных IP-адресов.

Независимо от того, сколько страниц посещается с одного и того же IP-адреса, количество независимых IP-адресов равно 1, когда разные IP-адреса просматривают страницы, счетчик будет увеличен на 1; IP различает разных посетителей на основе IP-адреса пользователя в глобальной сети. Таким образом, несколько пользователей (несколько IP-адресов локальной сети), просматривающих Интернет на одном маршрутизаторе (один и тот же IP-адрес глобальной сети), могут быть записаны как независимые посетители по IP. Если пользователь продолжает менять IP-адрес, он или она могут быть учтены несколько раз.

RT (время отклика) время отклика

Общее время, необходимое для выполнения запроса от начала до конца при получении данных ответа, то есть время от клиента, инициирующего запрос, до получения результата ответа сервера. Его числовое значение напрямую отражает скорость системы.

Среднее время ожидания запроса пользователя (время на запрос)

Формула Расчет: время ожидания запроса на отрисовку пользователя. = общее время / (Общее количество запросов / Количество одновременных пользователей)

Среднее время ожидания запроса сервера (время на запрос: для всех одновременных запросов)

Формула Расчет: среднее время ожидания сервера = общее время / Всего запросов = Среднее время ожидания запроса пользователя / Количество одновременных пользователей

Какова связь между QPS и RT?

1. Для большинства веб-систем время ответа обычно состоит из времени выполнения ЦП и времени ожидания потока (ожидание ввода-вывода, ожидание, ожидание). QPS и RT обратно пропорциональны

2. В реальной тестовой среде QPS и RT не имеют прямой обратной зависимости.

Количество одновременных подключений

Количество одновременных запросов/количество подключений относится к количеству запросов, которые система может обрабатывать одновременно. Это также отражает грузоподъемность системы.

Формула расчет: параллелизм = QPS * Среднее время ответа, количество одновременных запросов = Количество одновременных пользователей * Среднее количество запросов на одного пользователя

Количество одновременных пользователей（The number of concurrent users, Concurrent Level）

Относится к количеству пользователей онлайн в определенное время. Пользователь может иметь несколько сеансов одновременно, то есть несколько соединений запроса.

Пропускная способность RPS (запросов в секунду)

Пропускная способность — это количество запросов, которые система может обработать в единицу времени. Единица измерения — запрос/с, которая отражает способность системы обрабатывать запросы.

Пропускная способность зависит от количества одновременных пользователей. Это предложение имеет два значения: а. Пропускная способность и Количество. одновременных пользователей Связанный；b、Разное количество одновременных Под пользователями пропускная способность вообще разная

Максимальное число запросов, которое может быть обработано в единицу времени в определенной системе, называется максимальной пропускной способностью.

Пропускная способность системы (выдерживающая давление) тесно связана с потреблением процессора, внешних интерфейсов, ввода-вывода и т. д. запросом. Чем выше потребление ЦП для одного запроса, тем медленнее внешний системный интерфейс и скорость ввода-вывода, а также ниже пропускная способность системы, и наоборот. Несколько важных параметров пропускной способности системы: QPS (TPS), количество параллелизма и время ответа.

Формула расчет:Пропускная способность =Количество одновременных запросов/Общее время обработки запроса

Например: в Количество одновременных Когда количество пользователей равно 1000, общее количество запросов составляет 5000, а запрос длится 5 минут. Затем каждую секунду сервер может обрабатывать 5000/5*60. = Еще 16 запросов. Это пропускная способность сервера

GVM (валовой объем товаров) общий объем стоимости товаров

GMV = 1 продажа + 2Отменить сумму заказа + 3Отклонить сумму заказа + 4Возврат суммы заказа*。

GMV — это текущая вода. Пока вы размещаете заказ и генерируете номер заказа, GMV будет учитываться. Однако, когда этот заказ преобразуется в фактический доход платформы, потери все равно будут составлять 2, 3 или 4.

Продажи обычно соответствуют фактическим продажам.

Практические примеры

Давайте вместе разберемся с вышеизложенными понятиями на примере. Если 80% ежедневных посещений приходится на 20% времени, эти 20% времени называются пиковым временем.

Формула: (Общее количество PV * 80%) / (Секунды в день * 20%) = Количество запросов в секунду (QPS) в пиковое время.

Машина: QPS в секунду в пиковое время / QPS одной машины = требуемая машина

1. Если на одной машине используется 3 миллиона PV в день, сколько запросов в секунду потребуется этой машине?

( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

2. Если QPS машины равен 58, сколько машин необходимо для ее поддержки?

139 / 58 = 3

3. Серверные вычисления

Количество серверов = ячейка (общая PV в день / общая PV в день для одного сервера)

Оптимальное количество потоков

1. Формула однопоточного QPS: QPS=1000 мс/RT.

Для одной и той же системы, чем больше потоков поддерживается, тем выше QPS. Если предположить, что RT составляет 80 мс, можно легко рассчитать QPS: QPS = 1000/80 = 12,5.

В многопоточном сценарии, если количество потоков на сервере увеличить до 2, то QPS всей системы составит 2*(1000/80) = 25. Видно, что QPS линейно возрастает с увеличением потоки Если QPS не может увеличиться, просто добавьте потоки, это звучит разумно и имеет смысл, но на самом деле это часто не так.

2、Оптимальное количество потоковколичество

Критическое количество потоков, которое просто потребляет узкие ресурсы сервера, формула выглядит следующим образом:

Оптимальное количество количество потоков = ((время ожидания потока + время процессора потока) / время процессора потока) * количество процессоров

характеристика:

При достижении Оптимального количество Когда потоки,Количество потоков продолжает увеличиваться,Тогда QPS остается неизменным,Время ответа становится больше,Постоянное увеличение количества потоков,Затем QPS начинает снижаться.

Каждая система имеет свое Оптимальное количество количество потоков, но в разных состояниях, Оптимальное количество Количество потоков изменится.

Узким местом может быть процессор, может быть память,Может быть ресурсом блокировки,Ресурсы IO: более чем Оптимальное количество поток - вызывает конкуренцию за ресурсы, более чем Оптимальное количество поток - увеличивается время отклика.

ссылка:

Испытание давлениемобратитесь котметка：https://blog.csdn.net/qq_31749835/article/details/103969076

Стресс-тест обратиться котметка：https://cloud.tencent.com/developer/news/360223

QPS,TPS,Пропускная способность,Подробное объяснение и взаимосвязь времени отклика：https://www.cnblogs.com/kumufengchun/p/11065413.html

QPS、TPSчто такое：https://www.cnblogs.com/leadership/p/11555409.html