Описание метрик в KUMA

Официальная документация по данному разделу приведена в Онлайн-справке на продукт: https://support.kaspersky.ru/help/KUMA/3.2/ru-RU/218035.htm

По умолчанию данные о работе KUMA хранятся 3 месяца. Этот срок можно изменить, см. справку.

В KUMA роль системы мониторинга выполняет Victoria Metrics. Информация по всем микросервисам обновляется каждые 5 секунд по HTTP-интерфейсу. А Grafana отвечает за отображение метрик, собранных с помощью Victoria Metrics.

Для просмотра всех наборов графиков щелкните сюда (на имя подсвеченное зеленым) в разделе KUMA "Метрики":

Общие метрики

Следующие метрики извлекаются из всех микросервисов KUMA

Process — Общие метрики процесса
Memory — Утилизация оперативной памяти, оценивается резидентная память (RSS - Resident set size)
DISK BPS — Количество байт в секунду прочитанных/записанных на диск
Network BPS — Количество байт в секунду полученных/отправленных в сеть
Network Packet Loss — Количество утраченных сетевых пакетов в секунду
GC Latency — Время (медиана), затраченное на цикл Garbage Collector'а GO
Goroutines — Текущее количество активных Go-рутин (потоки в Golang)

OS (Общие метрки операционной системы)

Load — Load average (средняя нагрузка) на ЦП. Обычно да 1, 5 и 15 минут, если число нагрузки за 15 минут более количества ядер (включая виртуальные) системы, то это не нормально
CPU — Общая утилизация ЦП
Memory — Общая утилизация оперативной памяти (RSS). В норме, когда число не доходит до 100%
Disk — Утилизация дискового пространства

Метрики Collectors

IO (Input-Output)

Processing EPS — Количество обрабатываемых событий в секунду
Output EPS — Количество отправляемых в точку назначения событий в секунду
Output Latency — Время, затраченное на передачу пачки событий точке назначения и на получения ответа от нее
Output Errors — Количество ошибок отправки пачки событий точке назначения в секунду. Ошибки отправки по сети и ошибки записи в дисковый буффер отображаются отдельно
Output Event Loss — Количество потерянных событий в секунду. Потеря может произойти, если их не удалось отправить ни в сеть, ни записать в дисковый буффер
Output Disk Buffer Size — Текущий размер дискового буффера точки назначения. Ноль означает, что ни одна пачка событий не буферизирована, и это хорошо, не копится очередь

Normalization

Raw & Normalized event size — Размер (медиана) оригинального лога источника и размер нормализованной формы этого лога (события)
Errors — Количество ошибок нормализации в секунду

Filtration

EPS — Количество событий в секунду, отбрасываемых фильтром коллектора

Aggregation

EPS — Количество событий, входящих и выходящих из правила агрегации в секунду. Позволяет оценить эффективность правил агрегации
Buckets — Текущее количество бакетов в правиле агрегации

Enrichment

Cache RPS — Количество обращений к локальному кешу в секунду
Source RPS — Количество обращений к источнику обогащения в секунду
Source Latency — Время (медиана), затраченное на отправку запроса и получение ответа от источника обогащения
Queue — Размер очереди запросов на обогащение. Позволяет оценить, является ли данное правило обогащения узким местом
Errors — Количество ошибок обращений к источнику обогащения, обозреваемых в секунду

Метрики Correlator

IO (Input-Output)

Processing EPS — Количество обрабатываемых событий в секунду
Output EPS — Количество событий, отправляемых в точку назначения в секунду
Output Latency — Время (медиана), затраченное на передачу пачки событий точке назначения и на получения ответа от нее
Output Errors — Количество ошибок отправки пачки событий точке назначения в секунду. Ошибки отправки в сеть и ошибки записи в дисковый буффер отображаются отдельно
Output Event Loss — Количество потерянных событий в секунду. Потеря может произойти, если их не удалось отправить ни в сеть, ни записать в дисковый буффер
Output Disk Buffer Size — Текущий размер дискового буффера точки назначения. Ноль означает, что ни одна пачка событий не буферизирована, и это хорошо, не копится очередь

Correlation

EPS — Количество корреляционных событий, порождаемых правилом корреляции в секунду
Buckets — Текущее количество бакетов внутри правила корреляции (только для правил Standard)
Rate Limiter Hits — Превышение лимита срабатываний правилом корреляции в секунду
Active Lists OPS — Количество обращений к активному листу в секунду, с указанием операции
Active Lists Records — Текущее количество записей в активном листе
Active Lists On-Disk Size — Текущий размер активного листа на диске

Enrichment

Cache RPS — Количество обращений к локальному кешу в секунду
Source RPS — Количество обращений к источнику обогащения в секунду
Source Latency — Время (медиана), затраченное на отправку запроса и получение ответа от источника обогащения
Queue — Размер очереди запросов на обогащение. Позволяет оценить, является ли данное правило обогащения узким местом
Errors — Количество ошибок обращений к источнику обогащения, обозреваемых в секунду

Response

RPS — Количествово запусков/активаций правил реагирования (response) в секунду.

Метрики Storage

Clickhouse / General

Active Queries — Общее кол-во запросов к кластеру Clickhouse, выполняемых в данный момент. Метрика отображается по каждому инстансу Clickhouse
QPS — Общее количество запросов в секунду
Failed QPS — Общее количество неуспешных запросов в секунду
Allocated memory — Количество памяти (RAM), выделенное процессу Clickhouse

Clickhouse / Insert

Insert EPS — Количество событий, вставляемых за одну секунду в инстанс Clickhouse
Insert QPS — Количество запросов на вставку в секунду
Failed Insert QPS — Количество неуспешных запросов на вставку в секунду
Delayed Insert QPS — Количество запросов на вставку (в секунду), которые были отложены нодой Clickhouse по превышению soft лимита активных слияний.
Rejected Insert QPS — Количество запросов на вставку (в секунду), которые были отвергнуты нодой Clickhouse по превышению hard лимита активных слияний.
Active Merges — Количество активных слияний
Distribution queue — Количество файлов, в которые сохранены временно эвенты в кластере Clickhouse. Эвенты предназначены для инсерта в тот или иной шард, но не попали из-за того, что шард был недоступен. Эти события недоступны в поиске

Clickhouse / Select

Select QPS — Количество запросов на выборку данных в секунду
Failed Select QPS — Количество неуспешных запросов на выборку данных в секунду

Clickhouse / Replication

Active Zookeeper Connections — Количество активных подключений к нодам кластера Zookeeper. В норме должно быть равным количеству нод в кластере Zookeeper
Read-only Replicas — Количество нод-реплик Clickhouse, находящихся в режиме read-only. В норме таких реплик быть не должно (равно нулю)
Active Replication Fetches — Количество активных процессов репликации данных в настоящий момент (скачивание данных с ноды)
Active Replication Sends — Количество активных процессов репликации данных в настоящий момент (отправка данных ноде)
Active Replication Consistency Checks — Количество текущих проверок консистентности данных на репликах

Clickhouse / Networking

Active HTTP Connections — Количество активных подключений к HTTP серверу Clickhouse
Active TCP Connections — Количество активных подключений к TCP серверу Clickhouse
Active Interserver Connections — Количество активных служебных подключений между нодами Clickhouse

Метрики Core

IO (Input-Output)

RPS — Количество запросов в секунду
Latency — Время (медиана), затраченное на обработку одного запроса
Errors — Количество ошибок обоработки запросов в секунду

Notification Feed

Subscriptions — Количество клиентов, подключенных к Core с помощью SSE для получения сообщений от сервера в реальном времени. Обычно равно количеству клиентов, использующих Web-console
Errors — Количество ошибок отправки оповещений в секунду

Schedulers

Active — Текущее количество активных системных повторяющихся задач. Фоновые задачи, запущенные пользователем, не учитываются
Latency — Время (медиана), затраченное на выполнение задачи
Errors — Количество ошибок выполнения задач, обозреваемых в секунду

С KUMA версии 3.2:

Raft

Lookup RPS — Количество вызовов процедур чтения в секунду. С указанием процедуры
Lookup Latency — Длительность выполнения процедур чтения, с указанием процедуры. (99 percentile)
Propose RPS — Количество вызовов процедур обновления состояния Raft (SQLITE) в секунду. С указанием процедуры
Propose Latency — Длительность выполнения процедур обновления состояния Raft (SQLITE), с указанием процедуры. (99 percentile)

API

RPS — Количество запросов в секунду.
Latency — Время, затраченное на обработку одного запроса. Медиана
Errors — Количество ошибок обоработки запросов, обозреваемых за 1 секунду

С KUMA версии 3.2

Метрики KUMA Agent

Для сбора доступ в ядро по порту 8429/tcp

IO (Input-Output)

Processing EPS — Количество обрабатываемых событий за 1 секунду
Output EPS — Количество отправляемых в точку назначения событий за 1 секунду
Output Latency — Время, затраченное на передачу пачки событий точке назначения и на получения ответа от нее. Иными словами - продолжительность round-trip. Медиана
Output Event Loss — Количество потерянных событий за 1 секунду. Потеря может произойти, если их не удалось ни отправить в сеть, ни записать в дисковый буффер. Кроме того, если точка назначения ответила кодом, означающим, к примеру, некорректно сформированный запрос - события также будут утеряны
Output Errors — Количество ошибок отправки пачки событий точке назначения, обозревамое за 1 секунду. Ошибки отправки в сеть и ошибки записи в дисковый буффер отображаются отдельно
Output Disk Buffer Size — Текущий размер дискового буффера destination. Ноль означает, что ни одна пачка событий не буферизирована, все в порядке
Write Network BPS — Количество байт отправленных в сеть за 1 секунду

Метрики EventRouter

IO (Input-Output)

Processing EPS — Количество обрабатываемых событий за 1 секунду
Output EPS — Количество отправляемых в точку назначения событий за 1 секунду
Output Latency — Время, затраченное на передачу пачки событий точке назначения и на получения ответа от нее. Иными словами - продолжительность round-trip. Медиана
Output Event Loss — Количество потерянных событий за 1 секунду. Потеря может произойти, если их не удалось ни отправить в сеть, ни записать в дисковый буффер. Кроме того, если точка назначения ответила кодом, означающим, к примеру, некорректно сформированный запрос - события также будут утеряны
Output Errors — Количество ошибок отправки пачки событий точке назначения, обозревамое за 1 секунду. Ошибки отправки в сеть и ошибки записи в дисковый буффер отображаются отдельно
Output Disk Buffer Size — Текущий размер дискового буффера destination. Ноль означает, что ни одна пачка событий не буферизирована, все в порядке
Write Network BPS — Количество байт отправленных в сеть за 1 секунду
Connector Errors — Количество ошибок в логах коннектора