ага.

как zvercd

Zver nginx

там вообще тяжелый сетап получается. если у тя Lua уже не используется то придется пересобирать nginx или использовать какой то не nginx но на основе его

там nginx с фиксированной версией, так что обновить ее можно будет когда захотят китайцы, плюс openssl они поддерживают 1.0.2 а остальное не гарантируют

ну да да. я как раз про это вот всё

поэтому этот вот nginx-lua-prometheus очень ограничено годен

в общем надо сто раз подумать прежде чем тащить это в прод, нужно очень веские основания иметь

Подскажите, хочу в prometheus замониторить nginx, с помощью nginx-lua-prometheus. Я так понял, для него нужно сам nginx пересобрать с поддержкой lua? Отдельно динамически загружаемого модуля не нашел.

У вас Grafana?

:))))))))

Там есть другой способ, через лог файлы

А есть какой нибудь динамический модуль для nginx чтобы мониторить http статусы (без пересборки )?

У вас Grafana?

Он сам графана;)

Там есть другой способ, через лог файлы

Да, видел тоже.

Вы через графану отображать хотите или Graph?

Вы через графану отображать хотите или Graph?

Prometheus -> Grafana

Он сам графана;)

паржал

))

Че такое?)

Не вкуриваю

а на nginScript ничего нет?

Не вкуриваю

@alexanderzobnin просто сам из графаны. один из разрабов

Ааа) Ну тогда он должен хавать эту тему лучше нас вродь

Тоже сейчас прикручиваю сижу, newbie

Я с прометеем не слишком сильно знаком, поэтому сейчас разбираюсь с ним.

вот кстати, никто этим скриптом расширенную статистику не делал? https://nginx.org/en/docs/http/ngx_http_js_module.html

Там есть другой способ, через лог файлы

вот этот https://github.com/martin-helmich/prometheus-nginxlog-exporter ?

вот этот https://github.com/martin-helmich/prometheus-nginxlog-exporter ?

Ага

правильнее, конечно, не логи читать, а прикинуться syslogd

правильнее, конечно, не логи читать, а прикинуться syslogd

https://nginx.org/en/docs/syslog.html это ?

https://nginx.org/en/docs/syslog.html это ?

да. у меня так логи в эластик гонятся

ну или вот https://gist.github.com/kamermans/4fd55912fd6333451f8a6cae7826db6e

правильнее, конечно, не логи читать, а прикинуться syslogd

правильнее логи сразу в json форматировать

еще

ну да. я к тому, что читать логи как бы оверхед

редко принципиальный

правильнее логи сразу в json форматировать

++ Присоединяюсь к мнению Владимира.

{% if nginx_json_logging == "1" %} log_format noc_format '{ "@timestamp": "$time_iso8601", ' '"@fields": { ' '"remote_addr": "$remote_addr", ' '"remote_user": "$remote_user", ' '"body_bytes_sent": "$body_bytes_sent", ' '"request_time": "$request_time", ' '"status": "$status", ' '"request": "$request", ' '"request_method": "$request_method", ' '"http_referrer": "$http_referer", ' '"request_time": "$request_time", ' '"upstream_addr": "$upstream_addr",' '"upstream_response_time": "$upstream_response_time", ' '"http_user_agent": "$http_user_agent" } }'; {% else %}

правильнее логи сразу в json форматировать

вот и json https://github.com/vozlt/nginx-module-vts

вот и json https://github.com/vozlt/nginx-module-vts

я про логи. Логи можно и просто в json форматировать )

как выше

вот и json https://github.com/vozlt/nginx-module-vts

это значительно хуже, чем lua, но имеет два плюса: - работает заметно быстрее - умеет много больше

а почему "значительно хуже чем луа"?

потому, что в отличае от lua (модуль с которым идет в комплекте) - этот модуль надо собирать.

то есть держать локальный репо. Для кого-то это может быть проблемой, если инфраструктура маленькая

то есть держать локальный репо. Для кого-то это может быть проблемой, если инфраструктура маленькая

это не так сложно как кажется )

{% if nginx_json_logging == "1" %} log_format noc_format '{ "@timestamp": "$time_iso8601", ' '"@fields": { ' '"remote_addr": "$remote_addr", ' '"remote_user": "$remote_user", ' '"body_bytes_sent": "$body_bytes_sent", ' '"request_time": "$request_time", ' '"status": "$status", ' '"request": "$request", ' '"request_method": "$request_method", ' '"http_referrer": "$http_referer", ' '"request_time": "$request_time", ' '"upstream_addr": "$upstream_addr",' '"upstream_response_time": "$upstream_response_time", ' '"http_user_agent": "$http_user_agent" } }'; {% else %}

nginx некоторые символы эскейпит несовместимым с json образом. например вот такой курл сломает лог curl -A "user agent with \t tab" http://127.0.0.1/

nginx некоторые символы эскейпит несовместимым с json образом. например вот такой курл сломает лог curl -A "user agent with \t tab" http://127.0.0.1/

но ведь теперь появился встроенный ескейпинг: http://nginx.org/en/docs/http/ngx_http_log_module.html#log_format

но ведь теперь появился встроенный ескейпинг: http://nginx.org/en/docs/http/ngx_http_log_module.html#log_format

о. спасибо

тоесть надо так вот да ? log_format noc_format escape=json '{ "@timestamp": "$time_iso8601", ' '"@fields": { ' '"remote_addr": "$remote_addr", ' '"remote_user": "$remote_user", ' '"body_bytes_sent": "$body_bytes_sent", ' '"request_time": "$request_time", ' '"status": "$status", ' '"request": "$request", ' '"request_method": "$request_method", ' '"http_referrer": "$http_referer", ' '"request_time": "$request_time", ' '"upstream_addr": "$upstream_addr",' '"upstream_response_time": "$upstream_response_time", ' '"http_user_agent": "$http_user_agent" } }';

тоесть надо так вот да ? log_format noc_format escape=json '{ "@timestamp": "$time_iso8601", ' '"@fields": { ' '"remote_addr": "$remote_addr", ' '"remote_user": "$remote_user", ' '"body_bytes_sent": "$body_bytes_sent", ' '"request_time": "$request_time", ' '"status": "$status", ' '"request": "$request", ' '"request_method": "$request_method", ' '"http_referrer": "$http_referer", ' '"request_time": "$request_time", ' '"upstream_addr": "$upstream_addr",' '"upstream_response_time": "$upstream_response_time", ' '"http_user_agent": "$http_user_agent" } }';

типа таво. например тут: https://github.com/elastic/examples/tree/master/Common%20Data%20Formats/nginx_json_logs есть примеры.

правда эти злодеи не очень обновляют документацию

и про escape=json упомянули, а в примеры конфигов не добавили ?

@Civiloid Привет ! А не подскажешь как в графите сделать host.cs*.load.load.longterm / host.cs*.cpu.count? mapred поидее не подходит потому что длинна серий разная и как то не выходит у меня.

длина разная?

Нет

А какие-то best practice есть?

Mtail

Не, мониторить через логи -- дело неблагодарное

Лучше лить в syslog и парсить по табам чтобы не ебаться с гроком

Не, мониторить через логи -- дело неблагодарное

Vts экспортер ещё хуже

Да, у нас все статы на луа а логи идут в hive для oltp

Да, у нас все статы на луа а логи идут в hive для oltp

ну т.е. вы вступили в гонку "собери себе сам" да?

А других масштабируемых вариантов нету особо

Мне nginx на демо-сайте замониторить, я думаю, пока на логах остановлюсь.

у тебя нагрузки нет - нормально

да, nginx в плане статистики, печальное зрелище, хотя какие то сторонние костыли, вроде кое что обещают, но что то попробовать всё тоже никак

ERROR: S client not available

да, nginx в плане статистики, печальное зрелище, хотя какие то сторонние костыли, вроде кое что обещают, но что то попробовать всё тоже никак

платите и все станет там отлично просто)

охуенное предложение

я же выше кидал ссыль на модуль

охуенное предложение

ну там в коммьюнити и так пробрасывают со временем то что раньше было платным и очень нужным, так что тут не сетовать, а благодарить уместнее

охуенное предложение

ну так никто не заставляет юзать nginx. apache никто не отменял

Нет

А нужно per node? Хм, я не помню но вроде банальный divideSeries мог, ну или после простой доработки мог

Можно даже в некоторых случаях traefik

Но аккуратно

А нужно per node? Хм, я не помню но вроде банальный divideSeries мог, ну или после простой доработки мог

В 1.0.2 графите запилили divideSeriesLists

Подскажите, хочу в prometheus замониторить nginx, с помощью nginx-lua-prometheus. Я так понял, для него нужно сам nginx пересобрать с поддержкой lua? Отдельно динамически загружаемого модуля не нашел.

На время снятия метрик у тебя блокируется хеш куда метрики пишутся, считай что блочатся все запросы

На время снятия метрик у тебя блокируется хеш куда метрики пишутся, считай что блочатся все запросы

Что за хеш, куда метрики пишутся? Это в lua модуле?

На время снятия метрик у тебя блокируется хеш куда метрики пишутся, считай что блочатся все запросы

Две метрики этому господину

Что за хеш, куда метрики пишутся? Это в lua модуле?

Да, лучше юзай nginx vts и соответствующий экспортер

На время снятия метрик у тебя блокируется хеш куда метрики пишутся, считай что блочатся все запросы

И еще одну

А есть какой нибудь динамический модуль для nginx чтобы мониторить http статусы (без пересборки )?

nginx vts и есть готовый экспортер к нему

о, про него как раз упоминали

то есть держать локальный репо. Для кого-то это может быть проблемой, если инфраструктура маленькая

Ты в любом случае собираешь свой nginx, когда у тебя требования плюс-минус выходят за рамки стандартных сборок

либо покупаешь nginx-plus, общаешься с саппортом и потом всё равно собираешь свой nginx

Имхо, производительность луа не важна до определённого момента. Если у вас меньше 100к рпс и метрики вы снимаете раз в минуту, то просадку от использования луа вы не заметите даже

Зато у луа очень большая гибкость -- метрики можно делать на основе любого стэйта внутри nginx

можно конечно

но лучше сразу не делать говно

а так я конечно согласен, что надо проверять чо у вас ик ак

и если бизнес готов идти на замедление запросов во славу метрик, то почему бы и не

А с логов собирать сильно хуже?

и если бизнес готов идти на замедление запросов во славу метрик, то почему бы и не

к фразе "замедление запросов" должен прикладываться график с временем ответов до включения луы и после

чтобы это замедление померить

не хуже, просто другое

к фразе "замедление запросов" должен прикладываться график с временем ответов до включения луы и после

разумеется, надо брать и бенчмаркать

и сравнить с vts сразу

любое снятие метрик замедлит обработку запросов

я просто вангую что придется мерять время ответа в наносекундах чтобы найти разницу