мы подняли rsyslog+zeroMQ(модуль) на хостах для отправки логов в КХ

А как zeroMQ с КХ работает? Там же (в кх) вроде нет такого...

Всем привет! Есть запрос на очень оперативную разработку в Grafana. Кто готов взяться за работу, напишите в ЛС. Необходимо сделать 3 дашборда, Физически есть объект теплица, она разбита на 2 секции в каждой секции стоит несколько датчиков, типов датчиков всего 3 (температура, влажность, фотосинтез) 1. Необходимо собрать агрегирующий дашборд по 2-м секциям, который объединит средние показатели (температура, влажность...) по всем секциям теплицы 2. Дашборд на уровне секции 1 необходимо показать средние показатели по секции, а также графики по каждому из типов датчиков, так как датчиков по одному типу может быть несколько их необходимо сгруппировать 3. Дашборд на уровне секции 2 необходимо показать средние показатели по секции, а также графики по каждому из типов датчиков, так как датчиков по одному типу может быть несколько их необходимо сгруппировать 4. Переход от общего дашборда по вкладкам желательно разбить на вкладки 5. БД источника данных Postgresql 6. Есть временные ограничения на выполнения работы, нужен человек который имеет опыт работы с Grafana и сможет помочь быстро набросать дашборды и подсказать возможности визуализации тех или иных показателей.

Тоже логи в КХ пишем. Из рсислога в логхаус-совместимый писатель. И читаем логхаус-фронтендом (ужасным).

> БД источника данных Postgresql

А какой писатель используете? Что вообще есть, чтобы из rsyslog в кх писать!

А какой писатель используете? Что вообще есть, чтобы из rsyslog в кх писать!

Экспортёр на каждом хосте. Для винды можно ещё telegtaf попробовать

Доброго дня! Может кто-нибудь подсказать, почему fluetnd при подключении к elastic-у выдает такую ошибку [warn]: [elasticsearch] failed to write data into buffer by buffer overflow action=:block в результате, логи не пишутся Could not push logs to Elasticsearch, resetting connection and trying again. read timeout reached

Доброго дня! Может кто-нибудь подсказать, почему fluetnd при подключении к elastic-у выдает такую ошибку [warn]: [elasticsearch] failed to write data into buffer by buffer overflow action=:block в результате, логи не пишутся Could not push logs to Elasticsearch, resetting connection and trying again. read timeout reached

Нужен указатель на входе )

Собрал из carbonapi рисовалку PNG для прометея https://github.com/lomik/prometheus-png

что за указатель

иди в церковь логов

ru_logs чат называется

и народу мало

А вот, тогда по топику вопрос: есть микросервис который крутится в сворме и когда я сделал агрегацию логов, мы заметили, что раз/два в минуту он слишком медленно обрабатывает запросы, начали тестировать сделали простую нагрузку через JMeter и обнаружили что тупит не только он, но и другие сервисы, которые находятся в сворме, потом начали копать дальше и поняли, что-то не так с сетью, но где не так, мы понять не можем. Какими средствами можно проверить узкие места в сети? iperf3, qperf как я понял, не подходят.

сеть какая - 1г или 10? айперф чем не угодил

1г. Он наливает трафик в один поток, а JMeter дрочит сервис открытием/закрытием сессий.

с каких пор-то ? вам сессии или трафик нужен ? или скорость передачи в 1 поток ?

Мне надо понять почему JMeter делая простые http-запросы нагибает сервис так, что тот начинает в 99-м перцентиле давать ответы > 4000мс (в собстенных логах это пишет!). Питающие сервисы, дают ответы за 200-250мс и их всего два. И мне надо понять сеть это тупит, или приложение. Но JMeter лупит запросами по 100 штук в миллисекунду, а iperf, насколько я понимаю, создает сессию и валит туда тупо /dev/random. Поэтому он не понимет что могут бывать такие задержки.

на канале high load было хорошое видео на что обратить внимание. вроде называлось - отправить соап запрос - это просто.

почти soap, ага?

может APM-утилиты ? Zipkin тот же. размер беклога какой ?

zipkin интересно, слушай... я даже про такую категорию утилит не слышал, знал что они должны быть, но не мог понять как сфорбулировать запрос (-:

А есть для dotnet?

Мне надо понять почему JMeter делая простые http-запросы нагибает сервис так, что тот начинает в 99-м перцентиле давать ответы > 4000мс (в собстенных логах это пишет!). Питающие сервисы, дают ответы за 200-250мс и их всего два. И мне надо понять сеть это тупит, или приложение. Но JMeter лупит запросами по 100 штук в миллисекунду, а iperf, насколько я понимаю, создает сессию и валит туда тупо /dev/random. Поэтому он не понимет что могут бывать такие задержки.

zipkin интересно, слушай... я даже про такую категорию утилит не слышал, знал что они должны быть, но не мог понять как сфорбулировать запрос (-:

Имхо open census перспективнее в будущем

Посоветуешь презентации/доклады на тему OpenCensus? Первый раз встречаю, очень заинтересовало. Можешь, расскажешь, в чём ты видишь преимущество перед Jager и подобными?

zipkin интересно, слушай... я даже про такую категорию утилит не слышал, знал что они должны быть, но не мог понять как сфорбулировать запрос (-:

сейчас два мейнстримных инструмента для трейсинга: openzipkin и jaeger ну и либа от opentracing умеет и то и то