points per second

размер - под сотню ГБ, pps - в экспериментах - 14М/pps, но на практике не слышал чтобы этим кто-нибудь пользовался

Хм

сотня гигов это не много

а вот например как отказоустойчивость на ней делать или шардинг?

Последователи а grafana можно както скрыть какойто из graph через template ???

какой есть best practite чтобы показывать статистику о каждом сайте которые постоянно прибавляются , и так чтобы постоянно добавлялся сам graph внутри dashboard

сотни гигов это десятки-сотни миллиардов точек, мне сложно такие эксперименты проводить, счет за AWS большой приходит :)

Последователи а grafana можно както скрыть какойто из graph через template ???

В template есть фильтр через регексп

отказоустойчивость пока никак, можно использовать EBS volume например и на этом уровне делать бэкапы, можно тоже самое делать на ZFS

какой есть best practite чтобы показывать статистику о каждом сайте которые постоянно прибавляются , и так чтобы постоянно добавлялся сам graph внутри dashboard

Опять же все делается через темплейт

В template есть фильтр через регексп

но создавать и убирать graph разве он будет,

можно писать в несколько мест одновременно

отказоустойчивость пока никак, можно использовать EBS volume например и на этом уровне делать бэкапы, можно тоже самое делать на ZFS

Бекапы это не HA, обычно надо защищаться от полного отказа нод.

Опять же все делается через темплейт

у меня есть template на каждый сайт отдельно и на все сразу , но я хочу чтобы dashboard отличался в зависимости выбраны ВСЕ или отдельный

А есть что-то там их scripted dashboards, оно умеет такое может?

А есть что-то там их scripted dashboards, оно умеет такое может?

о походу оно , буду разбиратться

Бекапы это не HA, обычно надо защищаться от полного отказа нод.

у меня нет репликации данных пока, в проекте, который я делаю на основе Akumui это решается с помощью hot spare, агенты, которые пишут данные, будут иметь какой-то сторадж для восстановления (подозреваю что это будет локальная БД), но у меня тут конечно не гугл и данных мало

привет. а в prometheus можно использовать из коробки переменные сложенные в consul в качестве например endpoint куда нужно приходить за данными? условно у меня есть сервисы, которые хотелось бы в рамках одной и той же job обрабатывать, но при этом слушают они на разном порту и с разным endpoint

попробуй

я с консулом не знаком, но думаю, что через металейблы есть всё нужное

Привет всем. Хочу заюзать graylog. Мне нужно собирать сип-трейсы с серверов с kamailio и freeeswitch. Что лучше всего использовать в качестве коллектора? Точнее как это лучше всего организовать?

Лучше всего не использовать graylog

Хотя, конечно, смотря, сколько событий в секунду.

Хотя, конечно, смотря, сколько событий в секунду.

Есть негативный опыт?) На скольких тысячах событий грейлогу становится плохо?

http://www.highload.ru/2017/abstracts/3036.html

товарищи, а кто как проверяет доступность сервисов? Как это можно связать с Промом? Под проверкой сервиса, я подразумеваю - доступность порта tcp/udp, icmp, при этом проверка осуществляется не на целевом хосте, а например со стороны самого сервера Прома. Или тут лучше заюзать другой инструмент?

товарищи, а кто как проверяет доступность сервисов? Как это можно связать с Промом? Под проверкой сервиса, я подразумеваю - доступность порта tcp/udp, icmp, при этом проверка осуществляется не на целевом хосте, а например со стороны самого сервера Прома. Или тут лучше заюзать другой инструмент?

blackbox_exporter?

zabbix может и веб чекии порты)

blackbox_exporter?

о интересно, не смотрел.

zabbix может и веб чекии порты)

zabbix есть, хочется уйти от него. В идеале конечно свести все в одну систему, пусть и из нескольких элементов.

Consul

привет, Перловка!

Ку )

blackbox_exporter?

спасибо, кажется реально то что надо.

zabbix есть, хочется уйти от него. В идеале конечно свести все в одну систему, пусть и из нескольких элементов.

что за задачи решает данное дерьмо ?

темы про забикс за пределы канала плиз.

темы про забикс за пределы канала плиз.

хорошо бы

Хотя, конечно, смотря, сколько событий в секунду.

А что тогда лучше использовать? Мне просто хочется организовать централизованное место, чтобы хранить логи. Чтобы так с веб-мордочки зашел и нашел, что надо :)

А что тогда лучше использовать? Мне просто хочется организовать централизованное место, чтобы хранить логи. Чтобы так с веб-мордочки зашел и нашел, что надо :)

ELK?

ELK?

На сам сервер с фрисвитчами не хочу жаву тащить

судя по опыту Юры (по ссылке его доклад) "быстро" и "с веб-мордочкой" не бывает

На сам сервер с фрисвитчами не хочу жаву тащить

Зачем ее туда тащить?

быстрее всего оказалось писать логи на сервер с пачкой дисков просто рсислогом

Зачем ее туда тащить?

А чем оно собирает данные с сервера, чтобы отправить его на сервер с логами?

сислогом?

оно в общем случае не собирает, не барское - в смысле не системы хранения логов - дело их собирать

оно в общем случае не собирает, не барское - в смысле не системы хранения логов - дело их собирать

Не, ну это понятно. Я почему и задался вопросом, чем собирать сип-сообщения в грейлог

A graylog разве сам собирает? 100 лет его не крутил уже

грейлог не собирает, он приёмник

Я б как раз на такую задачу graylog и попробовал. Там же не милярды тех сип логов по идее.

можно logstash сразу в эластик писать, или обязательно gelf надо?

быть может вместе всего этого дела надо юзать mtail

не всегда от логов нужны логи.

иногда от логов нужны графики. если нужны именно они то mtail вариант ага

сислогом?

filebeat>logstash>elastic

filebeat>logstash>elastic

или fluentbit>fluentd>(elastic||clickhouse)

ну на вкус и цвет =)

это если у вас есть роскошь хранить кучу логов локально и парсить внешним софтом

на практике (и судя по рассказам Юры) проще парсить на лету тем же сислогом

и пихать дальше в кафку например

разумеется это зависит от количества логов

ребята а какой есть. експортер который мог бы мерить максимальную пропускную способность?

ERROR: S client not available

пропускную способность... чего ?

пропускную способность... чего ?

пропускатора!

пропускную способность... чего ?

ануса, Гош)

ануса, Гош)

не приветсвую такое общение на канале.

больш не буду

наверное)

не приветсвую такое общение на канале.

а ты скучный :(

пропускную способность... чего ?

есть два дата центра хочется знать что скорость между ними всегда соответствует минимуму

а ты скучный :(

:D

есть два дата центра хочется знать что скорость между ними всегда соответствует минимуму

Ну, можно просто померять максимальную и собирать текущую. Можно или через node_exporter, или если нужно строго от конкретных машин к конкретным, написать свой экпортер через tcpflow или что-то похожее.

Ну, можно просто померять максимальную и собирать текущую. Можно или через node_exporter, или если нужно строго от конкретных машин к конкретным, написать свой экпортер через tcpflow или что-то похожее.

пока у меня это делаться через iperf несколько раз в день делается и нагружается сеть.

но я ещё не изучил все способы нравится prometheus вот и хочется к нему это как-то приспособить

Ну, тут скорее всего надо будет написать экспортер, который будет делать тоже самое и хранить последнюю информацию.

Если вот прямо такая задача.

То есть, скажем, экспортер раз в 3 часа (или с любой другой переодичностью) будет страдать такой штукой, а всегда выдавать прому последний результат. Или можно под такое дело https://github.com/prometheus/pushgateway приспособить

Лучше всего не использовать graylog

Очень спорное утверждение. Я использую его в проде, около 2000 mps (временами до 4000 mps). В эластике около 1ТБ данных, все это на виртуалке крутиться. Из удобного есть дашборды, при необходимости можно прям из эластика в графаню закинуть данные. Есть что то лучше?

loghouse?

Ну, есть шанс, что настолько детальный поиск, как дает еластик не всегда нужен и можно просто сложить или в loghouse или даже при помощи mtail завернуть в метрики.

альфа версия с одним экземпляром кликанутого дома?

еще есть oklog который может быть интересно, но я пока не знаю ни одного человека, кто бы его щупал

https://github.com/yandex/ClickHouse/releases/v1.1.54342-stable was tagged

Последователи помогите, как в прлметеус добавить подсчёт вместо одного хоста

sum() ?

count()? :)

такие вот прихожане ага.

нет я имею ввиду в конфиг scrape job

вот типа вот так 192.168.0.0/24:9111

что-то такого)

чет я не понимаю вопроса

или range

так не выйдет

поискать хосты через sd