Пока что решили так: graylog для логов и prometheus для метрик

graylog То еще говно...

?

access: browser

access: browser

да, уже смненил на сервер... не понял только где брать сертификаты для TLS подключения под клиента... поидее генерировать же на стороне сервера?

или вы не в курсе?

думаю это зависит от твоего CA

а, у тебя авторизация по сертификатам?

а, у тебя авторизация по сертификатам?

нет, по паролю) но по ssl

я так понял, сегодня у меня день чтения манулов по clickhouse...

ну ты консольным клиентом подключиться можешь?

ну ты консольным клиентом подключиться можешь?

да я уже подключился графаной, вопрос где прочесть про коннект по ключам..

всё-таки по ключам?

всё-таки по ключам?

нет, все таки по паролю, но интересно как сделать по ключам, что бы не раздавать пароли

говнокодерам

не уверен что сейчас это возможно

не уверен что сейчас это возможно

понял, спасибо

но возможно в багтрекере графаны есть что-нибудь

http://docs.grafana.org/installation/configuration/#client-key-path

а, это про бд

@ewwwwcha будет жить. Поприветствуем!

graylog То еще говно...

Привет, почему там же еластик, в чем его проблема?

Привет, почему там же еластик, в чем его проблема?

если ELK/EFK используют очень многие, и это чуть ли не единственный адекватный инструмент, конечно прожорливый но все же, то Graylog - писан и юзаеться мелким комьюнити и плагинов и прочего под него в несколько раз меньше, ровно на столько, что даже сами разработчики этого УГ за предложение написать плагин за бабки - гвоорят мол нам не интересно....

вот где-то по-этому

если ELK/EFK используют очень многие, и это чуть ли не единственный адекватный инструмент, конечно прожорливый но все же, то Graylog - писан и юзаеться мелким комьюнити и плагинов и прочего под него в несколько раз меньше, ровно на столько, что даже сами разработчики этого УГ за предложение написать плагин за бабки - гвоорят мол нам не интересно....

Это не повод считать ПО говном. Нормальное ПО, разрабы не видят выгоды в расширении функционала и комьюнити? ССЗБ. Но обзывать софт говном только из-за этого несправедливо.

если ELK/EFK используют очень многие, и это чуть ли не единственный адекватный инструмент, конечно прожорливый но все же, то Graylog - писан и юзаеться мелким комьюнити и плагинов и прочего под него в несколько раз меньше, ровно на столько, что даже сами разработчики этого УГ за предложение написать плагин за бабки - гвоорят мол нам не интересно....

Складывается ощущение что ты с сабжем не знаком

Использовал Graylog для <почти каузального> сбора логов. Удобно, быстро, всё управление из интерфейса. Интерфейс? От кибаны хочется плеваться, а от Graylog нет.

Но зато кибану проще обработать напильником.

согласен. очень удобно что все инпуты и оутпуты можно накликать из браузера

Гайз, а есть кто Мойру юзает? Как вы с ней живете с таким набором интеграций? Ни Алерты, ни PD ?

Но зато кибану проще обработать напильником.

Есть люди, все в том же заббиксе - ты им говоришь, хочу вот Nosql юзать под вашим продуктом, вместо реляционных. Они говорят цену и погнали. Это работает. Но т.к. зажравшиеся утырки сидят и только пальцы растопыривают - это конечно интересно.

Есть люди, все в том же заббиксе - ты им говоришь, хочу вот Nosql юзать под вашим продуктом, вместо реляционных. Они говорят цену и погнали. Это работает. Но т.к. зажравшиеся утырки сидят и только пальцы растопыривают - это конечно интересно.

Не отменяет того, что продукт у них может быть (относительно) хороший.

B все о том же сабже - метрикам, кто как собирает инфу по трафику I/O на DigitalOcean?

Гайз, а есть кто Мойру юзает? Как вы с ней живете с таким набором интеграций? Ни Алерты, ни PD ?

Вот тут можно спросить @moira_alert

Думал по API - но это у них еще не реализовано...

Вот тут можно спросить @moira_alert

Ага, спасибо.

B все о том же сабже - метрикам, кто как собирает инфу по трафику I/O на DigitalOcean?

Флоулог непосредственно из под апплета

Флоулог непосредственно из под апплета

а подробнее можно? мне нужно будет мониторить ос на ДО, но чем меньше трафика она съедает - тем лучше, но видно только если завести мониторинг непосредственно на самом ДО и по внутренней сети брать инфу с вм...

на VM стоит ClickHouse c базами в которые пишуться логи

а подробнее можно? мне нужно будет мониторить ос на ДО, но чем меньше трафика она съедает - тем лучше, но видно только если завести мониторинг непосредственно на самом ДО и по внутренней сети брать инфу с вм...

так ClickHouse сам умеет отправлять метрики

так ClickHouse сам умеет отправлять метрики

хм... спасибо за наводку, но интересуют еще метрики самой ОС - трафик и тд, я так понимаю prometheus и тд ?

хм... спасибо за наводку, но интересуют еще метрики самой ОС - трафик и тд, я так понимаю prometheus и тд ?

тебе нужно мониторить виртуалки vmware виртулки?

тебе нужно мониторить виртуалки vmware виртулки?

мда нет, обычные дроплеты в digitalocean

они вроде на ovirt

или еще и состояние хостовой системы, а так же физическое состояние сервера

мда нет, обычные дроплеты в digitalocean

ну тогда можно либо пром, либо телеграф - в зависимости от того, какую ты систему мониторинга используешь

ну тогда можно либо пром, либо телеграф - в зависимости от того, какую ты систему мониторинга используешь

пока ни того ни другого.. :)

и еще вопрос - если брать prometheus, то какую stdb брать для базы лучше? будут еще докеры пачками...

influx ?

Прометей сам себе tsdb

А инфлюкс газ

пока ни того ни другого.. :)

Я бы советовал отталкиваться от задачи.

Я бы советовал отталкиваться от задачи.

согласен

пока ни того ни другого.. :)

Дело в том, что метрики с хоста умеют собирать все кому не лень. Вопрос что с ними потом делать, как долго хранить, каким образом анализировать и строить алертинг.

Хотелось бы увидеть задачу в виде "я хочу собирать метрики с N виртуалок с такой то детализацией и таким то количеством метрик. На вм будут контейнеры, управляемые тем-то. Потом с данными хочу делать то-то(алертить, строить аналитику за такой то срок, etc)"

Без этого ответ будет такой же туманный как и вопрос

ребят подскажите можно ли в slack отправлять resolved alert (alertmanager) там какое то поле дополнительное надо?

А есть какой-нить готовый способ рисовать графики из прометея как PNG?

А есть какой-нить готовый способ рисовать графики из прометея как PNG?

тебе именно из прома нужно? или можно из графаны используя пром как в качестве датосорса

желательно без графаны

в графане же вроде яваскриптом на серверной стороне рисуется?

ERROR: S client not available

phantomjs

а чем оно плохо то? Можно отдельную графану поднять для этого.

ничем не плохо. пока я просто пытаюсь собрать все варианты

@EKbfh будет жить. Поприветствуем!

а подробнее можно? мне нужно будет мониторить ос на ДО, но чем меньше трафика она съедает - тем лучше, но видно только если завести мониторинг непосредственно на самом ДО и по внутренней сети брать инфу с вм...

Я имел ввиду вот это https://sourceforge.net/projects/ipt-netflow/

Netflow с линукс инстанса

Хотелось бы увидеть задачу в виде "я хочу собирать метрики с N виртуалок с такой то детализацией и таким то количеством метрик. На вм будут контейнеры, управляемые тем-то. Потом с данными хочу делать то-то(алертить, строить аналитику за такой то срок, etc)"

будет сервер на нем что-то типа ranhcer-a или простого docker-swarm для пачки контейнеров, сейчас это старт в 50 штук в докерах php-fpm+nginx, mysql в google cloud, rabbitmq ну и api на go-lang

Я имел ввиду вот это https://sourceforge.net/projects/ipt-netflow/

sps

будет сервер на нем что-то типа ranhcer-a или простого docker-swarm для пачки контейнеров, сейчас это старт в 50 штук в докерах php-fpm+nginx, mysql в google cloud, rabbitmq ну и api на go-lang

Почему не kubernates? Если уже с нуля строишь

Почему не kubernates? Если уже с нуля строишь

потому, что микросервисы в самом начале, когда с ними не имел дело, не имевши дело с простыми docker-swarm и тд - можно отхватить лишних проблем

Привет! Кто-то сталкивался с ts=2018-09-24T08:39:19.177578504Z msg="Error on ingesting samples that are too old or are too far into the future" в прометее? Пром в докере, на хосте было изменено время на актуальное. Сейчас ts в целом нормальный по UTC. Сами метрики без времени, насколько я могу видеть по curl

Почему не номад?)

@StannisLove будет жить. Поприветствуем!

Коллеги доброго дня. Использую icinga2. Хочу мониторить состояние сетевого интерфейса на вендо хосте. понимаю что можно использовать check_network. Но по документации (https://docs.nsclient.org/reference/windows/CheckSystem/#check_network) не понимаю как указать интерфейс. кто нибудь делал такое ? как ?

А filter именно метрики фильтрует?

А filter именно метрики фильтрует?

я пока не знаю

Коллеги доброго дня. Использую icinga2. Хочу мониторить состояние сетевого интерфейса на вендо хосте. понимаю что можно использовать check_network. Но по документации (https://docs.nsclient.org/reference/windows/CheckSystem/#check_network) не понимаю как указать интерфейс. кто нибудь делал такое ? как ?

Лучше напиши простой скрипт на PowerShell, лучше взлетит. В будущем советую уходить от Исинга, и смотреть в сторону Прометея, потому что Исинга тратит слишком много ресурсов на банальные задачи

Лучше напиши простой скрипт на PowerShell, лучше взлетит. В будущем советую уходить от Исинга, и смотреть в сторону Прометея, потому что Исинга тратит слишком много ресурсов на банальные задачи

слишком много тут исинги. скрипт и запускать его исингой ?

Да, на виндохосте установлен nsclient или клиент icinga2?

Да, на виндохосте установлен nsclient или клиент icinga2?

icinga2 + nsclient

Тогда просто прописываешь в конфиге как вызвать скрипт и создаешь в исинге соответствующую команду

кто-то собирает json-логи докеров в единое хранилище? Во что?

кто-то собирает json-логи докеров в единое хранилище? Во что?

В эластик

@Eduard_toll будет жить. Поприветствуем!

В эластик

через локальный логстеш для каждого сервера?

через локальный логстеш для каждого сервера?

Не дай бог. :-)) памяти жалко. Схема следующая: filebeat=>redis=>свой агент=>Elasticsearch

Подскажите, кто-нибудь юзает morgoth на kapacitor?Двигаю настройки но постоянно получаю critical, хотя отклонение <1%

Не дай бог. :-)) памяти жалко. Схема следующая: filebeat=>redis=>свой агент=>Elasticsearch

Redis будем убирать. Пилим свой плагин для filebeat с выходом в rabbitmq

Не дай бог. :-)) памяти жалко. Схема следующая: filebeat=>redis=>свой агент=>Elasticsearch

о, круто. Спасибо

Вроде кафку для этого юзают обычно