etsy - это которые StatsD делают?

не делают а когда-то сделали

еще есть в таком же состоянии https://github.com/linkedin/luminol (но это скорее библиотека просто)

Etsy еще на прошлой (!) Монитораме обещали заопенсорсить Kale 2

И то что они это (еще?) не сделали многое объясняет о текущем состоянии рынка anomaly detection в мониторинге

по ссылке на issue 119 есть описание

что они его забубенили

но не смогли сами с ним работать

похоже либо это никому не нужно, либо ML еще не готов =)

похоже либо это никому не нужно, либо ML еще не готов =)

Недостаточно теоретической базы

Мало опыта

Низкая скорость

Недостаточно теоретической базы

по моему теоретической базы довольно много, мне кажется аномалии много где детектить надо. не только в мониторинге серверов другой момент что мониторить "железные метрики" или "усредненные" не надо... и мониторить на аномалии "все метрики" тоже бесперспективно IMHO

мне кажется в этом отношении дальше всех пока однокласники продвинулись у них детектор аномалий на latency по связанному графу зависимостей сервисом

по моему теоретической базы довольно много, мне кажется аномалии много где детектить надо. не только в мониторинге серверов другой момент что мониторить "железные метрики" или "усредненные" не надо... и мониторить на аномалии "все метрики" тоже бесперспективно IMHO

Есть много специализированных

Мало широких

Кастомного то прям много, у каждой конторы оно своё и часто завязанные на данные

Коллеги))

ChaosConf 2017 в рамках фестиваля ChaosConstructions 2017 Конференция для разработчиков и специалистов по настройке и эксплуатации enterprise систем, включающая в себя разные тематики: мониторинг Highload сервисов; построение алгоритмов нейросетей; потоковая обработка данных; работа с децентрализованными blockchain сетями в качестве сервиса; разговоры про новые технологии передачи данных; Интернет и Интернет вещей. Приглашаем поделиться знанием и опытом о том, как создавать проекты, пользующиеся мировым признанием и управлять ими. Создается сообществами для общения. https://pro.chaosconstructions.ru

сайт в этом году заебца!

Это конфы конкретно)

надо идти, я считаю

только чтобы послушать боль Алекса про Эльбрусы - пойти стоит

анальная боль рили..

на фоне скриншот из 4k интры cdak by Quite & orange =)

кто-то скучает по анальной боли видимо

охотно верю. А записи будут? я на два потока сразу точно не успею

кто-то скучает по анальной боли видимо

не совсем. сопереживаю алексу.

Можно глупый вопрос

По теме

по моему теоретической базы довольно много, мне кажется аномалии много где детектить надо. не только в мониторинге серверов другой момент что мониторить "железные метрики" или "усредненные" не надо... и мониторить на аномалии "все метрики" тоже бесперспективно IMHO

Так их и детектят, практически везде кроме мониторинга серверов. SCADA системы могут это делать, т.к. у них есть полная модель процесса, который мониторится. Там не только аномалии детектятся, но и прогнозирование, моделировани и тд, в полный рост. Скажем можно заранее посмотреть как поведет себя энергосистема, если планово вывести из эксплуатации подстанцию (на обслуживание) и рассчитать самый подходящий для этого моент. В мониторинге серверов пока каменный век, самый отсталый вид мониторинга пока.

Так их и детектят, практически везде кроме мониторинга серверов. SCADA системы могут это делать, т.к. у них есть полная модель процесса, который мониторится. Там не только аномалии детектятся, но и прогнозирование, моделировани и тд, в полный рост. Скажем можно заранее посмотреть как поведет себя энергосистема, если планово вывести из эксплуатации подстанцию (на обслуживание) и рассчитать самый подходящий для этого моент. В мониторинге серверов пока каменный век, самый отсталый вид мониторинга пока.

Может цена простоя все ещё маленькая

Вопрос: кх в superset только через sql-alchemy?

привет! Можно ли в prometheus выбрать метрики в которых нет определенного лэйбла? ALERTS{team !~ ".*"} - вот такое не работает

А есть что-то, что с realtime работает? Superset кажется не особо.

Риалтайм это какой дилей?

Ну хотя бы секунда, ну две.

секунда две это мониторинг а не аналитика. но повышение ставок приветствую.

даешь выборки по потоку в гигабит за период год в 5-7 милисекунд

Ок, ну т.е. все водном флаконе не поиметь. Суперсет + табикс + графана. Типа минимальный набор :)

не не. вы продолжайте. люблю амбиционзные цели.

я не уверен, что есть базы которые могут так быстро вставлять и отдавать данные

Ну так - клик-хаус. В идеале так вообще из Кафки часть высасывать.

вопрос в праивльности шардирования

я не уверен, что есть базы которые могут так быстро вставлять и отдавать данные

гугл

О, у нас появился второй гугл, которому нужно решать задачи уровня гугла?

ну и воопрос в целесобразности. я сомневаюсь что есть большая разница между 5 секундами и 2

Для трейдеров есть.

Точнее никто кроме них не знает есть или нет, но бывает они пулят базу по 20 раз в секунду. Показывать 5 сек лимит после такого не очень красиво.

Точнее никто кроме них не знает есть или нет, но бывает они пулят базу по 20 раз в секунду. Показывать 5 сек лимит после такого не очень красиво.

Ну в графане поставьте 1 секунду

дак bi это про пироги. а графана про столбики

Можно пироговый плагин использовать для любителей

а есть да ?

я просто не видел

Есть, конечно. Это самый популярный плагин.

и кто же на 3ем месте? :)

статистика в графане на графане.

на третьем месте признание факта неумения рисовать графики одним популярным продуктом на букву г

ага

оно и в апи не умеет, но слухи доносятся что это будет просто что то волшебное к концу года

но это не точно

оно и в апи не умеет, но слухи доносятся что это будет просто что то волшебное к концу года

Я уже научил его к базе подрубаться через MySQL датасорс

Чтобы не так тормозило

ERROR: S client not available

@alexanderzobnin кстати в графане генерацию связок дашбордов на основе динамических тегов запилят в ближайшем будущем?

могу кейс описать если интересно

@alexanderzobnin кстати в графане генерацию связок дашбордов на основе динамических тегов запилят в ближайшем будущем?

Про такое не слышал (в том смысле, что над этим, вроде, никто не работает сейчас), а что за issue?

у нас это не поможет - база уже на пауере (хоть и не новом)

третья попытка не на страницу написать: выбираю в темплейт переменных цод , сервис , хост(ы) . вот хочется чтобы справа в линках список панелей формировался по тагам хоста (все что выше делается в ЕС и не только) а вот графана умеет только в статические теги которые ты вбил в дашах

чтобы можно было не перекликивая в дашах и не меняя хосты переключатся между системными метриками и метриками сервисов на этих хостах

не намудрил?

Я пока не совсем въехал, но голова уже плохо соображает. Если есть issue, лучше ссылку на нее. Если нет, то это вряд ли будет реализовано.

сейчас таг можно только фиксированно вбить и сохранить даш

а - не issue не делал

напишу на досуге

привет! Можно ли в prometheus выбрать метрики в которых нет определенного лэйбла? ALERTS{team !~ ".*"} - вот такое не работает

Простое label="" должно работать.

третья попытка не на страницу написать: выбираю в темплейт переменных цод , сервис , хост(ы) . вот хочется чтобы справа в линках список панелей формировался по тагам хоста (все что выше делается в ЕС и не только) а вот графана умеет только в статические теги которые ты вбил в дашах

Возможно, это как-то может помочь, мы недавно сделали поддержку ссылок в table panel, то есть можно формировать ссылку в ячейках таблица динамически, на основе данных из этой ячейки или всей строки.

это я видел, в принципе как временное решение норм. просто уже есть линки и вот чуток не хватает, а тут получается надо будет кусок даша дополнительно отрезать под переходы

А никто не делал иерархический выбор информации в графане? Поясню: есть, например, 4 свитча, в них воткнуты ещё по 2 в каждый, что бы можно было в первом template выбрать 1-4 свитч а во втором template появился бы выбор железок только в рамках выбранного свича

А никто не делал иерархический выбор информации в графане? Поясню: есть, например, 4 свитча, в них воткнуты ещё по 2 в каждый, что бы можно было в первом template выбрать 1-4 свитч а во втором template появился бы выбор железок только в рамках выбранного свича

это? http://docs.grafana.org/reference/templating/#value-groups-tags

не

это не то

это? http://docs.grafana.org/reference/templating/#value-groups-tags

Не совсем, видел это, было бы идеально именно вывод дерева иерархии на основе заданных мною запросов

фигачить плагин :)

так то с эластиком в темплейтинге будет примерно то что надо, но вывод будет не дерева а листьев

В template variables можно другие переменные в запросе использовать. Вопрос только, может ли сам датасорс такое.

так глубина подозреваю что разная - на то оно и дерево

У нас есть некоторые идеи насчет дерева доступных метрик, но пока не очень ясно, как это лучше сделать.

Я уже думал сколхозить html страничку и генерировать её средствами того же php/python вставив её в графану и с неё ссылки будут идти на нужные параметры для графаны

видимо надо строить теги на основании сетевого сегмента

а кстати что на выходе то получить хочеться?

У нас есть некоторые идеи насчет дерева доступных метрик, но пока не очень ясно, как это лучше сделать.

Да я даже алгоритм себе вижу как это должно работать, но на go/js я это не напишу :)

а кстати что на выходе то получить хочеться?

Дерево с оборудованием с возможностью развернуть каждый узел, посмотрев его подчиненных и выбрав определенного подчиненного, получить статистику по нему

Выглядеть это может как диалог в файловой системе с иерархией

дерево прям чтоб мышкой пощелкать или запросом добраться до искомого?