capnp ответ на проблему

кто юзал протобаф для оптимизации ССЗБ, увы

там чудовищное число аллокаций, копирований и вообще все оч тяжело для быстрых вещей

@pavel_odintsov это зависит от реализации либы

gogoprotobuf довольно оптимизирован и почти без дополнительных алокаций

притом давно уже

и в 3-ем еще лучше стало

но то что тебе нужно при анпаке иметь 20160 float64 + 20160 bool'ов это не отменяет никак

он все равно очень оверхедистый и полностью выделения памяти не убирает и не решает распухший протоколв)

@pavel_odintsov да в протоколе проблемы нет, чо ты к нему привязался?

проблема в том что у человека 90 тысяч метрик по 200кб на каждую

и это довольно много

память оно будет жрать в любом случаи

я привязался к скорости диска и сети :)

@pavel_odintsov которая вообще тут роли не играет

@pavel_odintsov мы решаем проблему в том что код алоцирует много памяти и выжирает 64ГБ оной. Притом что 1 дашборд выжирает порядка 11 ГБ

90 тысяч по 200 кб это 18 гигов!

хренасебе не влияет

хренасебе не влияет

ну и расскажи как скорость сети влияет на то что к нему приходит OOM? :)

когда память заканчивается

а, вижу, у вас тикет есть привязанный

я думаю проблема с тормозами

нашел, да, софт баг)

@pavel_odintsov с точки зрения передачи данных там повеселее - если диски справляются, то потом оно в том же protobuf'е хорошо компактизируется, плюс поверх gzip еще

вероятно там гоняется далеко уже не 18ГБ

увы, но даблы жмутся из рук вон плохо

если данные хорошие, то я бы даже сказал там сотни мегабайт

увы, но даблы жмутся из рук вон плохо

на самом деле лучше чем ты думаешь )

я бы даже сказал жмутся они не в задницу) если precision не срезано в разумных пределах :)

я делал рисерч, перекодированные в юинт64 с ограниченной точностью жмутся где-то в 3-5 раз лучше

я делал рисерч, перекодированные в юинт64 с ограниченной точностью жмутся где-то в 3-5 раз лучше

никто не спорит

проблема в представлении даблов в памяти, там всегда есть куча странных цифр в конце которые для тех же чисел дают разный результат

а если взять как компрессор не gzip а double-delta то на правильных данных оно еще лучше будет

когда 10.0 != 10.0

или компрессию аля прометеус

это кстати еще одна проблема графита)

или компрессию аля прометеус

а где в прометеусе компрессия? Или я что-то пропустил?

а где в прометеусе компрессия? Или я что-то пропустил?

https://prometheus.io/docs/operating/storage/#chunk-encoding

где то у них было описание как они делали сжатие

о, интересно, спасибо. Объемы у нас пока смешные, но разница почти втрое на метрику - радует несказанно

Шпам?

Шпам?

главное, такой сайт емкий. Наполненный

чат, а кто как рейд мониторит? если он хардварный

прикручиваешь фирменную утилиту-чекалку и поехали... наверное

Только так

Как иначе

ну, через text_collector? я просто не хочу давать рута мониторингу

смотря какая у тебя система мониторинга

а вообще есть suid, что, впрочем, тоже не слишком безопасно

можно дать судоера на скрипт, который запускает фирменную утилиту и вынимает инфу о состоянии рейда

Судоэрс, да

Стандартная практика

окей, спасибо

кстати, кто-нибудь из присутствующих может подсказать, как мониторить рэйд в прометее? хотя бы на уровне "ок/не ок". Для упрощения задачи представим, что рейд может быть любым

Ууууу

Любым это 150 массивов со вложенностью и по 15 дисков каждый?;)

я бы ограничился ок не ок для всех массивов сразу

опять же упрощая - я могу прометею возвращать любые данные, просто скриптом вопрос в том, как скормить прометею это ок/не ок

тот же вопрос по смарт

сложные вопросы вы задаете

В фаствпсе я такую систему два года строил

ERROR: S client not available

Со смартом вообще все плохо

Каждый диск - свои маркеры сбоя

да нет, вопрос на самом деле довольно простой. Нужен способ простого экспорта метрик по шаблону, аналога zabbix user_script. Но я пока не нашел, как это сделать

кроме megacli которую депрекейтнули в node_exporter и textfile_collector чот не знаю способов.

text_collector подходит идеально, спасибо

да нет, вопрос на самом деле довольно простой. Нужен способ простого экспорта метрик по шаблону, аналога zabbix user_script. Но я пока не нашел, как это сделать

есть ещё script_exporter

кроме megacli которую депрекейтнули в node_exporter и textfile_collector чот не знаю способов.

и там ещё нтп выкинули на мороз, он теперь отдельно идёт; надеюсь сможет сразу у кучи нтп серверов про время спрашивать, чтобы их 12 штук не запускать :)

ну, megacli можно в node_exporter запустить вроде

и там ещё нтп выкинули на мороз, он теперь отдельно идёт; надеюсь сможет сразу у кучи нтп серверов про время спрашивать, чтобы их 12 штук не запускать :)

я тоже логики не понял. говорить о том, что node_exporter - "is made for pure server metrics" (с), выпиливая ntp и megacli одной рукой, впиливая wifi_linux.go другой.

я думаю надо в ишьюсах написать, вы че дураки вифи включать и выпилвать нтп?

я думаю надо в ишьюсах написать, вы че дураки вифи включать и выпилвать нтп?

а таки на ваших серверах нет вайфай? :)

ну типа про нтп понятно, там хороший код который прям не ресурсоёмкий такой, а про вифи ничего не знаю :(

а вифи не включен подефолту, как и нтп кстати говоря

никто же не запрещает самому собрать нод экспортер без кода про вифи вообще :)

ну в центоси 7ой же по дефолту wpa_supplicant стоит и запущен :)

вместе с network-manager

а таки на ваших серверах нет вайфай? :)

ах да, это же новое слово техники - ЦОД без проводов и патчпанелей. и wifi роутеры juniper под потолком.

ах да, это же новое слово техники - ЦОД без проводов и патчпанелей. и wifi роутеры juniper под потолком.

ну так да. нет проводов - нет тупых инженеров, которые не полностью вставляют шнур.

Доброго всем! Мож кно нить подскажет умеет ли Alerta принимать алерты от Графаны через вебхуки? В коде что то такое есть, документация говорит многозначительное "TBC"...

Доброго всем! Мож кно нить подскажет умеет ли Alerta принимать алерты от Графаны через вебхуки? В коде что то такое есть, документация говорит многозначительное "TBC"...

Настраивал только Alertmanager - Alerta - Telegram

а так вообще вроде может https://github.com/guardian/alerta/blob/master/alerta/app/webhooks/views.py#L654

@alexanderzobnin привет ! А хитмап плагин со старенькой 4.0.2 графаной будет работать ?

Привет. Должен работать.

Джентельмены Вопрос имею по ES

Правда, релизить отдельно его не собираемся, хотим включить в поставку графаны как стандартный.

Есть ES, куда filebeat скидывает инфу с машин

Есть какая-нить вменяемамая дока по созданию запросов?

elastic.co в своей документации расстраивает (

Так что ответ двоякий какой-то получился ?

Правда, релизить отдельно его не собираемся, хотим включить в поставку графаны как стандартный.

а сейчас можно его поставить откуда то как плагин ?