на таких объемах я не готов разговаривать сразу.

ибо таких баз не видел

ну там все не так

я кстати, слабо бредставляю заббикс который нормально переварит 1.3кк метрик в секунду

у Владимира вроде что-то близкое было

мониторинг (не важно какой) - получает 1.3М в секунду, но пишет он в кеш а в БД он пишет пакетно, получается нагрузка уже не такая

понятно что кеш.

я готов согласится с фактом быстрой записи в него.

мониторинг (не важно какой) - получает 1.3М в секунду, но пишет он в кеш а в БД он пишет пакетно, получается нагрузка уже не такая

где то агрегирует. где-то не пишет вообще, все сильно по разному для разных метрик. там не линейно

и в пакетизацию записи в бд

да

но не готов с этим смирится без картиночек с мониторинга подтверждающим это

погодите, погодите

что такое аггрегирует, не пишет вообще

аггрегирует это значит еще и вычитслят на лету.

"5 тыс метрик раз в минуту" - это 5000 метрик / 60 секунд = 83 метрики в секунду с одного ip. это average, max наверное будет 4k (когда бекенд был недоступен а потом резко проснулся) 83 метрики * 16k объектов - это 1,3M метрик в секунду на всю сеть, когда всё равномерно и хорошо. ну и поделить это на 10 серверов, в общем-то не так уж и страшно получается.

но не готов с этим смирится без картиночек с мониторинга подтверждающим это

я с Магнита уволился года полтора назад. Даже мне парни тока на словах щас говорят про нагшрузку - хер картинки показывают. ибо низя. но когда уходил было примерно 70% от нагрузки описанной тут Я ж не заставляю верить :))

а как мы знаем заббикс при этом потоке должен расчитыать триггеры

а ну вот так и получается 1,3M можно было не пересчитывать

"5 тыс метрик раз в минуту" - это 5000 метрик / 60 секунд = 83 метрики в секунду с одного ip. это average, max наверное будет 4k (когда бекенд был недоступен а потом резко проснулся) 83 метрики * 16k объектов - это 1,3M метрик в секунду на всю сеть, когда всё равномерно и хорошо. ну и поделить это на 10 серверов, в общем-то не так уж и страшно получается.

все пишется в 1 инстанс заббикса

а раз расчитывает триггеры и я уверен часть из них еще имеет историчность это просто ад и треш.

есть еще другие - но их нагрузку не учитываем

по локам чего?

по локам монги

ну и многие метрики идут не в заббикс- я ж писал

ну и многие метрики идут не в заббикс- я ж писал

ок.

я трактую это так

в заббикс идет 10к метрик отсальные идет не в заббикс

а раз расчитывает триггеры и я уверен часть из них еще имеет историчность это просто ад и треш.

если грамотно настроить кеши - выживает. но получается реальный highload

ибо "многие" очень растяжимое понятие

система мониторинга в режиме выживания - это как-то неправильно

Погодите

я такое называют "система захоронения данных"

в заббикс идет 10к метрик отсальные идет не в заббикс

нет. я не буду тут рассказывать точные цифры, вы же понимаете почему это нельзя. могу сказать так - порядка 70% в заббикс (не равномерно) - 30% не в него

Ну - 100К метрик я в секунду в пром вливал вообще не чихнув

Или в 10 секунд

не проблема съесть метрики

с промоми вопросов нет

@lastsky Мы же какой-то экспортер для монги глядели?

глядели, что ничего работающего там не было :)

был у нас заббикс в одном проекте

все решается

там не реляционных накладных расходов

проблема - управлять системой

скатился в режим -- все, что записано, достать уже нельзя

меня просто до оцепенения доводит 910к записей в секунду в реляционную дб

проблема - управлять системой

и вот тут как раз нужны эти люди, которые пожирают миллионы в год, чтобы это все превратить в систему, которая решает задачи бизнеса

леш, записать можно

достать уже нельзя

@lastsky Мы же какой-то экспортер для монги глядели?

перкона для монги хороший экспортер сделала

и дашики

для прометеуса

Николай, вы не тот инструмент берете

Но постойте

к тому же погодите это же под капотом будет вариант мусеньки ?

Сраббикс это не инструмент для сбора и анализа бизнес-метрик вообще

Потому что - но как?

Сраббикс это не инструмент для сбора и анализа бизнес-метрик вообще

почему же - великолепно справляется.

Это реально надо двух инженеров сажать по этому говну фуллтайм выпиливать

почему же - великолепно справляется.

Я про сортир уже писал

и весь кейс - придумать ветрянные мельницы и взять специалистов по борьбе с ними

APP-мониторинг - это не для него да

и весь кейс - придумать ветрянные мельницы и взять специалистов по борьбе с ними

предложите другое решение

пром же

Риман

Грэфайт, виспер

Графана

Мойра даже

пром же

по деньгам сколько выходит?

ERROR: S client not available

опять про деньги...

по деньгам сколько выходит?

вы почему то игнорируете мои комментарии в ошибках в ваших расчетов.

?

По деньгам дороже всего выходит не система мониторинга

А бизнес-требования к ней

Которые ортогональны системе, так-то

и зачем то считаете что будет реальная разница в деньгах в любой опенсорс системе

опять про деньги...

если рассуждать не выходя за рамки отдела (группы) мониторинга - пром афигеген. Но как тока встает вопрос в его внедрении - сразу возникает вопрос денег. почему про это не надо говорить?

вы почему то игнорируете мои комментарии в ошибках в ваших расчетов.

прпустил

И пром, кстати, херово длительный мониторинг делает

Тут реально виспер нужен

С го-карбоном

И пром, кстати, херово длительный мониторинг делает

поделись чо знаешь ?

поделись чо знаешь ?

Ну там же нет агрегации

вы про стоимость хранилища не забывайте

и зачем то считаете что будет реальная разница в деньгах в любой опенсорс системе

реальная разница была с ынтырпрайз-системами. опенсорц все примерно в одном ценовом поле получались

заббикс на порядок проигрывает прометею

а если еще и в mysql/postgres писать -- вам еще IOPS'ы боком встанут

а если еще и в mysql/postgres писать -- вам еще IOPS'ы боком встанут

FusionIO

Ж)

и на сколько вы fusion поставите?

буквально на прошлой неделе меряли - в самой простой конфигурации получали неплохие результаты

https://1drv.ms/x/s!Am8wk0oFY1S9qn0BJUCsI65N21Hm

мы его для другого проектика щас юзаем - поменьше конечно. рассчитываем на БД размером в 1Тб

вам метрики на один день нужны только?

:)

нет - на год

30 дней итсории год тренда

будет мало - поставим в LVM еще фьюжик

1M м метрик в секунду на год в 1Тб? :)

1M м метрик в секунду на год в 1Тб? :)

для другого проекта говорю ж

другой массштаб