с места ответить не гоов

Я мунин с землёй ел. В ём кучка моих плагинов есть

И? Вот надо нам 2-3 млн точек в секунду. Какое железо надо для munin?

И? Вот надо нам 2-3 млн точек в секунду. Какое железо надо для munin?

что за точки, как собирать?

с места ответить не гоов

У меня просто в тестах на такое один сервер с 12 ядрами и ссдшкой лопатил

Упирался в сеть

Можно было читать вполне это

что за точки, как собирать?

Да не важно что за точки. Важно их количество

Ссд можно даже на хдд заменить было если рецд10 взять

Давай сделай на мунине

что за точки, как собирать?

У нас поток данных по компании - 2.5 млн точек в секунду

так, нагиос + графит же нормальная связка?

Разные - сервера, виртуалки, софт, бизнес метрики

так, нагиос + графит же нормальная связка?

Смотря что хочется.

так, нагиос + графит же нормальная связка?

Если мониторинг то ставьте прометея

Он получше будет

так, нагиос + графит же нормальная связка?

Графит умрет на таком потоке

Если статистику - то норм

Графит умрет на таком потоке

Нет

Да не важно что за точки. Важно их количество

Ну у меня тыщ этак 200-400 (я не считал) лопатил старый ксеон в 8Гб оперативы и зеркалом на сата

8ядер

Ну у меня тыщ этак 200-400 (я не считал) лопатил старый ксеон в 8Гб оперативы и зеркалом на сата

В какую единицу времени?

ага, спасибо. Прометей просто никогда не использовал, посмотрю, но да мониторинг и статистику по потреблению ресурсов

В какую единицу времени?

Опередил

а, у вас в секунду...

мунин не так работает

Графит умрет на таком потоке

Если взять go-carbon то можно легко 250-300 тысяч а секунду на ссд писать

Графит умрет на таком потоке

у меня парк маленький, где-то тысячи три точек будет

а, у вас в секунду...

Одна точка снимается пусть раз в минуту. Просто их всего миллионы.

а, у вас в секунду...

Это усреднение

Просто они приходят периодически

Внимание, вопрос: вы точно уверены что вам нжно именно каждую секунду поток собирать? Мониторинг он всетаки не для этого, он для определения трендов...

И получается что каждую секунду где то 2.5 млн в среднем

Внимание, вопрос: вы точно уверены что вам нжно именно каждую секунду поток собирать? Мониторинг он всетаки не для этого, он для определения трендов...

А там и не раз в секунду

Просто у нас 30+ тысяч хостов

Еще софт

Еще бизнес данные

мунин сам раз в х времени опрашивает сенсоры

Тогда можно дать советы

Понятно. - Хранить в базе метрики. - Количество реквестов - меньше 500 в секунду. - Возможность горизонтально масштабировать, т.е. создание нового шарда не было чем-то заоблачным и сложным. - Фолт толеранс (пережить брейн сплит, например) - Удобные тулзы для мониторинга самой базы(даже если за деньги) Звучит все равно немного обще, но основное - это возможность горизонтально масштабировать и мониторить

Еще виртуалки

сенсоры тупо висят и ждут запроса

Внимание, вопрос: вы точно уверены что вам нжно именно каждую секунду поток собирать? Мониторинг он всетаки не для этого, он для определения трендов...

По-разному. Например, с большим шагом можно не увидеть проблем.

По-разному. Например, с большим шагом можно не увидеть проблем.

большой шаг имхо это больше часа

норм шаг это 3-10 минут

мунин сам раз в х времени опрашивает сенсоры

Сколько времени он будет опрашивать 30-40к хостов?

большой шаг имхо это больше часа

Для каких то кейсов раз в день ок

Троллят

я вот был на собеседовании в артвизио, они исингу и прометей считают ненужными

Где то раз в секунду норм

норм шаг это 3-10 минут

лол, нет

я вот был на собеседовании в артвизио, они исингу и прометей считают ненужными

Продолжай

у меня бывают спайки cpu на минуту

Где то раз в секунду норм

раз в секунду это только для кпу и то для посмотреть приттестах

Продолжай

а ещё считают контейнеры хайпом, как и питон, по их мнению нужен в основном раби

а ещё считают контейнеры хайпом, как и питон, по их мнению нужен в основном раби

Ты конечно же пойдёшь к ним работать?

Ты конечно же пойдёшь к ним работать?

нет

норм шаг это 3-10 минут

Допустим, мы вещаем видео в интернеты. За 3 минуты дохрена всего может произойти

у меня бывают спайки cpu на минуту

"бывают" != "категорически всегда"

Допустим, мы вещаем видео в интернеты. За 3 минуты дохрена всего может произойти

гм, а что оно при сбое само у вас не сообщает?

Даже у меня сообщает

раз в секунду это только для кпу и то для посмотреть приттестах

Сеточка

что сеточка?

гм, а что оно при сбое само у вас не сообщает?

Отлично. И как понять причину сбоя?

"бывают" != "категорически всегда"

будит тебя саппорт, у части клиентов висло приложение, в течении полутора минут, у них куча тикетов

а у тебя шаг в 3 минуты

как ты будешь диагностировать?

Отлично. И как понять причину сбоя?

Элементарно: продумать это заранее и написать скрипт так чтобы он это предусмотрел

как ты будешь диагностировать?

уменьшу шаг для тестов

Вот 50 секунд был пакетлосс. У клиентов боль. А мониторинг ничего не расскажет

уменьшу шаг для тестов

поздно, было 10 минут назад

Ты конечно же пойдёшь к ним работать?

кстати, расскажи мне, есть ли какая быстрая миграция между мониторингами, даже интерено стало, в гугле чтот забанили, ничего найти не могу

тебе нужно написать отчет что не так случилось и как это поправить

а не говорить, ну я уменьшу шаг, что бы при следующем сбое увидеть проблему

вот например, есть настроенный заббикс на 1300 хостов, как все хосты и метрики, что заббикс собирает, перенести в другой мониторинг

Графит умрет на таком потоке

Нет

Элементарно: продумать это заранее и написать скрипт так чтобы он это предусмотрел

Все не учитешь

поздно, было 10 минут назад

Было и пропало? Проблемы нет.

Точнее, на данный момент не ясна

повторяется рандомно 10 раз в сутки

Было и пропало? Проблемы нет.

ты так на собеседовании не скажи

надо искать, почему

повторяется рандомно 10 раз в сутки

на сутки уменьшить шаг

никому и никогда

Нет

на ssd?

Или вы будете следом еще условия выдумывать ?

на сутки уменьшить шаг

у тебя 10к хостов, проблема на части из них, рандомной

надо искать, почему

И искать почему

на ssd?

нормальное кол-во оперативы выделить и использовать btrfs?

да нет, это вполне реальные кейсы

нормальное кол-во оперативы выделить и использовать btrfs?

вот хрыч, ну скажи - как тебе удается быть настолько некомпетентным?!

Нет, блять, мы будем тратить тысячи не своих зелени на мониторинг чтобы "ав друг нам пригодятся данные посекундные", когда на самом деле достаточно раз в 5мин опросить и при проблемах зачастить

Точнее, на данный момент не ясна

зашибись подход. в следующий рад тоже не поймали. и так месяц. за это время клиенты порвут на британский флаг

И вообщето, проблемы через логи разрешабются

а не через проценты свободы сети

не разрешаются

вот хрыч, ну скажи - как тебе удается быть настолько некомпетентным?!

если говорить по делу, будет меньше внимания, например, когда я в теме на лоре написал про 4 ранговую сеть(троллинг) тема сразу 20 страниц набрала

И вообщето, проблемы через логи разрешабются

как? )

Нет, блять, мы будем тратить тысячи не своих зелени на мониторинг чтобы "ав друг нам пригодятся данные посекундные", когда на самом деле достаточно раз в 5мин опросить и при проблемах зачастить

бизнесу дешевле оплатить один сервер чем терять клиента

как? )

чтением

в логах аномально высокие задержки, но нет ошибок

чтением

как логи помогут диагностировать проблемы в сети?