Anonymous
Или на обслуживание Чистякову :)
yopp
а я хочу.
через год приходи, вероятно мы таки запилим свою tsdb
Anonymous
а я хочу.
А зачем тебе? Не вижу изкейза
yopp
потому что прометей пиздат для «сдесь и сейчас» и «а чо было вчера». и не подходит для «а давай сравним чо было вчера и пять лет назад в это день»
yopp
плюс метрики с разрешением в секунду, это редкий кейс на самом деле
Denis
А зачем тебе? Не вижу изкейза
потому что в агрегации за 10сек теряется больше, а за минуту там совсем. А в гистограммы пока не умеем )
yopp
в смысле которые реально меняются раз в секунду
yopp
это я тебе как разработчик аналитки для скады говорю :)
Denis
всмысле ? у меня на метрику валится 800 значений примерно за секунду
yopp
давай начнём с терминологии
Denis
давай !
yopp
метрика это временная линия. у тебя в секунду на временной линии 800 событий происходит?
Evgeny
Вот прямо не хочется прерывать годный спич, но...
Denis
да.
yopp
ты рисуешь 800 точек в секунду?
yopp
чем?
Denis
я не рисую, я их агрегирую за секунду и рисую одну точку.
yopp
что это за точки? какой у них физический смысл?
Denis
точнее рисую 5 точек на 5 линиях, для одной метрики.
yopp
точка это _изменение_ значения
Dan
зачем тебе нужен владелец этой группы?
yopp
А зачем сравнивать "десять секунд назад" с 31234567 секунд назад?
очень часто надо. простой кейс, а давайте посмотрим сколько воды город потребил в прошлый засушливый день
Denis
А зачем сравнивать "десять секунд назад" с 31234567 секунд назад?
незачем, потому и хочется агрегировать спустя некоторое время. для сохранения истории трендов.
nvkv
зачем тебе нужен владелец этой группы?
будет тебя царицами соблазнять
Dan
я вам уже кидал смешную ссылку про заббикс с графаной в докере?
yopp
В день! Не в секунду!
скорость изменений тоже роль играет
Dan
вот вместо цариц идите и смотрите. а я пока в докер сую icinga2
yopp
например давайте посчитаем сколько воды выливалось в секунду
yopp
из нашего водохранилища
Anonymous
скорость изменений тоже роль играет
Я об агрегации. Что хранишь сырые данные немного, потом агрегируешь из, потом ещё больше и ещё
Anonymous
например давайте посчитаем сколько воды выливалось в секунду
Кол-во вылитой воды за минуту разделить на 60?
Denis
погоди, метрика может изменяться сильно чаще чем раз в секунду, но хранить ее так часто сложно.
yopp
скорее всего ты просто смотришь на это не совсем так
Denis
ну к примеру респонс тайм какого то сервиса 3й стороны на который я хожу.
Anonymous
в скадах хранят сырые данные :)
И кому нужны эти сотни триллионов значений?
yopp
например НИИ всяким, которые потом всякие железки оптимизируют
Dan
хм. я её там нашёл по-моему
Dan
а сюда кидал потому что докер.
Anonymous
например НИИ всяким, которые потом всякие железки оптимизируют
Ну у них там наверняка не такое количество инфы. Иначе это было бы хлеще Яровой
yopp
Ну у них там наверняка не такое количество инфы. Иначе это было бы хлеще Яровой
на самом деле быстрых физических процессов очень мало, в основном электрика
yopp
всё остальное очень медленное
yopp
и данных не так много
Denis
всё остальное очень медленное
я тебе ответил, а ты нет )
yopp
я тебе ответил, а ты нет )
я тебе думаю, погоди
Anonymous
Ну вот для них тогда и имеет смысл хранить. Раз данных мало. Мы же о "здоровье сервиса" сейчас
yopp
yopp
за исключением может сотни метрик
yopp
почему бы и не хранить. сегодня ты никогда не знаешь что тебе надо будет завтра
yopp
так что пиши всё, завтра понадобится
yopp
я тебе ответил, а ты нет )
наиболее оптимальный способ в твоём случае, как ты сам выше сказал — гистограммы с высоким разрешением. наприер миллисекундным в жестком диапазоне.
yopp
если тебе прямо так важно до миллисекунд.
yopp
мы с таким боролись очень просто: многоуровневая аггрегация
yopp
сырые данные пре-аггреровались в пяток разрешений и в зависимости от масштаба при чтении, брались из нужного разрешения
yopp
или сырые
yopp
задача покажи мне с точностью до события в масштабе год, тоже плохо решалась, но в общем случае такое никому и не надо было
yopp
мы по сути в аггрегации хранили некое подобие римской свечи
yopp
last+t, first+t, min+t, max+t, avg, среднеквадратичное, медиану
Anonymous
Эх, развели тут второй девопс. Йопп, тебя там второй раз забанили?)
yopp
да там хуями меряются
yopp
тут тихо и приятно
Anonymous
тут тихо и приятно
Тебе нужна слака. Там можно самому с собой говорить :)
yopp
да и тут можно!
Denis
наиболее оптимальный способ в твоём случае, как ты сам выше сказал — гистограммы с высоким разрешением. наприер миллисекундным в жестком диапазоне.
зачем мили ? в секундном, на то они и гистограммы что зная count за интервал, можно будет восстановить данные с заданной точностью.
Denis
в хангопсе тихо и приятно, тока Денис достает )))
Dan
тут поступило предложение всем переехать на Rancher
yopp
заебок идёт
Dan
rly?
Dan
стоит ?
Denis
а какую проблему он решает, подскажите ?
Denis
я вот смотрел смотрел да не высмотрел
yopp
стоит ?
уже почти год как
Dan
уже почти год как
космос! надо попробовать!
yopp
а какую проблему он решает, подскажите ?
для нас он решает проблему: а давайте накидаем нод и быстро лейблами покажем куда чо будет кататся