у меня на тере данныъ то может занять 8 часов

с этим понятно, ещё нет репликации в open source версии, ещё какие-то грабли есть?

да .

еще нельзя предсказать размер шарда

вот график потребления диска. выделенный том чисто под него

поток метрик не менялся

хм, интересно, у меня линейный рост. Правда у меня нет сжатия данных через continius query, т.к. для меня эти задачи не профильные по сути. Руки не доходят никак

у меня тоже нет сжатия

ну видишь линейный рост внезщапно законсился

а что это за пики ясно?

продолжение эпопеи выглядит так вот

а что это за пики ясно?

ясно

это время перед compact full

как только наступает сжатие вчерашнего шарда у нас вместо 490 гигов шард занимает 25

да. шарды дневные

а какой поток метрик?

~75k

мда, поняно

есть надежда что 1,3 с tsi улучшит ситуацию

но веры в парней у меня нет.

прошлым летом я огребал выход за границы массива 3-4 раза в день.

на 0,13

с полным рестартом базы после этого.

вся наджеда на пром получается?

нет.

надежда на пром где под капот положат кликхаус :)

~75k

В секунду?

надежда на пром где под капот положат кликхаус :)

Для кх нужно чтобы у них шарды по произвольному ключу появились

Тогда сделать бэкэнд будет просто

Ну как просто, дело техники

мы по разным таблицам разные метрики планируем растащить

ключ, в принципе, заведомо известен

В секунду?

ага

ага

Алексей, спасибо большое за информацию. очень полезно было узнать. Увидел такие пики даже у себя, только они по 3-4ГБ пока что

в логе надо смотреть на compact full. он по дефолту запускается через 4 часа после того как в шард пришли последние данные.

мне это много

кстати подумал может зафигачить шарды еще меньшего размера... хм

мы по разным таблицам разные метрики планируем растащить

Тоже полезно, да. Но одно другому не мешает

Народ, кто-нибудь на РИТ++ (RootConf) идет?

Народ, кто-нибудь на РИТ++ (RootConf) идет?

я буду)

Я иду. Какие-то ватные доклады, 4-й год одни и те же люди рассказывают про одно и тоже

Я просто думаю, стоит ли митап по графане делать.

Там можно такое замутить.

Я иду. Какие-то ватные доклады, 4-й год одни и те же люди рассказывают про одно и тоже

хорошая мотивация

А какая тема? Как пользоваться графаной или чейнжлог зачитать?

Темы пока нет конкретной. Могу небольшое демо последних фич сделать.

У меня фичереквест для графаны! Надо добавить поддержку аннотаций, что-бы графана их принимала и хранила в свойм мускуле.

А то приходится костыли изобретать

из-за которых я не могу графану обновить

так сделайте пуллреквест

Мы сейчас делаем поддержку аннотаций, которые пользователь сам может добавить на графике.

Там будет api для этого.

А курлом их можно будет записывать?

Сможете через него писать.

ваще пушка!

В мастете есть уже?

Надо посмотреть, не уверен, насчет курла

Не, отдельная ветка

create-annotations

prometheus/prometheus: 1.6.3 / 2017-05-18 was tagged

> прометеус НИНУЖНО!

никто не решал хранение метрик из прома в другом сторадже?

кстати, а там вот появилась фича что маркер на куче графиков синхронно движется, тольково, но оно похоже только для простых случаев, а не планируют его расширить чтоб оно везде работало, ну там для кажи когда на куче графиков, по куче метрик, да всякие привязки к левой правой Y, а ещё больше двух Y вообще бы бимба

хочу просто историю метрик иметь в чем то помимо прома

ERROR: S client not available

что более шустро

никто не решал хранение метрик из прома в другом сторадже?

а смысл, вон хотя сейчас influx чебе делает экспортер и можно будет поди им дополнительно те же метрики собирать

а смысл, вон хотя сейчас influx чебе делает экспортер и можно будет поди им дополнительно те же метрики собирать

экспортер же отдает

а не собирает

кстати, а там вот появилась фича что маркер на куче графиков синхронно движется, тольково, но оно похоже только для простых случаев, а не планируют его расширить чтоб оно везде работало, ну там для кажи когда на куче графиков, по куче метрик, да всякие привязки к левой правой Y, а ещё больше двух Y вообще бы бимба

Можно поконкретнее? Это про shared crosshair?

ну они там в свой телеграф пилят фичу, чтоб он прометеус понимал и мог стягивать в инфлюкс

никто не решал хранение метрик из прома в другом сторадже?

вот такая штука есть https://github.com/prometheus/prometheus/tree/master/documentation/examples/remote_storage/remote_storage_adapter

Можно поконкретнее? Это про shared crosshair?

ну наверное или вот http://docs.grafana.org/guides/whats-new-in-v4-1/ у меня оно просто что то только на простеньких дашбордах работает, а когда данные с нескольких серверов на нескольких графиках, то нефига не кажет

вот такая штука есть https://github.com/prometheus/prometheus/tree/master/documentation/examples/remote_storage/remote_storage_adapter

да, похоже это именно то что мне нужно

аа.... блин её надо жмаканьем кнопок включать, вот же мудрилы

ну наверное или вот http://docs.grafana.org/guides/whats-new-in-v4-1/ у меня оно просто что то только на простеньких дашбордах работает, а когда данные с нескольких серверов на нескольких графиках, то нефига не кажет

Странно, должно работать. Можно пример?

всё нашел, что надо кнопку жмакнуть, просто на каких то оно работало, может в свойствах дашборды было сохранено :)

CTRL+O еще можно

ну да, но кто ж читает фичеапдейты :)

а что там с множественными Y осями, погуглить что ли, что там творится :)

а что именно?

ну двух осей откровенно же мало

А сколько надо?

больше

Я пока себе это плохо представляю

Есть пример?

https://github.com/grafana/grafana/issues/1893

это добно для обзорных графиков, ну вот 2 же не просто так ввели, но частенько масштаба 2-х явно маловато и какие нибудь из данных приходится умножать/делить

чтоб их было заметно

не уверен, что это в планах есть

вообще странно, вроде где то попадалось переодически всплывая, это просто почти первая попавшаяся ссылка

https://www.youtube.com/watch?v=Hxj6g0sKu5A

Это больше про OLPT нагрузки. Если говорить про TSDB, то там все несколько проще и можно одновременно иметь низкие значения read/write/space amplification. Это не значит что гипотеза RUM несправедлива, просто M это не обязательно space amplification (как многие понимают), в случае TSDB это как правило использование RAM, которые выливаются в проблемы с cardinality. Поэтому когда какой-нибудь вендор обещает забароть cardinality проблемы, это означает что хуже станет где-то еще, либо с записью, либо с запросами.

Впрочем, это не БД чат :)

Мне показалось что видео даже тут полезно )

про amplification - на самом деле все равно имеет место быть, потому что чтение данных тоже мягко говоря интересный процесс