hindsight в смысле

@alexanderzobnin а нет ли у вас уже таска на дашборд графаны в качестве датасорса графаны? поясню вчера все пырились в графики гитлаба. а мне хотелось их покрутить. но их публичная графана не даёт права редактировать. данные как бы есть и в виде json и в виде пригодного вида, но поиграть с ними низя. грустько

Есть View Editor роль для этого.

Есть View Editor роль для этого.

очевидно что на гитлабовской графане никогда небудет у меня как и большинства участников этого чата роли эдитор

очевидно что на гитлабовской графане никогда небудет у меня как и большинства участников этого чата роли эдитор

Не, это Viewer, котрый может играться с дашбордами, но не сохранять их. Как на play.grafana.com

Не, это Viewer, котрый может играться с дашбордами, но не сохранять их. Как на play.grafana.com

ты намекаешь что надо попросить гитлабовцев поменять тип учетки у анонимуса на едитор ?

Не, это Viewer, котрый может играться с дашбордами, но не сохранять их. Как на play.grafana.com

play.grafana.org

ты намекаешь что надо попросить гитлабовцев поменять тип учетки у анонимуса на едитор ?

На Viewer и включить опцию Viewer Can Edit в конфиге

На Viewer и включить опцию Viewer Can Edit в конфиге

но очевидно что делать они этого не будут :)

поэтому мне кажется разумным подход с другой стороны. вместо выгрузки csv и крутения данных в ексельке считать что данные пришедшие по вот этой ссылке являются датасорсом для другой графаны

берем публичную графану указывам ссылку которая там отдает данные подсоываем в своюб графану. крутим :)

grafana/grafana was tagged: v5.2.0-beta1 Link: https://github.com/grafana/grafana/releases/tag/v5.2.0-beta1 Release notes: [Download Page](https://grafana.com/grafana/download) [Installation Guide](http://docs.grafana.org/installation/) [Release Notes](https://community.grafana.com/t/release-notes-v5-2-x/7894) * **Elasticsearch**: Alerting support [#5893](https://... More

При мержде таблиц в grafana от influxdb можно, чтобы не учитывался определенный столбец?

@rlomonosov Привет! а ты случайно не начал шалить с предварительной буферизацией записи в КХ? а ля вот с таким разрешением мы пишем в инмемори буффер/базу а вот с более грубыми начинаем распихивать уже по дискам

а зачем? диск не справляется?

да вот интересно если таблица будет инмемори то время выборок с гокарбоном (инмемори) сравняется или будет все так же раз в 10 медленее

в КХ вот или появился или я только заметил штука под названием Buffer в первом приближении вроде это как раз параметризованный буфер с вытеснением в который можно очень быстро писать, а главное очень быстро читать

ты таблички с хранением метрик в обратном порядке пробовал? они как раз и могут ускорить в те самые 10 раз

не не пробовал, попробую

пока у всех кто таки попробовал ускорение было значительное. иногда в десятки раз

оптимальную с моей точки зрения схему таблиц я реализовал тут https://github.com/lomik/graphite-clickhouse-tldr там есть и примеры конфигов и запросы создания табличек. ну и вообще тестовый стенд можно одной командой развернуть

А можно порядок озвучить? вот выборку из примерно 5к метрик гокарбон выплевывает за 20мс, КХ(пока без обратных таблиц) - 300мс и ладно бы всегда так было, но эти запросы иногда "чуть чуть" не влезают в понятие КХ "небольшой запрос" и тогда оно падает на диски и вот тогда боль... до 15 сек. Это все конечно не про один запрос, т.е. mps порядка 100к+ в сек

А можно порядок озвучить? вот выборку из примерно 5к метрик гокарбон выплевывает за 20мс, КХ(пока без обратных таблиц) - 300мс и ладно бы всегда так было, но эти запросы иногда "чуть чуть" не влезают в понятие КХ "небольшой запрос" и тогда оно падает на диски и вот тогда боль... до 15 сек. Это все конечно не про один запрос, т.е. mps порядка 100к+ в сек

По моим старым экспериментам, вытащить одну метрику из кх дорого, но вытащить пачку близких дешевле чем в го карбоне

Мой кейс решит перенос запроса а ля топ, макс и вот такое на сторону КХ(пока решается карбоном как быстрой молотилкой). Довольно много экранов из разряда ходим видеть топ 20 из 200—800+ метрик за полчаса, час — частенько КХ считает что в кеше он это не соберёт и лезет на диск(а оно точно ещё в кеше)

Мой кейс решит перенос запроса а ля топ, макс и вот такое на сторону КХ(пока решается карбоном как быстрой молотилкой). Довольно много экранов из разряда ходим видеть топ 20 из 200—800+ метрик за полчаса, час — частенько КХ считает что в кеше он это не соберёт и лезет на диск(а оно точно ещё в кеше)

Может просто добавить памяти?

Мой кейс решит перенос запроса а ля топ, макс и вот такое на сторону КХ(пока решается карбоном как быстрой молотилкой). Довольно много экранов из разряда ходим видеть топ 20 из 200—800+ метрик за полчаса, час — частенько КХ считает что в кеше он это не соберёт и лезет на диск(а оно точно ещё в кеше)

Дисковый кэш спас бы

Но оно не в нем значит уже

Памяти под кеш выделено на полдня хранения, там логика в кеш лезем или нет зависит не от протухания по времени а просто от толстости запроса, может добавили настроек, но полгода назад было так.

Я @rlomonosov писал про схему которую хотел собрать: метрики писать параллельно в carbon-ch и в go-carbon, но в go-carbon отключить whisper и оставить только кэш который отдаёт метрики по carbon-link. graphite-ch в свою очередь умеет ходить в carbon-link и быстро получать оттуда метрики. Логически схема должна работать но там проблема с реализацией carbon-link в graphite-ch как объяснил Роман

Памяти под кеш выделено на полдня хранения, там логика в кеш лезем или нет зависит не от протухания по времени а просто от толстости запроса, может добавили настроек, но полгода назад было так.

о каком кеше вообще идет речь?

Я @rlomonosov писал про схему которую хотел собрать: метрики писать параллельно в carbon-ch и в go-carbon, но в go-carbon отключить whisper и оставить только кэш который отдаёт метрики по carbon-link. graphite-ch в свою очередь умеет ходить в carbon-link и быстро получать оттуда метрики. Логически схема должна работать но там проблема с реализацией carbon-link в graphite-ch как объяснил Роман

+ кэш ещё в go-carbon не чиститься

Uncompressed который

Uncompressed который

хм, я его даже не пробовал включать )

Значит этот чатик не бесполезен )

На мелочевке прям реально спасает

ну если начнет опять когда-нить тормозить, то попробую. после перехода на "реверсивные" таблички как-то все стало слишком хорошо и пока оптимизировать не тянет

influxdata/telegraf was tagged: 1.6.4 Link: https://github.com/influxdata/telegraf/releases/tag/1.6.4 Release notes: Telegraf 1.6.4

influxdata/telegraf was tagged: 1.7.0-rc1 Link: https://github.com/influxdata/telegraf/releases/tag/1.7.0-rc1 Release notes: Telegraf 1.7.0-rc1

Хм.. надо пр дожать... хотя там ещё конь не валялся в сборщике

influxdata/telegraf was tagged: 1.7.0-rc1 Link: https://github.com/influxdata/telegraf/releases/tag/1.7.0-rc1 Release notes: Arch Platform Package SHA256 amd64 Debian [`telegraf_1.7.0~rc1-1_amd64.deb`](https://dl.influxdata.com/telegraf/releases/telegraf_1.7.0%7Erc1-1_amd64.deb) `5e6a5374d230e64c52fa94f9361dd29650cc8f94c9d25f1c36eab09d01eff5f7`... More

блин, надо подумать что делать с парсингом markdown'а от релизов телеграфа

Привет! Подскажите, пожал. какая настройка отвечает за удаление устаревших данных в кх? Если я ее изменю, у меня старые данные попавшие под критерий очистятся или только все новозаписанные будут учитываться?

Привет! Подскажите, пожал. какая настройка отвечает за удаление устаревших данных в кх? Если я ее изменю, у меня старые данные попавшие под критерий очистятся или только все новозаписанные будут учитываться?

@clickhouse_ru

Ага, спасибо

здравствуйте, а тут можно спрашивать совета по мониторингу mysql/postgresql?) точнее, чем удобней мониторить за первомансом mysql и postgresql?

про первое у перконы есть готовое

про второе недавно видел эту штуку - https://github.com/ankane/pghero но не трогал, хз как она

По поводу postgres есть такая штука: https://www.datadoghq.com/blog/postgresql-monitoring/

спасибо почитаю. По PMM, не куда ставить, нет AWS, docker и VMware :D

есть обычные vps :D

всем привет! У меня такая проблема: есть несколько кластеров куба, в каждом есть прометей для сбора метрик. Есть отдельный прометей, который собирает данные со всех кластеров. У него такой конфиг: - job_name: 'federate' scrape_interval: 15s scrape_timeout: 14s honor_labels: true metrics_path: '/federate' params: 'match[]': - '{job="kubernetes-cadvisor"}' - '{job="kubernetes-service-endpoints"}' static_configs: - targets: - '10.1.29.10:6677' - '10.1.29.30:6677' - '10.1.29.40:6677' Со всех кластеров данные собираются нормально, а с одного периодически прерываются. Все прометеи в кластерах настроены одинаково. Куб поднят тоже одинаково. Разница только в кол-ве нод - в проблемном кластере их 5, в остальных по 3.

какую ошибку показывает?

15 секунд интервал - не слишком ли? вангую что оно просто не успевает докачаться

Никакую. Только state меняется с up на down

ERROR: S client not available

на пару секунд

в таргетах чо написано?

на страничке таргетов написано почему даун

вот в таргетах он и меняется

почему - нет

вот зачем ты врёшь мне

вот у меня прямщас есть пара таргетов в дауне

пишет context deadline exceeded

про интервал - я так и не понял - пробовал cтавить больше - вообще ничего не приходит

кстати интервал и таймаут можно выставлять одинаковыми

пишет context deadline exceeded

а, это да )) у меня тоже самое пишет

а с хоста твоего федерейта подёргай курлом тот урл что прометей дёргает

и замерь время

у меня на кластерных прометеях стоит интервал 15 сек. они должны как то коррелировать с главным?

он не главный, он просто собирает с них данные

ну и зависит от настроек

точнее, от того что тебе надо

ну ок. я буду называть его главным ))

мне надо, чтобы все метрики собирались

он не главный, он ничем не командует

и не было дырок на графике

а с хоста твоего федерейта подёргай курлом тот урл что прометей дёргает

.

cейчас

ну он быстро отрабатывает

кто?

меньше секунды