
Vladimir
25.08.2016
15:11:50
https://github.com/dkulikovsky/metricsearch
и где-то еще размазано по репам этого товарища
https://github.com/dkulikovsky/graphite-ch-web отсюда можно плагин выцепить для graphite-web master
и адаптировать его под что-нибудь еще

Google

Алексей
25.08.2016
15:12:51
ага... я учту

Vladimir
25.08.2016
15:12:56
минус в том что там доков нет
нужно человека выискивать и его спрашивать )
или код читать
это один из вариантов прокси из графита в кликхаус
потому что внутр яндекса их минимум два разных
вторая помоему не выпущена, да
и какая лучше я не знаю )

Алексей
25.08.2016
15:19:45
ага. когда есть де и одна не выпущена...
друид это как бы вариант графита или свое ?
а
я затупил

Artur
25.08.2016
15:25:03
java - 93.8% codebase :)

Google

Алексей
25.08.2016
15:25:46
а почему у java на github коричневый цвет ? они что то знают ?

ptchol
25.08.2016
15:35:45

Magistr
25.08.2016
15:36:37

ptchol
25.08.2016
15:39:19
потому что х3 это репликация данных на hdfs. если у вас десяток регион нод(да даже если 3), то в случае падения одной из них регионы мастером переназначатся другим нодам, и данные начнут подниматься с hdfs что адски медленно и на этот период времени у вас будут они недоступны.
Поэтому обычно включат репликацию регионов на уровне hdfs и если она х3 то получаем х9
нэ ?

Magistr
25.08.2016
15:40:13
наверно там hbase должно было быть в 1м из мест

ptchol
25.08.2016
15:41:08
всмысле ?

Алексей
25.08.2016
15:50:17
Виталя, это крайне неожиданный для меня результат.

Виталий
25.08.2016
15:51:14
Раз ты занимаешься SMM, грех не попробовать

Magistr
25.08.2016
15:51:57

Алексей
26.08.2016
07:56:03
Господа, а кто то уже попробовал clickhouse под метрики использовать ?
есть какие то впечателения ?

Vladimir
26.08.2016
08:27:13
У меня руки не дошли еще
Его сложно использовать потому что обвязка без документации
А я еще генератор нагрузки хочу переделать

Алексей
26.08.2016
08:29:05
вот соглашуть на счет доки

Vladimir
26.08.2016
08:29:19
В целом там есть экзампл конфиги
А, еще особенность
код кэшера не идеоматичный с точки зрения языка и его читать чуть сложнее (меньше желания это делать)

Dmitry
26.08.2016
11:49:16
для начала понять бы, насколько плотно он все уложит. Писалака в базу - дело наживное

Google

Алексей
26.08.2016
11:53:14
@dkulikovsky а я же правильно понял что вы пишите часть интеграции кликхауса с графитом ?

Dmitry
26.08.2016
11:53:38
про clickhouse, графит и кешер (тот что на github.com/dkulikovsky) я могу рассказать всё
мы, я, да, пишем. скорее уже написали и пользуемся

Алексей
26.08.2016
11:55:32
а можете рассказать как оно вообще ? кликхаус выступает хранилкой ? а своя часть котоаря собирает метрики и пихает их в хранилку да ?

Dmitry
26.08.2016
11:55:45
за код кешера извиняюсь) первый блин на go)
вообще хорошо, для нас там всё своё и clickhouse и кешер) в том числе и часть которая в кешер данные отправляет, тоже своя, но её, кажется, нет в OS

Алексей
26.08.2016
11:58:00
точнее не собирает а ловит отправленные
ну я так понимаю особой беды что то отправить в граифт нету
есть только проблема с виспером и 12-ю байтами на метрику...

Dmitry
26.08.2016
11:58:42
Да, любые клиенты совместимы

Алексей
26.08.2016
11:58:51
а сколько получается в кликхаусе

Dmitry
26.08.2016
11:58:56
8

Алексей
26.08.2016
11:59:15
8 это стабильно или плавает цифра ?

Dmitry
26.08.2016
11:59:17
И там есть встроенное прореживание

Vladimir
26.08.2016
11:59:26

Dmitry
26.08.2016
11:59:28
Стабильно

Алексей
26.08.2016
11:59:37
и на флоат и на инт ?

Dmitry
26.08.2016
11:59:46
Это после сжатия
На то флоат что там записан

Dmitry
26.08.2016
12:00:58
много достаточно

Google

Dmitry
26.08.2016
12:00:58
я так понял, что вы для каждого измерения храните название метрики, дату, отметку времени, результат и версию
так?
можно посмотреть структуру таблицы?

Dmitry
26.08.2016
12:21:03
CREATE TABLE default.graphite ( Path String, Value Float64, Time UInt32, Date Date, Timestamp UInt32) ENGINE = MergeTree(Date, (Path, Time), 8192);
и конечно clickhouse не хранит на каждую точку имя метрики

Vladimir
26.08.2016
12:34:47
А зачем Time + Date + Timestamp?

Dmitry
26.08.2016
12:38:20
Так быстрее работает индекс
Сначала отсекается большая часть, потом по ней уже внутри поиск
Рекомендация Миловидова))

Алексей
26.08.2016
12:39:49
а это кто ?
а
Алексей Миловидов, руководитель группы разработки ClickHouse
понятно

Dmitry
26.08.2016
12:43:44
:)

Dmitry
26.08.2016
13:03:02
и при такой раскладке получается по 8 байт на метрику?
и зачем timestamp, если дата и время уже есть?

Dmitry
26.08.2016
13:05:45
это нужно для того чтобы можно было обновлять данные по точке. Clickhouse не даёт возможности сделать update на запись, только дописать новую
вот по времени морда выбирает самые свежие точки

Dmitry
26.08.2016
13:09:55
а
ну у нас по условиям метрика не меняется

Google

Алексей
26.08.2016
13:11:04
а почему метрика может меняться ?
слишком часто пишите ?

Dmitry
26.08.2016
13:11:58
есть use case такие
но у нас только создание и выборка
а с графаной как дружите?

Dmitry
26.08.2016
13:14:34
метрика меняться может потому что агрегаторы стоят перед кешером
а в них может просто долетать сигнал от тормозов
графана работает через /render движок морды
там никаких изменений не нужно

Алексей
26.08.2016
13:16:30
а есть retention policy ?

Dmitry
26.08.2016
13:16:39
я делал мимикрию под графит

Алексей
26.08.2016
13:16:57
она ведь поидее тоже будет переписывать метрику с другим таймстампом

Dmitry
26.08.2016
13:17:31
основная проблема была в том, что графит выравнивает время по окну
и все его функции на этом построены