
Rustam
01.05.2017
18:09:10
Вот еще списочек кста - https://misfra.me/2016/04/09/tsdb-list/

Taras ?
01.05.2017
19:48:41

عاصم بن حارث
01.05.2017
19:53:24

abc
02.05.2017
06:46:43
парни. дак вот я снова с вопросом. кто куда логи пишет ? ошибки я пишу в Sentry, а вот лог (именно логи а не метрики)

Google

Alexey
02.05.2017
06:50:48
graylog, papertrailapp

Alexander
02.05.2017
06:58:39
elk-стэк

maier
02.05.2017
07:15:40
в чем сакральный смысл разделения в хранении логов и метрик?

Rumata
02.05.2017
07:40:25
ну и ответ очевиден как по мне

Константин
02.05.2017
07:59:32

abc
02.05.2017
08:05:00
и какой ответ ? )
хотя по сути да

maier
02.05.2017
08:10:59
так кто напишет очевидный ответ-то?)

Константин
02.05.2017
08:11:01
вот уже трое в теме

abc
02.05.2017
08:30:06
но все же пояснить надо. а то темы у нас могут быть разные )
сейчас потыкаю greylog. в идеале я бы хотел использовать более экономичное хранилище логов чем mongo (то что пользует greylog) и точно не тащить elastic (хотя понимаю что без него выборки будут скуднее)

Alexander
02.05.2017
08:46:19
epmd потерял две ноды. это вообще часто случается?

Google

Max
02.05.2017
08:48:41
я несколько раз видел
epmd перезапускался?

Alexander
02.05.2017
08:49:54
да
хм
делать что ли регулярный :erl_epmd.register_node

Константин
02.05.2017
09:17:32
так кто напишет очевидный ответ-то?)
Логи - это помойка, откуда надо доставать данные не так часто, как записывать и параметры поиска не такие сложные. Поэтому тут лучше подойдет быстрое сохранение с медленным чтением. Еще логи надо чистить, т.к. они часто теряют актуальность. Можно использовать табличные и nosql базы, иногда даже файлы.
Метрика же требует не только быстрой записи, но и быстрого чтения (в большинстве случаев) с кучей параметров поиска. Тут лучше подойдут столбцовые СУБД. Данные практически не удаляются, т.к. метрика полезна практически за весь хранимый период.
Вот и получается, что логи в Percona, а метрику в Clickhouse
Тут уже от хайлоада зависит, там Percona не самый лучший выбор
Добавлю.. потеря логов не так страшна, как потеря метрики

Max
02.05.2017
09:20:38
как в еликсире делать :ets.update_counter с позицией изменяемого элемента в кортеже?
рекорды же просраны
или модуль на ерланге проще написать?

maier
02.05.2017
09:26:01

Константин
02.05.2017
09:30:01
А если формат лога изменится? Или данные динамические, сейчас json, а потом просто строка? На каждый чих делать таблицу? Сохранение в кликхаусе по одной записи на чих тоже делаться будет долго. У него написано в документашке, что лучше сохранять пачками по 1к и более.

maier
02.05.2017
09:30:29
что метрики, что логи нужно сохранять пачками
формат данных по собираемой метрике не может поменяться?

Константин
02.05.2017
09:31:48
значительно реже

Rafkat
02.05.2017
09:32:01

maier
02.05.2017
09:32:11
хотя да, детализация у логов может расшириться

Google

maier
02.05.2017
09:32:47
но все равно, нужно с логами порядок какой-то наводить
чтобы единый формат какой-то был

Константин
02.05.2017
09:33:31
новые форматы логов могут добавляться хоть каждый день в момент разработки
и при этом поиск, скорее всего, будет идти полнотекстовый

maier
02.05.2017
09:34:16
хм

Константин
02.05.2017
09:34:32
ну или nosql и вперед

maier
02.05.2017
09:34:32
тогда проще в эластик сразу все кидать?

Константин
02.05.2017
09:34:42
Да, вариант

maier
02.05.2017
09:34:46
там и полнотекст и кибана

Константин
02.05.2017
09:35:05
Logstash

maier
02.05.2017
09:35:15
да
есть у кого-нить нормально настроенные контейнеры по elastic, logstash, kibana?

maier
02.05.2017
09:36:15
дефолтные конфигурации для разработки, например, docker-compose билд

Константин
02.05.2017
09:38:13
Но я от балды сейчас ляпнул))) Даже сам поверил)
Сам использую Percona и Clickhouse)

maier
02.05.2017
09:46:14

Константин
02.05.2017
09:46:59
неа

maier
02.05.2017
09:47:16
а как ты в кликхаус складываешь?

Константин
02.05.2017
09:48:19
tcp сокет
точнее у меня на php все))

Google

Константин
02.05.2017
09:48:45
сокетом в эликсир, с эликсира по таймауту в кликхаус

maier
02.05.2017
09:48:45
на каждое событие в кликхаус кладешь?

Max
02.05.2017
10:15:45
как в еликсире делать update_counter, если нет нормальны рекордов, как в ерланге?

Alexander
02.05.2017
12:04:48
Я уберу пин про работу

Vladimir
02.05.2017
13:54:52
https://www.reddit.com/r/elixir/comments/67x16v/typed_elixir_meet_elmchemy_elm_to_elixir_compiler/

Max
02.05.2017
14:27:27
будет хорошо, если взлетит
блеать

Admin
ERROR: S client not available

Max
02.05.2017
14:46:28
определил атрибут, например @trname __MODULE__
хочу его использовать как рекорд, сделал Record.defrecord(@trname, ...)
пишу @trname(:bytes_in), чтобы номер поля взять, а компилятор не компилит, говорит, что нельзя определять атрибут в функции
а если __MODULE__ вместо него воткнуть, то работает
хотя не, тоже не работает
вот блядь говно этот ваш еликсир

Taras ?
02.05.2017
15:02:06
есть немножко такое ощущения временами, возвращаюсь на erlang

Max
02.05.2017
15:14:22
ну зато библиотек много и они поддерживаются
но язычок говённый
вроде пишешь, пишешь, как будто бы и привык, но вылазит что-то такое, что прям буэ
и вот это вот 0-based индексы в рекордах — это вообще нахуя?

Google

Max
02.05.2017
15:33:48
сука
негодую

Alexey
02.05.2017
15:36:36
так это во всех языках
кроме эрланга

Max
02.05.2017
15:36:59
так в ерланге с 1, поэтому в еликсире тоже с 1 надо
чтобы так же с рекордами работать, когда в ets их кладёшь

Alexey
02.05.2017
15:37:12
так синтаксис взяли с рубей

Max
02.05.2017
15:37:15
а то получается поеботина

Alexey
02.05.2017
15:37:16
и писал рубист

Max
02.05.2017
15:37:29
гаже синтаксиса, чем у рубей, я даже и не видел
ну разве что лисп какой
но там не синтаксис, а AST

Alexey
02.05.2017
15:39:20
смысл тогда на эликсире писать?)

Marat
02.05.2017
15:39:24

Max
02.05.2017
15:39:39
я всё взвесил, и решил, что это важнее
инфраструктура хорошая, удобная
но вот это блядь руби-наследие — боже упаси

Alexey
02.05.2017
15:41:58
эликсир изначально запилили с уклоном на рубистов, чтоб легко было писать что-то производительное, там где руби не справляется
можно было взять другой язык