Алексей
22.04.2016
12:55:21
логстеш да, мы можем вполне выкинуть просто перейдя на логирование сразу в json формате
Konstantin
22.04.2016
12:55:27
Я перебрал несколько вариантов с логами, на текущий момент у меня порядка 5000 log-event/sec, и ничего кроме ELK не подошло.
Причем, по факту, проще и стабильнее было перевести часть логов с GELF/file, на flume/kafka, и притянуть еще zookeeper. И все это работает без нареканий, не смотря на java.
Алексей
22.04.2016
12:55:30
а за что выбрасывать кибану ?
как раз кибана это сильный аргемент за elk без l
Google
Konstantin
22.04.2016
12:56:18
logstash порядоччно допилили. Он у меня делает для части логов дупликацию, так как я логи кладу в ES и в cassandra
Magistr
22.04.2016
12:56:44
коллеге нужно было 25 дашбоардов заскриптовать, в графане он смог это сделать в отличии от
Алексей
22.04.2016
12:57:00
а кстати да.
графана же теперь умеет из еластика достатвать события
Konstantin
22.04.2016
12:58:20
Алексей
22.04.2016
12:58:46
а она из еластика может только события или и данные для рисунков ?
Konstantin
22.04.2016
13:00:51
у еластика ыла статья, вплоть как time series хранить в их стеке
ptchol
22.04.2016
13:15:29
А какие проблемы с кластером монги ? Расскажите как )
если мы говорим про 2.8+
и именно про RS а не про shard
да и про shard в 3.0+расскажите, что там такого совсем не работающего ?
Konstantin
22.04.2016
13:17:51
@ptchol Владимирским привет :) Я еще на своей прктике не видел, и не хочу, работающий стабильно и долго кластер монги. Я не утверждаю, что его нет в природе или нельзя настроить. Я не видел, а мой опыт с монгой, не сильно большой и на сегоня устарелый, говорит, что с ней лучше не связываться.
ptchol
22.04.2016
13:18:13
=) ну привет
Google
ptchol
22.04.2016
13:18:46
На прошлой работе был шард на 30 с копейками нод маленьких, суммарно под 3тб данных налито.
РСов не счетное кол-во. все это работало в RTB
но я нацеленно не хочу слушать претензии к версиям, ниже чем упомянул.
Paul
22.04.2016
13:19:32
монго хорошая штука (ок, не хорошая - просто неплохая). но для хранения логов нужно что-то с более быстрым и удобным поиском, ИМХО
ptchol
22.04.2016
13:19:33
там было печально все, согласен.
это другой вопрос.
мы же про сложить а не про прочитать )
Paul
22.04.2016
13:20:20
логи надо не только сложить, их надо еще и прочитать
сложить-то их и в файловую систему можно, какие проблемы
ptchol
22.04.2016
13:20:43
и вариант с NSQ вроде бы совсем не плох. у нас точно также сейчас стоит kafka перед ES. Ну ну кашка, ну nsq какая разница какой брокер, если люди его умеют ?
Konstantin
22.04.2016
13:21:36
Про версии ХЗ. Последнне что я видел, это была середина 2014 года, стояла последня stable на тот момент, 7-8 Тер данных, r/w примерно 9 к 1. заподозрить, что чувак не умкел готовить монгу могу, но с трудом. Работало это все …. мягко говоря не стабильно.
ptchol
22.04.2016
13:22:04
полагаю это последнии версии 2.6
или не последние даже. Но да. тогда было не очень.
Konstantin
22.04.2016
13:23:14
Вполне может быть. Я к монге предпочитаю не прикасаться. Да и отзывы, с того времени, ну ни как не радужные. Полагаю и от тех, кто 3+ использует.
Evgeny
22.04.2016
13:31:25
/stat
Combot
22.04.2016
13:31:25
comstatbot.xyz/chat/-1001030317489
ptchol
22.04.2016
13:34:28
/stat
Combot
22.04.2016
13:34:28
comstatbot.xyz/chat/-1001030317489
alex3rd
22.04.2016
13:38:44
/stat@comstatbot
Combot
22.04.2016
13:38:44
comstatbot.xyz/chat/-1001030317489
Google
Alex
22.04.2016
13:40:33
Удивительные дела, конечно
Кто-то не хочет тащить в стек джаву, кто-то монгу
Мы так никогда гармонии не добьемся
Чтобы one world, one stack, one leader
Aleksandr
22.04.2016
13:41:57
это разве плохо?
то, что не добъёмся гармонии
Alex
22.04.2016
13:42:16
В Германии 39-го считали, что плохо
И монгу да
Монгу я бы сжег
Paul
22.04.2016
13:47:28
как, тебе не нравится интерфейс на javascript? :)
Konstantin
22.04.2016
13:48:33
….вы не хотите поговорить о Боге …. прям дежа вю )
Pavel
22.04.2016
13:49:57
А есть какие-нибудь GUI вокруг для докера, наподобе админок для хостингов: Ajenti, ISP Manager?
Konstantin
22.04.2016
13:50:35
ptchol
22.04.2016
13:53:18
@durob
http://shipyard-project.com/walkthrough/ ?
Konstantin
22.04.2016
13:54:12
Прям даже тематичненько
Aleksandr
22.04.2016
13:56:06
Anton
22.04.2016
14:01:00
/stat
Combot
22.04.2016
14:01:00
comstatbot.xyz/chat/-1001030317489
User ?
22.04.2016
14:02:22
/stat
Combot
22.04.2016
14:02:22
comstatbot.xyz/chat/-1001030317489
Google
Mark
22.04.2016
14:03:52
/stat
Combot
22.04.2016
14:03:53
comstatbot.xyz/chat/-1001030317489
R-omk
22.04.2016
14:25:35
Всем привет! Зашел в чат поискал по запросу Calico и был удивлен отсутствием такового, зато про Docker , наверное, каждый писал
Vsevolod
22.04.2016
14:36:38
и?
Paul
22.04.2016
14:37:11
"абыдна, да?" :)
R-omk
22.04.2016
14:38:07
Хороший вопрос! В своей комманде тестируем ее и будем использоваться в мультихост docker swarm
Konstantin
22.04.2016
14:38:39
сеть в докере не так интересно, как управление volumes
Vsevolod
22.04.2016
14:38:50
сеть в докере это очень интересно :)
R-omk
22.04.2016
14:39:03
" управление volumes" это следующий больНой вопрос
Konstantin
22.04.2016
14:39:55
А вот у меня он пока единственный.
Vsevolod
22.04.2016
14:39:55
ну тогда ещё сюда закину - есть такая тема, я не гонял, но хочу, отзывы на него хорошие https://github.com/emccode/rexray
Konstantin
22.04.2016
14:40:32
Ну эт не решение, для внутренней инфраструктуры
R-omk
22.04.2016
14:40:48
Konstantin
22.04.2016
14:42:34
есть данные, есть облако, как максимально кошерно их тянуть к контейнерам.
Ясное дело, что можно поизвращаться с ceph/gluster, или, прости господи, flocker. Но пока каких-то внятных бест практис я не нашел.
Magistr
22.04.2016
14:43:00
s3 же
R-omk
22.04.2016
14:43:17
я думал в будущем попробовать flocker + ceph ...
Konstantin
22.04.2016
14:44:02
s3 же
для внутренеей инфраструктуры.
R-omk
22.04.2016
14:44:34
так storage driver для докера
Konstantin
22.04.2016
14:45:07
так там и как папку маунтить можно.
Google
R-omk
22.04.2016
14:45:52
так а кто будет создавать блочные устройства? flocker же для этого как раз нужен, разве нет?
Paul
22.04.2016
14:46:03
s3 не блочный
R-omk
22.04.2016
14:46:35
я про ceph
Konstantin
22.04.2016
14:46:53
Magistr
22.04.2016
14:47:24
мм а какую проблему вы использованием докера решаете ?
R-omk
22.04.2016
14:47:33
ceph может s3, но мы сейчас про rbd
Alex
22.04.2016
14:50:36
Коллеги, вопрос
Magistr
22.04.2016
14:50:40
ну просто часто бывает что докер ненужен, а его используют и разргребать приходится целый ворох новых порблем которых раньше и небыло
Alex
22.04.2016
14:50:54
Вот смотрите, есть у нас параметр - длина клиентской сессии
Клиент это просто мобильник
И висеть в норме он должен вечно
Далее - мы хотим рисовать график длины сессии с персентилями
Но дело в том, что у нас пока в тесте 30 сессий максимум
И рвутся они редко, скажем, раз в час
А стату мы собираем раз в 10 секунд
И я что-то не могу представить, как такие редкие события правильно обрисовывать
Dan
22.04.2016
14:52:30
редкие события = обрывы связи?
Alex
22.04.2016
14:52:34
Тупо рисовать график длины завершенной сессии не кажется мне правильным
Ага
Dan
22.04.2016
14:52:36
почему-то в голову диаграмма ганта пришла )))