@metrics_ru

Страница 8 из 681
Алексей
24.08.2016
08:19:06
вот скажите мне куда инфлюксу память ?

он что с ней делает вообще ?

тупо жрет ?

ну и таки упал.

Google
Алексей
24.08.2016
08:39:55
[write] 2016/08/24 11:39:45 write failed for shard 254: [shard 254] error opening memory map for file /var/lib/influxdb/data/noc/d90/254/000000081-000000003.tsm: indirectIndex: not enough data for max time

ну и всё. хана. не поднимается опять

Vladimir
24.08.2016
09:09:37
он жрет когда не может писать насколько я помню

в смысле "ой, чот не записавыается так быстро, покоплю пока в памяти"

Алексей
24.08.2016
09:10:50
так норм ?

Vladimir
24.08.2016
09:11:25
ну вот кажется что это насыщение у него

преодолел насыщение и стал его забивать

вот он и скопытился

Алексей
24.08.2016
09:11:40
нее

он при этом еще сгенерировал ошибку

закинул им на медитацию https://github.com/influxdata/influxdb/issues/7202

Алексей
24.08.2016
09:43:53
https://github.com/influxdata/influxdb/blob/65536676a46c720deed6b4afe8d6b9ef13431e65/tsdb/engine/tsm1/reader.go#L891

Google
Алексей
24.08.2016
09:43:56
никаких идей

Phil
24.08.2016
09:45:04
Меня слово shard настораживает

Алексей
24.08.2016
09:45:43
инфлюкс все шардами пишет

Phil
24.08.2016
09:46:16
А

Алексей
24.08.2016
13:48:29
ну что... втянул... очередь разгреб полностью всего с 3 вылетами.

Vladimir
24.08.2016
13:58:04
более привычный термин ИМХО bucket

или там схема как в риаке?

Алексей
24.08.2016
14:01:19
более привычный термин ИМХО bucket
не уверен. у нас именно очередь на nsq. vмы в нее метрики швыряем. а дальше писатель складывает в базу на примелимоцй для базы скорости.

у меня получилось что в пике он писал 30к в секунду.

а привычный поток 5к

при том что писатели могли отдавать куда больше... но он тупил и не хотел...

Vladimir
24.08.2016
14:02:01
а какое железо?

чтоб понимать

Алексей
24.08.2016
14:02:44
ibm hs22, 96gb mem, дисковая полка

за полку конкретную модель не скажу

Vladimir
24.08.2016
14:03:43
а это по цпу что?

а то я ibm по памяти не знаю

Алексей
24.08.2016
14:03:58
X5675

Vladimir
24.08.2016
14:04:05
одын?

Google
Алексей
24.08.2016
14:04:07
не первой свежести...

два

Vladimir
24.08.2016
14:04:21
а, ок

Алексей
24.08.2016
14:04:30
но на него нагрузка и не ложилась.

появлюсь возле компа по нормальному буду дальше смотреть чег ои куда.

вобще честно говоря не очень понятно во что он упирался.

проц под 70% каждый был. память даже free была немножко.

по сети многовато до 300к pps

ну и по iops многовато... 12к

Phil
25.08.2016
09:32:06
Всем вновь прибывшим хочу напомнить, что у нас есть традици^W тьфу пропасть... в чатике есть библиотека в разделе "Shared media". Можно поискать по хэштегу book и/или pdf например. Нет книжки? Ищи и читай. Есть книжка которой нет у нас по теме? Лей её и ставь хэштег book

Алексей
25.08.2016
14:06:38
@demeliorator а можно сюда твой файлик на арт фо мониторинг положить ?

Господа, помогите заполнить ?

https://www.mindmup.com/#m:a1b6bdce704d020134729031f761d42e4b

Magistr
25.08.2016
15:04:31
Господа, помогите заполнить ?
http://www.iamsysadmin.ninja/2014/12/graphite-scaling-and-my-evaluation-of.html к графиту

Vladimir
25.08.2016
15:05:08
угу, одно из самых адекватных описаний как поставить и из чего состоит букинговский стек (ну или около букинговский)

Magistr
25.08.2016
15:05:24
да и по обычному стеку замечания ок

Алексей
25.08.2016
15:05:35
хорошо почитаю щас спасибо

хочу понять чего делать со стораджем нам

Magistr
25.08.2016
15:06:37
opentsdb = hbase = минимум 3х данные, зато хорошо когда нужна точность

Алексей
25.08.2016
15:07:15
3x данные это что такое?

Google
Алексей
25.08.2016
15:07:20
тройное хранение ?

Magistr
25.08.2016
15:07:23
да

из-за репликации

Vladimir
25.08.2016
15:08:07
скорее есть несколько подходов. Ты можешь хранить только данные, это легко записать, легко прочитать, но сложно строить сами графики (начинают быть нужны какие-то метаданные поверх)

это подход всего вокруг графита в общем

Алексей
25.08.2016
15:08:36
с методаынми вопрос решается легко

Vladimir
25.08.2016
15:08:46
второй подход это то что у OpenTSDB, Influx'а и пр. - хранить time-series обогащенные метаданными. Медленее на запись, медленее на чтение, но гибкость есть

плюс у всяких OpenTSDB проще с масштабированием

Алексей
25.08.2016
15:09:06
у графаны есть же templated dashboards и dynamic dashboards

Vladimir
25.08.2016
15:09:26
можно пойти по пути какого-нибудь Druid'а - хранить не совсем time series метрики, а скорее эвенты и делать агрегации и пр. по запросам

on demand

с записью там обычно все более-менее, а вот скорость чтения очень сильно зависит от, обычно низкая

у графаны есть же templated dashboards и dynamic dashboards
гибкости все равно не хватит

тебе вот может захотеться получить список хостов в продакшене где заканчивается место

Алексей
25.08.2016
15:10:29
а что такое driud ?

Vladimir
25.08.2016
15:10:55
а что такое driud ?
Druid и Clickhouse - базы для real-time аналитики которые можно приспособить под графики всякие

но я б вероятнее взял кликхаус )

Алексей
25.08.2016
15:11:09
про друида первый раз слышу

Vladimir
25.08.2016
15:11:11
он банально проще

druid.io

Google
Vladimir
25.08.2016
15:11:21
такая вот поделка

красивый интерфейс

Алексей
25.08.2016
15:11:24
а про кликхаус же они еще не выпустили ту часть которая про графит

Страница 8 из 681