
[Anonymous]
09.12.2016
11:39:10

Anton
09.12.2016
11:47:52

Марк ☢
09.12.2016
11:48:24
мне хотябы на одной ноде надо чтобы знать что не в сети дело.
сеть будет 10Гб

Google

Марк ☢
09.12.2016
11:49:01
с сетью потом отдельную ёблю устрою
сейчас сначала это.

[Anonymous]
09.12.2016
11:49:14
опять ты с этой нодой

Марк ☢
09.12.2016
11:49:20
не опять, а снова

Anton
09.12.2016
11:49:32
твой аппроч невалиден для этой системы

Марк ☢
09.12.2016
11:49:49
эт патчиму эта

[Anonymous]
09.12.2016
11:50:18

Михаил
09.12.2016
11:51:35
Потому что с одной ноды ты получишь максимум 200 иопсов и то, скорее 140

Марк ☢
09.12.2016
11:53:13
БЛЮСТОР АХУЕНЕН

Roman
09.12.2016
11:53:21

[Anonymous]
09.12.2016
11:53:40
я Роману больше доверяю чем Марку

Марк ☢
09.12.2016
11:53:45
да вы запарили. мне надо сначала локально всё устаканить
выбрать правильные диски, настроить методику измерения и т.д.

Google

[Anonymous]
09.12.2016
11:53:57
да локально все совсем другое
как ты не поймешь

Марк ☢
09.12.2016
11:54:04
а потому уже сети добавлять и мерить всё заново
да понимаю я что изза сети и задержек будет совсемдругое всё, я ж не тупой

[Anonymous]
09.12.2016
11:54:44
ну я так и понял

Anton
09.12.2016
11:54:46
ну, тогда цеф не для тебя, сходи купи нутаникс)

Михаил
09.12.2016
11:55:39

Anton
09.12.2016
11:55:40
его или правильно тестить с пониманием того как оно работает, или меняй на систему "искаропки"

Марк ☢
09.12.2016
11:56:02
Пруфы
ну как. той самой говнобенчилкой стало 35-40 мб/сек
когда убрал говнодиск
до этого было 10-11
сейчас запустил фио
смотрю задлержки и пр.

Михаил
09.12.2016
11:57:08
Тебе надо сейчас еще раз померить на нормальных дисках

Anton
09.12.2016
11:57:56

Марк ☢
09.12.2016
11:58:35
срачегенраторы блин
lat (msec) : 2=0.02%, 4=0.11%, 10=1.93%, 20=3.38%, 50=19.28%
lat (msec) : 100=33.81%, 250=28.50%, 500=6.14%, 750=5.08%, 1000=1.65%
lat (msec) : 2000=0.11%
что насчёт кэша на самих дисках ? оно реально на что-то влияет для наших случаев ?
если од депс один, то:

Google

Марк ☢
09.12.2016
12:03:37
lat (usec) : 1000=1.49%
lat (msec) : 2=35.11%, 4=1.41%, 10=1.23%, 20=15.38%, 50=13.80%
lat (msec) : 100=28.65%, 250=2.59%, 500=0.26%, 1000=0.09%
щас посмотрю для одиночного диска
без цефа

Anton
09.12.2016
12:17:52
а зачем с очередью 1?
у тебя ссд?

Марк ☢
09.12.2016
12:18:53
нет
всё магнитное

Anton
09.12.2016
12:19:12
cat /sys/block/NAME/queue/nr_requests
и ставь такую очередь

Марк ☢
09.12.2016
12:19:24
под нагрузкой всмысле ?
ну и кагбы дисков то три

Anton
09.12.2016
12:19:42
ну у каждого смотри какая очередь
в идеале всё что в одной группе - одинаковая очередь
у ссд очередь 1, иногда 1-32, зависит от WB кэша на борту и его размера

Марк ☢
09.12.2016
12:44:08
одиночный диск:
lat (usec) : 2=99.50%, 4=0.22%, 10=0.12%, 20=0.16%, 50=0.01%
lat (usec) : 250=0.01%, 500=0.01%
это с иодепс 1
сейчас с 32 сделаю

Михаил
09.12.2016
12:44:59
мб с 16 лучше сначала?

[Anonymous]
09.12.2016
12:47:36

Google

Anton
09.12.2016
12:48:59
сколько кешика у контроллера, и какая нагрузка, и есть упсы там или как

Марк ☢
09.12.2016
12:50:03
упсов нет и не планируется
рэйдов нет и не планируется
диски сата

Viktor
09.12.2016
12:50:51
звучит как начало интересной развлекухи

Михаил
09.12.2016
12:51:17

Viktor
09.12.2016
12:51:33
ок
но интересно как него дальше дела пойдут, хотя это poc? тогда пофигу, согласен на все 100

Anton
09.12.2016
12:52:17
диски сата
начни с nr_requests=128 и в фио очередь сделай 128

Марк ☢
09.12.2016
12:54:40
ну всё. пизда. fio завис в Uninterruptible sleep
и килл минус килл не помогает ессесно

Михаил
09.12.2016
12:54:56
мне кажется у тебя диски совсем говно

Марк ☢
09.12.2016
12:55:04

Михаил
09.12.2016
12:55:04
или ты что-то не то делаешь

Марк ☢
09.12.2016
12:55:15
да я просто дал ему терабайтный лвм на потыркать

Anton
09.12.2016
12:55:23
лвм?

Марк ☢
09.12.2016
12:55:32
ну да а што

Anton
09.12.2016
12:55:35
nobarrier хоть настроил наркоман?

Марк ☢
09.12.2016
12:55:38
не thin который

Google

[Anonymous]
09.12.2016
12:55:54
вот Марк меня бесит

Марк ☢
09.12.2016
12:55:56
так. стопэ

[Anonymous]
09.12.2016
12:56:04
который раз наркоманом называют

Марк ☢
09.12.2016
12:56:19
Nobarrier же к FS относится, разве нет ?
а у меня там FS нету

Anton
09.12.2016
12:57:03
т.е. ты в лвм блок девайс пихаешь фио, да?
ну тип зачем?

Марк ☢
09.12.2016
12:57:15
да

Anton
09.12.2016
12:57:17
ну шринкни пвс
сделай там раздел
и его гоняй

Марк ☢
09.12.2016
12:57:32
а зачем? ну там в соседнем лвме есть полезные данные
максимум что может жрать от этого - цпу на один нанопроцент больше

[Anonymous]
09.12.2016
12:58:16
http://lists.ceph.com/listinfo.cgi/ceph-users-ceph.com

Марк ☢
09.12.2016
12:58:43
о. отвис фио
ну это пиздец

Anton
09.12.2016
13:00:42
есть мысль, что ты фио, кхм неправильно готовишь ;)

Марк ☢
09.12.2016
13:01:01
окей, может быть. скажи как правильно ?
лучше не ссылкой на статью