
Александр
11.12.2016
10:26:20
@SinTeZoiD можешь флуд по чистить?

AnswerX
11.12.2016
17:02:22
йогайз, вопрос про rbd+cinder
юзкейс - я беру имадж (он 100% рабочий так как я предварително буткул вм-ку с ним и она норм работает), так вот беру имадж и делаю из него вольюм. С этого вольюма я бутаю инстанс - инстанс фейлает с ошибкой от нова-кондактора
Build of instance 37344e4e-c330-4601-a3fd-75eeb03b92cc was re-scheduled: Secret not found: rbd no secret matches uuid '....some uuid...'

Google

AnswerX
11.12.2016
17:05:13
путем нехитрых манипуляций с гуглом я обнаружил что на компьютах должен быть зареганый в virsh этот ключик
так вот вопрос - болжен быть зареган суперсикретключ от рбд на компьютах в virsh или нет?
п.с. - вольюм создается нормально как пустой так и с имаджем
пустой вольюм маунтится к инстансу
а вот бутнуть вм-ку с вольюма - хухь
енибади? :(

Alexandr
12.12.2016
07:44:01
http://docs.ceph.com/docs/master/rbd/rbd-openstack/
Генеришь uuid, его секретом в virsh, этот uuid прописываешь в nova.conf и в nova.conf ставишь image_type = rbd

Марк ☢
12.12.2016
08:13:03
# cat hdd.fio
[global]
ioengine=libaio
# ioengine=psync
filename=/dev/sdc
rw=randwrite
bs=4k
direct=1
[hdd_iodepth32]
iodepth=33
lat (usec) : 500=0.04%, 750=0.01%, 1000=0.08%
lat (msec) : 2=0.48%, 4=0.16%, 10=0.01%, 20=0.03%, 50=0.10%
lat (msec) : 100=0.16%, 250=85.00%, 500=13.92%
это нормально ?

AnswerX
12.12.2016
08:17:20

Alexandr
12.12.2016
08:43:34
lat (usec) : 500=0.04%, 750=0.01%, 1000=0.08%
lat (msec) : 2=0.48%, 4=0.16%, 10=0.01%, 20=0.03%, 50=0.10%
lat (msec) : 100=0.16%, 250=85.00%, 500=13.92%
это ж очень медленно, очень. Слишком огромные задержки. А скинь весь вывод, чтобы яснее было

Google

Марк ☢
12.12.2016
08:45:14
с оидепс 1 — зхадержки 10 мс
О!
я догадался. видимо у меня не работает NCQ
32 * 10 = 320
не так ли ?
это близко к тем 250
как проверить ?
или я ересь спорол ?
а я знаю как проверить...
с иодепс=2 получаем вот это: 10=15.75%, 20=76.54%,
диск чтоли совсем тупой ?

Arthur
12.12.2016
08:48:50
Грин?

Марк ☢
12.12.2016
08:51:37
неееет. грины уже выкинул
WD5000AZLX

Alexandr
12.12.2016
08:54:25
я догадался. видимо у меня не работает NCQ
это ты через /sys/block/sdc/device/queue_depth можешь глянуть
Вообще похоже, что диск тупой. iodepth=32 - это ему уже за гранью производительности. latency запредельная, iops`ов при этом не много, а кроме того, что latency огромная, так она ещё и не стабильная, среднеквадратичное оклонение (stdev, standard deviation) - четверть величины (53 msec из 200msec)

Arthur
12.12.2016
08:59:15

Марк ☢
12.12.2016
09:02:52
старенький, но должен показать что методика измерения правильная
и есть ещё вопрос — а цеф-то делает очередь более 1 потока вобще ?
кто может iostat -c -x 2 запустить на реальном класетере ?

Google

Марк ☢
12.12.2016
10:06:10
Нашёл в загашниках WD1500HLFS

ptchol
12.12.2016
10:14:48
а зачем нужны сейчас 10к ? у них цена дороже чем у ssd

Марк ☢
12.12.2016
10:15:15
ну лежит же в тумбочке

Xeniya MTS
12.12.2016
10:15:26
На замену

Марк ☢
12.12.2016
10:15:33
а есть пруф по цене?
а то знаете и ссд разные бывают. TLC какой-нибудь

ptchol
12.12.2016
10:26:30
MLC intel 535
покупали недавно 530е по 12к за 480гб.

Arthur
12.12.2016
10:31:53
200 долларов за 480 гб?
За эту сумму на рынке обычно всякие консьюмерские ссд продают

Марк ☢
12.12.2016
10:35:21
Нашёл в загашниках WD1500HLFS
кароч когда длина очереди 4 — ещё примлемо. 10-20 мс задержка. дальше — хуже. при очереди в 32 задержка составляет в основном 250 мс.

Roman
12.12.2016
10:40:49
ssd - расходный материал и к этому надо быть готовым

Старый
12.12.2016
10:41:33

Arthur
12.12.2016
10:42:04
а что в них плохого?
А как же маркетинговый булшит насчет количества операций записи, разная обработка ошибок.

Aleksandr
12.12.2016
10:42:06

Arthur
12.12.2016
10:42:20
Я, пока, тоже

Roman
12.12.2016
10:42:28

ptchol
12.12.2016
10:42:37
вобще у нас расчёт что ссд потенциально через год сдохнуть может

Google

Roman
12.12.2016
10:42:46

Старый
12.12.2016
10:42:52
чёт я не встречал таких директоров
я и хлеще встречал, на одной шабашке недавно, директор хотел поставить на компы 2006 года, где максимум 2 гб оперативы(матери говно ужас), win10 и 2016 офис

ptchol
12.12.2016
10:43:09
и это устраивает чуть более чем полностью, потому что бенефиты от ио выше.

Arthur
12.12.2016
10:43:31

Roman
12.12.2016
10:45:08

Марк ☢
12.12.2016
11:05:05
Ну шо, ребят
я узнал что хотел