Sergei
я с тех пор избегаю size 2
Mark ☢️
а я сегодня вот что сделал: у меня было osd_crush_chooseleaf_type = 0
Михаил
Ну так она реплика упала и вот у тебя min_size 1
Mark ☢️
а я сегодня вот что сделал: у меня было osd_crush_chooseleaf_type = 0
ну так вот я круш мап сдекомпилил, поправил на host и типа отел заинсталлить, но!
Mark ☢️
тут нас ждал сюпрайз мазафака
Mark ☢️
в виде сообщения... ммм. щщас попробую найти его в истории поиска гугла
Sergei
1.0000 везде
Mark ☢️
в виде сообщения... ммм. щщас попробую найти его в истории поиска гугла
Error EINVAL: Failed crush map test: *** Error in `crush tool': munmap_chunk(): invalid pointer 0x(тут цифры)"
Михаил
1.0000 везде
Weight or reweight?
Михаил
Их там два веса
Sergei
80 одинаковых OSD 60 1.81850 osd.60 up 1.00000 1.00000
Mark ☢️
Error EINVAL: Failed crush map test: *** Error in `crush tool': munmap_chunk(): invalid pointer 0x(тут цифры)"
но я, знаете, не пальцем деланный. узнал что именно не так и пофиксил crush map!
Sergei
впрочем, кажется я выкинул три OSD'шки последовательно и кластер наконец приходит в состояние health_ok
Mark ☢️
и всё перепроперчилось так как мне надо !
Sergei
что, впрочем, не добавляет мне понимания.
Михаил
Ага
Mark ☢️
Sergei
интересного ничего. анфаундов не было. список объектов был. объекты были доступны.
Mark ☢️
"blocked": "peering is blocked due to down osds",
Sergei
нет
Sergei
все PG были active
Mark ☢️
а прямо сейчас проблема проявляется ?
Sergei
к сожалению, уже нет, это все-таки прод. я планирую дождаться схождения кластера и потом вернуть эту подозрительную osd с маленьким весом.
Mark ☢️
Mark ☢️
ЗАЕБЦА
Mark ☢️
но это не блюсторный осд
Михаил
зачем и как?
Mark ☢️
зачем — действую по инструкции — заменяю журнал (переношу на ссд)
Mark ☢️
а как — ХЗ
Mark ☢️
всё было нормально
Михаил
facepalm
Mark ☢️
что фейспалм-то. сначала стопнуть осд, потом профлушить журнал
Mark ☢️
с другими 4 прокатило нормально
Mark ☢️
но сегфолтиться это не повод
Mark ☢️
@SinTeZoiD помоги плиз разобраться
Mark ☢️
fio --ioengine=rbd --direct=1 --name=test --bs=16m --iodepth=1 --readwrite=write --clientname=admin --pool=prod --rbdname=bench даёт около 7 MB/sec
Mark ☢️
ну это как-бы смех на палочке
Mark ☢️
после добавления SSD в обе ноды стало около 1000 IOPS но линейная скорость как была низкая так и осталась
Mark ☢️
я такйо думаю — ну может сеть между фио и кластером кривая — а нифига
Mark ☢️
ssh node1 cat /dev/zero | pv > /dev/null ^C72MiB 0:00:05 [79,7MiB/s] [ <=>
Mark ☢️
интересует именно КАК дебажить, а не в чём у меня проблема
Mark ☢️
ессесно на первый взгляд ни во что не упирается (CPU / диски / сеть)
Mark ☢️
@spuzirev
Mark ☢️
?
タキ
iostat -xm 1 смотрел?
Mark ☢️
ну естественно. и там ничего интересного. могу прислать скрин при ЭТОЙ нагрузке. щас сделаю
Mark ☢️
Первый нод
Mark ☢️
второй
Mark ☢️
фио
Mark ☢️
ну что, ребят, есть идеи ?
Anonymous
😂
Anonymous
Шас батя загуглит
Михаил
Хантить будете или вы таки что то админите?
Anastasiia
Я пока занимаюсь тл2 саппортом, надо дальше двигаться, поприсутствую, если не против)
Михаил
Конечно не против
Михаил
А что умеете?)
Anastasiia
Сложный вопрос, всего понемногу...Образование профильное, был сапорт в сетях, потом в программировании сдма терминалов, и сейчас сапорт винды, такое..
Sergey
ку, мож кто не спит, при выключении виртуалки в проксмоксе от 4.0 до 4.4 уже испобовал с проброшенной PCI-e картой (плата е1) виснет хост система, в логах хост системы в момент заивисания http://pastebin.com/4y3zs7qu , виснет когда виртуалка отправляет halt или что то такое, при выключении или ребуте , если просто из гипервизора нажать STOP то всё нормально , мож кто встречал такое или мысли есть?
Anastasiia
никак, я не работаю в этой области
Александр
Плохо
Anastasiia
ну, никогда не поздно..
✠ FLASh ✠
А что вообще подразумевается под снятием метрик с виртуалок?
Mark ☢️
А что вообще подразумевается под снятием метрик с виртуалок?
объём файла называется весом и измеряется в метрах
Александр
объём файла называется весом и измеряется в метрах
Сейчас бы иронию, сарказм, etc включить
✠ FLASh ✠
Вместо попыток потролить лучше бы полезное что-то сказали
✠ FLASh ✠
Потому что потролить получается плохо
タキ
Всем привет, вопрос по конфигу опять: расчет значений "osd op threads" "osd disk threads" кешей и прочего из каких-то параметров берется? Или подкручивать пока не упрусь в cpu/ram/disk io?
Михаил
Можешь их не прописывать и оставить по умолчанию
タキ
Хочется выжать максимум из серваков, сейчас их 5 и больше не добавлю пока не оптимизирую все что можно 😒
Александр
Но максимум же по другому вынимается, например сначала создать план "тюнинга"
Mark ☢️
А есть у кого-нть вбросить про glusterfs ?
Аndrey
Мусор вбросить? :)
Sergei
тут есть один товарищ, который нахваливает, но доверия не заслуживает. когда я пытался воспользоваться, решил больше не пытаться.
Михаил
угадай с трёх раз