Stanley
Кто может рассказать как правильно настроить multipath в стеке (зайду с этой стороны)?
Никита
там отдельный контейнер для этого
Никита
multipathd
Никита
enable_multipathd: "yes"
icewolf
Кто может рассказать как правильно настроить multipath в стеке (зайду с этой стороны)?
опция пробрасывается в контейнеры, не на хост, а в контейнер
icewolf
ну как то так.
Stanley
там отдельный контейнер для этого
И да и нет. Нова сама пытается в мультипас и обсерается вот на этом
Stanley
Отдельный multipathd делает /dev/dm устройства
Никита
в конфиге новы включено? volume_use_multipath = True
Stanley
в конфиге новы включено? volume_use_multipath = True
Включено. При отключении работает. При True - сыпет ошибкой что нет конфига мультипаса
Stanley
Уже мозг кипит, решил уточнить
Никита
а сам конфиг у тебя есть?
icewolf
в конфиге новы включено? volume_use_multipath = True
Наверное нет, эцсамое это еще при деплойменте задается
Никита
./config/multipathd/multipath.conf
Stanley
а сам конфиг у тебя есть?
Где именно он есть?
Никита
./config/multipathd/multipath.conf
на деплоере вот тут
Stanley
Кхм. Ща...
Никита
docker exec -it nova_compute ls /etc/multipath ls: cannot access '/etc/multipath': No such file or directory r docker exec -it multipathd ls /etc/multipath bindings wwids
Raul
подскажите, а для чего может понабиться такая настойка? для каких задач используется?
Никита
для iscsi
Stanley
Искази, FC
Никита
если я правильно помню там какие то лимиты по сессиям до одного луна
Stanley
LVM тоже
icewolf
подскажите, а для чего может понабиться такая настойка? для каких задач используется?
ну как для чего? Вот у тебя блочка, к примеру FC и тут без мультипатч никуда.
Никита
мултипс это фиксит
Никита
Если знаете объяснение на формальном техническом языке, пишите
Никита
у меня в голове это всё как "блё блё блё бле бле бле"
Stanley
если я правильно помню там какие то лимиты по сессиям до одного луна
Не совсем. Оно тебе просто условно MPIO реализует (но могу ошибаться)
Stanley
Мне сейчас полку подарили, которая в lacp не умеет. У нее тупо МАК ездит между двух сосков. И два ИП адреса. Можно сделать MPIO
icewolf
если я правильно помню там какие то лимиты по сессиям до одного луна
Нет, у тебя разные коммутаторы SAN и они крест на крест соединены до схд и к хосту.
Никита
которая позволяет использовать несколько путей для доступа к одному устройству хранения данных
Никита
надо будет почитать позже
icewolf
таким образом если у тебя контролер на схд подох или сам SAN коммутатор то у тебя всегда остается альтернативный путь до lun
Stanley
По FC ты по другому и не сделаешь. Тебе нужно иметь два+ пути
Никита
вот еще норм объяснение имхо одно SCSI-устройство может быть подсоединено к двум SCSI-контроллерам
Raul
которая позволяет использовать несколько путей для доступа к одному устройству хранения данных
это понятно, зачем мультипас в опестэк подключать? роль связи с схд можно же на ОС повесить
Никита
ну так у тебя же не ОС с дисками работает
Никита
а сервис опенстака
Stanley
Но управление этими подвесами - на стороне стека
Raul
можно же подключить iscsi устройство по мультипасу к ОС а в опенстэк пусть работает с готовым блочным устройством через lvm или я неправильно понимаю?
Stanley
.
Так о какой опции то речь? Ушла мысль
Stanley
А, да. Гляну рольку. Но странно тогда...
icewolf
ничего странного. Если мы используем сервисы опенстека вне контейнера, например как все нормальные люди в самой операционной системе, то и настраиваем на слое операционной системы, если это контейнеры, то это уже другой слой абстракции
Mike
можно же подключить iscsi устройство по мультипасу к ОС а в опенстэк пусть работает с готовым блочным устройством через lvm или я неправильно понимаю?
правильно помню, что multipass обеспечивает не только резервирование, но и балансинг? зачем это отдавать ОС когда можно openstack-у самому порулить?
Raul
правильно помню, что multipass обеспечивает не только резервирование, но и балансинг? зачем это отдавать ОС когда можно openstack-у самому порулить?
у меня нет информации как лучше, поэтому и спрашиваю, с точки зрения администрирования проще когда мультипасом управляет ОС
Raul
если у меня есть 2 хранилки подключенных по мультипасу я их на уровне ОС добавляю в VG и отдаю опенстэку, если надо 3-ю схд, то добавлю ее в ту же VG или так не будет нормально работать?
icewolf
логично что и сервис multipathd тоже должен быть в контейнере
Raul
Синдер который препарирует оперирует драйвером от СХД он то в контейнере
я синдеру VG отдам, разве ему нужен для работы с VG драйвер СХД?
Stanislav
если у меня есть 2 хранилки подключенных по мультипасу я их на уровне ОС добавляю в VG и отдаю опенстэку, если надо 3-ю схд, то добавлю ее в ту же VG или так не будет нормально работать?
Речь про LVM у которого pv на FC хранилке? Или про какие VG? Изначальная обсуждаемая схема ведь не такая. Речь про FC хранилку, подключенную к каждой ноде по hba. Соответственно на каждой ноде д.б. Multipathd, который обеспечит подключение lun с этой хранилки через devmap в ОС.
Stanislav
Ну если нет cinder-driver, то можно и как вы предлагаете сделать.
icewolf
Ну если нет cinder-driver, то можно и как вы предлагаете сделать.
это очень порочная практика, можно но не нужно
icewolf
легитимно так делать наверное только в k8s да и то опасненько
Raul
это очень порочная практика, можно но не нужно
сможете пояснить почему эта практика порочная и с появлением каких проблем это связанно?
Никита
Ну смотри
Никита
Вот у тебя есть контейнеры циндера
Никита
Которые хотят по искази подключиться к хранилищу
Никита
А контейнера искази нету
Никита
Зато есть пакет искази на ОС
Никита
Как думаешь куда циндер пойдет чтобы попросить установить соединение с хранилищем
NS 🇷🇺
И мудак писал шаблон для запуска iscsid нахера там в дебаг режиме без возможности это поменять не понятно
Stanley
И оно срет в логи stdout
NS 🇷🇺
На убунте оно в сислог херачит и жрет место
Stanley
Это да, мы потом отключали жестко
icewolf
Как думаешь куда циндер пойдет чтобы попросить установить соединение с хранилищем
Если мы говорим про hba, то оно подается монопольно(как любое другое железо), поэтому проще через контейнер
Raul
Которые хотят по искази подключиться к хранилищу
Я говорил что iscsi подключение держит ОС а синдеру отдается VG т.е. он работает с LVM, в таком случае зачем синдеру подключаться по iscsi к хранилке?
Никита
проведи эксперимент
Никита
поставиь и запусти iscsi контейнер
Никита
и попробуй установить open-iscsi
Никита
на хост
Никита
Этот блять то же самое
Никита
что если у тебя будет работать либвирт на хосте и в контейнере
Никита
кто кого
icewolf
Никит, iscsi это протокол, девайс например сетевая карта может не поддерживать такой протокол или хуже там может не поддерживаться аппаратно iscsi. Тут таже самая ситуация что интерфейсная карта это монопольно отданное устройство
Никита
ёмаё