Maksimus Ulibikus
Подскажите пожалуйста каким ключем-значением в метаданные можно добавить эти строки? Внутри тегов <hyperv></hyperv>: <vendor_id state='on' value='111111111'/> Внутри тегов </features> <features>: <kvm> <hidden state='on'/> </kvm>
NS 🇷🇺
@vyacheslav_vershinin https://docs.openstack.org/neutron/latest/contributor/internals/openvswitch_firewall.html
NS 🇷🇺
прямо внизу страницы
Илья | 😶☮️🐸
@vyacheslav_vershinin будь добр после перехода график цпу скинуть, если не секрет Интересно насколько оптимальнее выйдет
Andrey
Там кроме настроек neutron и ovs compute какие ещё камни словить можно?
SG хочешь перевести с iptables? В курсах красной шляпы одна строчка и рестарт нейтрона
NS 🇷🇺
SG хочешь перевести с iptables? В курсах красной шляпы одна строчка и рестарт нейтрона
есть линк? судя по доке, что я дал выше там не одна строчка
Vyacheslav
NS 🇷🇺
Так вроде порта в самой бд нет
в нова посмотри, по моему болтался… когда мы с нуажа переезжали уперлись в это
Vyacheslav
в нова посмотри, по моему болтался… когда мы с нуажа переезжали уперлись в это
Он на гипере болтается, в базе его нет - только в настройках нейтрона встречал
Vyacheslav
полтора года уже прошло, я бы посмотрел =)
пропал в тебе дух авантюризма 🙂
NS 🇷🇺
пропал в тебе дух авантюризма 🙂
Я его в других местах ищу 😂
Maksimus Ulibikus
Что-то с выбором GPU карт проблема при создании инстансов. На compute2 три GPU карты. 02:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 02:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) 81:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 81:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) 82:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 82:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) На compute2 в nova.conf: [pci] passthrough_whitelist = { "vendor_id": "10de", "product_id": "1c82" } passthrough_whitelist = { "vendor_id": "10de", "product_id": "0fb9" } alias = { "vendor_id":"10de", "product_id":"1c82", "device_type":"type-PCI", "name":"gf210-GPU" } alias = { "vendor_id":"10de", "product_id":"0fb9", "device_type":"type-PCI", "name":"gf210-GPU" } На controller в nova.conf: [pci] passthrough_whitelist = { "vendor_id": "10de", "product_id": "1c82" } passthrough_whitelist = { "vendor_id": "10de", "product_id": "0fb9" } alias = { "vendor_id":"10de", "product_id":"1c82", "device_type":"type-PCI", "name":"gf210-GPU" } alias = { "vendor_id":"10de", "product_id":"0fb9", "device_type":"type-PCI", "name":"gf210-GPU" } alias = { "vendor_id":"10de", "product_id":"1c82", "device_type":"type-PCI", "name":"gf210-GPU", "numa_policy":"legacy" } alias = { "vendor_id":"10de", "product_id":"0fb9", "device_type":"type-PCI", "name":"gf210-GPU", "numa_policy":"legacy" } Создаю первый инстанс - создаётся и получает GPU с адресом 81:00.0. Создаю второй инстанс и... libvirt.libvirtError: Requested operation is not valid: PCI device 0000:82:00.1 is in use by driver QEMU, domain instance-0000000e То есть nova не пытается выбрать свободный GPU, а с упорством пытается назначить инстансу уже используемый GPU.
Илья | 😶☮️🐸
Что-то с выбором GPU карт проблема при создании инстансов. На compute2 три GPU карты. 02:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 02:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) 81:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 81:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) 82:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 82:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) На compute2 в nova.conf: [pci] passthrough_whitelist = { "vendor_id": "10de", "product_id": "1c82" } passthrough_whitelist = { "vendor_id": "10de", "product_id": "0fb9" } alias = { "vendor_id":"10de", "product_id":"1c82", "device_type":"type-PCI", "name":"gf210-GPU" } alias = { "vendor_id":"10de", "product_id":"0fb9", "device_type":"type-PCI", "name":"gf210-GPU" } На controller в nova.conf: [pci] passthrough_whitelist = { "vendor_id": "10de", "product_id": "1c82" } passthrough_whitelist = { "vendor_id": "10de", "product_id": "0fb9" } alias = { "vendor_id":"10de", "product_id":"1c82", "device_type":"type-PCI", "name":"gf210-GPU" } alias = { "vendor_id":"10de", "product_id":"0fb9", "device_type":"type-PCI", "name":"gf210-GPU" } alias = { "vendor_id":"10de", "product_id":"1c82", "device_type":"type-PCI", "name":"gf210-GPU", "numa_policy":"legacy" } alias = { "vendor_id":"10de", "product_id":"0fb9", "device_type":"type-PCI", "name":"gf210-GPU", "numa_policy":"legacy" } Создаю первый инстанс - создаётся и получает GPU с адресом 81:00.0. Создаю второй инстанс и... libvirt.libvirtError: Requested operation is not valid: PCI device 0000:82:00.1 is in use by driver QEMU, domain instance-0000000e То есть nova не пытается выбрать свободный GPU, а с упорством пытается назначить инстансу уже используемый GPU.
Так он показывает какой домен взял на себя гпу
Илья | 😶☮️🐸
Логи шедулера гляньте
Maksimus Ulibikus
Так он показывает какой домен взял на себя гпу
Он показывает, что карта 82 уже занята доменом 0000000e, а так не должно быть, ведь еще свободны две карты
Илья | 😶☮️🐸
А нова в курсе, что домену 00e назначена карта ?
Maksimus Ulibikus
Логи шедулера гляньте
Что-то не увидел криминала https://pastebin.com/1S1vXfyP
Maksimus Ulibikus
А нова в курсе, что домену 00e назначена карта ?
Видимо не знает, хотя по факту карта назначена. Как можно посмотреть?
Илья | 😶☮️🐸
Попробуйте снести все инстансы и пересоздать
Maksimus Ulibikus
Сейчас
Maksimus Ulibikus
Пробую сразу три. Одна создается на compute1 (там одна карта) Вторая создается на compute2, а третья с ошибкой.
Maksimus Ulibikus
Фичи флейвора что-ли?
Не. В XML домена должны прописаться эти строки, иначе после установки драйвера на GeForce будет ошибка устройства Error 43.
Maksimus Ulibikus
Пробую сразу три. Одна создается на compute1 (там одна карта) Вторая создается на compute2, а третья с ошибкой.
Это мой случай? https://bugs.launchpad.net/nova/+bug/1633120 В конце написано: This issue was fixed in the openstack/nova ocata-eol release.
Maksimus Ulibikus
Задаётся через флейвор.
Сорри я прочитал как файрвол ))
Maksimus Ulibikus
Задаётся через флейвор.
Можно ссылку на флейвор? Прочту, что это.
Ilya
https://docs.openstack.org/nova/pike/admin/pci-passthrough.html
Ilya
что то типа этого, но надо открыть доку по вашей версии опенстека
Maksimus Ulibikus
что то типа этого, но надо открыть доку по вашей версии опенстека
Я делал по этой доке https://docs.openstack.org/nova/latest/admin/pci-passthrough.html
Maksimus Ulibikus
Конфиг на controller
Maksimus Ulibikus
Maksimus Ulibikus
На compute
Maksimus Ulibikus
Maksimus Ulibikus
А это карты на compute 02:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 02:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) 81:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 81:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1) 82:00.0 VGA compatible controller [0300]: NVIDIA Corporation GP107 [GeForce GTX 1050 Ti] [10de:1c82] (rev a1) 82:00.1 Audio device [0403]: NVIDIA Corporation GP107GL High Definition Audio Controller [10de:0fb9] (rev a1)
Maksimus Ulibikus
Первые два вайтлиста и первые четыре алиса - это одна карта с compute1. С ней вообще никаких проблем.
Я и твой кот
Можно ссылку на флейвор? Прочту, что это.
Сами найдёте. openstack flavor set xxx —property aaa=bbb. Среди них есть вам нужные. И можно задать на образы дисков тоже (image properties в glance).
Я и твой кот
Синтаксис конфига не корректен. И зачем вы аудиодевайсы представляете как видеокарты?
Я и твой кот
Я и твой кот
«Где карту выпускали, туда и идите» ;)
NS 🇷🇺
Vyacheslav
«Где карту выпускали, туда и идите» ;)
Мне тенькоф привёз прям на дом…
Vyacheslav
Andrey
Честно искал, просмотрел cl310. Точно был, но найти не могу. На память, нужно поменять плагин для sg и рестарт нейтрона.
Andrey
Ничего это не даст
я делал лабу и все работало. На проде конечно не гонял. Бридж исчез.
NS 🇷🇺
Как у тебя текущие вм поймут что ты все поменял
Andrey
Как у тебя текущие вм поймут что ты все поменял
Подозреваю на лету никак. А еще вариант вообще сеть отвалиться. Поднимает стетд и проверем.
Vyacheslav
В доке был ещё вариант лайв миграции на гипер и там типо встанет все верно, но мало я в такое верю
Vyacheslav
Но надо tap вытащить из qbr и отдать его сразу в овс….
Vyacheslav
А я верю
Что же это не сработало в тот раз?
NS 🇷🇺
Что же это не сработало в тот раз?
Так у нач гибрид драйвер был
Aleksey
урааа похоже скоро можно будет выкинуть патч для ретраев во время аттача образов к nova-compute
Aleksey
https://bugs.launchpad.net/glance-store/+bug/1904546
Pavel
это воде про другое
Pavel
хотя очень похоже на то что я предлагаю
Илья | 😶☮️🐸
https://bugs.launchpad.net/glance-store/+bug/1904546
а ридонли волюмы можно будет мультаттачить ?
Илья | 😶☮️🐸
я вот недавно задался таким вопросом
Pavel
тут очень от хранилки зависит
Artemy
тут очень от хранилки зависит
Скорей от гипервизора
Artemy
А то подключите по FC без кэша и норм а включите кэш и будет тыква
Илья | 😶☮️🐸
Скорей от гипервизора
Я как раз с вашим участием доклад смотрел на около эту тему)
Илья | 😶☮️🐸
прям вчера
Artemy
Ехал кэш через кэш?
Илья | 😶☮️🐸
типа того, про стораджи, драйверы и тд
Artemy
Ага, с митапа
Aleksandr
Artemy
Который из них? Их там блин куча
Pavel
так есть же image cache ?
Да но нет. Тут проблема до кеша
Vyacheslav
А тут есть кто-то из https://www.servers.com/ ?
Maksimus Ulibikus
Сами найдёте. openstack flavor set xxx —property aaa=bbb. Среди них есть вам нужные. И можно задать на образы дисков тоже (image properties в glance).
Теперь понятно, что за флейвор. Я итак знаю, что там метаданные вводятся и все необходимые туда добавил кроме этих двух. Я туманно представляю как мне уместить в ключ-значение вот это <vendor_id state='on' value='111111111'/> и вот это <kvm> <hidden state='on'/> </kvm>
Maksimus Ulibikus
А тут есть кто-то из https://www.servers.com/ ?
Что-то очень знакомое. Вроде у них месяц назад собеседовался. Только завалил, наверно тем, что под конец начал ахинею нести насчет того, что на текущей работе мне сильно не нравятся бесплатные переработки ))