Hello
Очень сложно)
Если сайт сложен что бы я в нём разобрался за три минуты => юзабилити слабое => плохой сайт. Отучаю себя от этого)
Алик Сережевич
Много я слышал про «опинстэк гавно», но вот «опинстэк сает гавно» - первый раз
Zhandar
Делается так, я думаю: echo <pci address> > /sys/bus/pci/drivers/nouveau/unbind И потом то же самое, но с vfio-pci и bind
Добрый день. С vfio-pci получилось решить. Создал флавор с алиасом. Но почему то инстанс не запускается. Сейчас скину скрины
Zhandar
Zhandar
J
Тогда надо сомтреть логи Nova-scheduler и почему он не нашел подходящего хоста.
Zhandar
J
В вайтлист добавил видюшки?
J
Покажи секцию [pci] из nova.conf, пожалуйста.
J
Во-первых, у тебя опечатка: "gegorcegt710") Может такое быть что в спецификации флейвора написано "geforcegt710", а не gegorce?
Zhandar
Zhandar
И тут опечатка)
✠ FLASh ✠
такс, я тоже хочу что-то подсказать, но пока никак не могу въехать что происходит.
✠ FLASh ✠
не бутается инстанс на кампутах? флейвор есть, имадж есть - их можно менять?
J
не бутается инстанс на кампутах? флейвор есть, имадж есть - их можно менять?
Коллега пытается пробросить видюшку в виртуальную машину, а pcie фильтр планировщика все хосты забраковал.
J
И тут опечатка)
Попробуй в вайтлисте оставить просто vendor_id, не указывай конкретно видюшку. Ну и не забудь nova-compute перезапустить. Кроме этого убедись что iommu включен в хостовом ядре и в биосе и что vt-d поддерживается процессором и чипсетом.
Zhandar
https://www.jimmdenton.com/gpu-offloading-openstack/
Все что в этом гайде сделал
J
Все что в этом гайде сделал
про iommu и vt-d глянь. Если есть активные dma remapping, значит все ок. Ищи pcie адреса видюшки в /sys/devices/virtual/iommu/dmar* И смотри чо ядро при загрузке писало про DMAR, есть ошибки в dmesg или нет.
✠ FLASh ✠
я так понимаю, что https://www.jimmdenton.com/gpu-offloading-openstack/ попробовано уже?
✠ FLASh ✠
все нова сервисы перегружены?
Zhandar
J
~$ ls /sys/devices/virtual/iommu/dmar1/devices/ 0000:85:00.0 0000:86:00.0 0000:86:00.1 0000:86:00.2 0000:86:00.3
Алик Сережевич
А что за карточка? Она не умеет что ли прокидываться в виртуалку?
Zhandar
Спасибо друзья огромное. Мне надо бежать. Завтра посмотрю еще.
Алик Сережевич
Это не от карточки зависит.
Ну нативно подключается без passtrough и так фактически что угодно. Другое дело, что nvidia-драйвера не будут воспринимать часть их. Только немного максвеллов и паскалей
J
Спасибо друзья огромное. Мне надо бежать. Завтра посмотрю еще.
Ок. Включи потом debug в nova-compute смотри какие ресурсы она анонсирует Placement сервису. Грепай лог по словам resource view. Там должно быть чо-то типа: pci_stats=[PciDevicePool(count=2,numa_node=1,product_id='1ad6',tags={dev_type='type-PCI'},vendor_id='10de'), PciDevicePool(count=2,numa_node=0,product_id='1ad6',tags={dev_type='type-PCI'},vendor_id='10de') и так далее
Алик Сережевич
Не понял. Как это к виртуальной машине без pci passthrough подключить pci устройство?
Мне вот помнится, что на теслах vGPU нативно прокидывается, без passthrough
J
Мне вот помнится, что на теслах vGPU нативно прокидывается, без passthrough
Как это, нативно? Это sr-iov. Физическая видеокарта разбивается на vf и они уже пробрасываются в виртуальные машины.
J
Мне вот помнится, что на теслах vGPU нативно прокидывается, без passthrough
Просто нвидевский vgpu software большую часть конфигурации скрывает от оператора, видимо.
Zhandar
J
Добрый день! Посмотрел, pci_stats=[] показывает
Привет) А эт значит что чо-то не так в конфиге. Собственно, я и вижу уже чо не так.
J
Извини, вчера протупил и не сказал. У тебя название секции pci заглавными написано.
Zhandar
ща. потом все сервисы перезапустить?
J
ща. потом все сервисы перезапустить?
Думаю что достаточно будет nova-compute перезапустить.
Zhandar
Zhandar
Zhandar
Zhandar
Еще проверил базу на зарегистрированные pci
Zhandar
Zhandar
пусто
J
А, ну еще конфиги пишутся в ini формате, а ты как в yaml или json ключ и значение двоеточием разделил.
Zhandar
вроде решил, проверяю, напишу
Zhandar
в другой конфиг добавил еще
Zhandar
все получилось!
J
все получилось!
В чем дело было?
Zhandar
Zhandar
здесь заметил что конфиг файл другой
Zhandar
там тоже добавил и вуаля
Zhandar
Zhandar
Это уже внутри виртуалки
J
не забудь в метаданных флейвора или образа добавить hide_hypervisor_id=True, иначе подлая нвидия не заработает.
Zhandar
Спасибо ребят, очень помогли!
J
да? ок, спасибо!
Ага. Нвидия своим лицензионным соглашением запрещает использовать игровые видеокарты в виртуальных машинах. И еще подстраховалась добавив в драйверы функцию определяющую что они запущены в вм. Но на самом деле эти их пункты в соглашении полная хуйня.
Zhandar
понял 👍
Zhandar
хех)
Hello
В продолжение марафона тупых вопросов хочу спросить про cinder. В инсталляционном мануале предлагается создать physical volume и включить его в новую volume groupe. У меня на сервере два диска в райд1 и все уже расчерчено, соответственно физический том я туда могу туда засунуть либо ручками, дойдя до сервера ножками, либо попробоваться разметить заново. Для новой разметки я могу использовать только 8 гигов которые сейчас у меня для swap. Учитывая что я этого никогда не делал, и достаточно слабо понимаю архитектуру файловой системы центоса это мне видится крайне рискованым занятием. Что будет если я решу использовать существующую volume groupe "centos"? Можно ли это решить как-то через выделения под синдер логического раздела вместо физического? Сервер тестовый, то что это медленно\неправильно на данном этапе меня волнует мало.
Hello
Поскольку packstack делает это без лишних вопросов я предполагаю, что именно существующую volume group он и использует
Vadim
привет, packstack создаст файл на диске, подмонтирует его
Vadim
сами можете не размечать
Vadim
вам же для тестов?