Nikolay
причем tempest пробежал с 15 фейлами
Nikolay
ну конфиг драйв такое себе
Nikolay
на компьюте metadataagent живет
Nikolay
3 тестовых инстанса в одном проекте в одной сети на 3х гиперах, поведение похожее, cirros focal, но при этом темпест както прошел
Nikolay
надо както дебажить flow в овсе и смотреть куда теперь концы идут
Nikolay
причем в логах агента записи есть, непонятно про который сети, но тестовой 192.168 нет
Nikolay
причем DHCP agent есть на контролах, но namespace нету
Dmitry
Насколько я помню, metadata agent живет на компьюте в обязательном порядке если DVR.
https://docs.openstack.org/nova/latest/admin/metadata-service.html
- Instance sends a HTTP request for metadata to 169.254.169.254.
- This request either hits the router or DHCP namespace depending on the route in the instance.
У меня нет сейчас стенда с ovs dhcp, но предположу что нет ovs правил с src 169.254.169.254. Значит метаданные могли бы раздавать из qrouter на каждой ноде.
NS 🇷🇺
откуда там DHCP агент?
Nikolay
Ога
Nikolay
Вот вопрос
Nikolay
Заходишь такой на енв, агенты есть нейспейсов нет
Nikolay
(openvswitch-vswitchd)[root@cmp03 /]# ovs-appctl bridge/dump-flows br-int | grep 169.254.169.254
(openvswitch-vswitchd)[root@cmp03 /]#
Nikolay
похоже в метадату это как то иначе заворачивается
Dmitry
qrouter успешно отдают
# ip netns exec qrouter-711f55c7-20f2-43b3-a8f8-0043c9062d2a iptables-save | grep 169
-A neutron-l3-agent-PREROUTING -d 169.254.169.254/32 -i qr-+ -p tcp -m tcp --dport 80 -j REDIRECT --to-ports 9697
-A neutron-l3-agent-PREROUTING -d 169.254.169.254/32 -i qr-+ -p tcp -m tcp --dport 80 -j MARK --set-xmark 0x1/0xffff
а flat/vlan сети идут нафиг.
Nikolay
(PROD) root@cmp03:/var/log/kolla$ ip netns
fip-ab8c38d1-e08b-47fd-9d09-aa78652fd982
(PROD) root@cmp03:/var/log/kolla$
Nikolay
пойду искать куда спрятался
Nikolay
нашел на контроле роутер, неймспейс немного больной, но вопрос агент сидит на компуте, зачем оно ходит еще кудато?
Dmitry
Метадата агент живет там где dhcp/l3 агенты, на компьюте без них ему жить не обязательно, я так это понимаю. Могли бы для метадаты сделать отдельный netns, но тогда пришлось бы туда трафик как-то заворачивать. А так все естественным путем, либо отдельный route via dhcp, либо естественный через gw живущий в qrouter.
Dmitry
в случае DVR qrouter живет но той же ноде где и VM
Nikolay
(PROD) root@cmp03:/var/log/kolla$ ip netns
fip-ab8c38d1-e08b-47fd-9d09-aa78652fd982
(PROD) root@cmp03:/var/log/kolla$ docker exec -ti nova_libvirt virsh list
Id Name State
-----------------------------------
63 instance-0000025e running
(PROD) root@cmp03:/var/log/kolla$
Nikolay
(PROD) root@cmp03:/var/log/kolla$ grep -r distrib /etc/kolla/neutron-l3-agent/
/etc/kolla/neutron-l3-agent/neutron.conf:router_distributed = True
Dmitry
а сам роутер в dvr?
Nikolay
вот как бы нет
Nikolay
роутер нет
Nikolay
клиенту это до фонаря, он просто создает роутер
Nikolay
еще раз зачем угонять трафик с компуты если агент сидит тут же
Dmitry
потому что metadata агент такой несамостоятельный. Он себя раздает только в qdhcp и qrouter, у него нет собственного порта через который раздавать.
Dmitry
с приходом ovs dhcp может об этом подумают.
Dmitry
если переключить роутер в distributed режим, то qrouter будет прямо на compute ноде, и далеко ходить не придется
Nikolay
выглядит как говно
Dmitry
а люди старались..
Nikolay
ага релизов побольше почаще
Dmitry
(PROD) root@cmp03:/var/log/kolla$ grep -r distrib /etc/kolla/neutron-l3-agent/
/etc/kolla/neutron-l3-agent/neutron.conf:router_distributed = True
а у neutron-server тоже указан router_distributed=True? по документации новые роутеры должны по дефолту быть distributed в такой ситуации
Nikolay
(PROD) root@ctl01:/var/log/kolla/glance$ grep -r distributed /etc/kolla/neutron-server/
/etc/kolla/neutron-server/neutron.conf:router_distributed = True
Dmitry
и что, роутер не distributed при этом? ктож его так обидел
Nikolay
повис у роутера в неймспесе тцпдампом - никого
Nikolay
харайзен
Nikolay
он по умолчанию дистрибутет не включает
Nikolay
(PROD) root@ctl01:/var/log/kolla/glance$ grep -r distributed /etc/kolla/horizon/
/etc/kolla/horizon/local_settings:# when multiple dashboard instances are distributed on different machines
/etc/kolla/horizon/local_settings: 'enable_distributed_router': False
Nikolay
пойду в старушке виктории ковырнусь
Nikolay
qrouter-08f39a3f-ced4-497c-b573-a8d80a0d9ab1 (POC) root@cmp-ucs-01-02:~$ tcpdump -envi qr-b0a9289e-61
dropped privs to tcpdump
tcpdump: listening on qr-b0a9289e-61, link-type EN10MB (Ethernet), capture size 262144 bytes
13:12:53.189932 fa:16:3e:ce:1b:58 > fa:16:3e:00:b7:6b, ethertype IPv4 (0x0800), length 74: (tos 0x0, ttl 64, id 30378, offset 0, flags [DF], proto TCP (6), length 60)
192.168.100.4.59144 > 169.254.169.254.http: Flags [S], cksum 0x9d81 (correct), seq 3423953685, win 64860, options [mss 1410,sackOK,TS val 2457111476 ecr 0,nop,wscale 4], length 0
Nikolay
викторя, dvr, роутер без двр
Nikolay
таки значит воду мутит traditional dhcp
Nikolay
очень забавно, сеть в админ проекте не приносит qrouter на компуту, а сеть в другом проекте приносит
Nikolay
причем плюхунулись тестовые вм на одну компуту
Nikolay
могранул обе вм, на другую одну компуту
Nikolay
появился только один qrouter
Nikolay
создал новую сеть, роутер в админ проекте- работает...
Илья | 😶☮️🐸
Опенсорс 🤷♂️
NS 🇷🇺
очень забавно, сеть в админ проекте не приносит qrouter на компуту, а сеть в другом проекте приносит
сеть приносит куроутер туда, где есть объекты подключенные к этой сети. Это если мы говорим про DVR
Nikolay
Так я же пишу
Nikolay
2вм в соответствующих сетях разных
Nikolay
Сажаю на один гипер
Nikolay
А qr приехал только один
Nikolay
Да
Nikolay
Покатаю Темпест, посмотрю будет ли еще отрыгивать метадата
NS 🇷🇺
очень забавно, сеть в админ проекте не приносит qrouter на компуту, а сеть в другом проекте приносит
а сеть админ проекта создавался после смены всяких сетевых настроек или перед
Nikolay
После внесения изменений в конфиг колы стенд был переразвернут
Anvyar
Эй дружок-пирожок, тобой выбрана неправильная дверь, здесь раскатывают облака на чистом kvm, клуб любителей пехапешных анальных утех два блока вниз.
Viktor
С таким ТЗ вам в WordPress на любом хостинг провайдере с кликанием мышкой, но тут явно не будут браться за такой незабавный экспириенс. Но повеселили, спасибо 😁
Artemy
Повеселились знатно
Я и твой кот
Илья | 😶☮️🐸
NS 🇷🇺
Маркелов быстро пишет, он копипастит доки =)
Vyacheslav
Кто-то знает в yoga DVR OVS постоянно отваливается l3 agent - никто не отвечает на его Oslo. Messages. Лечится рестартом на compute node, но это очень больно - snat часто не работает из-за этого
Vyacheslav
Вы здесь - значит всё срослось
NS 🇷🇺
Vyacheslav
а для дибилов, какая связь компуты со snat&
Прямая, трафик не ходит между compute - network, для тех у кого нет FIP
Dmitry
а для дибилов, какая связь компуты со snat&
если l3 не настроит qrouter на ноде, то до snat пакет не долетит
Vyacheslav
если l3 не настроит qrouter на ноде, то до snat пакет не долетит
Он настраивается, потом не может синхронизироваться
Vyacheslav
2022-10-06 10:01:19.101 131 ERROR neutron.agent.l3.agent oslo_messaging.exceptions.MessagingTimeout: Timed out waiting for a reply to message ID 525dd0ba4e394be291019d4d7e8d07d2
2022-10-06 10:01:19.101 131 ERROR neutron.agent.l3.agent
2022-10-06 10:01:28.589 131 INFO oslo_messaging._drivers.amqpdriver [-] No calling threads waiting for msg_id : fda468b04a4048a5a1cc832b7d092930
2022-10-06 10:01:28.602 131 INFO oslo_messaging._drivers.amqpdriver [-] No calling threads waiting for msg_id : 525dd0ba4e394be291019d4d7e8d07d2
NS 🇷🇺
Dmitry
2022-10-06 10:01:19.101 131 ERROR neutron.agent.l3.agent oslo_messaging.exceptions.MessagingTimeout: Timed out waiting for a reply to message ID 525dd0ba4e394be291019d4d7e8d07d2
2022-10-06 10:01:19.101 131 ERROR neutron.agent.l3.agent
2022-10-06 10:01:28.589 131 INFO oslo_messaging._drivers.amqpdriver [-] No calling threads waiting for msg_id : fda468b04a4048a5a1cc832b7d092930
2022-10-06 10:01:28.602 131 INFO oslo_messaging._drivers.amqpdriver [-] No calling threads waiting for msg_id : 525dd0ba4e394be291019d4d7e8d07d2
по логам выглядит что кто-то таки ответил на 9 секунд позже таймаута.