icewolf
там пиплы из нутаникса нарисовали
Alexander
https://www.openvswitch.org/support/ovscon2020/slides/OVS-CONF-2020-OVN-WITH-DYNAMIC-ROUTING.pdf
да, я встречал уже эту презу и последний слайд мне очень понравился 🙂
Vladislav
https://www.openvswitch.org/support/ovscon2020/slides/OVS-CONF-2020-OVN-WITH-DYNAMIC-ROUTING.pdf
Эта тема давно заглохла. Сейчас есть только вялые обсуждения сделать нативный BGP в OVN.
icewolf
Эта тема давно заглохла. Сейчас есть только вялые обсуждения сделать нативный BGP в OVN.
Боюсь вас расстроить нативно не получится, не потому что ovn и ovs какие то плохие. А потому что архитектурно это очень и очень сложно
icewolf
чудо решения по большому счету нету, от слова совсем нету. Путь в l3 сейчас только один это tungsten ну или уходить в кубы и использовать силиум
Alexander
да всё просто, с 1000 нод можно же поднять 1000 BGP и пушить туда 100000/32
бюджетно ))) и планку памяти для роутера на всякий случай держать под рукой )))
icewolf
да всё просто, с 1000 нод можно же поднять 1000 BGP и пушить туда 100000/32
у вас всегда все очень просто, целое комьюнити и крупные компании вендоры софта думают. А у вас все просто, хоба и херак все получилось
Alexander
чудо решения по большому счету нету, от слова совсем нету. Путь в l3 сейчас только один это tungsten ну или уходить в кубы и использовать силиум
Ну вот NSX, как я понимаю из того, что вижу, как раз и слепили l3 из frr+ovs или из чего то очень похожего на ovs
icewolf
Ну вот NSX, как я понимаю из того, что вижу, как раз и слепили l3 из frr+ovs или из чего то очень похожего на ovs
vmware просто купила компанию которая по сути делала этот самый овес и доработала и делится не с кем не хочет
icewolf
все в шоке редхат пытается как то вырулить ситуацию с ovn но получается пока что криво
Alexander
мне в целом нравится, как получилось у них, жаль в текущих реалиях надо съезжать :(
Alexander
все в шоке редхат пытается как то вырулить ситуацию с ovn но получается пока что криво
так red hat сам же хочет теперь все продавать и менять лицензию )
icewolf
так red hat сам же хочет теперь все продавать и менять лицензию )
это логично но не логично, все равно им придется пушить в upstream
icewolf
победить ситуацию можно двумя способами полностью переписать ovn и выкинуть привязки к ovs и впилить поддержку прям в ядро. Но такую манипуляцию никто в здравом уме не даст сделать.
icewolf
или же второй вариант, разрушить нахер парадигму текущего деплоймента и оставить только helm
Alexander
У нас большие кубы в NSX очень быстро его съели.
у нас он тоже не прижился в кубере, но я бы хотел попробовать все таки nsx в качестве CNI для кубера, во вторых у меня есть подозрение, что в рамках одной сети между нодами коллеги включали vxlan
Alexander
А мы его так и использовали, cni от nsx-t
ну вот мы к сожалению пошли не этим путем :(
Alexander
Скорости и функционал - всё прекрасно, но есть ограничения и сам nsx-t довольно быстро выедается по лимитам.
Alexander
Скорости и функционал - всё прекрасно, но есть ограничения и сам nsx-t довольно быстро выедается по лимитам.
мы по лимитам разве что сегментов (лицензии) уперлись, а в остальном, я думаю, что аффектила многократная инкапсуляция vxlan трафика, но подтвердить доводы уже вряд ли получится
Alexander
мы по лимитам разве что сегментов (лицензии) уперлись, а в остальном, я думаю, что аффектила многократная инкапсуляция vxlan трафика, но подтвердить доводы уже вряд ли получится
Он поды в женеву сразу пихает в свои vlan и далее в hyperbus. При использовании cni в кубе на vmware надо или отключать оверлеи между нодами или изменять базовый порт, а то можно получить баги неприятные. Мы этого с calico наелись из-за инфры VMware
icewolf
калико как и силиума полно детских болячек которые они не фиксят
icewolf
базовый функционал есть, а далее упираешься в то что шаг влево/вправо и всё взрывается
Alexander
калико как и силиума полно детских болячек которые они не фиксят
В целом все в принципе работает неплохо и ebpf даже не ломает ничего. Но есть нюансы.
icewolf
нюансы в скейле. Ток пытаешься расширить кластер, ну или поэтапно обновить как силиум такой палку в переднее колесо сует.. и потом валится
icewolf
пару раз на такие ситуации попадал.
Alexander
В целом все в принципе работает неплохо и ebpf даже не ломает ничего. Но есть нюансы.
попробовал я тут переключить калику на ebpf и.... все упало )))
Alexander
попробовал я тут переключить калику на ebpf и.... все упало )))
Ну так правильно переключать надо :)) конфигмапу подготовить, маунты провесить, fstab поправить.
Alexander
я так и не понял, зачем калико нужен ebpf, если observability нет и network policy как я понимаю тоже не але в этом режиме
Alexander
Ну и работает быстрее
Alexander
Ну так правильно переключать надо :)) конфигмапу подготовить, маунты провесить, fstab поправить.
все по доке было сделано, просто на последнем этапе она мне сказала, что контроллера не вижу своего ))) а он вот он - доступный же )
icewolf
быстрее ток у силиума
icewolf
у калико не сильно быстрее
Alexander
у калико не сильно быстрее
Нет, примерно одинаково.
Alexander
Я переключал - всё было ок :)
у вас через оператор калико поставлена ? или ручками ?
icewolf
Нет, примерно одинаково.
я где то с год назад смотрел. Что сейчас не подскажу
Alexander
у вас через оператор калико поставлена ? или ручками ?
Руками. Всё руками и каждый параметр знаком :)
Alexander
я где то с год назад смотрел. Что сейчас не подскажу
Ebpf при отключённой инкапсуляции даёт очень небольшую просадку от скорости между нодами.
Alexander
Всё алё.
прошу прощения, LOG action перестает быть доступен - это актуальный был для меня параметр, но первый syn в логах смотреть не оч интересно
Alexander
хотелось просто фиксировать срабатывания правил, не только методом научного тыка
Alexander
Руками. Всё руками и каждый параметр знаком :)
ну, тогда приклоняюсь перед мастером :)
Alexander
ну, тогда приклоняюсь перед мастером :)
Мы её просто долго крутим и уже побились о множество углов и пару issue разрешили с ними.
Alexander
в целом, выглядит, как надежный продукт с широким функционалом, но дока кажется маловатой
Alexander
силиум хочу попробовать, но все никак руки не дайдут. Хоть посмотреть на хваленный хабл и сколько он жрет
icewolf
в целом, выглядит, как надежный продукт с широким функционалом, но дока кажется маловатой
Ну учитывая что доки у того же опенстека малость запаздывают за кодом
icewolf
по калико дохера документации, в ней скорее запутаться можно
Alexander
Ну учитывая что доки у того же опенстека малость запаздывают за кодом
я устал в опенстек смотреть на красную строчку вверху, что я читаю не актуальную доку)
Alexander
в целом, выглядит, как надежный продукт с широким функционалом, но дока кажется маловатой
Доку приходится по нескольку раз читать со всё большим просветелением - это нормально
Alexander
Доку приходится по нескольку раз читать со всё большим просветелением - это нормально
я полазил у них по исходникам и пришел к выводу, что они далеко не все документируют
icewolf
Доку приходится по нескольку раз читать со всё большим просветелением - это нормально
доку пишут для тех кто в теме, хотя по доке силиум яб сказал какой жопой они писали доку
icewolf
и главное для кого
Alexander
и главное для кого
ну как бывает - тех. писатель живет в одной реальности, а разработчик - в другой)
icewolf
Вот вот тех писатели вообще иногда не от мира сего.
Alexander
Вот вот тех писатели вообще иногда не от мира сего.
Если бы не они, то вообще никакой бы документации не было :))
icewolf
Если бы не они, то вообще никакой бы документации не было :))
ну почему то у силиума дока написана так что надо читать с середины, а у калико норм
icewolf
иногда лучше или не писать совсем или писать нормальную документацию по шагам
Neuro
интересно вся инфраструкта базируется на proxmox а на него накатывают opennebula https://www.youtube.com/watch?v=47Mht_uoX3A
Neuro
Я не знаю представитель вдс хостинга была презентация
icewolf
почему как?
Jürgen
У Андрея и спросите
Neuro
Opennebula поднимается на докерах
icewolf
Небула достаточно легковесная и гибкая в отличи от proxmoxVE
Jürgen
Да я видел что ты Андрея призвал)
Neuro
Доклад отличный просто разложил
icewolf
ну почему же, можно так же на хостах поднять тот же сеф можно поднимать отдельно.
Jürgen
Небул то развелось)
icewolf
потери от известных ошибок на стадии проектирования. Ну и да есть очень и очень авторитетная личность @Xo_ID в плане всех этих SDS
icewolf
так вот Константин скажет в какое место вас с HCI пойти и на каком детородном отростке покрутить