куб размазывает поды равномерно по кластеру и трафик даёт равномерно. И тут всплывает что одна нода нагруженнее другой?

разумеется такое возможно)

он же оперирует коннектами, а не запущенными этими коннектами приложений)

допустим 100 коннектов из которыз 30 /index.php и 70 /update.php

они вызовут разную нагрузку

локейшен у всех будет /

но нагрузка же разная))

у меня вот другой кейс, как service заставить балансить не РР, а на основе нагрузки node?

это ощутимо сложнее, чем можно генерализованно сделать в кубернетесовом лоадбалансере.

в лоад балансере разумеется нет, но возможно есть другой способ, аля анриз но очень умный

это кейс что на одну ноду случайно попадают много /update, а на вторую случайно попадают/index.php маленькая вероятность такого исхода же...

у меня просто другой кей, я описал этот потому что его легче понять

у меня ноды отвечают за стримы

стримы могут длится от 1 минуты до 8 часов

у меня ноды отвечают за стримы

если у вас стримы - то у вас скорее нужно least connection использовать

nope) у меня опять же другая концепция

у меня стример открывает соединение с приложением

и держит его от 1 минуты до8 часов

и допустим ноды 2

стримеров изначально 10

не принимать стримы на поде если нагрузка велика? балансер перекинет другому.

5 стримеров видит на 1 и 5 стримеров на 2. Но проходит 5 часов,стримеры добавляются, какие-то уходят, какие-то приходят и ситуация такая, что на 1-й ноде 50 стримеров, а на второй 20

не принимать стримы на поде если нагрузка велика? балансер перекинет другому.

верно

5 стримеров видит на 1 и 5 стримеров на 2. Но проходит 5 часов,стримеры добавляются, какие-то уходят, какие-то приходят и ситуация такая, что на 1-й ноде 50 стримеров, а на второй 20

все еще least connection

это логика уровня приложения

только само приложение может за себя решить что ему хватит, пора отклонять.

все еще least connection

бля, а ведь верно

я не дочитал доку, least connection подходит

бля, а ведь верно

вообще рекомендую прочитать https://landing.google.com/sre/book/chapters/load-balancing-datacenter.html

не подходит, если цена connection разная у разных клиентов.

вы говорите правильные вещи, но они обычно не очень просты в реализации и на малых масштабах проще закинуть чуть больше железа, чем бороться за рост утилизации от условных 60% до 90%.

да, это банально, но решает часть проблем

у меня нет проблем с производительностью, пока что) я на этапе создания архитектуры, хочу просто продумать варианты

у меня нет проблем с производительностью, пока что) я на этапе создания архитектуры, хочу просто продумать варианты

тогда уйдите в более важные части вашей архитектуры :)

так суббота же

lc даст вам 70% от идеального решения за 5 минут.

остальные 25 стоят дорого.

писать mvp на коленке за 1-2 дня самая лучшая схема придумывания архитертуры имхо.

у меня сейчсас приложение работает в консул кластере на openvz

приложение уметь выпиздовывать себя из ns консула при большой нагрузке

и так решается проблема перегруза

Пробовали просто не принимать соединения при перегрузе? Вместо отправки в консул? Просто интересно.

я и думаю, или использовать маршрутизацию на основе service или оставить консул

что значит не принемать?) механзм ретрая, если этот отфутболит обратиться к другому?

что значит не принемать?) механзм ретрая, если этот отфутболит обратиться к другому?

ретрай есть во всех балансерах в каком-то виде

сейчас фронты лупит в зону консул, а там РР на сервис, если в нс консула нет ендпоинта, то и траф на него не пойдет, но процесс rtmp будет обслуживатбся

http://brandon.dimcheff.com/2018/02/rainbow-deploys-with-kubernetes/ + прикрутить оператор чтобы айдлить старые деплойменты где лавно не было коннектов, читая метрики из прометея

примерно так работает опеншифтовский idle/unidle

примерно так работает опеншифтовский idle/unidle

надеюсь из коробки?

отож, только из автоматизации там кронджобы, что не оче удобно

http://brandon.dimcheff.com/2018/02/rainbow-deploys-with-kubernetes/ + прикрутить оператор чтобы айдлить старые деплойменты где лавно не было коннектов, читая метрики из прометея

А кстати в кубере не хотят сделать какой нить idle check для endpoint?

Всем привет, надо анкету запонить вроде) ▫️Какой у вас проект или где работаете? музыкальный стартап, нельзя называть ▫️В чём вы специалист? java, алогритмы ▫️Чем можете быть интересны или полезны сообществу? Ничем, я бесполезен ▫️Чем интересно сообщество вам? Я очень тупой в девопс, сижу над простыми вещами по 3 дня, думаю тут что-то узнать или спросить ▫️Откуда вы? Москва ▫️Как узнали про группу? дал друг #whois

ты перый кто прочитал шапку)

ты перый кто прочитал шапку)

первый кого ты заметил

ну или так)

Ну да, только вчера два человека написали

Всем привет! Не подскажите, почему может coreDNS крашится при старте? [FATAL] plugin/loop: Seen "HINFO IN 1066589963736081249.2200974972713167526." more than twice, loop detected

Всем привет! Не подскажите, почему может coreDNS крашится при старте? [FATAL] plugin/loop: Seen "HINFO IN 1066589963736081249.2200974972713167526." more than twice, loop detected

А можно конфиг посмотреть?

А можно конфиг посмотреть?

Проблема с systemd-resolved

Проблема с systemd-resolved

А если поподробнее?)

А если поподробнее?)

К сожалению ничего) Только один лог выдает и крашится(

Петлю обнаружил, пишет но чет не могу понять пока как это разрулить

Петлю обнаружил, пишет но чет не могу понять пока как это разрулить

Юзать /var/run/systemd/resolve/resolv.conf в —resolv-conf у кублета ?

Юзать /var/run/systemd/resolve/resolv.conf в —resolv-conf у кублета ?

https://github.com/coredns/coredns/tree/master/plugin/loop#troubleshooting-loops-in-kubernetes-clusters Да я это прочитал уже тут. Но хотелось бы понять почему проблема пришла.

В смысле, почему? У тебя в /etc/resolv.conf прописано что-то типа "nameserver 127.0.0.53". У coredns не хостовый сетевой неймспейс.

Вот он и отправляет запросы сам себе.

Ничего там подобного не прописано.

А что там прописано?

Гайс, привет. Вопрос по поводу коннекта к 2м кластерам. Читал про контексты, вроде сделал все по доке. Но не работает. И судя по всему проблема в том что имя юзера у меня в обоих кластерах одинаковое. Это можно как-то порешать на клиентской стороне или все же переименовывать/пересоздавать юзера?

А что там прописано?

Сначала был прописан адрес nameserver, т.е роутера, потом сменил namserver на 8.8.8.8, и таже фигня

Сначала был прописан адрес nameserver, т.е роутера, потом сменил namserver на 8.8.8.8, и таже фигня

А причем тогда тут systemd-resolved?

А причем тогда тут systemd-resolved?

Это я поначалу думал что из него берет эти параметры.Но оказалось что нет.

Это я поначалу думал что из него берет эти параметры.Но оказалось что нет.

Тогда что в конфиге coredns?

И не выставлена ли часом у подов с coredns dnsPolicy в ClusterFirst?

Тогда что в конфиге coredns?

Сейчас пока что не могу посмотреть в кластере. Но если что через kubeadm ставилось все. Kubeadm и coreDNS накатил

Сейчас пока что не могу посмотреть в кластере. Но если что через kubeadm ставилось все. Kubeadm и coreDNS накатил

Я kubeadm принципиально не юзаю, так что хз, что тут сказать.

Я kubeadm принципиально не юзаю, так что хз, что тут сказать.

Да спасибо за отклик. Думаю разберусь. А что используешь для провижинша k8s?

Да спасибо за отклик. Думаю разберусь. А что используешь для провижинша k8s?

Форк kubespray + packer.io

Форк kubespray + packer.io

Ну кому что удобней)

Ну кому что удобней)

А я об удобстве в третью очередь думал

А я об удобстве в третью очередь думал

Какие-то проблемы с kubeadm?

Какие-то проблемы с kubeadm?

Пока перелопачиваешь kubespray, полностью понимаешь, как именно он сетапит кластер. В случае с kubeadm/kops это совсем не так. Если заюзать в сочетании с пакером, то и новые ноды можно штамповать быстро.

Пока перелопачиваешь kubespray, полностью понимаешь, как именно он сетапит кластер. В случае с kubeadm/kops это совсем не так. Если заюзать в сочетании с пакером, то и новые ноды можно штамповать быстро.

можно попадробнее про новые ноды пакером? он же образы делает. или у вас кастомные образы используются?

можно попадробнее про новые ноды пакером? он же образы делает. или у вас кастомные образы используются?

У меня кластер на aws. Беру за основу официальный образ убунты, в темплейте при билде применяю к нему немного измененный плейбук scale.yml, в результате готовый к использованию образ ноды.

Из этих образов терраформом уже ноды штампую\пересоздаю.

о, кажись docker hub слег

воувоу, полегче

docker pull ubuntu Using default tag: latest Error response from daemon: received unexpected HTTP status: 503 Service Unavailable

починили

В смысле, почему? У тебя в /etc/resolv.conf прописано что-то типа "nameserver 127.0.0.53". У coredns не хостовый сетевой неймспейс.

Я щас прописал kubelet доп.параметр при запуске: —resolv-conf=/etc/resolv.conf Но все равно такая-же беда продолжается

Я щас прописал kubelet доп.параметр при запуске: —resolv-conf=/etc/resolv.conf Но все равно такая-же беда продолжается

а в /etc/resolv.conf у тебя точно не лупбэк прописан? и проверь то, что я предложил выше + конфиг в студию.