Victor
у нас уже был момент когда хостер нам поставил временно машины с процами без avx2, и от этого некоторые приложеньки дата-сатанистов приуныли
Cholovik
и для разрабов хэлп:
Выглядит круто, соболезную! Замечу правда что requests как раз таки НЕ hard limit
Cholovik
А у вас троттлинг в процентах от чего считается?
Victor
А у вас троттлинг в процентах от чего считается?
100 * sum by(container_name, pod_name, namespace) (increase(container_cpu_cfs_throttled_periods_total{container_name!="", namespace=~".*$namespace.*"}[5m])) / sum by(container_name, pod_name, namespace) (increase(container_cpu_cfs_periods_total{namespace=~".*$namespace.*"}[5m])) > 1
Cholovik
У нас тоже график такой появился, но мы оставили троттлинг в просто ms, чтобы знать что между скрейпами за заданный период на троттлинг потратили вот столько времени
Victor
по-моему суть формулы я взял из прометеус-оператора
Victor
Понял, процент от периода по сути?
ага, 5-минутные периоды агрегируются
dzmitry
привет, получаю такую ошибку: services "cadavlvehicleapiservice" is forbidden: User "system:serviceaccount:default:***" cannot get resource "services" in API group "" in the namespace "dev", не знаю что сделал или удалил (с rbca не сильно пока не знаком). Но до недавнего времени все работало из коробки(это Azure), без создания sa и rolebinding. Подскажите куда искать)
Григорий
Господа, подскажите, что такое Search Line limits при формировании DNS конфига?
Haters Gonna
привет, получаю такую ошибку: services "cadavlvehicleapiservice" is forbidden: User "system:serviceaccount:default:***" cannot get resource "services" in API group "" in the namespace "dev", не знаю что сделал или удалил (с rbca не сильно пока не знаком). Но до недавнего времени все работало из коробки(это Azure), без создания sa и rolebinding. Подскажите куда искать)
пройдись get по этому: v1/ClusterRole v1/Deployment v1/Pod(related) v1/Service v1/ServiceAccount v1beta1/ClusterRole v1beta1/ClusterRoleBinding v1beta1/MutatingWebhookConfiguration v1beta1/Role v1beta1/RoleBinding v1beta1/ValidatingWebhookConfiguration и разные неймспесы. были траблы в azure. находил это там
😾
Почему name уникальны в рамках всех namespace?
😾
Зачем так сделали
😾
😾
Хотя логично
😾
Ладно
😾
KrivdaTheTriewe
ребят, какие официцальные способы добавлять роли в кубспрее, типа ингресс включить, убрать дашборд уже у развернутого кластера
Lucky SB
Все ж в доке есть
KrivdaTheTriewe
Этож ансамбль. Добавляешь настроек в инвентарь и пускаешь плейбук с тегом apps.
ансабль та ансабаль, cluster.yml не безопасный типа , прям написано
KrivdaTheTriewe
у меня так дашборд отрубился после второго раза
KrivdaTheTriewe
а апгрейд ничего не раскатывает
KrivdaTheTriewe
кому платить
KrivdaTheTriewe
а как же делать IaaC
Lucky SB
Аутсорсеру, или кучеру
Отделение Bereke Bank
кому платить
southbridge-у 😂
Lucky SB
Погрепай доку по --tags apps
KrivdaTheTriewe
Аутсорсеру, или кучеру
звучит как секс, но когда насилуют тебя, но платишь всё равно - ты
KrivdaTheTriewe
Погрепай доку по --tags apps
теги чот не работают,кстати, падает плейбук если теги задать, но это мои кривые руки, да
😾
в helm3 нет
А я сильно себе в колено выстрелю, если обновлюсь?
Andrey
А я сильно себе в колено выстрелю, если обновлюсь?
не, всё будет типтоп. Верь словам рандомного чела из интернета, он не соврёт. Ничего не проверяй, сразу в прод ..ячь
Lucky SB
На полторы стрелы... Будет больно, но недолго
R2
helm3 сам не создает неймспейсы и тиллер не нужен
Cholovik
А я сильно себе в колено выстрелю, если обновлюсь?
https://itnext.io/breaking-changes-in-helm-3-and-how-to-fix-them-39fea23e06ff?gi=cb039c031eac
Roman
флант молодцы
Pavel
это как 25 кадр? :)
Семён
пссс, парень, юзай верф
dzmitry
пройдись get по этому: v1/ClusterRole v1/Deployment v1/Pod(related) v1/Service v1/ServiceAccount v1beta1/ClusterRole v1beta1/ClusterRoleBinding v1beta1/MutatingWebhookConfiguration v1beta1/Role v1beta1/RoleBinding v1beta1/ValidatingWebhookConfiguration и разные неймспесы. были траблы в azure. находил это там
да получается проблема в custom namespace, почему-то в default деплоит нормально а в dev не хочет. понятно что sa не имеет пермишенов на это, но оно работало как-то раньше без ручного вмешательства )
dzmitry
у меня в принципе все завелось с первого раза и работало какое-то время, но потом все слетело, и вот не понимаю что сделалю Причем если делать с azure cli все работает нормально, а вот с azure devops не хочет
Dmitry
А никто не знает способа сказать ingress nginx'у (который от куба https://kubernetes.github.io/ingress-nginx/) не выкидывать поды из upstream в случае если kube-apisrver стал вдург недоступен? Проблема такая: если одна мастер нода падает, требуется некоторое время (около 1-2 минут) на переключение IP на другую ноду. И вот за это время, ingress nginx успел выкинуть из некоторых upstream'ов ip адреса подов. Или возможно я ошибся в этом, и получил 503 не по этой причине, но тайминги совпадают прям точно (падение мастера -> 503 ошибки в ingress -> после переключения IP все наладилось). ingress естественно не на мастерах работает
Lucky SB
А никто не знает способа сказать ingress nginx'у (который от куба https://kubernetes.github.io/ingress-nginx/) не выкидывать поды из upstream в случае если kube-apisrver стал вдург недоступен? Проблема такая: если одна мастер нода падает, требуется некоторое время (около 1-2 минут) на переключение IP на другую ноду. И вот за это время, ingress nginx успел выкинуть из некоторых upstream'ов ip адреса подов. Или возможно я ошибся в этом, и получил 503 не по этой причине, но тайминги совпадают прям точно (падение мастера -> 503 ошибки в ingress -> после переключения IP все наладилось). ingress естественно не на мастерах работает
При недоступности апи сервера контроллер конфигурации не изменяет. Ничего не выкидывает. Так что дело не в этом. А схема с переносом одного адреса между мастерами в течении минуты убогая ужас как. Посмотри как в кубспрее сделано. Доступ через локальные прокси-балансировщики запущенные на узлах
Dmitry
почему вы не используете kubernetes.default ?
не очень понял что имеется в виду
Lucky SB
Dmitry
Ты не понял. Балансировщик должен быть локальный на каждой ноде. И в него ходит кубелет и куб прокси
+ Так и сделано. Три мастер ноды, на каждом по локальному балансировщику
Отделение Bereke Bank
Dmitry
Локальные балансировщик на странице нодах
А,теперь понял. Да, имеет смысл. Что-то не подумал. Спасибо
Lucky SB
+ Так и сделано. Три мастер ноды, на каждом по локальному балансировщику
Оу. Самый убогий и кривой сетап. ))) Добавил кучу проблем
Dmitry
Локальные балансировщик на странице нодах
А kubespray их через ds накатывает =). Или просто nginx,haproxy локально ставит на каждой ноде кластера?
Boriss
пссс, парень, юзай верф
А можно если не сложно узнать почему именно верф
Dmitry
Естественно как Статик поды.
Че сразу так не сделал, блин. Всем спасибо за совет
Lucky SB
Че сразу так не сделал, блин. Всем спасибо за совет
поставь тестовый кластер кубспреем и возьми оттуда манифесты )))
Lucky SB
там как бы один грязный хак. после джойна ноды меняется конфиг кублета, чтобы он к АПИ ходил через 127.0.0.1:6443
Dmitry
поставь тестовый кластер кубспреем и возьми оттуда манифесты )))
Да итак в принципе все янсо. Остался один непонятный момент, каким образом сделать так, чтобы все ходили на локальный ip ноды, как в api кластера. Для подов то понятно есть kubernetes.default. А вот остальным
Dmitry
А че туплю, там же kubelet только остались
Lucky SB
В ранчере так же
что в ранчере так же ?
Семён
А можно если не сложно узнать почему именно верф
Это вам ребята из фланта объяснят. От меня это был сарказм
Dmitry
там как бы один грязный хак. после джойна ноды меняется конфиг кублета, чтобы он к АПИ ходил через 127.0.0.1:6443
Блин, уже все подсказали, тупо не увидел. Вот такой-же грязный хак и буду делать
Dmitry
> При недоступности апи сервера контроллер конфигурации не изменяет. Ничего не выкидывает. Так что дело не в этом. @LuckySB А вот это вот точно?
Lucky SB
> При недоступности апи сервера контроллер конфигурации не изменяет. Ничего не выкидывает. Так что дело не в этом. @LuckySB А вот это вот точно?
конечно точно. как иначе то может быть. вон у ф. кластера по неделе без единственного мастера жили.... и ниче так. у тебя классическая жопа была. часть кублетов не смогли отрепортить статус и их поды на них пометили как нот реди. а контроллеру удалось эту инфу получить с нового апи сервера ...
😾
Если в одном кластере несколько окружений, как порты к ссо'ам разным наружу выставлять, рандомно? 🤔