Проставь и все заработает

https://mobile.twitter.com/fioraaeterna/status/1052294419607506944 слышали прекрасное?

https://mobile.twitter.com/fioraaeterna/status/1052294419607506944 слышали прекрасное?

уже даже обновил парочку гипервизоров )

Что за гипервизор с libssh?

Я правда не знаю где libssh используется

покритикуйте решение? https://github.com/gabrielfsousa/zookeeper-kafka-kubernetes задача: нужно запускать под из статефулсета на конкретной ноде

Проставь и все заработает

сомнительно. Куб говорит, pod's unschedulable потому что ему видите ли CPU не хватает, а autoscaler этого не видит?

сомнительно. Куб говорит, pod's unschedulable потому что ему видите ли CPU не хватает, а autoscaler этого не видит?

а автоскеллер должен видеть?

сомнительно. Куб говорит, pod's unschedulable потому что ему видите ли CPU не хватает, а autoscaler этого не видит?

Значит на это есть причины, там же никакой супер-эвристики нет, алгоритм очень простой

по идее autoscaler должен реагировать на поды, которым не хватает capacity, именно это написано в доках

баг?

https://mobile.twitter.com/fioraaeterna/status/1052294419607506944 слышали прекрасное?

дичь какая-то, ладно уязвимости типа спектр или брич, но это вообще б.. что? )

возможно

схожу ка я в саппорт гугла

сомнительно. Куб говорит, pod's unschedulable потому что ему видите ли CPU не хватает, а autoscaler этого не видит?

Note that cluster autoscaler works based on Pod resource requests, that is, how many resources your Pods have requested. https://cloud.google.com/kubernetes-engine/docs/concepts/cluster-autoscaler

и там же: > With autoscaling enabled, GKE automatically adds a new node to your cluster if you've created new Pods that don't have enough capacity to run

у меня как раз такая ситуация

причём я уже видел, как работает autoscale для подов без реквестов, только это было в другом проекте

о, кажется это не autoscaler. GCP не может добавить новую ноду в instance group для пула

попробовал вручную увеличить размер пула, и оно валится

и да порог входа в него повыше будет

Ужасно

И я точно знаю, что я в этом чяте не один такой

+1 Но приходится пользоваться ансиблом

Паппет сила! :)

я когда вижу всякое рубевое в паппете, if конструкции, erb, мне становится плохо

Мне тоже. Но когда я вижу солт, меня тошнит. А ансибл кажется поделкой.

Все такие чувствительные )

+1 к паппету, и кстати, как там нынче с поддержкой к8с?

+1 к паппету, и кстати, как там нынче с поддержкой к8с?

@Andorka ковырял наверняка

Официальный модуль от пупетлабс - ниочинь

Берите модуль от Азалио :)

Ггг

Мы возможно наш форк опенсорснем, но пока это не в приоритете

https://opensource.com/article/18/10/ansible-operators-kubernetes

А у кого кроме гуглов опенсорситть в приоритете )

У гуглов тоже не в приоритете

У M$

Мы возможно наш форк опенсорснем, но пока это не в приоритете

так вы сначала опенсорсните, а потом приоритетствуйте, вам уже пуллов накидают :)

шуткую

Сначала надо с другими проблемами разобраться

Привет, можете подсказать как быть с persistent storage на кубернетес, пытаюсь уже два месяца поднять кластер на digitalocean из 3 нод. Я не могу найти не одно нормальное решение хранения данных. Если изпользую nfs клиент, то все упираеться в сетку приватную в гигабит, это медленно для базы данных, если использую nfs provisioner из хельма, то он хранит данные только на одной ноде, и при переподнятии контейнера на другой ноде он начинает читать не с диска а по сетке с одной ноды на другую. Пробовал контейнезированные блок стораджи типо longhorn или openebs, но там вообще жесть, 1 гигабайт данных может писать 4 минуты, я писал разрабам, они сказали что у них только в планах это фиксить и вообще их решения не для продакшена. Вопрос, какой персистент сторадж исползовать при кластере из 3 нод на digitalocean? Спасибо.

а для чего тебе вообще такой сторейж?

а для чего тебе вообще такой сторейж?

У меня 25 микросервисов, у каждого из них есть redis и либо mysql или mongodb. Я бы хотел чтобы если нода уйдет в офлайн, то данные остались

В любом случае упрётся в сеть

Т.е: Namespace1 (php,queue,redis,mongodb) Namespace2: (php,queue,redis:mysql)

Привет, можете подсказать как быть с persistent storage на кубернетес, пытаюсь уже два месяца поднять кластер на digitalocean из 3 нод. Я не могу найти не одно нормальное решение хранения данных. Если изпользую nfs клиент, то все упираеться в сетку приватную в гигабит, это медленно для базы данных, если использую nfs provisioner из хельма, то он хранит данные только на одной ноде, и при переподнятии контейнера на другой ноде он начинает читать не с диска а по сетке с одной ноды на другую. Пробовал контейнезированные блок стораджи типо longhorn или openebs, но там вообще жесть, 1 гигабайт данных может писать 4 минуты, я писал разрабам, они сказали что у них только в планах это фиксить и вообще их решения не для продакшена. Вопрос, какой персистент сторадж исползовать при кластере из 3 нод на digitalocean? Спасибо.

У DO вроде свой провижионер есть для куба https://stackpointcloud.com/community/tutorial/getting-started-with-digitalocean-block-storage-and-kubernetes

У меня 25 микросервисов, у каждого из них есть redis и либо mysql или mongodb. Я бы хотел чтобы если нода уйдет в офлайн, то данные остались

Кмк, тут лучше держать несколько реплик, каждую со своим локальным стораджем, и репликацию делать средствами субд.

У DO вроде свой провижионер есть для куба https://stackpointcloud.com/community/tutorial/getting-started-with-digitalocean-block-storage-and-kubernetes

Я воевал с ними сегодня до 2 ночи, во первых первый лимит maximum 10 volumes, я выбил для себя 80, это ок, но потом я уперся в то что мах 7 volumes per droplet. Т.е. одна нода может к себе подключить 7 volumes. И все, суппорт дальше сказал, что извните мы и так подняли в этом году 5 лимит на 7

У меня 25 микросервисов, у каждого из них есть redis и либо mysql или mongodb. Я бы хотел чтобы если нода уйдет в офлайн, то данные остались

для mysql, монги и других штук которые умеют репликацию самостоятельно, лучше использовать local-volumes

но тут же встает вопрос с их провижионингом

А у ДО нет аналога ebs?

и если я хочу себе, например, 25 на каждую ноду, то это к команде инженеров digitalocean и это на долго

у DO есть digitalocean/csi-digitalocean на гитхабе, но лимит 7 volumes на дроплет, и это не изменить

Тогда local-volumes - это лучший выбор. Вам будет достаточно нагенерить по 25 PV на ноду, потом куб уже будет раздавать их на каждый PVC

Последнее что я решил, это поднять 25 кластеров монги или mysql, и исползовать Bind mount local directory from node

оператором?

Так, я забыл сказать, я использую ранчер 2.1. я могу не до конца вас понимать. Т.е. вы предлагаете просто сделать маунт в локальную директорию самой ноды ? т.е. без persistence ?

https://kubernetes.io/blog/2018/04/13/local-persistent-volumes-beta/

https://kubernetes.io/blog/2018/04/13/local-persistent-volumes-beta/

Спасибо, такого я еще не видел, сейчас почитаю

ребят подскажите, создал secret SSL с Сертификатом, tls.key и tls.crt внутри tls.crt вся цепочка сертификатов. Но nginx-ingress продолжает перезагружает конфиг где-то каждую минуту и в логах он постоянно добавляет и удаляет trusted-certificate

Спасибо, такого я еще не видел, сейчас почитаю

вот тут есть provisioner для local-волумов https://github.com/kubernetes-incubator/external-storage/tree/master/local-volume/provisioner

похоже это то что надо, спасибо

Я так понимаю что при этом варианте базы данных всегда должны быть кластерами с репликами? иначе если контейнер упдает на ноде1 и поднимится на ноде2 то там данных базы уже не будет, правильно ?

Я так понимаю что при этом варианте базы данных всегда должны быть кластерами с репликами? иначе если контейнер упдает на ноде1 и поднимится на ноде2 то там данных базы уже не будет, правильно ?

вот тут надо почитать об кластерах mysql, mongodb

А у ДО нет аналога ebs?

Вообще было вроде

уже сказали почему он ниочинь в данном кейсе

там еще с ним проблема, что, если ты привысил лимит volume, то драйвер в тихую атакует своим токеном диджитол оушн, лимит у токена 5000 запросов в час. Лимит достигаеться и все, В случае если у тебя будет 3 ноды, одна упадет, драйвер попытаеться перекинуть volumes на другую ноду, достигнет лимита в 7 volumes на ноду и убьет еще и токен. в Итоге останешся с кластером без volumes и с токеном который заработает только через час...

огненно

хехе

там еще с ним проблема, что, если ты привысил лимит volume, то драйвер в тихую атакует своим токеном диджитол оушн, лимит у токена 5000 запросов в час. Лимит достигаеться и все, В случае если у тебя будет 3 ноды, одна упадет, драйвер попытаеться перекинуть volumes на другую ноду, достигнет лимита в 7 volumes на ноду и убьет еще и токен. в Итоге останешся с кластером без volumes и с токеном который заработает только через час...

Ынтыпрайз Реди. Можно брать

уходи с rancher, используй kubeadm

потом если надо будет отдельно его подтянешь

подскажите пожалуйста, как лучше привязать iam роль к контейнеру dind (он выполняет функцию сборщика имейджей и пушит их в ecr)

при помощи kube2iam?

Товарищи а кто как чистит старые контейнеры на нодах? system prune не все подчищает

Может проще старые репликасеты поудалять?

удалять и заводить новые ноды, заодно тестить,что все стабильно.

удалять и заводить новые ноды, заодно тестить,что все стабильно.

B — baremetal

B — baremetal

+

Может проще старые репликасеты поудалять?

как это связано?

Удалять старые baremetal и заводить новые

вместе с репликасетом удаляется image

Товарищи а кто как чистит старые контейнеры на нодах? system prune не все подчищает

https://github.com/onfido/k8s-cleanup

Удалять старые baremetal и заводить новые

звучит как пересборка кластера (green/blue) ?

вместе с репликасетом удаляется image

у меня нет старых rs, а имэйджи есть

Удалять старые baremetal и заводить новые

класная идея, заодно по новой разворачиватьь все что за кластером? типа ceph? =)

А kubelet сам не умеет подчищать мусор и старые имейджы? Давно интересовался этим вопросом

класная идея, заодно по новой разворачиватьь все что за кластером? типа ceph? =)

А вы руками что-ли делаете?

А вы руками что-ли делаете?

ансибл, он же не мгновенный

темболее если дропнуть ноду у цефа веселенький ребаланс

темболее если дропнуть ноду у цефа веселенький ребаланс

У вас rook? Osd на воркерах?

У вас rook? Osd на воркерах?

не рук, osd есть, мы нищеброды