Алексей
подскажите плюсы и минусы self-hosted кластера kubernetes
Владимир
подскажите плюсы и минусы self-hosted кластера kubernetes
Имхо плюс - дешевле при тех же мощностях) минус - геморойнее)
Vladimir
плюсы - ты все контролируешь. минусы - ты все контролируешь
Sergey
грубо говоря следить за ним придется тебе
Алексей
контролирую я и так все, либо в виде сервисов на хостовой операционке, либо все тоже самое в самом кластере средствами kubernetes по дешевле не совсем понятно, потребление ресурсов не меняется
Алексей
геморнее в чем?
Sergey
тут скорее вопрос не в kubernetes, а в принципе в хостинге, за дисками и охлаждением тоже ты следить должен
Andrei
геморнее в чем?
Обновления кластера. В гугле этим не ты занимаешься
Алексей
у меня бареметал, вариант кластер как сервис не рассматривается
Sergey
а как что вы его рассматриваете
Lex
господа, а кто-то пробовал стартовать etcd как статик под в кублете?
Lex
или это нафиг не уперлось?
Алексей
Да Владимир, вы все поняли правильно как абстракцию поверх железа позволяющую уменьшить количество трудозатрат на выведение сервисов в использование.
Igor
@zunkree а как вы еще его собираетесь стартовать, если внутри кубера крутите?
Алексей
И уменьшить затраты времени на этот процесс. Есть еще вопросы стандартизации ну и прочие мелочи.
Lex
ну можно отдельно на тазиках с помощью systemd стартовать
Igor
ну это уже, простите, извращение
Igor
это называется не "ранить в кубернетисе", а "реюзать докер демон кластера кубернетиса". или, возможно, я недопонял
Andor
кажется речь про етцд который для кубера
Sergey
+
Igor
ну и?
Igor
нельзя стартовать поды через systemd, можно только docker контейнеры
Andor
запускать жизненно необходимый компонент системы внутри этой системы?
Igor
именно так люди это и делают, представляете? :)
Igor
kubelet такой стартуется systemd и запускает "жизненно необходимые" компоненты кубера в подах
Andor
etcd разве тоже внутри запускают?
Igor
ну здрасте. так это по умолчанию и запускают. а потом вытягивают из кубера, если нагрузка большая
Andor
и как же бутстрапят етцд если етцд нету?
Vladimir
kubelet при старте запускает поды описаные в /etc/kubernetes/manifests
Lex
через static pods
Lex
у нас так все компоненты кроме etcd на стенде собраны
Andor
понял
Andor
не знал про такую радость
Lex
вот Я и подумал, а почему-бы туда так-же и etcd не впихнуть
Lex
и может у кого есть опыт, почему это хуйово
Алексей
это не умолчания, собственно можно все запускать как сервисы операционной системы, можно self-hosted это когда компоненты кластера управлюятся самим кластером
Салтыдык
вот Я и подумал, а почему-бы туда так-же и etcd не впихнуть
при смерти кубелета мастера, умирает и etcd рядом
Алексей
https://github.com/kubernetes/community/blob/master/contributors/design-proposals/cluster-lifecycle/self-hosted-kubernetes.md
Lex
но etcd будет ранаться на отдельных машинах а сам кублет сразу будет рестартован systemd'ой
Алексей
Собственно мой вопрос выше как раз про это плюсы и минусы кластера в такой конфигурации свои мысли есть, но хочется послушать чужое мнение.
Sergey
куберу все равно где ты его запустишь, тут опять же повторюсь вопрос не в кубере
Vladimir
плюсы, можно смотреть логи и статус и рестартить через kubectl )))
Салтыдык
Vladimir
минусы помимо кубелета он еще зависит и от демона докера
Алексей
мониторинг железа и дисков я не поднимаю, это отдельная тема которая давно решена.
Алексей
что значит нельзя остановить?
Салтыдык
минусы помимо кубелета он еще зависит и от демона докера
а есть вариант запускать на машине etcd и кубелет без докера?
Igor
откуда информация про отмиране подов при убийстве кублета?
Sergey
для меня в моей практике - считаю, что кубер по крайней мере должен быть в трех ДЦ, чтобы еще и под CDN
Алексей
зависимость от докера либо есть либо нет в любом варианте
Andor
можно просто демоны запускать
Салтыдык
Алексей
есть еще rkt
Sergey
а есть вариант запускать на машине etcd и кубелет без докера?
kubernetes это оркестрация контейнеров, зачем вам система без контейнеров
Andor
затем что докер - исторически не самый надёжный продукт
Vladimir
а есть вариант запускать на машине etcd и кубелет без докера?
не понял вопрос, я про то что например рестарт докера рестартанет все контейнеры…
Igor
cri-o жи - будущее
Vladimir
как пример
Igor
точнее, уже настоящее)
Igor
в докере включается live restore и жизнь становится легче
Алексей
“ рестарт докера рестартанет все контейнеры” зависит от настроек
Andor
зависит от версии докера ещё
Andor
появилось в 1.13
Igor
ну и отмирание кублета не убьет ни под, ни контейнер, тем более, в systemd вы же включаете авто-подъем сервиса
Lex
и еще вопрос, кто тестил cri-containerd с кубером?
Andor
ага, а ещё включаем автозамену блоков питания в серверах при фейле
Andor
не говоря уж про диски
Andor
да и сетевые карты иногда чудят
Алексей
чет я про настоящее cri-o не уверен Support for network based file system images (NFS, Gluster, Cefs) is on the development roadmap
Алексей
что под volumes использовать?
Алексей
или я что то упустил?
Lex
то есть лучше просто не выйобываться и взять обычный докер, правильно?
Lex
какую версию докера лучше всего использовать для куба 1.10.1 не подскажете?
Andor
лично я рекомендую не старее 1.13
Vadim
чет я про настоящее cri-o не уверен Support for network based file system images (NFS, Gluster, Cefs) is on the development roadmap
это поддержка удаленного хранилища имеджей - это и правда не реализовано. PV будут работать как обычно