я кэп, посмотри логи кубелета

я не помню, kubeadm его на ноде вроде через systemd запустит

я кэп, посмотри логи кубелета

логи кублета на центоси в общем /var/log/messages?

я надеюсь достаточно journalctl -u kubelet

у меня кублет в докере

так что логи я смотри из докера)

а как же бага с cgroups или что там мешает kubespray запускать kubelet в докере?

а как же бага с cgroups или что там мешает kubespray запускать kubelet в докере?

а это кстати интересная тема для дискаса. У нас изначально была идея фикс - засувать кубер в lxd(не докер, конечно, но тоже про cgroups) - ушли на квм...

а как же бага с cgroups или что там мешает kubespray запускать kubelet в докере?

что за бага?

что за бага?

забили, там каждый раз новое появлялось. Ну первое - privileged container нужен, ок пофиксили, дальше - специальные пермишины

По центоси https://github.com/kubernetes/kubernetes/issues/43805#issuecomment-320965626 Это раз для начала Потом https://github.com/kubernetes/kubernetes/issues/48798#issuecomment-316223833 частично помогло

Только один фиг kubectl init не завершается

либо ждёт может чего то, но больно уж долго. Пока тишина

У кого еще не сетапится на фланнеле cni интерфейс?

Вернее сетапится, но например из 20 нод - часть будет с ним, часть без него.

Причем это все рандомом происходит...

Вернее сетапится, но например из 20 нод - часть будет с ним, часть без него.

ну вы же понимаете, что решаете задачу специфичную, сложную, но просите чат наставить на путь истинный?

нету его

от слова совсем

Все ставится по дефолту через копс.

Вполне кто-то из чата мог иметь уже подобную проблему

если что-то идёт не так с какой-либо компонентой, я пишу в слак этой компоненты. Попробуйте, помогает!

@DenisIzmaylov

Pavel @kalevas @not_logan вот накатал по-быстрому https://medium.com/@olegsmetanin/how-to-setup-baremetal-kubernetes-cluster-with-kubespray-and-deploy-ingress-controller-with-170cdb5ac50d

Спасибо

пейсатель я еще тот, предложения приветствуются

круто

я даж на медиуме зарегался, мож тоже че-нить напишу туда :)

http://blog.kubernetes.io/2017/10/using-rbac-generally-available-18.html

кстати, тэги в kubespray не спроста, имхо. я обычно чекаутюсь на тэг последнего релиза

Теги везде не просто так)

А kubespray умеет между релизами апдейтить? Насколько это болезненно?

https://github.com/kubernetes-incubator/kubespray/blob/master/docs/upgrades.md

@olegsmetanin сейчас пройду твою статью на ВМках) спасибо!

Pavel @kalevas @not_logan вот накатал по-быстрому https://medium.com/@olegsmetanin/how-to-setup-baremetal-kubernetes-cluster-with-kubespray-and-deploy-ingress-controller-with-170cdb5ac50d

Супер, спасибо По дополнению - не забыть вырубить swap

есть кстати еще https://github.com/kubernetes-incubator/bootkube для деплоя self-hosted

может пробовал кто

кто-нибудь на основе инсталляции https://medium.com/@olegsmetanin/how-to-setup-baremetal-kubernetes-cluster-with-kubespray-and-deploy-ingress-controller-with-170cdb5ac50d может helm завести?

кто-нибудь на основе инсталляции https://medium.com/@olegsmetanin/how-to-setup-baremetal-kubernetes-cluster-with-kubespray-and-deploy-ingress-controller-with-170cdb5ac50d может helm завести?

у меня хелм не заработал даже на GKE.

Мде

ну надо чтобы заработал )

Подскажите плз по Kubernetes Dashboard. Не могу залогинется с помощью токена. Ошибок нет, возвращает 200, но логин не проходит

Oct 31 14:30:03 master kubelet[14694]: I1031 14:30:03.541810 14694 kubelet_node_status.go:276] Setting node annotation to enable volume controller attach/detach в сислоге постоянно

пытаюсь сделать kubeadm init

Не доходит до конца

кому-нибудь знакомо?

ну надо чтобы заработал )

https://github.com/kubernetes/helm/issues/2409 я не осилил пока. впрочем, впечатление от проекта, который по мануалу не заводится на референсной платформе - странноватые.

https://github.com/kubernetes/helm/issues/2409 я не осилил пока. впрочем, впечатление от проекта, который по мануалу не заводится на референсной платформе - странноватые.

ansible tower который за деньги себя так же всю жизнь вёл - ну т.е. не ставился без подпорок

ansible tower который за деньги себя так же всю жизнь вёл - ну т.е. не ставился без подпорок

оправдание так себе

да я не оправдываю

я тихо горю

ну надо чтобы заработал )

так ты хоть проблему запости, а то "не работает" так себе описание

Господа, прошу помощи у тех, кто на чистую заводил кубера руками Проблема в том, что не получается завести кластер через такие распространённые вещи как kubeadm init или при помощи kubespray

есть замечательноая дока

https://kubernetes.io/docs/getting-started-guides/scratch/

Дока немного запутанной кажется, посему вопрос в том, чтобы указать на шаги, которые необходимо предпринять. Что завести в начале, что потом и так далее.

Господа, прошу помощи у тех, кто на чистую заводил кубера руками Проблема в том, что не получается завести кластер через такие распространённые вещи как kubeadm init или при помощи kubespray

Ну это же не руками, руками это ты когда конфиги для кубелета, апи, шедулера, прокси т.д. сам создаешь... У coreos на сайте хорошая документация по развертыванию кубернетеса, причем оно потом работает

Ребят, кто как собирает метрики с кластера? раньше использовали snap с app kubernetes для grafana, но при update версии k8s все пошло по одному месту 🙁

Господа, прошу помощи у тех, кто на чистую заводил кубера руками Проблема в том, что не получается завести кластер через такие распространённые вещи как kubeadm init или при помощи kubespray

а на чем останавливается?

а на чем останавливается?

[init] This often takes around a minute; or longer if the control plane images have to be pulled.

ну и после долгого ожидания

Unfortunately, an error has occurred: timed out waiting for the condition

в сислоге также кроме Oct 31 14:58:19 master kubelet[14694]: I1031 14:58:19.670657 14694 kubelet_node_status.go:276] Setting node annotation to enable volume controller attach/detach ничо нет

Ребят, кто как собирает метрики с кластера? раньше использовали snap с app kubernetes для grafana, но при update версии k8s все пошло по одному месту 🙁

https://github.com/kubernetes/charts/tree/master/stable/prometheus тащит с собой node exporter в daemonset, для сбора инфы из cadvisor маленький фикс конфига нужен тока

https://github.com/kubernetes/charts/tree/master/stable/prometheus тащит с собой node exporter в daemonset, для сбора инфы из cadvisor маленький фикс конфига нужен тока

что за фикс?

Ну это же не руками, руками это ты когда конфиги для кубелета, апи, шедулера, прокси т.д. сам создаешь... У coreos на сайте хорошая документация по развертыванию кубернетеса, причем оно потом работает

так вот руками то и собрался всё делать остальное шаманство не помогает

нашел pr с описание ${1}:4194 https://github.com/prometheus/prometheus/pull/2918/files стало понятнее к чему это было

тут обсуждали как то метрики cadvisor как доставать из kubelet

OpenNebula

что вы сделали, чтобы кнопку рефреш в интерфейсе нажимать не приходтилось после каждого чиха?

так вот руками то и собрался всё делать остальное шаманство не помогает

Выше @olegsmetanin писал пост про разворачивание kubespray'ем - тоже не получается?

тоже не получается

так вот руками то и собрался всё делать остальное шаманство не помогает

я первый раз развернул по этому мануалу, он правда заточен под coreos, но по такой схеме можно запустить и на любой другой системе, просто там всё нужное предустановлено https://coreos.com/kubernetes/docs/latest/getting-started.html

вчера ещё кубспреем пробовал по мануалам от КРОК

Unfortunately, an error has occurred: timed out waiting for the condition

я думаю kubeadm ждет что кто то запустится, kubelet, или контейнеры по манифестам через kubelet, etcd \ apiserver \ controller manager \ scheduler. нужно после того как он отработает смотреть контейнеры, их логи и тд

ну тоесть копать проблему

А еще при каждой попытке сетапа вычишать все насозданные сертификаты - в 90 процентов случаев проблемы именно в них

я думаю kubeadm ждет что кто то запустится, kubelet, или контейнеры по манифестам через kubelet, etcd \ apiserver \ controller manager \ scheduler. нужно после того как он отработает смотреть контейнеры, их логи и тд

ну там выкидывает конечно мне kubeadm стандартный ответ This error is likely caused by that: - The kubelet is not running - The kubelet is unhealthy due to a misconfiguration of the node in some way (required cgroups disabled) - There is no internet connection; so the kubelet can't pull the following control plane images: - gcr.io/google_containers/kube-apiserver-amd64:v1.8.2 - gcr.io/google_containers/kube-controller-manager-amd64:v1.8.2 - gcr.io/google_containers/kube-scheduler-amd64:v1.8.2

- There is no internet connection; so the kubelet can't pull the following control plane images:

в контейнерах сети скорее всего нет

да я их руками попробовал выкачать

docker images -a REPOSITORY TAG IMAGE ID CREATED SIZE gcr.io/google_containers/kube-apiserver-amd64 v1.8.2 6278a1092d08 6 days ago 194MB gcr.io/google_containers/kube-controller-manager-amd64 v1.8.2 5eabb0eae58b 6 days ago 129MB gcr.io/google_containers/kube-scheduler-amd64 v1.8.2 b48970f8473e 6 days ago 54.9MB