@kubernetes_ru - страница 576

MRY

Всем привет. Сталкнулся с проблемой. Стартует Кластер, Flannel регистрирует для своей ноды субнет, далее стартует CNI А после Docker, проблема в том , что скрипт генирирующий сабнеты для докера дает те же значения которые назначаются для CNI интерфейса, в итоге докер конфликрует с CNI. Проблема решается ручной правкой ENV файла для докера и его рестартом, через назначение другого IP, Вопрос собственно, Как регулировать назначение IP для CNI или какие способы есть для фикса данной проблемы. Скрин прилагаю с измененным Docker0 интерфейсом.

MRY

Andrey

Всем привет. Сталкнулся с проблемой. Стартует Кластер, Flannel регистрирует для своей ноды субнет, далее стартует CNI А после Docker, проблема в том , что скрипт генирирующий сабнеты для докера дает те же значения которые назначаются для CNI интерфейса, в итоге докер конфликрует с CNI. Проблема решается ручной правкой ENV файла для докера и его рестартом, через назначение другого IP, Вопрос собственно, Как регулировать назначение IP для CNI или какие способы есть для фикса данной проблемы. Скрин прилагаю с измененным Docker0 интерфейсом.

вроде как надо выключать docker0, если по гайду

MRY

Можно по подробнее ?

Andrey

Можно по подробнее ?

https://kubernetes.io/docs/getting-started-guides/scratch/#docker

MRY

https://kubernetes.io/docs/getting-started-guides/scratch/#docker

спасибо

MRY

Еще вопрос , по данному оф гайду запускаю дашборд но токен не принимает, Никто не сталкивался ??? https://github.com/kubernetes/dashboard/wiki/Creating-sample-user

Andrey

пишет что нибудь?

Andrey

посмотрите логи соотв пода с kubectl logs pod

Oleg

поставил 1.9.5, heapster не взлетел.

Oleg

error while getting containers from Kubelet: failed to get all container stats from Kubelet URL "http://server:10255/stats/container/": Post http://server:10255/stats/container/: dial tcp server:10255: getsockopt: connection refused

Oleg

что может быть?

bebebe

расшарьте доступ до вашего окружения, вместе посмотрим

Vladyslav

у гугла есть доступ к хосту, по крайней мере, когда я щупал два года назад, то был. Там дебьян стоял.

Сейчас тоже есть

Usagi

Кто-нибудь сталкивался с тем, что контейнеры не видят друг-друга?

Usagi

Нашел этот баг: https://github.com/kubernetes/kubernetes/issues/60315

G72K

kops же практически в точности такой флоу и проделывает во время нод апгрейда

посмотрел что делает я kops, вообще даже близко не походит на то, что описал. kops просто по ноде за раз в каждом failure domain обновляет, лучше чем ничего конечно

Igor

мы же об апгрейде кластера говорили или я уюе забыл?

Andrey

с некоторых нод невозможно достучаться до DNS, но тут понятно, что нужно ковырять конфиги calico и правила iptables. однако, на тех нодах, что могут резолвить имена сервисов, тоже не все так гладко: core@ip-172-31-1-162 ~ $ x=0; for i in $(seq 1 100); do nslookup selenium-hub > /dev/null; if [[ $? -eq 1 ]]; then x=$(($x+1)); fi; done; echo $x 34 core@ip-172-31-1-162 ~ $ x=0; for i in $(seq 1 100); do nslookup selenium-hub > /dev/null; if [[ $? -eq 1 ]]; then x=$(($x+1)); fi; done; echo $x 51 core@ip-172-31-1-162 ~ $ x=0; for i in $(seq 1 100); do nslookup selenium-hub > /dev/null; if [[ $? -eq 1 ]]; then x=$(($x+1)); fi; done; echo $x 38

Andrey

от 34 до 51 попытки резолва из 100 валится

Andrey

врубил лог запросов у dnsmasq в подах с kube-dns, но там видны только запросы к сервису kubernetes I0328 07:25:08.118246 1 nanny.go:116] dnsmasq[13]: query[A] kubernetes.default.svc.cluster.local from 127.0.0.1 I0328 07:25:08.118522 1 nanny.go:116] dnsmasq[13]: forwarded kubernetes.default.svc.cluster.local to 127.0.0.1 I0328 07:25:08.118572 1 nanny.go:116] dnsmasq[13]: reply kubernetes.default.svc.cluster.local is 10.233.0.1 I0328 07:25:09.516484 1 nanny.go:116] dnsmasq[13]: query[TXT] hits.bind from 127.0.0.1 I0328 07:25:09.516504 1 nanny.go:116] dnsmasq[13]: config hits.bind is &lt;TXT&gt; I0328 07:25:09.516614 1 nanny.go:116] dnsmasq[13]: query[TXT] misses.bind from 127.0.0.1 I0328 07:25:09.516648 1 nanny.go:116] dnsmasq[13]: config misses.bind is &lt;TXT&gt; I0328 07:25:09.516760 1 nanny.go:116] dnsmasq[13]: query[TXT] evictions.bind from 127.0.0.1 I0328 07:25:09.516787 1 nanny.go:116] dnsmasq[13]: config evictions.bind is &lt;TXT&gt; I0328 07:25:09.516901 1 nanny.go:116] dnsmasq[13]: query[TXT] insertions.bind from 127.0.0.1 I0328 07:25:09.516927 1 nanny.go:116] dnsmasq[13]: config insertions.bind is &lt;TXT&gt; I0328 07:25:09.517039 1 nanny.go:116] dnsmasq[13]: query[TXT] cachesize.bind from 127.0.0.1 I0328 07:25:09.517050 1 nanny.go:116] dnsmasq[13]: config cachesize.bind is &lt;TXT&gt; I0328 07:25:13.118452 1 nanny.go:116] dnsmasq[13]: query[A] kubernetes.default.svc.cluster.local from 127.0.0.1 I0328 07:25:13.118476 1 nanny.go:116] dnsmasq[13]: cached kubernetes.default.svc.cluster.local is 10.233.0.1

Andrey

нашел вот это, только у меня такое даже на нодах https://github.com/kubernetes/kubernetes/issues/47142

Andrey

как решать-то дальше проблему?

Andrey

сеть calico, развернул через kubespray, k8s 1.9.6

Andrey

Я верно понимаю, что проблема в сети и запросы до днс просто не доходят?

Andrey

Раз их в логах нет

john

домен .local?

Andrey

Да

john

смени на другое

john

.loc

john

.loc2

john

только не .local

Andrey

Я попробую, но почему так?

john

вот чото local чему-то не нравится

john

уже встречал такой кейз

Andrey

Спасибо, я проверю

Й

Я попробую, но почему так?

https://askubuntu.com/questions/843943/how-to-replace-mdns4-minimal-with-bind?answertab=votes#tab-top

Andrey

у меня coreos

Andrey

там avahi нет

Й

так это как направление для подумать почему может возникнуть проблема с .локал

G72K

мы же об апгрейде кластера говорили или я уюе забыл?

Да, никакого интеллекта копс не проявляет, по ноде за раз обновляет

Igor

ну да. но он жее ее кордонит, дрейнит, и ждет, чтобы поды все в раннинг стейте были. потом ждет, пока эта нода поднимется, станет Ready и повторяет

Igor

что же вы от него еще хотите?

Igor

гайз, а кто-то пробовал linux-gke ядро совать в Ubuntu 16.04 ноды кубера?

G72K

Если в resolv.conf прописать адреса kube-dns подов вместо сервиса kube-dns станет лучше?

G72K

что же вы от него еще хотите?

Я там описал чего хочу ) хочу чтоб на базе rescheduler запускалась симуляция "а что будет если" и находилось максимальное количество нод (и их список) которые можно вот прям сейчас зааапдейтить.

Andrey

смена доменного имени помогла (на тех нодах, где резолвинг вообще работал)

Andrey

благодарю

Igor

а напомните, как скедулер работает в последних 1.8.х 1.9.х - скедулит на lesser loaded ноды или на most loaded?

Andrey

так это как направление для подумать почему может возникнуть проблема с .локал

осталось понять, откуда им было взяться в coreos

Igor

я же так понимаю, вы хотите, чтобы апдейтились наименее нагруженные ноды. не очень давно скедуллер как раз пытался раскидать равномерно загрузку и это вообще было невозможно сделать. вроде как они это поменяли

Andrey

» .local is effectively reserved by RFC 6762

Andrey

смена доменного имени помогла (на тех нодах, где резолвинг вообще работал)

ненадолго

Denis

Народ кто нить Rancher юзает с K8S , как он , стоит пробовать ?

Terry

Народ кто нить Rancher юзает с K8S , как он , стоит пробовать ?

ну он же еще в бете вроде

Terry

нет?

Vladyslav

ну он же еще в бете вроде

который год

Andrey

Если в resolv.conf прописать адреса kube-dns подов вместо сервиса kube-dns станет лучше?

кажется, стало вообще никак

Anton

вакансии же нельзя здесь постить, да?

Anton

конечно, там не написано, что нельзя, просто дана ссылка где инфа про работу

Anton

баш скриптом слепливаю

то есть всё вручную? можно делать: KUBECONFIG=config-file1:config-file2:...:config-fileN kubeconfig config view --flatten > configно есть один минус: если сертификат был указан как путь к файлу, то теперь он будет вставлен текстом.

Игорь

Всем привет. У меня вопрос касательно архитектуры. Планируется на кубере организовать хостинг. Каждый проект из хостинга может потреблять неограниченное кол-во дискового пространства. Что лучше использовать в таком случае для стораджа? Сейчас смотрю в сторону проекта gluster-kubernetes с heketi. Основная проблема в том, что внутри проекта не используется lvm thin provision. Т.е. отрезатся реальный объем доступного пространства, хотя по факту его могут использовать всего на 10%. Поэтому не очень подходит. Может уже кто-то что-то подобное организовал? Есть идеи?

Andor

а как бы вы делали "неограниченное дисковое пространство" без кубернетиса?

Михаил

о, школоло хостинг выходит на новый уровень?)

Andrey

heketi... хостинг...

Andrey

У меня болит k8s, поэтому скажу на примере k8s. Для человека должно быть не проблемой: 1) Переписать роли в kube-spray так, чтобы сеть (например calico) интегрировалась с IP фабрикой датацентра по произвольным схемам (ASperRack, ASperNoder) 2) Написать out-of-tree flex volume driver для какого-нибудь вендорского SDS 3) Форкнуть metallb и докрутить 3rd party контроллером пропихивание кастомных конфигов в произвольный bgp speaker 4) Набросать схему деплоймента в паблик кладуе, чтобы availability было например 4 девятки для заданного набора микросервисов

Andrey

советую вот эти упражнения сначала выполнить) потом думать про "организовать хостинг"

Михаил

советую вот эти упражнения сначала выполнить) потом думать про "организовать хостинг"

Да норм. Хоть поржем.

bebebe

публичный хостиг + хекети / 0

Andrey

разрешил внутри подсети весь трафик и calico на всех нодах заработал нормально. до этого я разрешил IPIP, IPv4, UDP, TCP. Какого еще ему не хватало?

Andrey

BGP