правда кубер постарше

Есть проблема при загрузки основных образов из кастомного реестра, который использует Basic Auth через nginx. При этом образ pause загружается без проблем! Врсия 1.7.1 у меня!

у меня после ребута хоста гластер поломался

есть ненулевой шанс, что данные потеряны безвовзратно

ну на 2х живух нодах данные живы

данные целы, а вот хекети умирает и больше провизионинг не работает

Кстати.. кто обновился до 1.7 и использует встроенный в kubelet cadvisor, вас ждет сюрприз - в :10250/metrics нету больше container_ метрик. Необходимо использовать порт cadvisor'а :4194/metrics

причем раньше мы указывали --cadvisor-port=0 и метрики мержились, сейчас этого нету

поэтому... я вам принес лекарство

https://gist.github.com/dshmelev/95b9dddaa2a9a77af568f10205f2b08e

Ребят, а как с кубами сделать следующее: - в docker-compose.yml у меня были вольюмы типа: - ./templates/nginx/nginx.conf:/etc/nginx/nginx.conf:ro - ./templates/nginx/certs/:/etc/nginx/certs/:ro - ./scripts/nginx-entrypoint.sh:/entrypoint.sh:ro которые при запуске контейнера использовались. Как это правильнее всего конвертировать, есть какие-то best-practice? Не в ConfigMap же это пихать или в общий сторедж.

пока склоняюсь к тому, чтобы иметь namespace-специфичный storage и из него монтировать нужные файлы/конфиги

ну конфиг точно в configmap

Зависит от того что было

КОнфиг в cm

но есть проблемка nginx.conf маунтился в фаил кубер так не умеет

секреты я бы положил в секреты до поры до времени.. потом, может, какое-нибудь хранилище прикрутил

Вот эту конфу

- ./templates/nginx/nginx.conf:/etc/nginx/nginx.conf:ro - ./templates/nginx/certs/:/etc/nginx/certs/:ro

напрямую в кубере не воспроизвести

И в чем же проблема воспроизвести?

нельзя маунтиить в файл

маунтпонит это дирректория

а тут получается nginx/nginx.conf и следом nginx/certs/

А положить серты по другому пути не вариант?

можно

Вот пример

https://gist.github.com/tuannvm/0fc6e94a3759c91b1abe71c149152f77

версия кубера?

https://kubernetes.io/docs/concepts/storage/volumes/#using-subpath

у меня такая же конфигурация поражадет папку

в v1.3.0-alpha.4 появилась фича для докера

Кстати.. кто обновился до 1.7 и использует встроенный в kubelet cadvisor, вас ждет сюрприз - в :10250/metrics нету больше container_ метрик. Необходимо использовать порт cadvisor'а :4194/metrics

вернут на старый порт в 1.7.3

но по новому пути

именно так =)

# For Kubernetes 1.7.3 # replacement: /api/v1/nodes/${1}/proxy/metrics/cadvisor

Там proxy pass на github.io =) https://github.com/kubernetes/k8s.io/blob/master/k8s.io/configmap-nginx.yaml

таки нет... там 301 c https://kubernetes.github.io -> http://kubernetes.io/ -> https://kubernetes.io/ так шо лаги были имено у них

Ну GH при указании cname именно так редиректить и будет

wget -S -O /dev/null "https://kubernetes.github.io" —header="Host: kubernetes.io" HTTP request sent, awaiting response... HTTP/1.1 200 OK Server: GitHub.com

ну так про обратное говорили, что там proxy_pass на https://kubernetes.github.io с https://kubernetes.io

там бы был редирект луп

всё правильно, там в конфиге указано location / { ... proxy_set_header Host kubernetes.io; proxy_pass https://kubernetes.github.io;

нельзя маунтиить в файл

volumeMounts: mountPath: /var/www/config/file.yml subPath: file.yml name: php ... volumes: - name: php configmap: name: file-yaml

Версия 1.7

Версия 1.7

Я в 1.5 живу))

Crypto tradind - уникальный канал, который научит вас трейдингу на криптовалюте. @Cryptootrading

А как работает kube-dns? Приложения каждый раз отправляют запрос на резолв или где-то это кэшируется? Постоянная ошибка, что приложение не может зарезолвить сервис postgres, однако, запущено уже 24 инстанса с kube-dns...

А сервис настроен точно?

А как работает kube-dns? Приложения каждый раз отправляют запрос на резолв или где-то это кэшируется? Постоянная ошибка, что приложение не может зарезолвить сервис postgres, однако, запущено уже 24 инстанса с kube-dns...

у вас dns сломался. pod describe в помощь

А сервис настроен точно?

Работает. Но время от времени в логах эта ошибка. При больших нагрузках появляется с постоянной периодичностью.

Так может надо заскейлить днс серверы?

так и так 24 уже

А как работает kube-dns? Приложения каждый раз отправляют запрос на резолв или где-то это кэшируется? Постоянная ошибка, что приложение не может зарезолвить сервис postgres, однако, запущено уже 24 инстанса с kube-dns...

у вас dnsmasq контейнер в kube-dns поде имеется?

у вас dnsmasq контейнер в kube-dns поде имеется?

Есть.

хм, откуда 24 инстанса тогда? там имеется Horizontal pod autoscaler , который стартует новые поды если CPU слишком высокий, это он вам 24 запустил?

хм, откуда 24 инстанса тогда? там имеется Horizontal pod autoscaler , который стартует новые поды если CPU слишком высокий, это он вам 24 запустил?

Да. Там автоскэйлер. Я сам его настроил на столько. Постепенно увеличивал. С ростом инстансов ошибок с резолвом становилось меньше.

а CPU загружен в kube-dns?

может у вас ноды перегружены по CPU? у kube-dns requests.cpu по умолчанию что-то вроде 100m (0.1 CPU), что не так важно если нода свободна, но если CPU в дефиците, то этот параметр превращается по сути в weight

и если рядом есть поды с requests.cpu == 2, то kube-dns остаются объедки :)

Кто-нибудь ставил 1.7 через kubeadm? dns резолвить kubernetes.default ни в какую не хочет

Кто-нибудь ставил 1.7 через kubeadm? dns резолвить kubernetes.default ни в какую не хочет

А сеть какая?

может у вас ноды перегружены по CPU? у kube-dns requests.cpu по умолчанию что-то вроде 100m (0.1 CPU), что не так важно если нода свободна, но если CPU в дефиците, то этот параметр превращается по сути в weight

Возможно. А если ему больше поставить?

А сеть какая?

пробовал и flannel и weave - результат один. сеть ходит. А без суффикса не резолвится сервис

ERROR: S client not available

пробовал и flannel и weave - результат один. сеть ходит. А без суффикса не резолвится сервис

Я ставил canal, 1.7 kubeadm - резолвит.

кто k8s на ранчере 1.6.3 разворачивал, есть тут такие

?

Кто-нибудь ставил 1.7 через kubeadm? dns резолвить kubernetes.default ни в какую не хочет

1.7.1 via kubeadm, weave

Дня доброго! Подскажите, кто валидирует ямлины при apply —dry-run? Локальный клиент или кластер?

1.7.1 via kubeadm, weave

видимо "место проклято"

Дня доброго! Подскажите, кто валидирует ямлины при apply —dry-run? Локальный клиент или кластер?

оба

оба

А можно выяснить кто именно завернул ямлину? У меня nodeSelector через раз проходит валидацию и я уже хз куда копать (показать не могу, начальство запретило)

При том именно через раз. Не прошло @ Выпил чаю @ Прошло @ Сходил погулять @ Не прошло %)

хм, у вас точно нет loadbalancer за которым apiserver разных версий? :))

хм, у вас точно нет loadbalancer за которым apiserver разных версий? :))

нет, но локально у меня 1.7.2, а вот на кластере 1.5.6/1.5.1

локальную валидацию можно было отключать флагом (оно в сообщении об ошибке выводит его)

удаленную отключить нельзя

Хм, то есть без фалага мы уверены, что оно валидируется два раза, при том первый прогон локально?

100% валидируется локально без всякийх флагов и стандартном kubeconfig. может не так тщательно, как на сервере, но какие-то проверки на известные/неизвестные поля проходит

знаю, потому что руки и кривые и оно мне на мои ямлы ругалось локально часто

Но блин, куда копать, если алерт флапается на неизменяемом файле? 0_0

ну накиньте —v=10 может чего прояснится

я бы ставил на заблудший apiserver отличной версии от остальных, других объяснений на ум не приходит :)

Спасибо, потыкаюсь

как ошибка то выглядит? гуглится?

error validating data: found invalid field nodeSelector

Ну и если повезло и валидация прошла, то всё хорошо и вешается куда надо

будет чудо, если это не разные версии apiserver

впрочем nodeSelector с незапамятных времен , так что может и не разные версии :)наврят ли у вас 0.10 где-то запущенно :)

может у вас ноды перегружены по CPU? у kube-dns requests.cpu по умолчанию что-то вроде 100m (0.1 CPU), что не так важно если нода свободна, но если CPU в дефиците, то этот параметр превращается по сути в weight

Спасибо. Помогло.

уменьшите 24 до разумного :)

уменьшите 24 до разумного :)

Сделал по количеству нод)

Rules: Host Path Backends ---- ---- -------- domain.net / backend-1:8888 (<none>) / backend-2:8888 (<none>) вот, это как бы правильно. но на контроллере для backend-{1,2} генерятся разные апстримы

ап, никто не занимался этим? (напомню - load balancing между сервисами в случае когда 1 service = 1 pod)

ап, никто не занимался этим? (напомню - load balancing между сервисами в случае когда 1 service = 1 pod)

как у вас yaml для них выглядит напомните?