Andrey
Тебя все равно отправят читать официальные доки по сворму с такими вопросами, так что какая разница
🚀iamp3🚀
--constraint "node.role = worker"
Andrey
я бы отправил удалять swarm и брать nomad
ну он возьмет и придет в @ru_hashicorp с подобными же эпичности вопросами, делов-то
🚀iamp3🚀
попробуй от обратного пойти
Rainbow
traefik сейчас норм использовать? Краем глаза видел тут упоминали ссылку на критические issue
Даня
c acme?
🚀iamp3🚀
traefik сейчас норм использовать? Краем глаза видел тут упоминали ссылку на критические issue
3 месяца назад в сворм кластере нормально себя показал, в кубере были проблемы с acme (мб уже порешали), заменил на нджинкс + серт_менеджер
Даня
у меня eks + лоадбалансер (не использую асме, потому и проблем не было)
Даня
были траблы с дискавери новых сервисов
Даня
по похоже на единичный случай, тк после обновления куба в екс - проблема ушла
Rainbow
Круто. А то мне прям понравилось как оно работает с consul. Буду пробовать. Спасибо.
Sergey
В kubernetes в stub domain можно указать не один dns сервер, а несколько. Кто нибудь знает, как ведет себя kubernetes в этом случае? Он выбирает сервер в рандомном порядке или пробует первый, если не получилось то запрашивает у второго и т. д.?
Dmitry
Дмитрий, devops engineer, wiley #whois
Dmitry
Hi
werter
https://jira.atlassian.com/browse/JRASERVER-65811
Etki
что там, в этот чат теперь тоже пенесов напихали?
Mikhail [azalio]
Смешно же пихать пенисы.
Anonymous
Ктонибудь на OVH настраивал keepalived vrrp в vrack работает такая схема ?
Anton
Ктонибудь на OVH настраивал keepalived vrrp в vrack работает такая схема ?
если L2 видимость есть между нодами, то не вижу проблем. Вот в Packet я так и ниасилил keepalived
Anonymous
Пишут французы что мультикасты якобы рубят
Anonymous
Сейчас нет блока ип купленого для проверки
Nikolay
А у кого как запущен kubeproxy: ds или статик под? Заметил, что со static pod он долго поднимается и поды без днс сидят 40 сек. С демонсетом оно быстрее?
Andrey
Дак запусти, проверь :)
Vadim
А в чем разница вообще? Либо кубелет либо шедулер запустит под с кубпрокси - как это повлияет на скорость работы? Кубелет может стартанет его чуть-чуть раньше, разве что
Anton
вот кстати, насчет старта кублетом этих подов, там какой-то таймаут/интервал есть? иногда при раскатке мастера просто сидишь и ждешь минуту, и ничего не происходит и в логах ничего нет. А потом раз, шедулер начал запускаться, или etcd
𝚔𝚟𝚊𝚙𝚜
вот кстати, насчет старта кублетом этих подов, там какой-то таймаут/интервал есть? иногда при раскатке мастера просто сидишь и ждешь минуту, и ничего не происходит и в логах ничего нет. А потом раз, шедулер начал запускаться, или etcd
Можешь в docker ps посмотреть, увидишь, что некоторые контейнеры завершаются с non-zero exit code, т.к. скорее всего к api-серверу подключиться не могут, затем стандартный таймаут на перезапуск пода
Yaroslav
Привет, меня зовут Ярослав, я занимаюсь видеостримингом и разработкой сопутствующих систем #whois
Отделение Bereke Bank
вот эта строка все портит --constraint "node.role != manager"
Это значит не запускать на мастере
Terry
https://cloudplatformonline.com/2019-NA-Container-Security-Summit-Agenda.html#open
Roman
все привет! столкнулся с проблемой, pod запущен и работает, но api куба говорит что pending как исправить можно? в kubectl get pods, этот под так же показывается как 0/1
Olka
А логи пода что говорят?
Olka
Там мб пробы не проходят
Andrey
Не, логов не будет.
Andrey
describe смотри.
Olka
Ну или ивенты ) полный набор
Roman
А логи пода что говорят?
в логах все нормально. ( сам сервис внутри свои логи пишет уже )
Andrey
Когда pending, то он ещё на ноду не выехал. Посмотри, либо с taints/selectors ошибка, либо ресурсов не хватает, что ты в requests описал.
Olka
В event обычно подробно можно посмотреть , что пошло не так
Andrey
Или storage не смог приехать.
Roman
В event обычно подробно можно посмотреть , что пошло не так
в эвентах вот это есть Pod sandbox changed, it will be killed and re-created.
Roman
Или storage не смог приехать.
стораджа там нет)
Andrey
в эвентах вот это есть Pod sandbox changed, it will be killed and re-created.
Дай вывод describe полный. То, что про events внизу.
Andrey
Неужели только Pod sandbox?
Olka
Эм, ты уверен, что это он? )
Roman
Дай вывод describe полный. То, что про events внизу.
Name: nginx-ingress-controller-7888f4467f-ndwnx Namespace: ingress Priority: 0 PriorityClassName: <none> Node: k8s-node1/192.168.100.10 Start Time: Thu, 24 Jan 2019 19:31:13 +0500 Labels: app=nginx-ingress component=controller pod-template-hash=7888f4467f release=nginx-ingress Annotations: <none> Status: Running IP: 192.168.100.10 Controlled By: ReplicaSet/nginx-ingress-controller-7888f4467f Containers: nginx-ingress-controller: Container ID: docker://be03ce0985bdb12b3726e01aa1ee81c8bc538110237f07e78cdaaf1964963fd4 Image: quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.21.0 Image ID: docker-pullable://quay.io/kubernetes-ingress-controller/nginx-ingress-controller@sha256:617076c3e3d4d0638a4927702530d8456bda64c67194f6daed272a59e93b992f Ports: 80/TCP, 443/TCP, 18080/TCP, 10254/TCP Host Ports: 80/TCP, 443/TCP, 18080/TCP, 10254/TCP Args: /nginx-ingress-controller --default-backend-service=ingress/nginx-ingress-default-backend --election-id=ingress-controller-leader --ingress-class=nginx --configmap=ingress/nginx-ingress-controller State: Running Started: Sat, 26 Jan 2019 20:06:05 +0500 Last State: Terminated Reason: Error Exit Code: 255 Started: Thu, 24 Jan 2019 19:32:55 +0500 Finished: Sat, 26 Jan 2019 20:05:58 +0500 Ready: False Restart Count: 1 Liveness: http-get http://:10254/healthz delay=10s timeout=1s period=10s #success=1 #failure=3 Readiness: http-get http://:10254/healthz delay=10s timeout=1s period=10s #success=1 #failure=3 Environment: POD_NAME: nginx-ingress-controller-7888f4467f-ndwnx (v1:metadata.name) POD_NAMESPACE: ingress (v1:metadata.namespace) Mounts: /var/run/secrets/kubernetes.io/serviceaccount from nginx-ingress-token-nbxk5 (ro) Conditions: Type Status Initialized True Ready False ContainersReady False PodScheduled True Volumes: nginx-ingress-token-nbxk5: Type: Secret (a volume populated by a Secret) SecretName: nginx-ingress-token-nbxk5 Optional: false QoS Class: BestEffort Node-Selectors: role=edge-router Tolerations: node.kubernetes.io/not-ready:NoExecute for 300s node.kubernetes.io/unreachable:NoExecute for 300s Events: Type Reason Age From Message ---- ------ ---- ---- ------- Normal SandboxChanged <invalid> kubelet, k8s-node1 Pod sandbox changed, it will be killed and re-created. Normal Pulled <invalid> kubelet, k8s-node1 Container image "quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.21.0" already present on machine Normal Created <invalid> kubelet, k8s-node1 Created container Normal Started <invalid> kubelet, k8s-node1 Started container
Andrey
Name: nginx-ingress-controller-7888f4467f-ndwnx Namespace: ingress Priority: 0 PriorityClassName: <none> Node: k8s-node1/192.168.100.10 Start Time: Thu, 24 Jan 2019 19:31:13 +0500 Labels: app=nginx-ingress component=controller pod-template-hash=7888f4467f release=nginx-ingress Annotations: <none> Status: Running IP: 192.168.100.10 Controlled By: ReplicaSet/nginx-ingress-controller-7888f4467f Containers: nginx-ingress-controller: Container ID: docker://be03ce0985bdb12b3726e01aa1ee81c8bc538110237f07e78cdaaf1964963fd4 Image: quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.21.0 Image ID: docker-pullable://quay.io/kubernetes-ingress-controller/nginx-ingress-controller@sha256:617076c3e3d4d0638a4927702530d8456bda64c67194f6daed272a59e93b992f Ports: 80/TCP, 443/TCP, 18080/TCP, 10254/TCP Host Ports: 80/TCP, 443/TCP, 18080/TCP, 10254/TCP Args: /nginx-ingress-controller --default-backend-service=ingress/nginx-ingress-default-backend --election-id=ingress-controller-leader --ingress-class=nginx --configmap=ingress/nginx-ingress-controller State: Running Started: Sat, 26 Jan 2019 20:06:05 +0500 Last State: Terminated Reason: Error Exit Code: 255 Started: Thu, 24 Jan 2019 19:32:55 +0500 Finished: Sat, 26 Jan 2019 20:05:58 +0500 Ready: False Restart Count: 1 Liveness: http-get http://:10254/healthz delay=10s timeout=1s period=10s #success=1 #failure=3 Readiness: http-get http://:10254/healthz delay=10s timeout=1s period=10s #success=1 #failure=3 Environment: POD_NAME: nginx-ingress-controller-7888f4467f-ndwnx (v1:metadata.name) POD_NAMESPACE: ingress (v1:metadata.namespace) Mounts: /var/run/secrets/kubernetes.io/serviceaccount from nginx-ingress-token-nbxk5 (ro) Conditions: Type Status Initialized True Ready False ContainersReady False PodScheduled True Volumes: nginx-ingress-token-nbxk5: Type: Secret (a volume populated by a Secret) SecretName: nginx-ingress-token-nbxk5 Optional: false QoS Class: BestEffort Node-Selectors: role=edge-router Tolerations: node.kubernetes.io/not-ready:NoExecute for 300s node.kubernetes.io/unreachable:NoExecute for 300s Events: Type Reason Age From Message ---- ------ ---- ---- ------- Normal SandboxChanged <invalid> kubelet, k8s-node1 Pod sandbox changed, it will be killed and re-created. Normal Pulled <invalid> kubelet, k8s-node1 Container image "quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.21.0" already present on machine Normal Created <invalid> kubelet, k8s-node1 Created container Normal Started <invalid> kubelet, k8s-node1 Started container
Т.е. он работает, но отображается, как Pending?
Roman
➜ ~ kubectl get pods NAME READY STATUS RESTARTS AGE nginx-ingress-controller-7888f4467f-ndwnx 0/1 Running 1 44h nginx-ingress-default-backend-56d99b86fb-42wmw 1/1 Running 1 44h nginx-ingress-default-backend-56d99b86fb-hktw2 1/1 Running 0 44h хм. Running, а почему 0 из 1 то
Roman
А скинь вывод kubectl version
Client Version: version.Info{Major:"1", Minor:"13", GitVersion:"v1.13.2", GitCommit:"cff46ab41ff0bb44d8584413b598ad8360ec1def", GitTreeState:"clean", BuildDate:"2019-01-10T23:35:51Z", GoVersion:"go1.11.4", Compiler:"gc", Platform:"linux/amd64"} Server Version: version.Info{Major:"1", Minor:"13", GitVersion:"v1.13.2", GitCommit:"cff46ab41ff0bb44d8584413b598ad8360ec1def", GitTreeState:"clean", BuildDate:"2019-01-10T23:28:14Z", GoVersion:"go1.11.4", Compiler:"gc", Platform:"linux/amd64"}
Andrey
Я недавно напоролся на то, что kubectl 1.9 + api-server 1.12 = не отображающиеся эндпоинты у некоторых сервисов при k get ep при их реальном наличии
Andrey
...но тут явно не тот случай
Andrew
А как ты понял, что они имеются?
Andrey
А как ты понял, что они имеются?
У девелопера был kubectl 1.9, у меня kubectl 1.13.2. У него при kubectl get ep у одного из сервисов нет эндпоинтов, у меня есть.
Andrew
Любопытно. А версия Куба 1.12 значится?
Andrew
➜ ~ kubectl get pods NAME READY STATUS RESTARTS AGE nginx-ingress-controller-7888f4467f-ndwnx 0/1 Running 1 44h nginx-ingress-default-backend-56d99b86fb-42wmw 1/1 Running 1 44h nginx-ingress-default-backend-56d99b86fb-hktw2 1/1 Running 0 44h хм. Running, а почему 0 из 1 то
Ну под запущен, а контейнер в нем - нет. Он скорее всего рестартится бесконечно. Посмотри счётчик рестартов
Andrew
И должен падать по очереди Running-error-crashloop
Andrey
Скорее, почему-то readiness проба не проходит
Roman
кол-во рестартов - 1
Andrew
На той ноде есть ещё поды? Все ли с ними хорошо?
Roman
да есть, с ними все нормально
Andrew
Посмотри нет ли на ноде проблем с докером. Что происходит если убить этот под?
Andrey
да есть, с ними все нормально
Я ещё странный вопрос задам. А с остальными подами было такое? А если подождать ~30 минут, он приходит в норму?
Roman
Посмотри нет ли на ноде проблем с докером. Что происходит если убить этот под?
возвращался в тоже состояние, теперь выдал CreateContainerError, пойду смотреть дальше )
Andrew
Во
Andrew
Это докеропроблемы похоже таки
Andrew
Смотри со стороны ноды что происходит
Andrew
Логи кубелета, докера
Roman
скорее всего) спасибо, пойду копать
Andrey
Это докеропроблемы похоже таки
Или, как вариант, проблемы с CNI