blkmrkt
Майнишь?
не, классификаторы гоняю
Sergey
A
Так и непонятно почему под постоянно рестартится.... Как можно исследовать это? В логах самого под ничего критичного, в дескрайбе так же, только то что рестарт столько то раз. Что вообще может вызывать рестарт пода?
Семён
рестарт пода делает планировщик
Nik
а есть возможность по дефолту просветить свой ca бандл на все поды по умолчанию?
A
рестарт пода делает планировщик
И как мне проанализировать его работу? Логи шедулера?
Семён
думаю да, посмотреть туда будет не лишним. get events, logs и тд
Mikhail
Может не правильно настроен probes
G72K
а есть возможность по дефолту просветить свой ca бандл на все поды по умолчанию?
Можно его всюду примонтировать, но update-ca-certificates кому то все таки придется сдедать
Ильдар
В syslog посмотри, может это OOM приходил.
A
Может не правильно настроен probes
Ага, посмотрю, а что ещё может влиять на рестарты!
Nik
Можно его всюду примонтировать, но update-ca-certificates кому то все таки придется сдедать
А монтировать руками или можно сделать дефолт монтирование для всех подов?
Никита
я резерчу, вот и спрашиваю у сообщества, меня тоже такой вариант не сильно устраиват, но если это противорчеит самой философии кубов, то буду искать нормальный вариант
Кароч есть важная штука - ливнесс и рединесс пробы. Если фейлится ливнесс проба, контейнер рестартится; если фейлится рединесс проба, контейнер удаляется из ендпоинтов сервиса. Следовательно, запускаем под, экспозим как сервис, рединесс пробу привязываем к окончанию загрузки файлов (есть рединесс пробы типа exec внутри контейнера).
Никита
я резерчу, вот и спрашиваю у сообщества, меня тоже такой вариант не сильно устраиват, но если это противорчеит самой философии кубов, то буду искать нормальный вариант
Далее, деплоймент со стратегией роллинг апдейт может палить по рединесс пробам, насколько новая версия удачная, и если неудачная -- выкатку тормозить.
Никита
Ну и дальше понятно должно быть)
Max
Кто-нибудь встречался с таким? У меня GKE. Выкатываю новый deployment и поды не могут запуститься: Failed create pod sandbox: rpc error: code = Unknown desc = failed to start sandbox container for pod "csgonet-queue-production-686475c666-lllss": Error response from daemon: oci runtime error: container_linux.go:247: starting container process caused "process_linux.go:286: decoding sync type from init pipe caused \"read parent: connection reset by peer\""
Max
возникло после того как прописал limit по памяти
Max
видимо потому что прописал memory не 500mb, а 500
A
Провал хелс чека. Достижения лимита памяти.
По ходу лимит по памяти стоит, завтра посмотрю, спасибо
G72K
А монтировать руками или можно сделать дефолт монтирование для всех подов?
Правильный способ: mutating admission plugin (вебхук самое удобное). Есть ещё способ "Предыдущий админ ебанат" - вкорячить как новое поле (скажем cabundle.pem) в секрет с serviceaccount token , тогда оно появится где-то в районе /var/run/kubernetes/ServiceAccount/cabundle.pem (путь точно не помню)
G72K
В поде этот секрет целиком монтируется или поимённо? Вроде целиком было и если это так должно само
Anton
заходишьь в под - пробуешь резолвить - нифига
Говорят пофиксили в 1.13.1 (71514) What happened: On pods with a lot of DNS traffic, many DNS queries to the DNS ClusterIP fail during a rolling update of the DNS pods (in our case, we use coredns).
Anton
coredns + ipvs + много днс трафика
Anton
у меня чет с ipvs kube-proxy рестартуется постоянно
Andrey
у меня чет с ipvs kube-proxy рестартуется постоянно
У меня тоже, он liveness probe проваливает. Но она там весьма своеобразно устроена - там просто в паре мест бампается таймстамп, а если он не бампался 10 секунд, то healthz возвращает 503
Andrey
Т.е. простор для дебага обещает быть неплохим
Andrey
У меня есть подозрения, что это пофикшено в 1.13.1 https://github.com/kubernetes/kubernetes/pull/71515
Igor Ivanov
а кто-нибудь использовал гибридный кластер k8s linux + windows nodes?
Anton
Норкоманией попахивает
Igor Ivanov
он может сразу без переписываний? куча легаси
Sergey
в смысле сразу без переписываний
Sergey
пиши образ пускай в кубере
Andor
он может сразу без переписываний? куча легаси
Ты хочешь легаси сунуть в кубеня?
Aleksey
Ты хочешь легаси сунуть в кубеня?
это занятие разве не является местным фетишем?
Igor Ivanov
я хочу понять как с этим быть - если есть приложения на дот.нет под винду, их надо как-то переписывать чтобы они работали на дот.нет линукс? или все прозрачно?
Sergey
вам не нужен кубер с такими вопросами(
Igor Ivanov
глупости, у нас уже есть кубер. вопрос теперь что делать с саной виндой
Igor Ivanov
вот про это вопрос и был
Igor Ivanov
спасибо
Andor
это занятие разве не является местным фетишем?
Не, тут обычное новое легаси делают
Andor
глупости, у нас уже есть кубер. вопрос теперь что делать с саной виндой
Разработчики есть которые эти штуки писали/пишут?
Andor
Почему тогда ты нам задаёшь вопрос про переписывание?
Igor Ivanov
вопрос изначально был не про переписывание
Andor
Вопрос был "кто-нибудь пробовал кубер с вендой?"
Andor
Дискуссия уже ушла от этого вопроса, кажется
Igor Ivanov
именно, чтобы не переписывать. переписывать - долго, дорого, когда-нибудь потом. поэтому давай попробуем запустить на винде. вопрос в том был ли опыт у кого, и стоит ли оно того если опыт был
Dmitrii
Был, не стоит, лучше переписать.
Andor
Сомневаюсь что это будет быстрее, чем адаптировать ваши дотнеты под линуксы (не переписывать)
Igor Ivanov
вот в этом и был вопрос. мы же тут опытом делимся как никак
Andor
Я короче не знаю откуда у тебя нежелание узнать, надо ли вообще эти приложения переписывать или они сразу работать будут
Sergey
мне кажется он разработчик и ему все равно(
Igor Ivanov
если бы они сразу работали то вопрос бы не задавался. есть что работает, но есть легаси коотрое надо переписывать
Andor
Кубер с виндой точно будет сложно и хер где найдёшь примеров, потому что мало кому это реально надо
Sergey
ну опс явно бы не думал про дичь типа "а давай на скорую руку, и так сойдет"
Andor
если бы они сразу работали то вопрос бы не задавался. есть что работает, но есть легаси коотрое надо переписывать
Ты на 100% уверен что твои приложения придётся прям переписывать, чтобы они запускались на моно?
Artur
в чём может быть проблема с rancher, не добавляются воркеры. висят в waiting to register with Kubernetes
Andrey
Ребят, на сколько плохой подход запускать джобы не через kind Job, а через kubectl run?
Andor
а смысл?
Ievgen
Но зависит от юзкейса. Если вы просто дебажите что-то, то норм
Andrey
а смысл?
Кароч история тянется издалека. Когда я принял инфру, я увидел некоторое дерьмо в виде 150-200 кронов на разных серверах без описания и указания овнерства. Долго и упорно сношался с тем чтобы найти авторов креатива и понять что это за джобы и хоть как-то документировать. Часть разобрали, часть осталась. В итоге в какой-то момент приняли решение просто нахер запретить кроны на серверах и перевести все в Rundeck. Это аля централизованная запускалка джобов у нас в компании. Там есть обязательные поля описания, авторства + еще некоторые наши. Есть возможность запуска по расписанию. Есть таймауты, ретраи и все что может пригодиться. Кароче такой себе удобный крон. Так вот одна из фич в том что помимо просто запуска, эта система собирает выхлоп stdout и хранит его вместе с логами запусков. Т.е. ты просто заходишь в UI, можешь посмотреть историю запусков, кодов завершений и логи работы. Да, если запускать через kind Job/cronJob, логи можно собрать и положить в тот же ластик и смотреть в кибане, но целостность информации будет в некотором плане нарушена и уровень удобства снизится. Выходом в данной ситуации я пока вижу только запуск через kubectl run. О чем собственно и вопрос. Какие еще сайд эффекты я получу кроме отсутствия куберовского ретрая?
Vadim
>целостность информации будет в некотором плане нарушена
Vadim
надеюсь, это какой-то астральный план?
Rainbow
Кароч история тянется издалека. Когда я принял инфру, я увидел некоторое дерьмо в виде 150-200 кронов на разных серверах без описания и указания овнерства. Долго и упорно сношался с тем чтобы найти авторов креатива и понять что это за джобы и хоть как-то документировать. Часть разобрали, часть осталась. В итоге в какой-то момент приняли решение просто нахер запретить кроны на серверах и перевести все в Rundeck. Это аля централизованная запускалка джобов у нас в компании. Там есть обязательные поля описания, авторства + еще некоторые наши. Есть возможность запуска по расписанию. Есть таймауты, ретраи и все что может пригодиться. Кароче такой себе удобный крон. Так вот одна из фич в том что помимо просто запуска, эта система собирает выхлоп stdout и хранит его вместе с логами запусков. Т.е. ты просто заходишь в UI, можешь посмотреть историю запусков, кодов завершений и логи работы. Да, если запускать через kind Job/cronJob, логи можно собрать и положить в тот же ластик и смотреть в кибане, но целостность информации будет в некотором плане нарушена и уровень удобства снизится. Выходом в данной ситуации я пока вижу только запуск через kubectl run. О чем собственно и вопрос. Какие еще сайд эффекты я получу кроме отсутствия куберовского ретрая?
как @Andorka говорит - пиши оператора 😁