George
вот тут я тоже не знаю (
George
по опыту - вроде бы поды не убиваются, а работают до упора.
Anton
тогда вопрос: можно ли как то ограничить лимиты без оом? то есть что бы например: на воркере у меня 2гб озу я хочу что бы неймспейс в общем юзал не больше 1500 озу и ничего не падало в нем. без оом.
Anton
по опыту - вроде бы поды не убиваются, а работают до упора.
до упора это если она уже прям нагло жрет и жрет то чего нету или то что ограничено ? это ты имеешь введу ?
George
Само ничего не бывает,есть балансер который эвиктит поды, но его надо отдельно запускать
+ Т.е. получается, что суммарного количества ресурсов по нодам может хватать, но они так натыканы (фрагментация, короч), что новый под не может стартануть. И тогда... руками балансировать?
Alex
Само ничего не бывает,есть балансер который эвиктит поды, но его надо отдельно запускать
достаточно просто деплоить туда софт с константным потреблением памяти :-)
Anton
писать софт так, чтобы он не вылезал за лимиты
слово "джава" тебе о чем то говорит ?)))
George
у тебя та же джава может вычитать из свойств контейнера сколько памяти реально она может аллоцировать
George
да-да-да
Anton
им лишь бы работало а то что оно жрёт рандомно память это уже не их траблы)))
G72K
Ребалансировщики больше нужны чтобы ноды освободить, чтобы их заскейлить на ночь
Anton
ну как вариант. я конечно преувеличиваю но всё же
George
ну, если ты девопс, то прописываешь параметры java машины и все
George
а дальше приложение ВНУТРИ машины уже будет крашиться, но это к контейнеру имеет отношение постольку-поскольку
Dmitry
Куб о всех этих лимитах и реквестах думает только на этапе размещения контейнера. Реквесты - чисто его внутренняя логика, если на машине есть ресурсы, не занятые другими реквестами, куб разместит туда под. Лимиты - то что он навести на cgroup и будет дальше игнорировать ибо это не его забота уже.
Anton
понял. по цгрупу он будет убивать если порог превышен ?)
Dmitry
Лимиты он учитывает если есть лимиты на неймспейс или есть другие admission controllers, но и то на уровне личной математики игнорируя реальное состояние дел на железе
Anton
стоп
Anton
лимит на неймспейс выше чем лимит на контейнер?
Dmitry
поэтому хорошая идея requests = limit кмк
Ну лимиты по CPU довольно специфичны... Могут сделать больно
Anton
окей. если в поде 2 контейнера. один перехоидт порог и должен быть убит оом . перезапускается конйтенер же ? не пода ?
Dmitry
лимит на неймспейс выше чем лимит на контейнер?
В неймспейс нельзя воткнуть половину контейнера, так что да
Anton
В неймспейс нельзя воткнуть половину контейнера, так что да
ага. понял. Точнее если просто гораничить весь неймспейс, не ограничивая контейнеры и он перейдет лимит то что убьется ? что упадет ??
Dmitry
поэтому хорошая идея requests = limit кмк
Хотя если мерять в целых ядрах, можно получить QOS guaranteed)
Anton
весь неймспейс чтоли
Dmitry
На неймспейс ограничения работают в момент размещения - он просто не даст создать новый под
George
я поэтому и сказал, что физически неймспейс не существует
George
конкретные ноды про него ничего не знают
George
это абстракция самого куба
Anton
понял
Dmitry
Это контроллер размещения - admission controller
Anton
всё равно чё то сложно это всё так устроенно )
Dmitry
Ты в ядро линукса загляни
Anton
😊
Anton
тогда так: Лимиты на поды как таковой нету, есть лимиты на контйнеры, requests это то что смотрит доступно ли такое то кол-во мегабайт(гб) у ноды и если да то отправляет туда, limits это порог который не должен пересекать контейнер если пересек- убиваем его и пересоздаем новый. Лимиты на неймспейсы это лимиты который говорят куда отправить (на какую ноду) приложение, есть ли на ней столько ресурсов что бы развернуть приложуху.
Anton
а лимиты на ноду как работают? Можно задать лимиты например что бы на ней не вертелось приложение юзающее больше например 100 мб озу ?
Alex
кстати, а как работают лимиты на неймспейс по CPU? Если я не указываю для подов индивидуальные лимиты. Оно же тротлит всё-равно контейнеры?
Lucky SB
будет убит контейнер и пересоздан
не совсем. придет оом киллер и убьет какой нить процесс. и не факт, что тот который запросил память. в данном случае процесс 3 не превысил свои лимиты. так что оом киллер будет по другим критериям выбирать кого грохнуть
Anton
я почему то думал что лимиты это то что не будет пересекать пода и работать дальше. а оказалось что просто кубер её грохнет не мучаясь )
Anton
и интересно то, что лимиты на неймспейс просто определяют где запустить приложение(в какой ноде). Очень интерено))
Lucky SB
все ж элементарно.
Lucky SB
лимит на неймспейс - это информация контроллерам, о том сколько в сумме могут занять контейнеры в подах, которые принадлежат этому неймспейсу
Anton
окей. например : Я задаю реквест в 500 мб. а на воркер ноде у меня доступно 200 мб. откуда он берет значение, с общей доступной памяти или как ? как он определяет сколько ресурсов доступно на ноде ?
Anton
всё сложно но интересно ))
Solyar
всё сложно но интересно ))
Не совсем. Все просто.
Solyar
Надо только почитать доку
Марат
будет не интересно))
George
на самом деле и просто, и сложно одновременно
Anton
да почитал и немного не допонял , тут и пишу) спасибо что разжевали )))
Lucky SB
то есть этосумма всех ресурсов контейнеров.
ну почти. и да. это не лимит, это квота
Alisher
Добрый день. Как настроить чтоб 2 кластера общались между собой ?
Alisher
а что нужно-то?
на гугл платформе ставлю один rest api и эластик, надо чтоб рест обращался к эластик
George
ну, опубликуйте через ингрес.
George
и ходите из одного кластера в другой по внешнему айпи
Alisher
Alisher
а что за prometheus и svc
George
сервисная запись
Lucky SB
сервисное чтение
George
LOL