RE
в конечном итоге получилось применить yaml файлы с Jenkins?
в итоге поставил другой плагин - aws pipeline и сделал так withAWS(credentials:'ID_AWS') { // do something sh "aws eks update-kubeconfig --name=name-dev --region=us-east-1 --kubeconfig=~/.kube/config" sh "/usr/local/sbin/kubectl get pod" }
RE
👍👍
а у вас работает этот плагин с EKS?
RE
потому что для EKS надо и aws/credentials и кубконфиг
Cholovik
@LuckySB По моей логике сценарий такой, допустим у нас есть 2-х ядерная система и мы пренебрежем всеми cgroups кроме 1 рассматриваемой. Внутри неё будет 2 дочерних cgroup. Не выставляя шары мы получаем дефолт - 1024. Значит каждая получит коэффициент 1024/(1024+1024)=0.5 что при двух ядрах дает нам 1CPU на каждую. Предположим что в одной cgroup запущен процесс который желает поглощать 1.5CPU а во второй - 0.2CPU. В таком случае механизм шар не будет ограничивать ту cgroup которая поглощает до 1.5 CPU вплоть до того момента пока процесс из второй группы не будет потреблять ~0.5CPU и более. Тут обснованно возникает вопрос как тогда мы можем влиять на другой сервис если ресурсов ему в любом случае должно хватить при конкуренции? Наверное четкий ответ дать не смогу, но предположу что продолжительное потребление на пределе в любом случае повлияет на второго желающего потребителя т.к. время выделяется кусочками, и в какой-то момент этого кусочка придется дождаться. Другого объяснения у меня к сожалнию нет
Hankey
а у вас работает этот плагин с EKS?
какой такой ЕКС? У нас всё своё, без облаков В пайплайне следующий вариант использования. Ну и сами KUBE_CREDENTIALS_ID и KUBE_CONTEXT_NAME определяются как ID креденшена от кластера withKubeConfig([credentialsId: env.KUBE_CREDENTIALS_ID, serverUrl : env.KUBE_SERVER_URL, contextName : env.KUBE_CONTEXT_NAME])
RE
тогда понятно значит вам не нужен aws креды, потому и работает
RE
а для авс нужны.
Lucky SB
@LuckySB По моей логике сценарий такой, допустим у нас есть 2-х ядерная система и мы пренебрежем всеми cgroups кроме 1 рассматриваемой. Внутри неё будет 2 дочерних cgroup. Не выставляя шары мы получаем дефолт - 1024. Значит каждая получит коэффициент 1024/(1024+1024)=0.5 что при двух ядрах дает нам 1CPU на каждую. Предположим что в одной cgroup запущен процесс который желает поглощать 1.5CPU а во второй - 0.2CPU. В таком случае механизм шар не будет ограничивать ту cgroup которая поглощает до 1.5 CPU вплоть до того момента пока процесс из второй группы не будет потреблять ~0.5CPU и более. Тут обснованно возникает вопрос как тогда мы можем влиять на другой сервис если ресурсов ему в любом случае должно хватить при конкуренции? Наверное четкий ответ дать не смогу, но предположу что продолжительное потребление на пределе в любом случае повлияет на второго желающего потребителя т.к. время выделяется кусочками, и в какой-то момент этого кусочка придется дождаться. Другого объяснения у меня к сожалнию нет
ага. вот этот момент, что при шарес нет четкого ограничения - не больше того что положено. а это гарантия - т.е. будет выделено как минимум ваша доля, а можно и больше. но при этом накладные расходы от работы вытесняющей многозадачности при активном потреблении. А лимиты также накладывают расходы на их реализацию.... в общем надо переспать и потом потестироваться, на реальной нагрузке. чтобы понять что лучше - получить выхлоп от отключения лимитов или факап от "взбесившихся процессов"...
Alexander
Коллеги добрый день.Может кто-то использует aks+flex vol+key vault ? Суть в том,что оно пока работает по принципу монтирования диры в под с заданными секретами в файликах.Есть ли какой-то человеческий вид передать сикреты в ENV пода ?
Cholovik
ага. вот этот момент, что при шарес нет четкого ограничения - не больше того что положено. а это гарантия - т.е. будет выделено как минимум ваша доля, а можно и больше. но при этом накладные расходы от работы вытесняющей многозадачности при активном потреблении. А лимиты также накладывают расходы на их реализацию.... в общем надо переспать и потом потестироваться, на реальной нагрузке. чтобы понять что лучше - получить выхлоп от отключения лимитов или факап от "взбесившихся процессов"...
К слову у нас в другом продукте 2 кластера (прод и пре-прод) работают с отключенными CFS квотами полностью уже пару месяцев, и там все ок (бывает что выжирает кто-то под плашку, но все в рамках приличия) Но там намного меньше компонентов, а проблемы возникали в другом продукте, и в 1 случае например были вызваны тем что при отключенном CPU лимите лимиты по памяти то остаются в любом случае, и когда приложение получало свободу, оно по итогу упиралось в память что приводило к еще большему скачку потребления CPU.
Cholovik
И вебсокеты в нем же
Dmitry
как из CI можно сказать куберу что мол эй, у меня тут новая версия имиджа есть, давай обновляй на нее
Валентин
как из CI можно сказать куберу что мол эй, у меня тут новая версия имиджа есть, давай обновляй на нее
Обновить deployment или что там у тебя так, чтобы там был другой имадж указан?
Dmitry
у нас сейчас это через одно место в кубере висит самописный кусок, который умеет дергать деплойменты
Валентин
да
ну это типа вопрос, в котором и написан ответ на него
Dmitry
зачем? Вы там руками что ли деплоитесь, без ci-cd?
в пайплайне команда присустсвует которая этому демону говорит что есть новая версия
Dmitry
но я бы хотел без этого демона
George
Тот же ссш сделать 100% железобетонно доступным и
Sergey
@kvaps
Валентин
в пайплайне команда присустсвует которая этому демону говорит что есть новая версия
а почему вместо этой команды не использовать kubectl apply -f my-new-cool-deployment.yml ?
Lucky SB
Цегруппы с шарез и лимит - это маст хев если мы строим отказоустойчивый систему
ну вот видишь, что есть информация о том, что CFS_limits тормозят твои приложухи. своим фактом своего присутствия. и можно попробовать отключить их.
Dmitry
надо с безопасностью разбираться..
Dmitry
что бы юзер мог только свой проект апгрейдить
Валентин
что бы юзер мог только свой проект апгрейдить
кладешь шаблон этого yml в его проект. Запрещаешь делать git push в другие проекты. Профит
Cholovik
Тот же ссш сделать 100% железобетонно доступным и
Кстати тестировал и это (выделение отдельной cgroup которую не учитывал бы kubelet отдавая ресурсы под поды) Довольно классная штука, но к ней стоит подготовиться немного, чтобы точно все влезало, и было место на потерю одной ноды, пока решили не втаскивать
Dmitry
ямлов нет
Dmitry
кубцтл умеет только имидж апгрейдить
Dmitry
или хелм, не помню
Валентин
у нас хельм
ну во-первых хелм умеет генерить ямлы, во-вторых - ну ок, helmfile или как там оно у него называется, ты ж там имадж указываешь - ну вот дальше учишь свою систему вставлять в этот файл в нужное поле имя нового имаджа. Суть-то не меняется от этого.
Виктор
парни, как лучше в баше получить имя первого пода деплоймента?
Валентин
парни, как лучше в баше получить имя первого пода деплоймента?
Первого по какому признаку? Этот вопрос выглядит так, будто ты пишешь адский костыль. Зачем тебе это нужно получать?
Виктор
там общий маунт
Валентин
нужно скопировать файлы через kubectl cp, так что любой под сойдет
kubectl get pods --no-headers -o custom-columns=":metadata.name" ну как-то так ты получишь имена подов
Виктор
ага, пасиб
Валентин
нужно скопировать файлы через kubectl cp, так что любой под сойдет
но использовать kubectl cp выглядит все-таки как костыль. Зачем именно так копировать файлы? Может лучше init container'ом их подготавливать, или собирать прям в образ?
Виктор
но использовать kubectl cp выглядит все-таки как костыль. Зачем именно так копировать файлы? Может лучше init container'ом их подготавливать, или собирать прям в образ?
не, копирую из контейнера, в приложении чет сделал, появились файлы которые нужно унести через CI в другое место
Виктор
позже подрубим s3 сейчас так
Alex
ребят, а в секретах можно хранить в подобном виде инфу? stringData: db: first_server: login: {{ .Values.first_server.login }}
Lucky SB
@valioozz А поделись плиз каким образом вы отключили CFS Quotas (в Kubentetes) ?
Lucky SB
@valioozz --cpu-cfs-quota Enable CPU CFS quota enforcement for containers that specify CPU limits (default true) Оно ?
Dmitry
или хелм, не помню
helm upgrade myrelease repo/foo --set=image.tag=1.2.2
Lucky SB
helm upgrade myrelease repo/foo --set=image.tag=1.2.2
не забывай, что название перемнной в set зависит от того, что ты в манифестах нафигачил
Cholovik
@valioozz --cpu-cfs-quota Enable CPU CFS quota enforcement for containers that specify CPU limits (default true) Оно ?
Да, оно Есть простенький Ansible playbook чтобы руками не бегать, могу поделиться
Lucky SB
Alexander
А можно не выставлять лимиты и получить и хорошую утилизацию и задержки
Нет, только хорошую утилизацию. Задержки у тебя при полной утилизации ресурсов cpu будут страдать.
Влад 🇺🇦
Всем привет, отправляю логи апликейшена в stdout, а дальше их ловит filebeat, вопрос, как к этим логам добавить метку? а то они все смешаны..
Stas
А у кого-то есть опыт использования какого-либо тула, который может показать по-ядерно использованное время по-контейнерно
Stas
то есть я хочу глянуть в какой момент какой под на каком ядре исполнялся и сколько прлучил shares
Alexander
то есть я хочу глянуть в какой момент какой под на каком ядре исполнялся и сколько прлучил shares
Какую проблему решит наличие такой статистики, если представить, что ее можно получить? Shares из cpu cgroup - это относительный приоритет, а от планировщика получают cpu time. Сколько времени получил процесс, можешь глянуть ps-ом или напрямую в procfs.
G72K
Нет, только хорошую утилизацию. Задержки у тебя при полной утилизации ресурсов cpu будут страдать.
При равной утилизации задержки будут меньше без лимитов, чем с лимитами
Alexander
При равной утилизации задержки будут меньше без лимитов, чем с лимитами
Значит либо лимиты выставлены неадекватно, либо утилизация неполная, либо баг в шедулере в ядре.
G72K
Значит либо лимиты выставлены неадекватно, либо утилизация неполная, либо баг в шедулере в ядре.
Лимиты по определению оставляют свободный цпу, значит увеличивают задержки
Alexander
Лимиты по определению оставляют свободный цпу, значит увеличивают задержки
Во-первых, лимиты ограничивают потребление сверху, а не формируют резерв. Во-вторых, чем больше свободных ресурсов, тем ниже задержки.
Евгений
Лимиты по определению оставляют свободный цпу, значит увеличивают задержки
Линуск не умеет делать резерв никак иначе кроме введения лимитов на всё и вся
Igorь
Ребят, вопрос по поводу хельм-чартов. Если у меня есть приложение, которое использует постгрес, например, и в зависимостях у него это указано, и я хочу упаковать приложение в свой хельм-чарт, то директорию charts стоит под .helmignore-ом держать? Или хельм разберётся, что при установке надо скачать ещё зависимости зависимостей?
Евгений
откуда такая инфа?
Из /usr/src/linux/Documentation
George
Я не знаю точно. Но чтобы у тебя был 100% резерв - надо делать как дживием
George
Тупо сами аллоцируем ресурсы, а потом распределяем
George
Плюс не пытаться засунуть 100500 задач на один хост (а как же контейнеризация??? Аааа)
Евгений
Ну, можно прибить процессы к ядрам, на самом деле
Andrey
Из /usr/src/linux/Documentation
конкретнее. Ещё во времена openvz можно было настраивать hard/soft лимиты и тд
George
Это не то
Евгений
Лимиты можно, а гарантии нельзя