Это отсутствие использования чего-либо как такого, чем я намекаю на неправильную постановку вопроса. Если вы хотите сэкономить на чем-то, то расскажите нам про это что-то, пока что вопрос звучит как "в какой пятерочке акции с самой большой скидкой? не важно, на что"

Это отсутствие использования чего-либо как такого, чем я намекаю на неправильную постановку вопроса. Если вы хотите сэкономить на чем-то, то расскажите нам про это что-то, пока что вопрос звучит как "в какой пятерочке акции с самой большой скидкой? не важно, на что"

большую часть времени виртуалки в gke простаивают ну грубо говоря из этих 760 часов работают они в лучше случае половину. а нужно чтото где можно запустить пару под они возьмут задание выполнят и хватит, pod autoscsling более быстрый процесс чем node autoscaling вот и спрашиваю есть ли вариант это решить

большую часть времени виртуалки в gke простаивают ну грубо говоря из этих 760 часов работают они в лучше случае половину. а нужно чтото где можно запустить пару под они возьмут задание выполнят и хватит, pod autoscsling более быстрый процесс чем node autoscaling вот и спрашиваю есть ли вариант это решить

multi zone/region Ещё бы)

ребят а у google gke есть какие то сверх дешевые опции ?

https://cloud.google.com/compute/docs/instances/preemptible

большую часть времени виртуалки в gke простаивают ну грубо говоря из этих 760 часов работают они в лучше случае половину. а нужно чтото где можно запустить пару под они возьмут задание выполнят и хватит, pod autoscsling более быстрый процесс чем node autoscaling вот и спрашиваю есть ли вариант это решить

Чем не подходит кластер(нод) автоскейлер так и непонятно. А вообще, для экономии денег на всякого рода джобах классно подходит плюшечка описаная выше ^

Добрый день! Подскажите по отправке логов в ELK с Kubernetes. Все описал в вопросе https://toster.ru/q/567085

Добрый день! Подскажите по отправке логов в ELK с Kubernetes. Все описал в вопросе https://toster.ru/q/567085

проверка всей цепочки что говорит

проверка всей цепочки что говорит

т.е. согласно этой статье https://logz.io/blog/kubernetes-log-analysis/ fluentd монтирует папку /var/log/containers и отправляет все в Elasticsearch?

т.е. согласно этой статье https://logz.io/blog/kubernetes-log-analysis/ fluentd монтирует папку /var/log/containers и отправляет все в Elasticsearch?

это я тебя спросил чтобы проверить почему нет, надо проверять всю цепочку

kubectl --namespace=efk exec -it efk-fluent-bit-58vn5 -- /bin/bash root@efk-fluent-bit-58vn5:/var/log/containers# ls | grep db-master root@efk-fluent-bit-58vn5:/var/log/containers# зашел в fluentd - а там лога нет.

Всем привет! Подскажите, был OOM на ноде k8s. Все поды переехали на другие ноды. Проблему исправил, но эта нода в статусе NodeNotReady в describe. Подскажите как ей сказать что она здорова?

Всем привет! Подскажите, был OOM на ноде k8s. Все поды переехали на другие ноды. Проблему исправил, но эта нода в статусе NodeNotReady в describe. Подскажите как ей сказать что она здорова?

uncordon, не?

А, если notready - там kubelet живой вообще?

uncordon, не?

Пробовал. Да ребутну ноду. kubelet жив насколько понял

Всем привет! Подскажите, был OOM на ноде k8s. Все поды переехали на другие ноды. Проблему исправил, но эта нода в статусе NodeNotReady в describe. Подскажите как ей сказать что она здорова?

после eviction как то kubelet не оживал, просто рестартанул его

после eviction как то kubelet не оживал, просто рестартанул его

понял спасибо.

Добрый. Обновил все ноды в кластере до 1.12, пытаюсь заджойнить еще одну ноду, получаю такую ошибку: configmaps "kubelet-config-1.12" is forbidden: User "system:bootstrap:qws8xq" cannot get configmaps in the namespace "kube-system"

кто-нибудь подскажет, что может быть не так?

тебе же все написали в ошибке

Товарищи, посоветуйте какой-нибуть удобный дашборд в графане, чтобы в нем было видно состояние всех нод в кластере? Много их уже перелопатил , но что то не могу найти то что нужно

Товарищи, посоветуйте какой-нибуть удобный дашборд в графане, чтобы в нем было видно состояние всех нод в кластере? Много их уже перелопатил , но что то не могу найти то что нужно

а то что последнее на хабре анонсили?

а то что последнее на хабре анонсили?

К сожалению не в курсе этого(

теперь в курсе

теперь в курсе

А можно ссылочку? А то сижу гуглю и ничего ненахожу

А можно ссылочку? А то сижу гуглю и ничего ненахожу

Блог компании flant

А можно ссылочку? А то сижу гуглю и ничего ненахожу

https://habr.com/company/flant/blog/423851/

habr grafana зачем гуглить

Товарищи, посоветуйте какой-нибуть удобный дашборд в графане, чтобы в нем было видно состояние всех нод в кластере? Много их уже перелопатил , но что то не могу найти то что нужно

Дык kube-prometheus, там дашбордов всяких хватает.

Ток он через оператор и кастомные ресурсы работает.

habr grafana зачем гуглить

https://pogugli.com/

Дык kube-prometheus, там дашбордов всяких хватает.

У меня не оператор

ncuxu(tm)

А кто-то к дашборду ldap прикручивал? dex поставлен а дашборд по токенам и не ясно как вообще все это связать вместе

Добрый. Обновил все ноды в кластере до 1.12, пытаюсь заджойнить еще одну ноду, получаю такую ошибку: configmaps "kubelet-config-1.12" is forbidden: User "system:bootstrap:qws8xq" cannot get configmaps in the namespace "kube-system"

Обновите кластер до 1.12

Обновите кластер до 1.12

спасибо, вот уже :)

Всем привет! Подскажите, был OOM на ноде k8s. Все поды переехали на другие ноды. Проблему исправил, но эта нода в статусе NodeNotReady в describe. Подскажите как ей сказать что она здорова?

kubectl describe nodeпокажет почему NotReady

kubectl describe nodeпокажет почему NotReady

Показывает и пишет что там был OOM.

Показывает и пишет что там был OOM.

смотри в Conditions

смотри в Conditions

принял.спс

приветствую. Встречал кто ошибку с cephfs-provisioner "mount error 5 = Input/output error" PVC создается, но не маутиться.

у меня проблема такого плана: когда я создаю кластер в kops 1.10+, то на мастере поднимается только kube-proxy. В /etc/kubernetes/manifests только он и лежит. А на 1.9.x всё нормально. Никто не сталкивался?

ls /etc/kubernetes/manifests/ kube-proxy.manifest

Разобрался, надо namespace исключить

привет когда кронджоба не может исполнится копятся POD-ы: 0/1 ImagePullBackOff 0 3d, и в какой-то момент кончается квота на POD и перестают работать другие джобы/деплой приложений можно ли где-то поставить, чтобы зафейлившиеся поды удалялись ?

привет когда кронджоба не может исполнится копятся POD-ы: 0/1 ImagePullBackOff 0 3d, и в какой-то момент кончается квота на POD и перестают работать другие джобы/деплой приложений можно ли где-то поставить, чтобы зафейлившиеся поды удалялись ?

Помоему там есть параметр , который отвечает за общее время жизни джобы

привет когда кронджоба не может исполнится копятся POD-ы: 0/1 ImagePullBackOff 0 3d, и в какой-то момент кончается квота на POD и перестают работать другие джобы/деплой приложений можно ли где-то поставить, чтобы зафейлившиеся поды удалялись ?

Если не ошибаюсь activeDeadlineSeconds

работает как надо, спасибо

бляяяя

@SinTeZoiD

надо группу шардировать, им же не интересны группы меньше какого-то порога ?

надо группу шардировать, им же не интересны группы меньше какого-то порога ?

нет

им всё равно

нет

Здорова, не подскажешь у тебя не было проблем с запуском stolon-keeper в кубере? на некоторых машинах не работает сегфолтится initdb

не было

На машинах где 256гб, выдает шаред память 32мб - все запустилось, на тез где 64 выдает 8мб и там крашится

не было

А образы сам собирал, или их взял?

взяли

какие не помню

взяли

А на хосте сколько памяти? просто уже че только не делал и русурсы прописывал и /dev/shm в память монтировал - нифига, единственное предположение связано с хостовой памятью

А на хосте сколько памяти? просто уже че только не делал и русурсы прописывал и /dev/shm в память монтировал - нифига, единственное предположение связано с хостовой памятью

очень много памяти

очень много памяти

Спасибо

та не за что)

ну хотябы пока буду думать в направлении памяти на хосте

Народ есть сводная табличка сравнения реализаций сетевой подсистемы flannel/calico/weavenet/etc, по аналогии с https://docs.google.com/spreadsheets/u/1/d/16bxRgpO1H_Bn-5xVZ1WrR_I-0A-GOI6egmhvqqLMOmg/edit#gid=1612037324 для ингресов ?

что бы всё в одном месте

вброшу про postgres, в его буферы же обычно не загоняют всю раму с хоста. в контейнерах с лимитами какая политика по выделению памяти? каждый коннект жрет немало, да и под файловый кэш нужно пространство.

вброшу про postgres, в его буферы же обычно не загоняют всю раму с хоста. в контейнерах с лимитами какая политика по выделению памяти? каждый коннект жрет немало, да и под файловый кэш нужно пространство.

на тестовых хостах 64 рамы, в контейнер отдал 16 - под буфер выделил 8, но при initdb столон не учитывает настройки

он там 400кб берет чтоли

creating directory /stolon-data/postgres ... ok creating subdirectories ... ok selecting default max_connections ... 20 selecting default shared_buffers ... 400kB

на некторых хостах FATAL: could not create shared memory segment: No space left on device DETAIL: Failed system call was shmget(key=4097, size=56, 03600). HINT: This error does *not* mean that you have run out of disk space. It occurs either if all available shared memory IDs have been taken, in which case you need to raise the SHMMNI parameter in your kernel, or because the system's overall limit for shared memory has been reached. на некоторых просто segmentation fault

там где рамы 256 и более - проблем нет, думаю раму он отдает в каком то процентном соотношении

> in which case you need to raise the SHMMNI parameter in your kernel а kernel.shmmni пробовал поднимать?

Здарова всем. Кто подключал self-hosted gitlab с kubernetes? У меня кластер подключается к проекту, helm tiller устанавливается, но runner не работает (last contact: never).

Здарова всем. Кто подключал self-hosted gitlab с kubernetes? У меня кластер подключается к проекту, helm tiller устанавливается, но runner не работает (last contact: never).

Логи читай

Гитлаба

там все чисто. Даже подключал runner напрямую (не kubernetes) - все работает. Но именно runner в кластере не подключается. При этом в логе контейнера ругает: 401 Unauthorized

И вот так вот в гитлабе

> in which case you need to raise the SHMMNI parameter in your kernel а kernel.shmmni пробовал поднимать?

Конечно

все не так просто - https://github.com/kubernetes-incubator/external-storage/tree/master/local-volume- но с костылями можно

так, а о каких костылях речь? вроде как динамического провиженинга там вообще нет ни в каком виде

так, а о каких костылях речь? вроде как динамического провиженинга там вообще нет ни в каком виде

вот именно, если хочется динамического - то тут начинаются костыли

вот именно, если хочется динамического - то тут начинаются костыли

ну так а можно пример?) какими костылями его можно включить?

вот именно, если хочется динамического - то тут начинаются костыли

а какой динамический на baremetal? сколько есть, столько и создал. Это же не облако.

а какой динамический на baremetal? сколько есть, столько и создал. Это же не облако.

именно по этому я не стану показывать свой костыль - 1) он жуткий, 2) у гражданина выше поди другая ситуация

именно по этому я не стану показывать свой костыль - 1) он жуткий, 2) у гражданина выше поди другая ситуация

(

ну так а можно пример?) какими костылями его можно включить?

как вариант написать свой провижионер, что-нить типа такого: - запускается как daemonset и смотрит за новыми PVC, как только PVC появляется. Создает local-волум с нужными параметрами на ноде, затем PV в кубере. Остается только придумать как они между ссобой договариваться будут

oh shi)

тогда зайду с другой стороны. допустим у меня есть виртуалка со 100 гигабайтами диска. как сказать куберу - вот тебе тачка, хости все на ней?