V 🏴‍☠️
Кубер работает с cri-o
George
еще подман интересно потыкать
Dmitry
еще подман интересно потыкать
А подман, это не обертка над cri-o?
George
нет
George
cri-o - это демон
George
а podman - это просто тулинг, который сам в runc ходит
Anonymous
V 🏴‍☠️
George
ну, скажем, 32 ядра 512ГиБ ОЗУ
George
у тебя на ноде 4 ядра 4 гига тупо столько не стартанет 😂😂😂😂😂
V 🏴‍☠️
Норм.
При этом на 100 контейнерах было LA порядка 10-12, то есть нагрузка в целом никакая, но новые поды кубер не мог создать, все поды новые висели в статусе pending, старые нещадно отваливались. С cri-o такого нет, в данный момент бегает по 160 подов на ноде, LA 2-3
V 🏴‍☠️
а какой конфиг мастеров?
По железу или про какой конфиг?
Alex
ага
V 🏴‍☠️
Мастера - виртуалки, соответствующие минимальным требованиям. 2 ядра, 4 ОЗУ
George
а какой конфиг мастеров?
тебя етсд волнует или мастера?
V 🏴‍☠️
На мастерах докер, их ещё не перевёл
V 🏴‍☠️
чо-то маловато
Пока хватает
V 🏴‍☠️
чо-то маловато
Прелесть виртуалок в том, что можно всегда добавить ресурсов=)
V 🏴‍☠️
У нас по 200-250 подов на каждой ноде, лимит 300. Ноды 32/256 по ресурсам. 🤔
Ну у меня в перспективе где-то около 300 подов должно быть
Alex
Мастера - виртуалки, соответствующие минимальным требованиям. 2 ядра, 4 ОЗУ
а у них по ресурсам нагрузка не большой была? Я случайно на HDD однажды развернул etcd, где-то на 100 подах на 3-х нодах уже всё встало ) Хотя, конечно, проц и памяти etcd не сильно много сжирает
Puma
Почему не может получить локальный волюм прометеус , кубер развернут куберспреем , волюмы локальные есть kubectl get pv NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE local-pv-1d61e5f3 194Gi RWO Delete Available local-storage 20h local-pv-215c39 194Gi RWO Delete Available local-storage 20h local-pv-438210ee 194Gi RWO Delete Available local-storage 20h local-pv-763f86f8 194Gi RWO Delete Available local-storage 7d15h local-pv-805bb74a 194Gi RWO Delete Available local-storage 7d15h local-pv-dbe2ceb5 194Gi RWO Delete Available local-storage 7d15h поднимаю прометеус стандартный stable/prometheus
George
Пока хватает
слушай, ну, согласен. Мастера виртуализировать - более осмысленное занятие, чем виртуализировать воркеры
Puma
==> v1/PersistentVolumeClaim NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE asg-prometheus-alertmanager Pending 135m asg-prometheus-server Pending 135m
George
конкретную ошибку
George
у меня в таком случае помогало руками PV соответствующий создать
Alex
плюс смотри describe pvc
George
ты еще учти - pv локальны для конкретной ноды
George
а пром запросто может вообще на другой ноде запуститься (в зависимости от того - поверх чего PV создан)
V 🏴‍☠️
Вот кстати не понимаю зачем нужен кубер на одной ноде
Puma
ага что то не так со сторейд классом Type Reason Age From Message ---- ------ ---- ---- ------- Normal FailedBinding 18m (x361 over 108m) persistentvolume-controller no persistent volumes available for this claim and no storage class is set Normal FailedBinding 4m45s (x41 over 14m) persistentvolume-controller no persistent volumes available for this claim and no storage class is set
George
теперь с storageclass разбирайся
George
> no persistent volumes available for this claim опять же - можно руками PV создать и она подцепится
Puma
не очень понятно , сторейд класс помечен как isdefault=true
Tamerlan
или ты по крону перезапускаешь?
Solyar
Посмотри реквесты pvc прометея и размер своих дисков :)
Solyar
или ты по крону перезапускаешь?
Также работает без волюма, все ок ничего не жрёт
Puma
Посмотри реквесты pvc прометея и размер своих дисков :)
да поменял дефолт на другой сторейдж и поднялось
Puma
в общем как то в кубеспрее стало все немного хуже по дефолту
Solyar
в общем как то в кубеспрее стало все немного хуже по дефолту
Я и не знал что куб умеет в локальный провижинер
Solyar
Хотя тоже кубспреем распылял
Solyar
Кстати вопрос. Можно после инициализации кластера увеличить количество подов на ноде?
Puma
Puma
несколько десятков там без проблем работает
Solyar
По дефолту
Puma
в настройках не вижу такого значения и ноды у меня мелкие
Solyar
в настройках не вижу такого значения и ноды у меня мелкие
В describe ноды можно увидеть вроде как и в дашборде в подробной информации о ноде
George
// maxPods is the number of pods that can run on this Kubelet. MaxPods int32
George
https://godoc.org/k8s.io/kubernetes/pkg/kubelet/apis/config#KubeletConfiguration
George
это настройка, которую можно задать
Solyar
это настройка, которую можно задать
После запуска кластера или до?)
Solyar
В этом весь вопрос
George
хоть на ходу
Denis
// maxPods is the number of pods that can run on this Kubelet. MaxPods int32
Кстать, а нельзя этот параметр регулилровать кроме как через kubelet?
George
хз
Solyar
Но я могу врать
Denis
По-моему у кубадма есть такой флаг
Да возможно. Но у меня почему-то всегда было ощущение что как будто это можно было регулировать через Resource Quotas