Stefan
скажите, такое ведь невозможно, чтоб compute optimized инстансы держали хорошо ядра, но при этом потребляли-бы на различные действия и обслуживание сервисов больше оперативы?)))
Andor
иди приложение своё дебаж
Stefan
не только оно больше потребляет
Stefan
при этом и etcd постепенно растет
Sergey
https://github.com/kubernetes/enhancements/issues/357
Vadim
Ты про API объект, да? Есть что-то новое интересное?
Ага, неудивительно что ингресс застыл - всех основных комиттеров (читай "клаудпровайдеров") устраивает, барметалщикам предлагается страдать с нжинксом и металлб
Andrey
скажите, такое ведь невозможно, чтоб compute optimized инстансы держали хорошо ядра, но при этом потребляли-бы на различные действия и обслуживание сервисов больше оперативы?)))
Посмотри внутри подов что жрет. А то может это кеш растет.
Andrew
Ну rss же, какой кеш...
Stefan
Посмотри внутри подов что жрет. А то может это кеш растет.
та дело в том, что на все поды потребление ОЗУ больше обычного, это не на одном только
суммарное потребление подов в kube-system на проде 1950мб! в то время как на деве всего лишь 1350
Andrey
Stefan
какой-нибудь инмемори кеш у приложения, откуда нам знать
да елки палки, это не наши разработанные приложухи
Andrew
Слишком много переменных, если ничего очевидного, то остаётся только отладка.
Andrey
Точно rss? А то больно уж похоже на кеш
Stefan
системные кубера поды, столон и контроллер
Stefan
и что я всё время замечаю, это увеличение постепенное оперативые etcd(в логах ни на что не ругается, думал может потеет) и api-server
Andrew
Нод/подов в проде больше?
Stefan
херня какая-то ей богу
Andrew
Это ни о чем не говорит, я спрашиваю в сравнении с девом и в численном выражении
Stefan
я читал что баг есть такой в etcd2, но у меня etcd3
Stefan
Это ни о чем не говорит, я спрашиваю в сравнении с девом и в численном выражении
та меньше, написал же, существенно меньше на проде, в сравнении с девом
Stefan
точные числа не могу сказать сейчас
Andrew
Может какой-то глючный кусок кластера есть, криво сконфигуренный, который задрачивает api например. Из разряда шизы, но вероятной.
Andrew
Посмотри запросы в api/etcd
Stefan
Сравни потребление прямо в поде. На проде и на деве
а не подскажешь каким образом? я думал это можно сделать только выборкой прометея
Andrey
Технологии древних.
Stefan
Сравни потребление прямо в поде. На проде и на деве
ну если глядеть по RSS, под ингрес контроллера
на деве 28484
на проде 37944
Vadim
а не подскажешь каким образом? я думал это можно сделать только выборкой прометея
https://github.com/kubernetes/community/blob/master/contributors/devel/sig-scalability/profiling.md
Andrey
ну если глядеть по RSS, под ингрес контроллера
на деве 28484
на проде 37944
А сервисов на которые он подкидывает трафик, больше?
Stefan
серты только выдал на домены и всё
Stefan
после чего кстати его потребление скакануло сразу на 30 мб на каждой реплике
G72K
#Нунаконецто В kubectl logs теперь можно сочетать флаги -f (--follow для стриминга логов) и -l (--selector для label query).
Nikolay
^ киллерфича
Rainbow
а kustomize подвезли там?
Andor
пишут что да
Andor
наверное откатят опять
Andor
блин надо снова в кубеня погружаться, а то почти все мемчики какие я знал уже устарели
Vadim
А как же твоя ремиссия? Почти два месяца емнип держался
Andor
да блин мемы кончаются
Andor
над хельмом уже не постебёшь и кастомайз в мастере
Ильдар
а что с хельмом?
Andor
ну хельм с тиллером теперь официально не нужны
Rainbow
ну хельм с тиллером теперь официально не нужны
😱😱😱 а как же наплодить 100500 переменных и писать их в values вместо того, чтобы просто values применить через patch?
Andor
ну вот кастомайз же в коробке будет
Andor
всё остальное станет для маргиналов
Rainbow
будет kustomize с helm же
Andor
блин, точняк
Andor
так и будет
𝚔𝚟𝚊𝚙𝚜
https://www.linbit.com/en/linstor-grows-beyond-drbd/
линстор теперь умеет и без drbd работать
Sergey
И что у него тогда в качестве бекенда?
𝚔𝚟𝚊𝚙𝚜
Swordfish и NVMe-oF
Sergey
Кто репликацией ланных занимается?
𝚔𝚟𝚊𝚙𝚜
это насколько я понял новомодная замена iSCSI
Sergey
И кто в качестве таргета для nvme
𝚔𝚟𝚊𝚙𝚜
Sergey
И какой тип рдма?
Sergey
Конвергентный езернет в Линукс кое как малокс поддерживает
Sergey
Типа Roce
Sergey
Хорошо, возвращаясь к баранам, репликация данных кто отвечает?
Sergey
Линстор через апи то, или нвме полка должна уметь
𝚔𝚟𝚊𝚙𝚜
Ну она может быть организованна средствами хранилки самой
𝚔𝚟𝚊𝚙𝚜
Зачем тогда линстор
Linstor - оркестратор, для того чтобы управлять всем этим зоопарком, ну и у линстора есть куча готовых реализаций, в виде драйверов для Kubernetes, OpenNebula, OpenStack...
Sergey
Linstor - оркестратор, для того чтобы управлять всем этим зоопарком, ну и у линстора есть куча готовых реализаций, в виде драйверов для Kubernetes, OpenNebula, OpenStack...
Так все завязано тогда на поставщика стореджа, тот же нетапп, если память не подводит, для кубера дает плагины свои
𝚔𝚟𝚊𝚙𝚜
Честно сам еще до конца не разобрался с этим еще, про Swordfish и NVMe-oF мало что гуглится пока.
𝚔𝚟𝚊𝚙𝚜
Так все завязано тогда на поставщика стореджа, тот же нетапп, если память не подводит, для кубера дает плагины свои
Как я понял можно и самому хранилку собрать, тк есть поддержка NVMe-oF в ядре
Sergey
Дело не в самой хранилке, а как организовать ха для нее
𝚔𝚟𝚊𝚙𝚜
Дело не в самой хранилке, а как организовать ха для нее
Ну я не вижу особых проблем в использовании drbd для этого