inqfen
начали переписывать по человечески, но потребность была, чтобы на лету конфигурацию забирала
inqfen
в итоге с ее изначальной архитектурой оказалось, что даже setenv не канает, потому что куча разной фигни это в себя в разное время хавает
inqfen
и реально налету правили?
ага, переписывать было страшно и бессмысленно
inqfen
там уже функционал пилился на замену на шарпе организованный по-человечески
Konstantin
ага, переписывать было страшно и бессмысленно
жесть. и уважуха тому, кто это провернул.
Konstantin
А чем оно лучше tini?
там дофига больше плюшек по функционалу. зомби это так, базовое. спорная штука, но рабочая вполне.
Andrey
в любой момент делаешь условно a = os.environment['variable'] и оно читает заново
перестань бредить. Никто в здравом уме не отслеживает изменения env vars. Если и отслеживают, то изменения конфигурационных файлов
NM
перестань бредить. Никто в здравом уме не отслеживает изменения env vars. Если и отслеживают, то изменения конфигурационных файлов
Не скажи, агенты siem системы отслеживают в реальном времени. Периодически, но это не везде нужно
Aleksandr
Всем привет. А чем лучше управлять конфигурацией приложения в k8s? Просто набором манифестов и kubectl? Helm? Terraform? Чем-то ещё?
Alexander
перестань бредить. Никто в здравом уме не отслеживает изменения env vars. Если и отслеживают, то изменения конфигурационных файлов
Потому что их снаружи и нельзя поменять (gdb и прочий ptrace, если что - это не "снаружи"). @inqfen что-то себе выдумал
Dmitry
Всем привет. А чем лучше управлять конфигурацией приложения в k8s? Просто набором манифестов и kubectl? Helm? Terraform? Чем-то ещё?
выбирай любимый вариант и используй. Все далают очень по разному, каждый для себя выбрал свой инструмент
Victor
Видел как невовремя вызванный ptrace складывал приложение
Andrey
Потому что их снаружи и нельзя поменять (gdb и прочий ptrace, если что - это не "снаружи"). @inqfen что-то себе выдумал
и даже в этом случае (gdb) это может не сработать, потому что приложение может прочитать env на старте и потом его не проверять больше.
Aleksandr
выбирай любимый вариант и используй. Все далают очень по разному, каждый для себя выбрал свой инструмент
Спасибо) просто подумал, что есть какой-то более-менее однозначный эффективный вариант.
Alexander
и даже в этом случае (gdb) это может не сработать, потому что приложение может прочитать env на старте и потом его не проверять больше.
Ну если мы уж дошли до ptrace, то что помешает нам помимо подстановки вызова setenv в код процесса таже поменять значение переменной, в которую процесс вычитал getenv-ом данные при старте?
Nikita
Спасибо) просто подумал, что есть какой-то более-менее однозначный эффективный вариант.
Эффективный вариант это тот, который подходит тебе по ситуации)
Nikita
Ну если мы уж дошли до ptrace, то что помешает нам помимо подстановки вызова setenv в код процесса таже поменять значение переменной, в которую процесс вычитал getenv-ом данные при старте?
Разговор уже в дебри полез ппц. Все после сюра о том, как приложение мониторит энвы и само подхватывает, чего никто в здравом уме вроде не делает.
Nikita
Еще меня улыбнули слова о том, что конфигмапы юзать это не тру.
Gunslinger
ух е... позовите меня когда окончательно превратите контейнеры в виртуалки
Dmitry
ух е... позовите меня когда окончательно превратите контейнеры в виртуалки
openvz кстати был топовым по изоляции. Жалко что на него забили. С ним никаких оом не бывало
Gunslinger
так kubevirt жеж+)
тут вон один товарисч в англоязычном чатике спрашивал как ему поды править продакшена так чтоб "после рестарта помнило"
Dmitry
Ты и сейчас можешь отключить oom-killer через sysctl
я не про это, ты юзал когда-нибудь openvz? Если просто, то если ты в его контейнере запустишь free, то он увидет только память которую ему дали. Как в виртуалке
Dmitry
В контейнерах с lxcfs ты тоже это увидишь.
хз, не юзал их давно. А когда юзал, там такого не было. Там как обычно, процесс скушал больше чем надо, его убили. В openvz же, процесс просто не мог физически скушать больше чем надо
Dmitry
Я не про lxc, а про lxcfs (который к lxc на самом деле не привязан)
понял, не знал про это. Lxcfs никогда не юзал
Alexander
@identw И в мейнлайне процесс тоже не может съесть больше, чем ограничение сигруппы
Dmitry
@identw И в мейнлайне процесс тоже не может съесть больше, чем ограничение сигруппы
а что же в cri это не завезут. Множество головной боли бы избежать получилось
Alexander
а что же в cri это не завезут. Множество головной боли бы избежать получилось
Потому что обычно это не нужно. Необходимость в этом может возникнуть только у программ, которые зачем-то хотят знать про всю доступную память на хосте (хотя это, в общем-то, не их собачье дело), и при этом до сих пор за почти десять лет не научились смотреть в лимиты сигруппы.
Alexander
да, но вот почему бы не завезти, чтобы для приложения вся доступная память на хосте = лимиту. Как это работает в openvz, lxcfs
Еще раз: потому что большинству приложений эта информация не нужна. Она требуется только тем, которые одновременно криво написаны и при этом не поддерживаются уже как несколько лет.
Alexander
Я таких в последнее время не встречал. Раньше у джавы с этим были проблемы (если опс не додумывался задать -Xmx), но даже там они были решены уже несколько лет назад.
Dmitry
Еще раз: потому что большинству приложений эта информация не нужна. Она требуется только тем, которые одновременно криво написаны и при этом не поддерживаются уже как несколько лет.
Хз, как по мне удобно, чем ждать пока каждое приложение научиться читать сигруппы. ЛЮБОЕ приложение просто не может скушать памяти больше чем ему дано. Помойму это удобно. Любая база может сожрать чутка больше чем ей дано и будет убита. Легче просто этого избегать. Во времена использования openvz, вообше проблем с этим не было
Boriss
Аа.. я думал в телеге :)
Gunslinger
но там практически сплошная молчанка
Anonymous
всем привет, кто может подсказать fluxcd предназначен только для kuberntes, получится ли с помощью него деплоить на linux хост с докером?
Alexander
И при этом, в openvz точно так же, если программа потребляла всю доступную память, ее убивал oom-killer. Независимо от того, что там в procfs было написано.
Dmitry
По-моему, вы немного не в курсе как работает управление памятью. Большинство программ не смотрят в доступную системе память.
Да, есть пробелы знаний в этом. Я по опыту сужу. В openvz у меня отлично получалось нарезать контейнеры по памяти, и никогда проблем с этим не было. В containerd, cri-o постоянно с этим беда
Dmitry
Скорее всего, неправильно задаете лимиты. Либо оверпровижените слишком сильно по памяти.
Хз, в openvz прога никогда не могла выйти за лимит.. А вот в containerd, cri-o - пожалуйста.
Alexander
Хз, в openvz прога никогда не могла выйти за лимит.. А вот в containerd, cri-o - пожалуйста.
Что значит "не могла"? Не выходила? Или убивалась при попытке выхода?
Alexander
Если не выходила, то значит у вас лимиты сейчас слишком низкие. Если убивалась при попытке выхода, то сейчас все точно так же.
Dmitry
Если не выходила, то значит у вас лимиты сейчас слишком низкие. Если убивалась при попытке выхода, то сейчас все точно так же.
Не, я про то что прога ведет себя как будто работает на хосте или в виртуальной машине. Тут конечно тоже может прийти oom, но он приходит реже. Например mysql постепенно забивает всю доступную память под кэши, но не убивается никогда оом'ом. А вот тоже самое в containerd - он сразу убивается
Pavel
срочно читать как работает контроль памяти в никсах, читать про каждый тип до просветления
Alexander
@identw возможно, эта ссылка подскажет, что подкрутить. https://bugs.mysql.com/bug.php?id=90231
Dmitry
Сконфигурируйте мускуль, чтобы он не пытался сожрать все, что видит.
ну вот пример, в конфиге все что про память (дефолты в mysql как правило очень маленькие) key_buffer_size = 16M innodb_buffer_pool_size = 90176M innodb_log_buffer_size = 64M key_buffer_size = 128M max_allowed_packet = 16M max_binlog_size = 128M max_heap_table_size = 512M query_cache_limit = 1M max_allowed_packet = 16M А фактический rss у него 107GB, vsize 125GB И такое в cri сразу будет убито, а вот в openvz нет
Dmitry
@identw возможно, эта ссылка подскажет, что подкрутить. https://bugs.mysql.com/bug.php?id=90231
И так как правило с любой базой. Один хер оно будет жрать чуть больше лимита в определенный момент
Dmitry
Вобщем я про то, что на практие же видно, что лимит в сигруппах != всей доступной памяти хоста или виртуалки. И проги ведут себя по разному из-за этого
Dmitry
Какой лимит у контейнера?
Это сейчас не в контейнере. Но я думаю могу это легко воспроизвести на масштабах поменьше в контейнере vs виртуальная машина vs openvz
Pavel
а еще можно аллокировать (malloc) 1ГБ при 256MB физических...
Oleg
всем привет. а у кого нибудь есть интеграция rancher + prometheus ? у меня пром стал падать по ООМ, лимиты увеличиваю, а sts не пересоздается. никто не сталкивался ?
Alexander
Это сейчас не в контейнере. Но я думаю могу это легко воспроизвести на масштабах поменьше в контейнере vs виртуальная машина vs openvz
Если вот эту бд с этими настройками посадить в контейнер с лимитом в 120 (не отключая, разумеется, memory overcommitment), то оом киллер не придет, если rss не будет подниматься выше лимита.
Dmitry
Если вот эту бд с этими настройками посадить в контейнер с лимитом в 120 (не отключая, разумеется, memory overcommitment), то оом киллер не придет, если rss не будет подниматься выше лимита.
Оки, я по тестирую. Но не с этой базой конечно ))) Но я уверен что в контейнере countainerd/cri-o оом придет гораздо быстрей чем в контейнере в openvz и в виртуальной машине. И скорее всего он в виртуалке и openvz вообще не придет
Victor
писал утилиту для точного расчета сколько сожрал постгрес памяти (суммировал Pss у родителя и детей) и нечаянно удалил ее прям перед пушем в гитхаб ))
Victor
вот замечательная статья на эту тему https://www.depesz.com/2012/06/09/how-much-ram-is-postgresql-using/
Solyar
Чем вы приложухи собираете без Doсker ?
Solyar
Kaniko, Buildah ?
Alexander N.
Kaniko, Buildah ?
Kaniko, в целом работает нормально, если не кэшировать :)
Solyar
Ещё одна момент, никто не задавался проблемой при поднятии кафки в стейтфулсете задавать айди брокеров через env при том что в образ ничего запихивать нельзя ? (может есть какой-то cheat sheet который я не знаю?)
𝚔𝚟𝚊𝚙𝚜
Kaniko, в целом работает нормально, если не кэшировать :)
с кэшем тоже норм, но иногда приходится наступать на грабли
Victor
А почему просто не глянуть статистику сигруппы?
там какая-то погода на марсе показывается
Отделение Bereke Bank
А есть где-нибудь список переименованных/удаленных метрик у control-plane компонентов? импортнул дашборд из инета - нет метрик типа leader_election_master_status у controller-manager и scheduler