Евгений
Точнее даже не так — нельзя ЯВНО задавать гарантии, можно выселить всё кроме X в лимиты и ожидать, что остаток будет гарантирован X. Но, на самом деле, условный kswapd может сожрать весь CPU
Andrey
ну так-то да. сам шедулер может cpu съесть :)
Andrey
но обычно ядерные процессы держат себя в рамках и на это можно рассчитывать
Евгений
kswapd, например, не держит. cgroups-zombie + memmory pressure практически гарантируют, что kswapd начнёт есть cpu
Cholovik
kswapd, например, не держит. cgroups-zombie + memmory pressure практически гарантируют, что kswapd начнёт есть cpu
Можно серьезно снизить вероятность поднастроив vm.swapiness и еще пару параметров, но да, kswapd тот еще чувак
George
Еще оверкоммит отключить, ога
George
И получить франкенлинукс
Cholovik
Да, зато сразу system OOM потом, а не какие-то скрытые скачки нагрузок))
Alexander
На самом деле, можно повесить процессу rt-приоритет. Но там тоже полно подводных камней
Alexander
И получить франкенлинукс
Обычный линукс. Для реалтайма таким нередко заморачиваются.
KrivdaTheTriewe
пробую добавить цеф драйфер в ранчер последний
KrivdaTheTriewe
подскажите, что не так, добавил кучу каталогов
KrivdaTheTriewe
но в сторадж классах цеф не появляется
Alexander
Можно серьезно снизить вероятность поднастроив vm.swapiness и еще пару параметров, но да, kswapd тот еще чувак
Под "поднастройкой" vm.swappiness, надеюсь, не подразумевается скручивание его в 0? :)
KrivdaTheTriewe
нашёл, нужно фичуред драйвера включить было
Cholovik
Под "поднастройкой" vm.swappiness, надеюсь, не подразумевается скручивание его в 0? :)
Когда как, там же прикол в том что kswapd работает даже если у вас в системе отключен swap вообще
Alexander
Когда как, там же прикол в том что kswapd работает даже если у вас в системе отключен swap вообще
Потому что пейджинг, внезапно, касается не только анонимной памяти (которая вытесняется в своп), но и файловой.
Alexander
Особенно забавно, когда люди, наслушавшись "как там в яндексе", но имея при этом стек на питонорубях, выключают себе своп совсем, а потом удивляются, почему при нехватке памяти система все равно тормозит об диск.
Отделение Bereke Bank
есть какая нибудь метрика, с помощью которой можно вытащить деплойменты без requests/limits?
Alexander
Все так. Лучше было б, чтоб падало по оом
Тут дело не столько в ООМ, сколько в том, что люди не учитывают соотношение потребностей своей системы в анонимной и файловой памяти и бездумно отдают приоритет анонимной, отключая своп.
Alexander
Хотя у них запросто могут быть гигабайты inactive(anon).
Pavel
кто нибудь пользуется меилрушным кубером. у них есть чат саппорта?
Cholovik
есть какая нибудь метрика, с помощью которой можно вытащить деплойменты без requests/limits?
У меня есть такая, сможете по лейблам отсортировать как вам надо Без CPU requests: (max(kube_pod_container_info) by (exported_namespace, exported_pod, container)) unless (max(kube_pod_container_resource_requests_cpu_cores) by (exported_namespace, exported_pod, container)) Без СPU limits: (max(kube_pod_container_info) by (exported_namespace, exported_pod, container)) unless (max(kube_pod_container_resource_limits_cpu_cores) by (exported_namespace, exported_pod, container))
George
Ну, что толку от того что у тебя своп - продлить агонию системы, когда озу перестанет хватать ?
George
Но насчёт анонимной согласен
Alexander
Своп не нужен (с)
В яндекс.поиске, где почти все на плюсах, данные в основном в памяти — возможно. Вполне валидная альтернатива тому, чтобы развешивать на все memlock. Но в более типичных сценариях — сомнительно.
Alexander
Ну, что толку от того что у тебя своп - продлить агонию системы, когда озу перестанет хватать ?
В случае OOM, у меня есть подозрение, что правильные объем свопа и значение swappiness, соответствующие потребностям системы в анонимной и файловой памяти, могут наоборот уменьшим время агонии. И при этом, определенно отложить ее за счет более оптимального использования ресурсов системы.
George
Все равно не звучит убедительно
Alexander
Все равно не звучит убедительно
Про уменьшение или про ее откладывание?
George
Убедительно звучит, что аллокация памяти в линуксе будто сломана. Решение? Да хз. Но джависты вроде не страдают
George
Про уменьшение или про ее откладывание?
Вообще в целом, учитывая, что это поведение может (но не факт) сильно плавать от версии ядра
Alexander
Про откладывание вряд ли будет плавать, оно больше от приложений зависит.
Alexander
Про уменьшение тупняка в ситуации ООМ у меня у самого есть сомнения относительно гипотезы и я хотел бы ее проверить, но пока не доходят руки.
Alexander
Но то, что система, в которой много active(file) памяти и inactive(anon), тупила бы меньше об диск на выгрузке/загрузке file-backed memory при ООМ, если своп включен, я вполне уверен. Но это частный случай.
RE
наверное. но смысл тогда с второго плагина, если можно все сделать с withAWS
Dmytro
Чтобы было читабельно вместо башнянки? Можно аналогично и withAWS переписать на баше, зачем то плагин
Oleg
всем привет. кто юзает istio envoy-proxy сайдкаром, подскажите. я вот создаю кастомнную конфигурацию для прокси как тут https://github.com/istio/istio/tree/master/samples/custom-bootstrap передеплоиваю вижу что через istioctl proxy-config bootstrap изменения есть а вот в сайдкаре istio-proxy в /etc/istio/proxy/envoy-rev0.json все без изменений. чему верить ?
KrivdaTheTriewe
Как в rancher 2.3 править extra_bindings
KrivdaTheTriewe
Kubelet непонятно
Yuriy
KrivdaTheTriewe
cluster.yaml в помощь+rke
я не понимаюгде этот cluster.yaml
KrivdaTheTriewe
в этом проблема, я что ли в глаза долблюсь
KrivdaTheTriewe
cluster.yaml в помощь+rke
я docker run -d --restart=unless-stopped -p 80:80 -p 443:443 rancher/rancher развернул кластер, добавил rbd sc , терь выяснилось, что не маунтятся по-умолчанию модули ядра нужные, нужно поправить
KrivdaTheTriewe
но Edit Yaml по кластеру нет
Alexander
С чего это? Как это выгрузка file-backed memeory связана со свопом?
Никак. Но эффект выгрузки активной файловой памяти от выгрузки в своп активной анонимной памяти под нагрузкой при ООМ мало чем отличается. Но при отключении свопа (или выствлении swappiness в 0) не выгружается inactive(anon), и вместо нее система выстеняет сначала inactive(file), а затем и active(file) в ущерб производительности системы.
Евгений
Никак. Но эффект выгрузки активной файловой памяти от выгрузки в своп активной анонимной памяти под нагрузкой при ООМ мало чем отличается. Но при отключении свопа (или выствлении swappiness в 0) не выгружается inactive(anon), и вместо нее система выстеняет сначала inactive(file), а затем и active(file) в ущерб производительности системы.
А с чего вы взяли, что выгрузка неактивной памяти будет быстрее чем сброс активного файлового кеша? Это было бы верно, если бы алгоритмы сброса кешей и их освобождения были бы шустрыми. А это, как известно, при наличии сигрупп нифига не правда. Включением свопа вы только усугубите проблему сигрупп-зомбей
KrivdaTheTriewe
Выкинь standalone, и катай через rke
Уже существующий можно катать им ?
Yuriy
Уже существующий можно катать им ?
Только так https://rancher.com/blog/2019/2019-01-10-migrating-single-node-2-1-x-to-high-availability/
KrivdaTheTriewe
KrivdaTheTriewe
с двумя мастерами
Solyar
с двумя мастерами
> 2 мастера 👍🏻
Yuriy
у меня ранчером на 3 ноды раскатан
Да без разницы, single node же
Yuriy
Ранчер то на одной стоит
Mikhail [azalio]
@kvaps а линстор умеет утащить копию данных на другой диск автоматически, если сервер где был его ресурс сгорел?
Artem
/report
Sergey
@kvaps
Igorь
Я там вчера спрашивал про vault и sed... В общем, я немного допилил vault-template, чтобы gotemplate всюду было без седа. Есть на гитхабе, есть на докерхабе: https://github.com/aido93/vault-template Сразу пример использования: # command CUSTOMER=myCustomer STAGE=test vault-template -o rendered.yaml -t ~/template.yaml -v "https://vault.example.com" -f token # template {{- $stage := .STAGE}} {{- $customer := .CUSTOMER}} {{- $path := print "kv/data/" $customer "/" $stage "/project/postgres"}} {{- $map := vaultMap $path }} postgresql: {{- range $name, $secret := $map.data }} {{ $name }}: {{ $secret }} {{- end }} # result postgresql: db: postgres host: 127.0.0.1 password: postgres port: 5432 user: postgres Я понимаю, что это гораздо менее безопасно, чем официальный вариант использования волта, но зато предельно просто и для небольших компаний и кучи проектов при наличии CI - самое то. Но может кому-то пригодится...
Mikhail [azalio]
Пока не умеет
ух, как жаль
𝚔𝚟𝚊𝚙𝚜
ух, как жаль
Нужно вручную спавнить ресурс, но в принципе можно наговнокодить скриптик который это будет делать вместо тебя
KrivdaTheTriewe
Только так https://rancher.com/blog/2019/2019-01-10-migrating-single-node-2-1-x-to-high-availability/
Я изучу, просто если я подымал с локальной тачки, а потом хочу сервер смерить , уже не выйдет. , как я понимаю ?
𝚔𝚟𝚊𝚙𝚜
Нужно вручную спавнить ресурс, но в принципе можно наговнокодить скриптик который это будет делать вместо тебя
То есть просто делать: linstor r c --auto-place 4 res_name -s data_pool Где 4 - это необходимое количество реплик включая diskless
KrivdaTheTriewe
Ещё вопрос, с ранчером, он нормально удаляет все за собой , я просто планирую тогда все снести и rke
𝚔𝚟𝚊𝚙𝚜
ну было бы это просто, я думаю они бы уже нафигачили? )
Неа, но можешь написать issue на гитхаб, я думаю они будут рады на него ответить) Я даж плюсик зайду поставить)
KrivdaTheTriewe
Оч странно , что они так сделали , что завязка такая , на ейдж ноду
Yuriy
Если в кластере особо ничего нет, проще грохнуть и рке катнуть
KrivdaTheTriewe
Вообще ничего нет