посоветуйте, пожалуйста материалы и ресурсы по Spark Scalable Deployment using Kubernetes

Доклад на kubecon был

спасибо

Я загуглил то, что вам написал и ссылка была на первой странице

Я загуглил то, что вам написал и ссылка была на первой странице

Ну если значть какую конкретно ссылку искать, то можно быстро найти, я до неё не дошел.

Всем привет! Поделитесь пожалуйста своими кейсами по резервному копированию баз данных в k8s? К примеру mongodb

Всем привет! Поделитесь пожалуйста своими кейсами по резервному копированию баз данных в k8s? К примеру mongodb

Все сложно

Главное делать бэкапы етцд

Куберовского

Главное делать бэкапы етцд

А что не ямлы?

Это шутка

Все сложно

Мне вот в голову приходит например через gitlab-ci интегрированым с k8s запускать пайплайн, который при помощи kubectl и скриптов делает бэкапы и сливает их в хранилище. Но это как то костыльно мне кажется. Думал может есть уже готове прямые решения

https://github.com/mongodb/mongodb-enterprise-kubernetes вроде говорит что умеет бэкапить

Мне вот в голову приходит например через gitlab-ci интегрированым с k8s запускать пайплайн, который при помощи kubectl и скриптов делает бэкапы и сливает их в хранилище. Но это как то костыльно мне кажется. Думал может есть уже готове прямые решения

есть же крон в кубере

есть же крон в кубере

а ты юзал?

https://blog.quentin-machu.fr/2018/06/24/5-15s-dns-lookups-on-kubernetes/

Вот тут хорошо описано

а ну выше кидали, да

вместо containderd просто поставил докер

Не проще уж по инструкции containerd и заюзать? Я таким путем сходил и пока доволен

Не проще уж по инструкции containerd и заюзать? Я таким путем сходил и пока доволен

Хотел на докере попробовать , щас если не получится, то его юзну

Не проще уж по инструкции containerd и заюзать? Я таким путем сходил и пока доволен

Тут на самом деле все странно, я консоль не закрывал, пока настраивал 3 мастера, щас во время инициализации нод смотрел - вообще разное , хотя ос и все шаги одинаковые, бред какой то

Ну просто судя по подходу "хочу самую свежую версию докера" - вот, возьми самую свежую версию containerd, которая как раз проверена с k8s последним на совместимость, в отличие от последнего докера

Ноды ругаются на отсутствие ip_vs, мастера не ругались

Containerd образы тянет с хаба докера?

Разумеется

щас тогда начну заново)

Там инструкция эта в статье... не на 100% Но хотя б понятная

йоу. у меня есть nginx-ingress, deployment+ service, Azure KS

у него есть, разумеется, внешний публичный IP

как мне ему сделать второй? чтобы не использоваться host based routing

как мне ему сделать второй? чтобы не использоваться host based routing

Второй nginx завести?

Кто нибудь сталкивался с такой проблемной? на одной из нод, примерно через 40-50 минут после запуска контейнера с него пересаёт пинговаться физическая сетка нод. Настройки одинаковые, в логах тоже ничего необычного. Я даже уже перенакатывал кластер, но проблема на одной конкретной ноде не решается.

убиваю контейнер с weave, начинает пинговаться

Как может эта проблемы быть привязана к одному серверу?

/report

Как может эта проблемы быть привязана к одному серверу?

без tcpdump тяжело

Кто нибудь сталкивался с такой проблемной? на одной из нод, примерно через 40-50 минут после запуска контейнера с него пересаёт пинговаться физическая сетка нод. Настройки одинаковые, в логах тоже ничего необычного. Я даже уже перенакатывал кластер, но проблема на одной конкретной ноде не решается.

только ICMP или еще udp/tcp?

Разумеется

а у тебя дашбоард становиться нормально ? kube-system kubernetes-dashboard-767dc7d4d-997mk 0/1 ImagePullBackOff 0 1m 10.244.3.2 kube-node01 <none>

Нужно ждать когда опять отвалится чтобы проверить)

Второй nginx завести?

второй контроллер? и аннотациями выбирать нужный?

нужент poststop для пода какие варианты есть?

пока из рабочих вижу в prestop генерить таск в at

а где он будет запускаться?

хост машина

я про таск

pod в кластере на бареметал

пропихивать at на хост будешь?

а в чем смысл затеи?

собственно зачем мне это есть толстая база в проде есть ее живая реплика на thin volume под в init контейнере создает снапшот и монтирует запускается контейнер с базой и этим снапшотом тестировщики и дев счастлив под прибивается нужно прибраться вот как прибраться и думаю

local volume provisioner может прибираться за тебя, только ему нужно заранее намонтировать в /mnt/disks

там вроде есть фича что он сам может

только включить надо

а у тебя дашбоард становиться нормально ? kube-system kubernetes-dashboard-767dc7d4d-997mk 0/1 ImagePullBackOff 0 1m 10.244.3.2 kube-node01 <none>

Да, все ок. Все просто поставилось и работает

снапшоты он тоже удалит сам?

снапшоты он тоже удалит сам?

ему можно намутить свой reclaim механизм (скрипт) через configmap

Да, все ок. Все просто поставилось и работает

Фу блин, а чего он у меня ругается , давно ставил ?

ладно, гляну сейчас может и подойдет

Фу блин, а чего он у меня ругается , давно ставил ?

2 месяца назад. 1.11 куб и контейнерд последний на тот момент

2 месяца назад. 1.11 куб и контейнерд последний на тот момент

я подумал, что вы на днях строили систему...

Ну зайди на ноду и смотри лог самого containerd, он понятный

они в var/log?

Ну зайди на ноду и смотри лог самого containerd, он понятный

Как всегда ) спасибо Failed to pull image "k8s.gcr.io/kubernetes-dashboard-amd64:v1.10.0": rpc error: code = Unknown desc = failed to resolve image "k8s.gcr.io/kubernetes-dashboard-amd64:v1.10.0": k8s.gcr.io/kubernetes-dashboard-amd64:v1.10.0 not found

да, похоже подойдет, спасибо

нужент poststop для пода какие варианты есть?

Официальный postStop это finalizers

они в var/log?

Они в journalctl -u containerd -e если у тебя нормальный дистрибутив

про finalizers знаю, но не сильно углублялся в механизм у меня объект для чистки вне кубернетеса, есть сомнения что он мне поможет

про finalizers знаю, но не сильно углублялся в механизм у меня объект для чистки вне кубернетеса, есть сомнения что он мне поможет

Наоборот поможет. увидели что надо финализировать под. Под уже terminated, просто запись в аписервере осталась, пошли вовне, почистили за подом, обновили ему статус что "чистильщик 1 готов" , убрали себя из списка финалайзеров

Куб дальше под запись удалит

а как сам finalizer описать?

только ICMP или еще udp/tcp?

Вот так когда сеть работает 13:00:14.825655 IP ubuntu-7d5f65cd87-q9mrr > ya.ru: ICMP echo request, id 564, seq 1, length 64 13:00:14.833463 IP ya.ru > ubuntu-7d5f65cd87-q9mrr: ICMP echo reply, id 564, seq 1, length 64 а вот так, когда уже нет 14:20:26.824498 IP ubuntu-7d5f65cd87-q9mrr > google-public-dns-a.google.com: ICMP echo request, id 580, seq 1, length 64 14:20:27.823855 IP ubuntu-7d5f65cd87-q9mrr > google-public-dns-a.google.com: ICMP echo request, id 580, seq 2, length 64 14:20:28.823857 IP ubuntu-7d5f65cd87-q9mrr > google-public-dns-a.google.com: ICMP echo request, id 580, seq 3, length 64

что-то в механизме weav ломает нат спустя какие-то время?

а как сам finalizer описать?

Это просто строчка, которую кто-нибудь должен убрать прежде чем объект удалится

ну не по крону же ходить в api в поисках подготовленных для удаления подов

это скорей идет речь про CustomResource тоесть можно наваять свой контроллер + api который будет этим заниматься по идее это более правильный вариант, но задачка у меня локальная думаю at будет сильно проще

А кто-нибудь DEX прикручивал с LDAP?

ну не по крону же ходить в api в поисках подготовленных для удаления подов

Ну какой нибудь контроллер :)

это скорей идет речь про CustomResource тоесть можно наваять свой контроллер + api который будет этим заниматься по идее это более правильный вариант, но задачка у меня локальная думаю at будет сильно проще

Из пода давать запускать произвольный код на хосте тоже не очень хорошо

А кто-нибудь DEX прикручивал с LDAP?

https://t.me/kubernetes_ru/77600

хотя если озадачится можно реально зафигачить свой ресурс под такого рода задачи тем более в разработке и тестировании задача всплывает достаточно часто ну кластер мой ) хосты тоже мои) код не произвольный а тщательно выверенный, да и в общем то мне его не обязательно запускать на хосте достаточно контейнера с правами на mount диска и операции с lvm

и в любом случае я это прибиваю по хосту

смотрите что нарыл Не рабочие пинги 10.36.0.13 > 8.8.8.8: ICMP echo request, id 593, seq 72, length 64 18:07:07.118909 IP (tos 0x0, ttl 64, id 46872, offset 0, flags [DF], proto ICMP (1), length 84) 10.36.0.0 > 8.8.8.8: ICMP echo request, id 593, seq 72, length 64 18:07:07.118911 IP (tos 0x0, ttl 64, id 46872, offset 0, flags [DF], proto ICMP (1), length 84) 10.36.0.0 > 8.8.8.8: ICMP echo request, id 593, seq 72, length 64 18:07:07.118918 IP (tos 0x0, ttl 64, id 46872, offset 0, flags [DF], proto ICMP (1), length 84) 10.36.0.0 > 8.8.8.8: ICMP echo request, id 593, seq 72, length 64 Рабочие пинги 10.36.0.14 > 8.8.8.8: ICMP echo request, id 3295, seq 5, length 64 18:08:07.502037 IP (tos 0x0, ttl 64, id 36915, offset 0, flags [DF], proto ICMP (1), length 84) 10.36.0.14 > 8.8.8.8: ICMP echo request, id 3295, seq 5, length 64 18:08:07.502068 IP (tos 0x0, ttl 63, id 36915, offset 0, flags [DF], proto ICMP (1), length 84) 172.16.1.5 > 8.8.8.8: ICMP echo request, id 3295, seq 5, length 64 18:08:07.504424 IP (tos 0x0, ttl 118, id 20394, offset 0, flags [none], proto ICMP (1), length 84) 8.8.8.8 > 172.16.1.5: ICMP echo reply, id 3295, seq 5, length 64 18:08:07.504445 IP (tos 0x0, ttl 117, id 20394, offset 0, flags [none], proto ICMP (1), length 84) 8.8.8.8 > 10.36.0.14: ICMP echo reply, id 3295, seq 5, length 64 18:08:07.504451 IP (tos 0x0, ttl 117, id 20394, offset 0, flags [none], proto ICMP (1), length 84) 8.8.8.8 > 10.36.0.14: ICMP echo reply, id 3295, seq 5, length 64

откуда могло взяться это 10.36.0.0