Andor
lol
𝚔𝚟𝚊𝚙𝚜
согласен, надеюсь допилят скоро
Andor
насколько мне известно, kube-spray юзает kubeadm
Anton
Можно и так
𝚔𝚟𝚊𝚙𝚜
вон, раньше ha - не умел, теперь умеет
Anton
вон, раньше ha - не умел, теперь умеет
Это серьезное улучшение, я от него отказался по большей части из-за этого
Anton
А cni все ещё самому нужно деплоить?
𝚔𝚟𝚊𝚙𝚜
а че его деплоить то?
Andor
"самому деплоить" это "накатить один манифест"?
Vadim
так а tls bootstrapping он умеет?
𝚔𝚟𝚊𝚙𝚜
генеришь токен, затем ноду добавляешь таким образом: kubeadm join 10.28.36.157:6443 --token vrrush.nwiko64mcjwxn7e8 --discovery-token-ca-cert-hash sha256:d9418e5f6d14cde2c2895df72337ca0db646701429aa2e3ae95833c170b6d749
gh
полезный опыт, стоит изложить на медиуме
кстати да, это печально, но ничего кроме local-volume не подходит, последнее что я сегодня попробовал был GCE, и нигде в доках не найти, только в панели управления, что чем меньше ты делаешь диск, тем меньше скорость записи и IOPS, т.е. если в доках написано 200-400мб/с, то на деле оказалось что если делаешь диск ссд на 20гб то скорость 9мб/с
gh
и например тот же StorageOS, который себя позиционирует как enterprise grade, а на деле скорость записи 80мб/с при одном потоке, и 5-10мб при 8 потоках
gh
единственное что я не попробовал это rook, но его даже в stable хелм чартах нету, и если openebs полный отстой, при том что у него столько разрабов и комьюнити, то явно роок ио будет еще хуже
gh
т.е. я если у меня 25 микросервисор, мне что 50 тарабайтов сделать надо ?
gh
rook это ceph, если чо
ну NFS оказался самым быстрым из всех, вот он единственный кто уперсья в сетку виртуальную, т.е. 125мб/с
Andor
и ещё интересно каким образом ты измерял
gh
ты который из 6 видов дисков пробовал-то?
я пробовал standard и ssd, тот который google persistent disk
𝚔𝚟𝚊𝚙𝚜
> уперсья в сетку виртуальную, т.е. 125мб/с забудь про сетевые фс :)
Andor
короче пиши статью, иначе тебе никто не верит
gh
> уперсья в сетку виртуальную, т.е. 125мб/с забудь про сетевые фс :)
уже сделал локально, только проблема то что похоже драйвер игнорирует название дисков/папок и берет первый попавшийся и маунтит его, но это еще проверяю
gh
ты который из 6 видов дисков пробовал-то?
time sh -c "dd if=/dev/zero of=$th bs=100k count=10k && sync" либо так, либо 8 таких потоков
Stas
я вижу там 240 - 400*
что является пределом хоста где границы зависят от цпу на инстансе, а пер гигабайтные значения йопсов приведены в табличке на строчку ниже
gh
так он тебе любой свободный PV и баундит к твоему PVC
это никак не изменить ? просто я хочю сделать сразу 50 дисков, и чтобы PVC брал по названию диска, иначе придеться по порядку сначала делать один диск и поднимать 1 под
Andor
в амазоне например та же фигня, что если диск маленький, то он медленный
Stas
давайте перед тем как че то мерить почитаем все https://m.habr.com/post/154235/
𝚔𝚟𝚊𝚙𝚜
Михаил
gh
давайте перед тем как че то мерить почитаем все https://m.habr.com/post/154235/
я запускал монгодб на всем этом, у меня простой запрос count выполнялся 3-4 секунды, при 15млй записях в базе, на простом диске 20ms
gh
короче, никто меня не переубедит что сетевые диски это быстро
𝚔𝚟𝚊𝚙𝚜
на каждый PVC подбирается максимально подходящий PV, так что они даже разных размеров могут быть
gh
подними сам рил ворлд апликацию и убедись
Andor
иметь гигабайтную сеть и удивляться что она даёт 120мб/с, в отличие от локального, который под 500мб/с
gh
вы видели провайдеров кто дает 10 гигабитную сеть ? ) ну так чтобы заплатил кредиткой и получил продукт ?
Andor
aws даёт до 25гбит сеть
gh
хмм, это уже интересно
gh
кстати, digitalocean volumes были быстрые даже если маленькие, но проблемы с ними я уже выше описывал
Andor
какие?
gh
какие?
ты про то какие проблемы ?
𝚔𝚟𝚊𝚙𝚜
@ghst0, бери DO волумы и используй их многоразово через subPath
gh
@ghst0, бери DO волумы и используй их многоразово через subPath
не буду рисковать уже, сдача проекта вчера уже, сделаю локально, но 25гбит сетка в aws это интересно
Никита
time sh -c "dd if=/dev/zero of=$th bs=100k count=10k && sync" либо так, либо 8 таких потоков
Ну fio же, 2к18 на дворе, той статье Amarao уже лет шесть.
Stas
Ну fio же, 2к18 на дворе, той статье Amarao уже лет шесть.
и что фио за 6 лет перестал быть верным тестом?
Sergey
time sh -c "dd if=/dev/zero of=$th bs=100k count=10k && sync" либо так, либо 8 таких потоков
Кто-то сделайте этому господину глубокий пенитрейшин
𝚔𝚟𝚊𝚙𝚜
Свят-свят.
ну вопрос с baremethal loadbalancer'ом для control plane так и не закрыт
Никита
А что kubespray в качестве LoadBalancer использует?
Кубпрокси этим заведует же. Создаёшь сервис с скастерайпи, он вешается на всех нодах на лупбек, на каждой ноде конфигурится ipvs (или iptables), всё.
𝚔𝚟𝚊𝚙𝚜
Первый в списке мастер
если первый мастер сляжет api-server недоступен окажется
Никита
и что фио за 6 лет перестал быть верным тестом?
Это я так эмоционально призвал к использованию fio.
𝚔𝚟𝚊𝚙𝚜
f5 big ip
вы сейчас серьезно?
Никита
если первый мастер сляжет api-server недоступен окажется
Щас найду, там на каждой ноде нжникс с бакендами из аписерверов.
Stas
вы сейчас серьезно?
нет, но вообще у ф5 для куба есть свой контроллер - там и ингресс контроллер и лойд балансер сервис тип и че только нет
Stas
я хотел поиграться, но сетевики зажали ф5 на эксперименты(
Михаил
Andor
их даже я знаю
Sergey
да, да, в теории ты лев толстой
Для людей, кто делает тест производительности дисковой одним dd отдельный котел в аду, так ещё и не знаете что дд сам умеет писать с синком
Andor
а я так себе умный
Никита
если первый мастер сляжет api-server недоступен окажется
https://github.com/kubernetes-incubator/kubespray/blob/master/docs/ha-mode.md
Andor
а metallb кстати умеет ecmp?
Никита
См. Kube-apiserver.
gh
Кто-то сделайте этому господину глубокий пенитрейшин
а на деле ты Сергей из Санкт Питербурга 89 года рождения
Михаил
а я так себе умный
но вообще раз 15 уже говорилось и тут в том числе что kubelet смотрит в localhost на локалхост haproxy в haproxy API ????? PROFIT