Никита
та мне пофиг как хотите так и храните
Да там нет сарказма, мне рили интересно, что люди используют.
Михаил
я продолжаю считать, что куб не для stateful вещей
G72K
Да там нет сарказма, мне рили интересно, что люди используют.
Выбор небольшой: кластерные базы (Кассандра, монга), либо SQL с репликацией и фейловером
𝚔𝚟𝚊𝚙𝚜
И local-volumes
𝚔𝚟𝚊𝚙𝚜
Я достаточно модный? :)
Михаил
Я достаточно модный? :)
Твои вкусы весьма спецефичны
𝚔𝚟𝚊𝚙𝚜
На самом деле я очень дофига SDS попробовать успел, включая самые экзотические
Stas
На самом деле я очень дофига SDS попробовать успел, включая самые экзотические
можно подробнее про вендорские решения. кого пробовали?
𝚔𝚟𝚊𝚙𝚜
Не сказать что я всем доволен в Linstor, но архитектурно оно самое безопасное, к тому же показывает очень неплохую производительность.
𝚔𝚟𝚊𝚙𝚜
можно подробнее про вендорские решения. кого пробовали?
Предпочтение отдавалось в основном OpenSource-проектам: Ceph, BeeGFS, Lustre, RozoFS, Sheepdog, LizardFS
Михаил
фига ты
Stas
а ну я в опенсорсные сдс совсем не верю - это одна из немногих вещей где я считаю надо заплатить
𝚔𝚟𝚊𝚙𝚜
DRBD я тоже научился не сразу готовить
𝚔𝚟𝚊𝚙𝚜
ceph норм, если не обновлять
Для интенсивной записи/чтения он не годится. Или нужно очень много ресурсов на него
Stas
у меня есть много клиентских историй про проебанные данные на сефе из прошлого опыта
Stas
я не знаю, что там с сефом который блустор бэкенд, но мои знания мне подсказывают что любая дичь, которая натягивает себя поверх файловой системы имеет оверхеды
Stas
capex opex на сеф тоже по юнит экономике нерадужные
Anonymous
С чего посоветуете начать изучать k8s, не в бой что бы сразу было
Никита
С чего посоветуете начать изучать k8s, не в бой что бы сразу было
Ещё курс есть вот: https://www.edx.org/course/introduction-to-kubernetes
Михаил
Для интенсивной записи/чтения он не годится. Или нужно очень много ресурсов на него
для высоких нагрузок ресурсов много требуется эт факт вообще смотря для чего ceph мы пользуем для RGW (s3-like ) и кроме как ceph у нас других вариантов нет из опенсорс разве что писос, который поверх касандры но смысла на него ливать опять таки нет потому что в писосе paxos
Stas
Bluestor не сильно спасает, если что
меня интересуют только решения, которые отдают блочное устройство, в идеале они дожны отдавать его напрямую с себя, а не нарезать какие нибудь qcow2 поверх своей фс
𝚔𝚟𝚊𝚙𝚜
Только он сыроватый пока
Stas
я бы еще конечно хотел все нормальные вендорские вещи: автоматический тиринг, дедупликацию, онлайн компрессию, эрейжа кодинг для холодных данных
Никита
Тогда Linstor тебе отлично зайдет
Блин, пошёл гуглить и нашёл твою статью)
Stas
то есть сдс на мой взгляд это последний рубеж где опенсорс решения все сильно всратые
𝚔𝚟𝚊𝚙𝚜
меня интересуют только решения, которые отдают блочное устройство, в идеале они дожны отдавать его напрямую с себя, а не нарезать какие нибудь qcow2 поверх своей фс
Вот я тоже к такому выводу пришел. В качестве бекэнда у него обычный lvm, или zvol. В случае если что-то пойдет не так всегда можно смаунтить как обычный волум.
Stas
Тогда возможно тебе будет интересен StorPool, но говорят он очень дорогой
только хотел написать, что видел их реальные результаты по скорости - там космос
𝚔𝚟𝚊𝚙𝚜
я бы еще конечно хотел все нормальные вендорские вещи: автоматический тиринг, дедупликацию, онлайн компрессию, эрейжа кодинг для холодных данных
Есть, кстати очень интересная RozoFS - она чисто под Ereasure Coding заточена. В прод я ее не рекомендую, но посмотреть на нее стоит. У нее очень интересная архитектура. Например под каждый bucket может быть заюзанно только строго определенное количество нод: 4, 8 или 16 (не больше и не меньше) Когда одна из нод падает - нет никакой репликации, недостающие данные просто вычисляются на оставшихся нодах в момент обращения.
𝚔𝚟𝚊𝚙𝚜
Наверное самое экзотическое что я пробовал, не считая sheepdog)
Stas
на нем лучше холодные данные хранить
𝚔𝚟𝚊𝚙𝚜
Да, тем более там FUSE
Anonymous
c linux
Смешно, может тогда с включения пк?
Sergey
Смешно, может тогда с включения пк?
неа, не смешно, а правда люди идут в кубер когда базы по линю нет:)
Sergey
но если вы не из таких, то это не к вам:)
Alexey
Коллеги подскажите плиз, поднимаю кубер с помощью kubeadm в учебных целях ноды 3 мастера 3 воркера все в статусе ready, но в логах kubelet на всех нодах есть ошибка Failed to get system container stats for "/system.slice/kubelet.service": failed to get cgroup stats for "/system.slice/kubelet.service": failed to get container info for "/system.slice/kubelet.service": unknown container "/system.slice/kubelet.service" ничего путного пока не нагуглил :( подскажите куда копнуть если знаете
Alexey
centos
𝚔𝚟𝚊𝚙𝚜
А какой runtime используете? Как кластер ставили?
𝚔𝚟𝚊𝚙𝚜
Cgroups драйвер одинаковый для docker и kubelet?
Alexey
docker 1.13.1 кубер 1.12.2 ставил kubeadm 1.12.2
Alexey
KUBELET_KUBEADM_ARGS=--cgroup-driver=systemd --network-plugin=cni
𝚔𝚟𝚊𝚙𝚜
А контейнеры вообще создаются/запускаются?
Alexey
да контейнеры запущены
Alexey
поды тоже живые есть
Alexey
это и смущает
Alexey
внешне всё в порядке
Alexey
напрягает только лог :)
𝚔𝚟𝚊𝚙𝚜
Тогда в чем проблема? xD у меня вон тоже azure драйвер ругается в 1.12
𝚔𝚟𝚊𝚙𝚜
Проблема в том, что у меня не azure)
Alexey
смущает что каждые 10 секунд в логе такие сообщения
𝚔𝚟𝚊𝚙𝚜
Проверь еще какой докер использует cgroups драйвер
𝚔𝚟𝚊𝚙𝚜
На всякий случай
Alexey
--exec-opt native.cgroupdriver=systemd \
𝚔𝚟𝚊𝚙𝚜
docker 1.13.1 кубер 1.12.2 ставил kubeadm 1.12.2
Ещё попробуй обновить докер до 18.06
Alexey
сейчас попробую
Alexey
спасибо
Alexey
Ещё попробуй обновить докер до 18.06
Похоже помогло, ещё раз спасибо
𝚔𝚟𝚊𝚙𝚜
👍
Anton
👍
я тут давеча читал пост про развертывание кластера rancher, у человека в блоге, с такой же авой, это не ты случайно?
𝚔𝚟𝚊𝚙𝚜
Очень интересно, а точно rancher?
Anton
может и k8s
𝚔𝚟𝚊𝚙𝚜
да какая разница 😉
Anton
у меня вопрос про nfs volume. )
Anton
как их лучше готовить, подкинешь мб что почитать ?)
Anton
да какая разница 😉
Я пока играюсь (могу тупить сильно) но почему то решил что ранчер не нравится мне (после его установки, тестов) и воспользовался kubespray, установка 2 мастера, 3 воркера в квм на проксмоксе, все на разных хостах физически и в кластере ha для нод с миграцией по 3 хостам. Это нормальное решение вообще?
Stas
@kvaps https://storpool.com/blog/storpool-storage-performance-test-3-nvme-storage-servers-0-06ms-latency фарш полный, rdma вся фигня
Stas
и драйвер для куба зарелизили вроде