Eugene
Просто непонятен этот аппетит
Stanislav
для etcd нормально занимать по 10гиг виртуальной памяти на всех нодах, при том, что кластер практически пуст? DB SIZE = 15MB, три ноды.
SBCL загребает 150Т виртуальной памяти при потребности в 4 ГБ обычной памяти, нопремер.
Алексей
Эт ты математику вспомнил?
Stanislav
Да
Andor
Просто непонятен этот аппетит
С каких пор "виртуальная память" стала "аппетит"?
Andrew
И с каких пор она начала кого-то беспокоить?..
Andor
Вот ага
Stanislav
Видимо, vm.overcommit_memory=2 у беспокоящегося.
Алексей
по виртуальной памяти подозреваю что такое поведение обусловленно реализацие зеленых трэдов в go их может быть как бы очень много, и им по сути нужно единое адресное пространство это скорей специфика языка, а не конкретно etcd
MRY
У меня вопрос, у кого-нибудь есть работоспособный кластер с несколькими мастерами на bare-metal или vmware ?
neb0t
Yuriy Полагаю что нету) AWS/Google Cloud/OpenStack/OpenShift, возможно диджиталоекан еще - будут работать. С Боксом или баре-метал костыльное решение получается с 1 кластером на одном сервере. На “поучиться” хватает, но в продакшн такоей велосипед не выкотишь
Andor
прикольный вопрос
neb0t
основной костыль это прокси (балансер). Ингрес и прочее - очень больно настраивать
Anonymous
а чего там больного?
neb0t
на виртуальной коробке я вообще через пару дней данные потерял (Персистант волюм)
Anonymous
хотя да, согласен, вечно доки не актуальные
neb0t
))) ну я настроил ) просто выбешивало то, что в кластере у ноды может быть 30 000 + порт, а мне скажем 55002 нужно было на дженкинс открывать )
neb0t
по этому только клауд стоит брать - к8с проектировался в принципе для клауда
neb0t
ЕС2 + ЕДС + балансер пожалуй все что нужно
neb0t
Это из ряда чтобы по карману не ударило) у гугла старт будет от 280 баксов в месяц (примерно) за к8с. Остальные - я уже не вспомню цены.
MRY
Я просто уже неделю пытаюсь нормальный кластер поднять на BM, и каждый шаг это тонна костылей, не соответсвие документации или ее отсутсивие, сейчас калстер поднялся якобы как но CNI интерфейс почему то поднимается только на одной мастер ноде а не на 3-х как надо. Я уже незнаю что делать.
neb0t
у меня была инструкция на 1.5 где-то. На 1.9 там все кубадмин разруливает
neb0t
MRY
Есть
Ты самый полезный человек
MRY
Ты самый полезный человек
Открой мне тайну, почему из 3-х мастер нод только на одной поднимается cni0 интерфейс. Я из перегружаю тушу, что только не делаю но поднимается только на одной любой из 3-х. Щас скрины даже покажу.
Anton
Kubespray
MRY
MRY
MRY
G72K
Ты самый полезный человек
Тайна простая : Каждый Apiserver должен видеть и уметь подключаться к каждому etcd . Затем каждый kubelet должен видеть и уметь подключаться к каждому apiserver. Все это умеют делать kubespray, typhoon, вручную (советую bootkube чтобы совсем мало руками возиться при таком способе)
G72K
Я честно не помню как интерфейсы должны называться. Но интересное дело - cni0 только на той ноде где есть контейнер (под?) запущеный, может связано?
G72K
Все ноды в ready ?
MRY
да
G72K
Что скейлил?
MRY
dns
G72K
Что пишкт в describe deploy kube-dns?
G72K
(события). Оно поды создает? Или даже поды не создает?
MRY
создаёт
MRY
при попытке скейла он терминирует старый ДНС и запускает на его месте новый под
G72K
Что в describe подов, которые не могут запуститься?
MRY
щас гляну минуту
G72K
Так. В стабилньом состоянии сколько днс подов у вас (запущенных, с ошибками, pending и проч)
MRY
0
MRY
G72K
Ну и где же 0? Вон один вижу
MRY
опечатка
G72K
Бывает. get hpa в том же ns показывает что нибудь?
MRY
kubectl get horizontalpodautoscaler —all-namespaces No resources found.
G72K
Kube dns деплой или демонсет? Кинь весь его ямл прямо из кластера в pastebin
MRY
демонсет
MRY
не Деплоймент
G72K
kubectl describe nodes тоже в pastebin
MRY
G72K
Не, добавь -o yaml
G72K
И потом сделай kubectl scale его
G72K
Взлетело?
MRY
щас чет туплю немнго
MRY
Взлетело?
Все взлетело и интерфейсы появились. Спасибо за помощь.
MRY
G72K
Все взлетело и интерфейсы появились. Спасибо за помощь.
Мы ничего,не поменяли, все уже работало значит
MRY
Да, видимо зря почти 2 дня танцевал вокруг кластера.
MRY
Да, видимо зря почти 2 дня танцевал вокруг кластера.
Осталось победить аутентификацию в Dashboard и базовый кластер готов.
Vadim
всем привет подскажите, хочу настроить кластер на основании 2-х вирутальных машин (мастер+1 воркер) пока для старта, с перспективой роста хочу на 2-х машинах поставить CoreOS из ISO-образа есть ли смысл на мастере еще разворачивать Kubernetes?
Anton
так это ж кластер kubernetes будет из двух машин. что вы имеете ввиду?
Vadim
ну я говорю об этом образе: https://coreos.com/os/docs/latest/booting-with-iso.html он же идет без Kubernetes, на сколько я понимаю
Vadim
там на мастере используется etcd
Vadim
на tectonic смотрел, инсталляция показалась слишком сложной как для старта
Vadim
еще гляну typhoon
Vadim
смотрите в сторну tectonic или typhoon, они на coreos и разворачивают кластер на bare metal
а есть ли смысл на мастере еще разворачивать Kubernetes, не хватит для старта только функционала CoreOS?
Etki
Вы говорите про создание кластера k8s, но при этом говорите про отказ от необходимости разворачивать k8s, это немного контрисключающие положения
Andor
Слово "контрисключающие" ломает мне мозг
Anton
а постановка вопроса "есть ли смысл на мастере еще разворачивать Kubernetes?" не ломает?