у меня в messages на centos пусто

а где вы разворачиваете кластер? на своем железе или в облаке?

я пока в вагранте kubeadm пробую

а как-то откатить всё назад можно, чтобы снова запустить?

я контейнер сносил и заново создавал. но не добился пока запуска. судя по всему там lxc сильно ограничивает его чем-то. по идее на vagrant там не должно быть проблем этих, т.к. это цельная виртуальная машина

в вагранте?

я читал что сейчас рекомендованный метод minikube

я контейнер сносил и заново создавал. но не добился пока запуска. судя по всему там lxc сильно ограничивает его чем-то. по идее на vagrant там не должно быть проблем этих, т.к. это цельная виртуальная машина

не должно быть, я уже пару раз дожидался завершения

полчаса где-то занимало, но блин, что столько времени делать

на амазоне минут за 10 кластер поднимался.

я на DO поднял.. но думаю о переезде в линоду

а вот эти оговорки о том, что kubeadm не для продакшена - что может пойти не так, если у меня таки кластер развренулся?

указал конкретный IP и всё стартовало за пару минут

и с kubeadm просто так не собрать HA с несколькими мастерами и HA etcd как я вижу

Потом если что воркер ноду новую добавить кластер просто?

ну мне не воркер ноду надо, а 3 мастера, на которых можно таски потом запустить :)

там 2 типа

контроллер нода и воркер ноды

я так понимаю, я контроллер ноде могу сказать - запускай сервисы на контроллер нодах тоже

я хз

ну и на закуску, weave по инструкции не стартует. Ладно, туториалы хорошо, надо разбираться как это работает и куда смотреть :)

у меня graphena почему-то не видит данные в influxdb

у меня graphena почему-то не видит данные в influxdb

> graphena звучит как заболевание

grafena

?

бля grafana

http://grafana.org

Аграфена

это если сервера... если проект деплоится через CI то она применяет деплоймент и коммитит изменения (версию образа изменившегося обновляет в файле)

Есть стейтфул контейнеры, хелперы и прочее, их не закинешь в репу к аппу. Видимо нужно будет просто хранить в другой репе

расскажите про сетку в k8s, пожалуйста. у нас приложение упиралось в docker-proxy и работало хорошо только с —net=host. В случае с k8s - что по производительности стоит брать? Я так понимаю, calico/openvswitch - ок?

расскажите про сетку в k8s, пожалуйста. у нас приложение упиралось в docker-proxy и работало хорошо только с —net=host. В случае с k8s - что по производительности стоит брать? Я так понимаю, calico/openvswitch - ок?

если не секрет, какие объемы данных (количество соединений/трафик), чтобы упереться в docker-proxy? У нас на один сервер где-то 1500-2000 активных websocket соединений по 60-90 на один контейнер. Пока не упирались.

слушайте, где-то в каких-то конфигах видел то ли в анотации, то ли где-то еще возможность запускать команды при запуске контейнера в нем... не обратил внимания а щас вот потребовалось и не могу вспомнить

ну то есть не через "command: my-supercool-script.sh" а в описании контейнера )

оно? http://kubernetes.io/docs/user-guide/production-pods/#handling-initialization

да, похоже, спасибо

а есть ли что-то подобное для deployment ?

так это в deployment можно использовать

deployment это же контейнер для pod

все что можно указать в pod, то можно указать и в под внутри deployment

а, походу не подходит - там предлагают запустить контейнеры другие ДО контейнера пода, а не выполнить команды в уже запущеном контейнере пода

т.е. тебе нужно после инициализации пода и контейнера запустить?

угумс, одну команду выполнить (в базовом образе не установлен нужный мне модуль)... решил созданием нового образа но как по мне это избыточно... в общем ладно, проехали, сори что отвлекаю )

угумс, одну команду выполнить (в базовом образе не установлен нужный мне модуль)... решил созданием нового образа но как по мне это избыточно... в общем ладно, проехали, сори что отвлекаю )

если найдешь как - напиши, мне тоже очень интересно)

sh-скрипт который через configmap прогружается и запускается на entrypoint как вариант - я так с эластиком делал

но костыли )

если не секрет, какие объемы данных (количество соединений/трафик), чтобы упереться в docker-proxy? У нас на один сервер где-то 1500-2000 активных websocket соединений по 60-90 на один контейнер. Пока не упирались.

Предположим, на контейнер придет 10к коннектов персистентных

я примерно прикидываю наши нагрузки и то, как мы будем скейлиться

оффтоп: запустил kube-lego, наконец-то получил бенефит от создания кубернетеса а не просто "ну да, ну да... хз это можно было и в XYZ сделать без проблем"

если не секрет, какие объемы данных (количество соединений/трафик), чтобы упереться в docker-proxy? У нас на один сервер где-то 1500-2000 активных websocket соединений по 60-90 на один контейнер. Пока не упирались.

выяснил, жрало цпу и текла память у docker-proxy

выяснил, жрало цпу и текла память у docker-proxy

интересно, пока не сталкивались. есть еще один хост, там nginx + node.js. В пик обрабатывает около 6000 запросов в секунду. Тоже через docker-proxy.

10к коннектов при тестах было

но трафика не очень много

а лимит net.nf_conntrack_max поднят?

net.nf_conntrack_max = 262144 на хосте

есть большая вероятность, что в него упор. когда у нас до 5000 запросов в секунду на nginx приходило уперлись в лимит установленный на 1048576

в это время сильно вырастает нагрузка на cpu и в syslog падает множество сообщений о дропнутых пакетах

ага, спасибо, стоит посмотреть

блин, во всех мануалах "как переключи логи из google cloud logging в elasticsearch" написано: "создайте новый кластер запустив setup.sh с флагом KUBE_LOGGING_DESTINATION=elasticsearch" а че делать если уже есть существующий кластер :( чем-то напоминает "если к вам неожиданно пришли друзья и вы не успели ничего приготовить - нестрашно, пошлите слугу на рынок..."

@vkfont https://github.com/kayrus/elk-kubernetes

ничего переключать не надо

как только Kibana заработает, тогда выключай GCL

не, мне надо чтобы stdout контейнеров (fluentd) посылался в эластик автоматом

кластер из эластика и гуя кибаны у меня итак есть

ну так оно и работает

а чем логи с контейнеров собираете?

просто заигнорь поднятие EK стэка

ERROR: S client not available

и оставь fleunt

https://github.com/kayrus/elk-kubernetes/blob/master/es-fluentd-ds.yaml

само собой контейнер сам можешь собрать ,а не использовать мой

Dockerfile здесь https://github.com/kayrus/elk-kubernetes/tree/master/docker/fluentd

попробую, спс

не зря время на логи тратил.

то есть по факту надо просто fluentd свой поднять который на эластик смотрит и прибить старый?

да

че-то как-то легко... подозрительно :) (шутка)

ну я значительное время потратил на то, чтобы правильный fluentd конфиг состряпать. он отвечает моим требованиям, но зато содержит примеры, которые никому не мешают

а где старый fluentd искать?

$ kubectl --namespace=kube-system get pods NAME READY STATUS RESTARTS AGE default-http-backend-40jhh 1/1 Running 0 2d heapster-v1.2.0-2328783301-1zj74 2/2 Running 0 2d kube-dns-v19-e0uka 3/3 Running 0 2d kube-dns-v19-hc0fc 3/3 Running 0 2d kube-lego-3129421299-018gk 1/1 Running 0 2d kube-proxy-gke-edissons-default-pool-abd1b1de-5pf4 1/1 Running 0 2d kube-proxy-gke-edissons-default-pool-abd1b1de-aefq 1/1 Running 0 2d kube-proxy-gke-edissons-default-pool-abd1b1de-e73x 1/1 Running 1 2d kube-proxy-gke-edissons-default-pool-abd1b1de-lho2 1/1 Running 0 2d kube-proxy-gke-edissons-default-pool-abd1b1de-tae0 1/1 Running 0 2d kubernetes-dashboard-v1.4.0-ja905 1/1 Running 1 2d nginx-ingress-controller-gyjao 1/1 Running 0 2d

а как контейнерам сказать чтобы они драйвер fluentd юзали?

у меня docker по дефолту

пишет файлы в лог на ФС

fluentd эти логи подхватывает

ничего перезапускать и переконфигурировать не надо

> а где старый fluentd искать? а он есть?

ну хз я думал через него в google logging посылает

к сожалению, без понятия как google logging работает

ладно, не гружу, пойду поковыряю, спасибо за репу )

Я сейчас пилю prometheus+grafana

кстати не в курсе нужен ли heapster с cadvisor в этом случае

Покажешь потом, мне интересен prometheus.

привет, а можно как то ограничить чтобы на ноду не устанавливались поды, кроме подов с определенными лайблами

т.е. сделать ограниченные ноды, только для определенных задач?

с помощью Node affinity?

только в 1.4 http://kubernetes.io/docs/user-guide/node-selection/#alpha-features-affinity-and-anti-affinity

да, у меня 1.4 и есть, спасибо, поизучаю

т.е. сделать ограниченные ноды, только для определенных задач?

вообще правильнее для подобных целей использовать taints/tolerations https://github.com/kubernetes/kubernetes/blob/master/docs/design/taint-toleration-dedicated.md