И продолжая тему выходных и видео с конференций. Только вчера закончился KubeCon + CloudNative Con 2018 — Copenhagen, и уже доступны видео. Плейлист: https://goo.gl/7vwCc3 Сайт конференции: https://goo.gl/wscHfP

как проще всего реализовать Canary тестирование, отделив лишь малый процент запросов? используется nginx ingress. если это делать запуском двух деплойментов, то придется запускать 9 продакшн и 1 cannary реплики для выделения 10% запросов. это очень много накладных расходов. предлагают еще использовать istio, но это оверкилл. еще есть шкипер (https://zalando.github.io/skipper/kubernetes/ingress-controller/), но тоже не особо охото запускать еще один ингресс. кто нибудь может предложить другие варианты?

Запустите на фронтенде пару или больше pod'ов с haproxy, в configmap к которому положите конфиг с balance roundrobin; поставьте weight 10 для canary и weight 90 для текущего продакшна. Вроде ваш кейс решить должно.

господа, вот меня чет немного не устраивает, что выдача списка подов\деплойментов\чего бы то ни было иногда затягивается на несколько секунд. это норма или что-то подкрутить можно? что мешает связке kubectl + apiserver выдавать список за доли секунды?

господа, вот меня чет немного не устраивает, что выдача списка подов\деплойментов\чего бы то ни было иногда затягивается на несколько секунд. это норма или что-то подкрутить можно? что мешает связке kubectl + apiserver выдавать список за доли секунды?

У меня обычно всегда все нормально. Стоит учесть тот факт что запрос от kubectl к API идет по протоколу http. Нужно удостоверится, что запросу ничего не мешает

У меня обычно всегда все нормально. Стоит учесть тот факт что запрос от kubectl к API идет по протоколу http. Нужно удостоверится, что запросу ничего не мешает

А сколько у вас экземпляров etcd?

К примеру может проходит фильтрация запроса через фаирволл и т.д и иногда эта операция отрабатыватся чуть дольше и т.д.

А сколько у вас экземпляров etcd?

Эксперементировал с 3-мя

Вообще 3 мастер ноды

Проходит разве что через амазоновский nlb, но и до его появления залипало

Вообще 3 мастер ноды

А у меня пока одна и 3 etcd ноды

Эксперементировал с 3-мя

Как вообще влияет рост etcd кластера на производительность?

Как вообще влияет рост etcd кластера на производительность?

Не могу сказать, так как в продакшен-среде еще не запускал кластер. Но в моем представлении все должно работать как и с одним экземпляром etcd. По факту etcd только передают свою конфигурацию друг другу, а на работу api, это не как не должно влиять

Я бы посоветовал последить за запросами от kubectl до api k8s. Если к примеру вы убедились что запрос дошел до api k8s без задаржек, а при обработке его самим api идет задержка, то тогда нужно разбиратся где кроется проблемма

Я бы посоветовал последить за запросами от kubectl до api k8s. Если к примеру вы убедились что запрос дошел до api k8s без задаржек, а при обработке его самим api идет задержка, то тогда нужно разбиратся где кроется проблемма

Благодарю за советы

Благодарю за советы

Незачто. Может еще кто что посоветует.

Если у аписервера есть лимиты на CPU , то уберите их, будет шустро отдавать списки ресурсов

запускайте kubect в дебаг режиме и увидите на котором из рест запросов тормозит

флаг там кажется -v=8

Если у аписервера есть лимиты на CPU , то уберите их, будет шустро отдавать списки ресурсов

таки есть, сейчас уберу

хм, а вроде это помогло, спасибо

Такая же история была с knife для chef сервера, тоже бесило что подтупливало.

таки есть, сейчас уберу

А при обновлении кластера не перетрется?

А при обновлении кластера не перетрется?

Не, я об этом позаботился

Каким образом? (так, для образования)

Всем привет! Помогите разобраться )) включаю RBAC. использую flannel пытаюсь применить вот это: https://github.com/coreos/flannel/blob/master/Documentation/k8s-manifests/kube-flannel-rbac.yml на что получаю: "error validating data: ValidationError(ClusterRoleBinding): unknown field "namespace" in io.k8s.api.rbac.v1beta1.ClusterRoleBinding; if you choose to ignore these errors, turn validation off with —validate=false" решил, что раз unknown field "namespace", то уберу его совсем. убрал. теперь ошибка: " ClusterRoleBinding.rbac.authorization.k8s.io "flannel" is invalid: subjects[0].namespace: Required value" т.е. теперь namespace просит указать. что то я не пойму, когда он был указан, он не нравился. убрал - оказалось надо указать. как быть?

а если с —validate=false создать, поле namespace будет заполнено?

да, дефолт

хз, эмм а если теперь через edit, namespace на kube-system поменять? )))

версии kubectl и серверных компонент различаются?

всем привет есть kubernetes кластер 1 master + 2 secondary nodes я создаю pod например с ubuntu и запускаю его на кластере смотрю к-во доступной оперативной памяти и вижу, что используется только память одной secondary node подскажите, один pod можно запускать только на какой-то конкретной ноде или просто в параметрах пода можно указать, что нужно больше памяти оперативной и тогда будут использоваться обе ноды?

В контроллере можно указать кол-во реплик

контейнер не может использовать память сразу двух нод

https://www.digitalocean.com/products/kubernetes/

Кто нибуть уже пробовал?

Я зааплаился, но они пока не прислали ничего

Я зааплаился, но они пока не прислали ничего

Давно было?

Вчера вроде :)

Или позавчера

Понял) Ну если что ответят дай плиз знать)

у кого gitlab-runner с executor=kubernetes? Нет периодических проблем с dns?

у кого gitlab-runner с executor=kubernetes? Нет периодических проблем с dns?

В докере были проблемы с коннектом к докеру через юникс-сокет, при переходе на кубер проблемы отпали

ci перезапускать приходится постоянно, не могу понять, что за проблема

а лог есть?

думаю лучше в чяте гитлаба спрашивать про это

cannot resolve host - то к обращению к репе, то к какому-нибудь гитхабу.ком .... больше ничего

помню только что иногда (редко) не могло отрезолвить адрес самого гитлаба

Парни, а подскажите, как сделать правильно: есть Job, хочу запустить clickhouse-client чтобы он выполнил sql файл (сам файл я к поду прикрутил, все ок) - но не могу что-то понять, а как сделать, чтобы этот файл на stdin клиенту ушел? Ну типа clickhouse-client < file.sql Если прямо так в команде прописать ["clickhouse-client", "<", "file.sql"]` говорит, что пустой запрос. Файл точно есть, запрос в нем точно есть

Парни, а подскажите, как сделать правильно: есть Job, хочу запустить clickhouse-client чтобы он выполнил sql файл (сам файл я к поду прикрутил, все ок) - но не могу что-то понять, а как сделать, чтобы этот файл на stdin клиенту ушел? Ну типа clickhouse-client < file.sql Если прямо так в команде прописать ["clickhouse-client", "<", "file.sql"]` говорит, что пустой запрос. Файл точно есть, запрос в нем точно есть

Потому что перенаправлением занимается шелл, которого там и в помине нет, там напрямую создание процесса операционкой с аргументами < и file.sql. Поэтому проще всего написать свой шелл-враппер и просто запускать его.

Ну я как-то так и думал. спасибо

["bash", "-c", "clickhouse-client < file.sql"]

контейнер не может использовать память сразу двух нод

получается, что масштабирование с помощью к-ва нод может использоваться только для добавления новых подов или реплик старых ресурсы текущих подов не могут быть увеличены без увеличения мощности ноды, на которой они запущены

Коллеги, я сейчас репостну сюда мой RnD по k8s (baremetal) и contrail 5.1

@Fd для истории, что бы установить contrail 5.0 в k8s надо: 1. собрать из исходников нужные бинарники. https://github.com/Juniper/contrail-packages/ 2. запоковать их в пакеты deb/rpm 3. поднять http сервер и выложить на него пакеты 4. собрать N докер контейнеров. натравив через переменные окружения на http сервер поднятный в п.3 чтобы packet manager стянул оттуда пакеты из п.2 собранные из исходников п.1. При этом докер должен быть свежий, из-за использования перменных в дериктиве FROM 5. запушать получившиеся N docker образов в k8s registry 6. поменять переменные в k8s манифестах, что бы он задеплоил из нужных образов сам контнерейл.

вести с полей, первые 5 пунктов пройдены остался последний 6

kubectl -n kube-system get pods | grep -i contrail contrail-agent-db4qf 0/2 CrashLoopBackOff 11 10m contrail-analytics-8h54m 4/7 CrashLoopBackOff 8 10m contrail-analytics-bbnnv 3/7 CrashLoopBackOff 8 10m contrail-analyticsdb-hcnnm 1/1 Running 0 10m contrail-analyticsdb-kjqsf 1/1 Running 0 10m contrail-configdb-stvx9 1/1 Running 0 10m contrail-configdb-zfwvs 1/1 Running 0 10m contrail-controller-config-4j7k7 4/5 CrashLoopBackOff 5 10m contrail-controller-config-rqvnr 4/5 CrashLoopBackOff 6 10m contrail-controller-control-4wqj6 3/4 CrashLoopBackOff 5 10m contrail-controller-control-4zg85 3/4 CrashLoopBackOff 5 10m contrail-controller-webui-2sdbn 2/2 Running 0 10m contrail-controller-webui-ll2f4 2/2 Running 0 10m contrail-database-nodemgr-hvztd 0/1 CrashLoopBackOff 5 10m contrail-database-nodemgr-zg596 0/1 CrashLoopBackOff 6 10m contrail-kube-manager-2f5zz 0/1 CrashLoopBackOff 6 10m contrail-kube-manager-52sln 0/1 CrashLoopBackOff 6 10m

получается, что масштабирование с помощью к-ва нод может использоваться только для добавления новых подов или реплик старых ресурсы текущих подов не могут быть увеличены без увеличения мощности ноды, на которой они запущены

Чтобы можно было запускать приложения и контейнеры и поды, с требованиями по памяти больше, чем память одной ноды, нужно использовать серверы со специальным типом памяти - Remote Access Memory. Hitachi HDS, например.

Может кому будет полезно

какая тогда основная цель использования нескольких небольших нодов по сравнению с одной большой по ресурсам нодой?

какая тогда основная цель использования нескольких небольших нодов по сравнению с одной большой по ресурсам нодой?

Я пошутил уж.

какая тогда основная цель использования нескольких небольших нодов по сравнению с одной большой по ресурсам нодой?

Цель - повышение resiliency - устойчивости к падению одной ноды.

если у меня есть 2 secondary nodes, то при установке некого пода kubernetes дублирует его на обе ноды??? если упадет первая, то pod будет работать на второй автоматом? правильно я понял?

кубер не творит никакой магии в стиле openmosix

столько сколько указал в контроллере - столько и будет запущено, если скедулер найдёт ресурсы

получается, что к-во нодов влияет только на отказоустойчивость и никак на масшабируемость кластера?

смотря как у вас приложение сделано

если от количвества инстансов увеличивается производительность - так и будет

так как увеличение к-ва инстансов может повлиять на производительность, если все работает на одной ноде (нода=инстанс) ?

нода!=инстанс

новые контексты процесса

кажется надо сначала понять как всё работает вцелом

и терминологию

так вот я и хочу понять, для меня нода - это инстанс, потому что я использую OpenStack, а там инстанс - это и есть нода а чем вы называете инстанс?

может мы просто говорим о разном

Кто-то подключал кубер в гитлабе? Получалось установить прометеус из интерфейса гитлаба?

Кто-то подключал кубер в гитлабе? Получалось установить прометеус из интерфейса гитлаба?

поделитесь потом, я с этой "интеграцией " изрядно попрыгал и вообще не понял что это было

У меня получилось установить только хельм, ингресс и раннер в один неймспейс

Во второй когда устанавливал, вываливала ошибка что уже все установлено

Я бы хотел эту интеграцию внутри pipeline-ci использовать, но там как то непонятно, не устанавливаются env у меня

Может это все еще сырое?

Мануалов не нашел

поделитесь потом, я с этой "интеграцией " изрядно попрыгал и вообще не понял что это было

тоже не понял подключил, а как в ci запихать так и не нашел все равно в итоге или kubectl или helm вызывать

дык даже kubectl запускать, у вас вышло без gcloud activate и всего этого?

у меня тупо .kube/config не монтировался в pipepline

у меня свой, не gke

Я делал отдельный контейнер с кубцтл

И без подсосывания конфига получилось

Вот вот вот

И в чём тогда интеграция?

так как увеличение к-ва инстансов может повлиять на производительность, если все работает на одной ноде (нода=инстанс) ?

Некоторые приложения почти линейно увеличивают производительность и/или надёжность при запуске одновременно на нескольких серверах. Это зависит от разработчиков приложений: как они напишут - так и будет работать.

В контейнере раннера нет ночего от кубера

так как увеличение к-ва инстансов может повлиять на производительность, если все работает на одной ноде (нода=инстанс) ?

больше подов из одного деплоймента развернете

И в чём тогда интеграция?

может она планируется..

Но получилось прикрутить веб терминал для гитлаба

ну пока я только время потратил имхо