Timur
народ, кто-то держит на одном сервере kube-apiserver и kubelet ? как решали проблему нехватки ресурсов и как следствие тормоза с "control plane" кубера ? Может oom_adjust ? cgroup memory limit ?
Timur
@kvaps возвращаясь к вашей схеме по HighAvailability: зачем haproxy, а не просто keepalived+режим балансировки ?
Joe
Ребят, помогите разобраться с проблемой. Собрана следующяя конфигурация: pod[swagger] <-> service <-> ingress При обращении напрямую к поду или service без ошибок. При обращении через ingress часть ресурсов отдает с 503 ошибкой. Манифест ingress: apiVersion: extensions/v1beta1 kind: Ingress metadata: name: ingress-name namespace: test1 annotations: kubernetes.io/ingress.class: "nginx" nginx.ingress.kubernetes.io/rewrite-target: /$2 nginx.ingress.kubernetes.io/ssl-redirect: "false" nginx.ingress.kubernetes.io/configuration-snippet: | location ~ \.css { add_header Content-Type text/css; } location ~ \.js { add_header Content-Type application/x-javascript; } spec: rules: - host: foo.bar.com http: paths: - path: /v1/templates-db/1(/|$)(.*) backend: serviceName: service-name servicePort: 8080 В логах ingress-controller: 11.11.11.11 - [11.11.11.11] - - [26/Aug/2019:10:33:11 +0000] "GET /v1/templates-db/1/swagger/index.html HTTP/1.1" 200 2089 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36" 518 0.005 [test1-service-name-8080] 10.100.34.240:80 4736 0.006 200 691aa290a13b206e802b572fa6852dcd 11.11.11.11 - [11.11.11.11] - - [26/Aug/2019:10:33:11 +0000] "GET /v1/templates-db/1/swagger/swagger-ui-standalone-preset.js HTTP/1.1" 503 599 "http://foo.bar.com/v1/templates-db/1/swagger/index.html" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36" 465 0.000 [-] - - - - 7c4dbc0b4e791ba737984140b3a2f887
V
Всем привет а кто-нибудь пробовал запустить kube-oidc-proxy ? у кого нибудь заработало ? он поддержку oidc авторизации дает в менеджед куберах типа aws eks \ aks
Timur
Vadim
API на отдельных инстансах от кублета?
Нет. Аписервер запущен как статикпод
Vadim
Разделение ресурсов через reserved флаги кубелета
Andrew
Как из пода логи в дженкинс прокинуть?
Timur
Нет. Аписервер запущен как статикпод
Мне стремно, поскольку если вдуплит докер или дисковая подсистема, заафектит и api
Armen
Ребят, помогите разобраться с проблемой. Собрана следующяя конфигурация: pod[swagger] <-> service <-> ingress При обращении напрямую к поду или service без ошибок. При обращении через ingress часть ресурсов отдает с 503 ошибкой. Манифест ingress: apiVersion: extensions/v1beta1 kind: Ingress metadata: name: ingress-name namespace: test1 annotations: kubernetes.io/ingress.class: "nginx" nginx.ingress.kubernetes.io/rewrite-target: /$2 nginx.ingress.kubernetes.io/ssl-redirect: "false" nginx.ingress.kubernetes.io/configuration-snippet: | location ~ \.css { add_header Content-Type text/css; } location ~ \.js { add_header Content-Type application/x-javascript; } spec: rules: - host: foo.bar.com http: paths: - path: /v1/templates-db/1(/|$)(.*) backend: serviceName: service-name servicePort: 8080 В логах ingress-controller: 11.11.11.11 - [11.11.11.11] - - [26/Aug/2019:10:33:11 +0000] "GET /v1/templates-db/1/swagger/index.html HTTP/1.1" 200 2089 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36" 518 0.005 [test1-service-name-8080] 10.100.34.240:80 4736 0.006 200 691aa290a13b206e802b572fa6852dcd 11.11.11.11 - [11.11.11.11] - - [26/Aug/2019:10:33:11 +0000] "GET /v1/templates-db/1/swagger/swagger-ui-standalone-preset.js HTTP/1.1" 503 599 "http://foo.bar.com/v1/templates-db/1/swagger/index.html" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36" 465 0.000 [-] - - - - 7c4dbc0b4e791ba737984140b3a2f887
если через раз такая ошибка то 503 может выкидывать когда под недоступен
Nazar
xnj
Nazar
что
Evgenii
Чуваки, подскажите нормальный гайд, как сделать kubeconfig с сервисакаунтом на 1 неймспейс?
Evgenii
делал по этому https://jeremievallee.com/2018/05/28/kubernetes-rbac-namespace-user.html и чет не очень работает. $ kubectl version Please enter Username: требует какую то авторизацию k8s через kops в AWS разворачивал
Solyar
Коллеги а кто настраивал k8s на 18.04 ?
Solyar
Какие там подводные?
Konstantin
ubuntu
Alex
никаких не заметил
Solyar
не мешал?
Solyar
говорят он kubedns ломает
Alex
Не сталкивался
Solyar
просто накатили по дефолту и всё?
Alex
Вроде всё норм работает
Alex
Через kubeadm по оф мануалу
Alex
13-ю версию
Timur
У нас keepalived для VIP и haproxy для sticky sessions, рейтлимита и метрик
и еще интересно: как у вас автоматизировано развертывание haproxy, keepaived?
Dmitry
Чуваки, подскажите нормальный гайд, как сделать kubeconfig с сервисакаунтом на 1 неймспейс?
Создаешь namespace, создаешь serviceaccount, создаешь role с нужными правами для этого аккаунта (или используешь готовую clusterrole), создаешь rolebinding для биндинга роли к этому serviceaccount. Смотришь секрет этого аккаунта, вытаскиваешь от туда сертификат и токен. Добавлешь в свой kubeconfig кластер, контекст, юзера, вставляешь туда эти токен и сертификат (можно сделать через kubectl config set-cluster, set-credentails, set-context). Сертификат нужно вставлять в base64 (либо из файла), токен нет.
Dmitry
Коллеги а кто настраивал k8s на 18.04 ?
Все вроде норм, только пакетов под bionic нету, но пакеты из xenial рабобтают норм
Solyar
Спасибо
Dmitry
для сервисаккаунта не нужен клиентский сертификат. Достаточно токена
Dmitry
Dmitry
сертификат нужен, в разделе кластера, чтобы клиент kubectl мог по ssl общаться с api сервером
Evgenii
и его не нужно енкодить в 64 ?
Vadim
и еще интересно: как у вас автоматизировано развертывание haproxy, keepaived?
Их оператор ставит, во время бутстрапа - https://github.com/openshift-metal3/dev-scripts
Dmitry
токен в чистом виде (раздекоженном вставляешь)
Dmitry
Для настройки кластера, сертификат из файла нужно указать, в файле он в чистом виде хранится. Если добавить опцию --embed-certs=true, то он сам закодирует его в bas64 и вставит в конфиг. Иначе просто укажет путь до файла
Evgenii
токен в чистом виде (раздекоженном вставляешь)
чет всё равно авторизацию просит
Dmitry
значит где-то накосячил
Dmitry
я бы для начала проверил права через kubectl --as=system:serviceaccount:namespace:name_service_account
Timur
Их оператор ставит, во время бутстрапа - https://github.com/openshift-metal3/dev-scripts
Спасибо! А если необходимо протестить новую фичу кубера или новую версию, можно ли в metal3 провернуть следующий кейс: остановить половину боевых серверов, развернуть там новый кубер,протестировать, развернуть новый кубер на оставшейся половине серверов ?
Vladimir
Ну. Если передеплоить все сос такого кубера в новый ничего не забыв...
Fidelina
Ребятки) настраиваю мониторинг в openshift 1) в приложение внесли библиотечку, что экспортит метрики 2) создали ServiceMonitor, увидела, что подхватились настройки в config_out/prometheus.env.yaml 3) Создала в namespace в котором живет моё приложение rolebinding на system:serviceaccount:openshift-monitoring:prometheus-k8s и выдала ему роль prometheus-k8s (скопировав из kube-system) Но я получаю ошибку в логах prometheus-k8s-1 level=error ts=2019-08-26T13:39:18.223969272Z caller=main.go:218 component=k8s_client_runtime err="github.com/prometheus/prometheus/discovery/kubernetes/kubernetes.go:288: Failed to list *v1.Service: services is forbidden: User \"system:serviceaccount:openshift-monitoring:prometheus-k8s\" cannot list services in the namespace \"gasu3\": RBAC: role.rbac.authorization.k8s.io \"prometheus-k8s\" not found"
Fidelina
а вот правила для роли
Fidelina
rules: - apiGroups: - "" attributeRestrictions: null resources: - endpoints - nodes - pods - services verbs: - get - list - watch
Timur
Ну. Если передеплоить все сос такого кубера в новый ничего не забыв...
ну для этого и нужна автоматизация, которая еще и на тесте так же работает. Все это можно напилить ручками с помощью всяких там паппетов/солтов/ансиблов, но тут вот есть готовые продукты для бареметала(metal3). Вдруг умеют
Anonymous
Подскажите пожалуйста, как лучше решить мою задачу? Мне нужно задеплоить ingress в кластер, и прикрутить к нему cert-manager. Я вижу разные решения, от маленьких конфигов на 10 строчек, до больших helm-chart'ов, но выбрать никак не могу. Какие best-practices в этой части работы с кубернетес?
Lucky SB
последняя ссылка хаутушка для тебя какраз
Lucky SB
там только подумать чутка надо каким образом ингресс-контроллер наружу высовывать - это зависит от твоего хостера
Anonymous
в том смысле, что в requirements.yaml
Lucky SB
в том смысле, что в requirements.yaml
не надо так извращаться. поставь руками. отдельно. меньше будет гемморроя при обновлении.
Anonymous
apiVersion: extensions/v1beta1 kind: Ingress metadata: name: myapp-frontend annotations: kubernetes.io/ingress.class: "nginx" nginx.ingress.kubernetes.io/ssl-redirect: "false" spec: rules: - host: myapp.local http: paths: - path: / backend: serviceName: myapp-backend servicePort: 8080 А какого-то такого конфига мне не хватит, верно?
Lucky SB
в сысле руками как отдельный чарт хелма
Anonymous
Получается, что в конечном результате у меня будет как конфиг, так и сам контроллер, верно?
Lucky SB
да. контроллер запустить поды с nginx, на которые будет приходить трафик и который будет отдавать их на поды с приложением
Anonymous
Ладно, спасибо. Пойду пробовать
Solyar
Никто не сталкивался что докер теряет все контейнеры после ребута?
Solyar
Магия какая-то
Solyar
Собираю кластер, всё отлично Делаю ребут, и всё
Solyar
Ни имеджей ни кластера
Lucky SB
docker images пустой ?\
Lucky SB
а собственно сам докер стартует ?
Lucky SB
а кублет ?
Solyar
user:~$ sudo docker images REPOSITORY TAG IMAGE ID CREATED SIZE user:~$ sudo docker ps -a CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
Lucky SB
кто-то у тебя очищает /var/lib/docker в процессе ребута ?
Dmitry
так оно может в tmpfs? )))
Solyar
система чистая в этом и прикол
Dmitry
ну то есть если сделать docker pull image, и перезагрузить, будет пусто?