Dmitry
Ты либо костылишь, либо костылишь
Ты так говоришь. Как будто у тебя обычный cron это очень надежное и отказоустойчивое решение. В кубе в cronjob хоть легко увидеть что они отвалились, все логи посмотреть и т.д.
Igorь
А в кубере с ефк можно как-то защититься от большого потока логов? К примеру, разрабатывается приложение на джаве, и однажды оно записало в логи 100 гигов, меньше, чем за минуту. Ясно, что ротация таких логов только поможет убить SSD. Может есть какой-то баланс между персистентностью логов на дисках и скоростью записи? Решение с записью логов в тмпфс мне не нравится как раз отсутствием персистентности.
Denis
Народ , а кто Java(10) гоняет кубе , вы как то хип настраиваете, аля xmx \ -XX:MaxRAMPercentage=$somevalue
Pavel
На медиуме есть статья про жабу в контейнере и хип
cent
Коллеги, а как заставить istio перегенерить environment variables ?
Armen
Ребят привет, У меня вопрос из серии сложных реализаций... Есть кластер на ГКЕ... Посидели с бизнесом посчитали, что нам будет выгодно держать более крупные ноды чем сейчас. Решили попробовать по возможности сделать это без миграции перейти на новый нод-пул... Как это можно сделать безболезненно? Кто-нибудь делал что-нибудь подобное?
Armen
Сам еще не пробовал, но там есть возможность добавления дополнительного пула, но возможно ли вообще добавить пул, а потом удалить старый?
gigimon
Всем привет, помогите пожалуйста с cert-manager. Есть GKE кластер версии 1.13.11, по туториалу поставил cert-manager через helm, он установился. Задеплоил их тестовые ресурсы, прошло уже 20 минут, сертификатов нет для тестовых ресурсов. Куда копать, что смотреть? В describe pods по cert-manager никаких сообщений нет
Anna
Ребят привет, У меня вопрос из серии сложных реализаций... Есть кластер на ГКЕ... Посидели с бизнесом посчитали, что нам будет выгодно держать более крупные ноды чем сейчас. Решили попробовать по возможности сделать это без миграции перейти на новый нод-пул... Как это можно сделать безболезненно? Кто-нибудь делал что-нибудь подобное?
https://cloud.google.com/kubernetes-engine/docs/tutorials/migrating-node-pool вот это работает ок https://stackoverflow.com/questions/31302233/resize-instance-types-on-container-engine-cluster тут тоже есть варианты. Но если вкратце - менее безболезненно чем это - не выйдет. Если вдруг кто-то знает - буду признательна послушать 😄
gigimon
cluster issuer создавали?
до своих ресурсов еще не дошел, остался на стадии https://cert-manager.io/docs/installation/kubernetes/#verifying-the-installation
Oleg
Только руки дошли, вот так примерно это у нас выглядит: https://gist.github.com/odinsy/85cecdc023ff7ccea7f8a17313528fb3
Oleg
очень интересен подход, меня аналогичное ждёт в паппете
Armen
до своих ресурсов еще не дошел, остался на стадии https://cert-manager.io/docs/installation/kubernetes/#verifying-the-installation
/apiVersion: cert-manager.io/v1alpha2 kind: ClusterIssuer metadata: name: letsencrypt-prod spec: acme: email: staging@example.com server: https://acme-v02.api.letsencrypt.org/directory privateKeySecretRef: name: letsencrypt-prod # Configure the challenge solvers. solvers: # An empty selector will 'match' all Certificate resources that # reference this Issuer. - selector: {} http01: ingress: class: nginx
Armen
примерно так выгладит clustеr-issuer для летс енкрипт
gigimon
я понимаю, но смысл мне его делать, если даже тестовый сценарий из документации не проходит
Armen
также должны быть выставлены верные аннотации в самом ингрессе
gigimon
как будто ему не нравится кластер или ему что-то не нравится
Armen
если issuer ne создан то ничего и не будет работатать
gigimon
если issuer ne создан то ничего и не будет работатать
так я дал ссылку, я создал тестовый issuer
gigimon
но вот проблема тоже, kubectl get issuer --all-namespaces No resources found.
Armen
так я дал ссылку, я создал тестовый issuer
issuer и cluster-issuer это разные вещи
gigimon
да я понимаю, в документации не скзаано, что cluster issuer обязателен, можно обходиться issuer per namespace
Armen
но вот проблема тоже, kubectl get issuer --all-namespaces No resources found.
подправьте мой ямл и задеплойте, он не деплоится с хелма
Tadeusz
gigimon
подправьте мой ямл и задеплойте, он не деплоится с хелма
да делал я также, не появляется сертификат. Я же говорю, даже тестовый из документации не появляется
Armen
А если не секрет, не могли бы вы поделится, сколько сейчас весь кластер кушает CPU, memory, сколько трафика обрабатывает и при этом сколько стоит. Просто интересно, во сколько gke обходится, на реальных кейсах
каждая нода стоит примерно 189$ обрабатываем примерно 3-4 тысячи уникальных реквестов в секунду но этим кластером выдержали и милион реквестов, он тогда расскейлился до 800 нод
Armen
попробуйте посмотреть что там в логах творится
gigimon
да вот смотрю уже, логов тьма, надо вычленить что-то путное :( думал может есть какой-то известнй баг
gigimon
спасибо, покопаю еще
Armen
это тоже должно подсказать если вообще ничего нет, то issuer неправильно настроен често говоря я предпочитаю ставить его с манифестов. он у меня рулит уже больше 10000 доменов
gigimon
спасибо, посмотрю
OLeG
народ а нет ли где то описания что курсво или книг что надо прочитать новичку в кубернетесе. что бы не плавать ?
Armen
спасибо, посмотрю
пожалуйста, если память мне не изменяет, то серт-менеджер 0,11 очень хреново работает с GCE ингрессом, там у них отдельное решение должно быть
gigimon
у меня просто старый cert-manager работал почти с год, а пару месяцев назад успешно помер
gigimon
хотя кластер не менялся, решил обновить и вот :(
Armen
у меня просто старый cert-manager работал почти с год, а пару месяцев назад успешно помер
с версии 0,11 поменялись также и аннотации для ингресса, как впрочем и сама структура issuer-а
gigimon
да, я делал обновление в issuer
gigimon
в общем щас очищаю кластер и пробую с нуля задеплоить
gigimon
спасибо
Armen
плюс, мы это делали в тераформе, и там логика тоже такая же. Как только меняется инстанс тайп (мы кастомные используем) - идет рекреейт кластера
все-таки на on-premise я думаю должно быть легче, или хотяб с тем же терраформом... буду пробовать гугловский вариант на стейджинге, на бумажке он выглядит нормально... Если бы не пользовательские сертификаты, то можно было бы воссоздать новый кластер и мигрировать ингресс за ингрессом (в моем случае это критично) все остальное на кластере stateless
Андрей
Ребята, привет. Можете пояснить по скоупам в RBAC? я выполняю команду kubectl delete ns sandbox Error from server (Forbidden): namespaces "sandbox" is forbidden: User "system:serviceaccount:sa:testuser" cannot delete resource "namespaces" in API group "" in the namespace "sandbox" почему он пишет resource "namespaces" in API group "" in the namespace "sandbox" я ожидал, что он напишет cannot delete resource "namespaces" in API group "" at the cluster scope c каких пор неймспейс не в кластерном скоупе? # kubectl api-resources NAME SHORTNAMES APIGROUP NAMESPACED namespaces ns false
Андрей
я на 1.16, если что
Андрей
знает, у него кластерная роль c ресурсом namespaces и verb list
Андрей
почему у меня возник вопрос: я создал обычную роль с ресурсами "*" и verbs "*" и кластерную роль с ресурсом namespace и verb list. я ожидал, что юзер будет творить что хочет в рамках своего неймспейса (благодаря роли), сможет просматривать все неймспейсы (благодаря кластерной роли), но свой неймспейс удалить не сможет. но ни фига, удалил - namespace не в кластерном скоупе неожиданно и сработала обычная роль. Соответственно, ошибки выше я получал после удаления обычной роли. Из этого следует, что я не могу описать роль с ресурсами "*" и verbs "*", я буду должен описать отдельно ресурс namespaces
George
а rolebinging и clusterrolebinding покажешь?
George
потому что именно бингдинг связывает РОЛЬ и сервисную учетку
Андрей
--- kind: RoleBinding apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: $USERNAME-sandbox-access-rb namespace: sandbox subjects: - kind: ServiceAccount name: $USERNAME namespace: sa roleRef: apiGroup: rbac.authorization.k8s.io kind: Role name: $USERNAME-sandbox-access-role --- kind: ClusterRoleBinding apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: $USERNAME-cluster-rb roleRef: apiGroup: rbac.authorization.k8s.io kind: ClusterRole name: $USERNAME-acces-clusterrole subjects: - kind: ServiceAccount name: $USERNAME namespace: sa
George
а тут что внутри $USERNAME-acces-clusterrole ?
George
точно не опечатался?
George
а переменные - я так понимаю - envsubst подставляет?
Андрей
да
Андрей
--- kind: ClusterRole apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: $USERNAME-acces-clusterrole rules: - apiGroups: [""] resources: ["namespaces", "nodes", "persistentvolumes"] verbs: ["list"]
George
на мой взгляд должно работать. сорри
George
🤷‍♂️
Андрей
оно работает, только если я опишу ресурс namespaces в обычной роли, т.е. опишу не-namespaced ресурс в namespaced роли. вижу в этом противоречие
Oleh
kind: ClusterRoleBinding а не RoleBinding
gigimon
Armen передеплоил все. Задеплоил cert-manager, issuer, certificate. Вижу, что создался секрет мой, но в логах cert-manager вижу ошибку: "msg"="propagation check failed" "error"="presented key (\n\u003c!DOCTYPE html\u003 и дальше идет html моей страницы, для которой я делаю сертификат. Нашел такое же поведение тут https://github.com/jetstack/cert-manager/issues/1902 но решения нет
George
сириозли
gigimon
да видимо надо...
gigimon
а
gigimon
ок, тогда поменяю :) просто в доке это не очевидно
Armen
Я с этим серт-менеджером не одну собаку съел 😊
Armen
В slack группе почти каждый новичок делает эту ошибку
George
Так эта... Внесите в faq )
gigimon
Armen еще у меня проблема, у меня kubectl не показывает ни issuer ни clusterissuer kubectl get clusterissuer --all-namespaces No resources found.