Yury
Ставил ли кто гитлаб в кубер 1.16+ версии? Хелм3 вроде поддерживает уже тоже...
Ранеры все еще дохнут. Для сервера может и сработает
George
раннеры можно не через хельм
Yury
Там не в хельме дело
George
а в чем ? раннер не понимайт АПИ 1.16 ?
𝚔𝚟𝚊𝚙𝚜
А что не так с раннерами? - у меня работают на 1.17
Boriss
Да, норм усё
Просто по дэфу хелм чартом ставил?
Boriss
На барэ или в клауде?
𝚔𝚟𝚊𝚙𝚜
Yury
https://gitlab.com/gitlab-org/gitlab-runner/issues/3247 Билды валятся в GKE. У нас раз в неделю. Дешевизна preemptible с автоскейлингом коменсирует, поэтому страдаем. Но проблема есть и чинить не особо торопятся.
𝚔𝚟𝚊𝚙𝚜
Просто по дэфу хелм чартом ставил?
Да, вот так https://habr.com/ru/post/481662/#gitlab-runner
Yury
может
Boriss
Ну мя ваще не раннер интересует... а сам гитлаб целиком
Oleg
Хорошо. Спс за инфу
Alex
Да, вот так https://habr.com/ru/post/481662/#gitlab-runner
а кэши в s3 для docker:dind смог положить?
𝚔𝚟𝚊𝚙𝚜
Он прямо в регистри фигачит
Alex
это понятно, но где хранить слои при сборке, он же их все время по новый выкачивает
𝚔𝚟𝚊𝚙𝚜
это понятно, но где хранить слои при сборке, он же их все время по новый выкачивает
Ну он так и так это делать будет, хоть с s3, хоть с docker registry, хоть с shared filesystem
𝚔𝚟𝚊𝚙𝚜
Если хочется распределённости придется чем-то заплатить
Mher
Привет всем! Кто то может подсказать, как в prometheus-operator в таргетах указать все ноды?
George
через запятую
George
это же лист
George
🤡
Mher
это понятно ))
Mher
без рук чтобы, через селектор например
Tadeusz
ногами?)
Mher
ребята серьезно
Nickolay
где-то уже работает динамическое создание нод?
George
у тебя внешние сервисы невозможно завести в пром оператор
George
я очень внимательно читал - хотел сделать через external service, но это неподдерживаемый кейс
George
смотри ишьюс
Nickolay
я очень внимательно читал - хотел сделать через external service, но это неподдерживаемый кейс
У меня внешние ноды (базы) экспортятся через внешние сервисы, норм..
Mher
где-то уже работает динамическое создание нод?
нет, но все это делается по надобности, и приходится каждый раз менять таргеты
Nickolay
только все-равно их надо перечислять в эндпоинтах
George
точно уверен ?
Mher
не только в эндпоинты, надо сисм мониторы создать еще
Mher
но это опять таки, изменения конфигов
Nickolay
нет, но все это делается по надобности, и приходится каждый раз менять таргеты
ваще прометеус-опреатор вроде демонсет делает для автоэкспорта всех нод. Это если все нужны
Nickolay
точно уверен ?
ext-mon-gitlab-services 10.110.5.111:8080,10.110.5.111:9236,10.110.5.111:9187 + 5 more... Это разные метрики с одной машины
Nickolay
ext-mon-gitlab-runner 10.1.5.3:9252,10.1.5.2:9252 это метрики с 2 ранеров
George
Nickolay
ну и т.п.
Nickolay
да, поверх сервис и он дискаверится прометеем
Mher
я вот вижу такое в конфигах прома, можно что то типо этого?
Mher
George
можно
Nickolay
не надо конфиги прома тычить. надо чтобы были сервисы с метриками, которые он сам будет дискаверить..
George
идеально, да
Mher
не согласен, у пром оператора уже есть серивс дискавери, зачем еще один?
Mher
а как здесь можно порт указать?
George
не согласен, у пром оператора уже есть серивс дискавери, зачем еще один?
потому что он работает по-особенному. Я лично тупо резал сервис-мониторы и подмониторы на те сервисы, которые мне нужно было мониторить
Mher
можно и так сделать, я не говорю это не правильно, у всех свои кейсы
George
то что не вписывалось в эту идеологию - я так же как и ты - запихнул в статик конфиг, но сделал хитрее - прометеус оператор умеет инклюдить кусочек конфига из отдельного конфигмапа
Anonymous
Можете ребята подсказать что за херня ```Jan 30 22:28:18 master kubelet[794]: E0130 22:28:18.112866 794 dns.go:135] Nameserver limits were exceeded, some nameservers have been omitted, the applied nameserver line is: 213.133.99.99 213.133.98.98 213.133.100.100 Jan 30 22:28:20 master kubelet[794]: E0130 22:28:20.729548 794 summary_sys_containers.go:47] Failed to get system container stats for "/system.slice/docker.service": failed to get cgroup stats for "/system.slice/docker.service": failed to get container info for "/system.slice/docker.service": unknown container "/system.slice/docker.service" Jan 30 22:28:20 master kubelet[794]: W0130 22:28:20.729710 794 eviction_manager.go:330] eviction manager: attempting to reclaim ephemeral-storage Jan 30 22:28:20 master kubelet[794]: I0130 22:28:20.729726 794 container_gc.go:85] attempting to delete unused containers Jan 30 22:28:20 master kubelet[794]: I0130 22:28:20.766364 794 image_gc_manager.go:317] attempting to delete unused images Jan 30 22:28:20 master kubelet[794]: E0130 22:28:20.812854 794 summary_sys_containers.go:47] Failed to get system container stats for "/system.slice/docker.service": failed to get cgroup stats for "/system.slice/docker.service": failed to get container info for "/system.slice/docker.service": unknown container "/system.slice/docker.service" Jan 30 22:28:20 master kubelet[794]: I0130 22:28:20.816580 794 eviction_manager.go:341] eviction manager: must evict pod(s) to reclaim ephemeral-storage
Cholovik
Можете ребята подсказать что за херня ```Jan 30 22:28:18 master kubelet[794]: E0130 22:28:18.112866 794 dns.go:135] Nameserver limits were exceeded, some nameservers have been omitted, the applied nameserver line is: 213.133.99.99 213.133.98.98 213.133.100.100 Jan 30 22:28:20 master kubelet[794]: E0130 22:28:20.729548 794 summary_sys_containers.go:47] Failed to get system container stats for "/system.slice/docker.service": failed to get cgroup stats for "/system.slice/docker.service": failed to get container info for "/system.slice/docker.service": unknown container "/system.slice/docker.service" Jan 30 22:28:20 master kubelet[794]: W0130 22:28:20.729710 794 eviction_manager.go:330] eviction manager: attempting to reclaim ephemeral-storage Jan 30 22:28:20 master kubelet[794]: I0130 22:28:20.729726 794 container_gc.go:85] attempting to delete unused containers Jan 30 22:28:20 master kubelet[794]: I0130 22:28:20.766364 794 image_gc_manager.go:317] attempting to delete unused images Jan 30 22:28:20 master kubelet[794]: E0130 22:28:20.812854 794 summary_sys_containers.go:47] Failed to get system container stats for "/system.slice/docker.service": failed to get cgroup stats for "/system.slice/docker.service": failed to get container info for "/system.slice/docker.service": unknown container "/system.slice/docker.service" Jan 30 22:28:20 master kubelet[794]: I0130 22:28:20.816580 794 eviction_manager.go:341] eviction manager: must evict pod(s) to reclaim ephemeral-storage
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/#local-ephemeral-storage
dzmitry
привет, подскажите по helm: если я хочу обновить файл values.yml: например для кибаны поставить service type: LoadBalancer, я должен создать свой кастомный файл и на него ссылаться или же можно открыть дефолтный и в нем сделать изменения?
Fedor
извините, если было - поиском пытался воспользоваться (безуспешно). подскажите пожалуйста — в чем может быть причина проблемы с подключением к кластеру: kub-master-2:~$ kubectl get nodes The connection to the server localhost:8080 was refused — did you specify the right host or port? порт 8080 не слушает ни одно из приложений ни на одном из мастеров :( повторная установка проходит без ошибок (ОС Ubuntu 18.04) PLAY RECAP *********************************************************************************************************** kub-ingress-1 : ok=359 changed=18 unreachable=0 failed=0 kub-master-1 : ok=527 changed=35 unreachable=0 failed=0 kub-master-2 : ok=486 changed=33 unreachable=0 failed=0 kub-master-3 : ok=488 changed=33 unreachable=0 failed=0 kub-node-1 : ok=389 changed=21 unreachable=0 failed=0 kub-node-2 : ok=357 changed=18 unreachable=0 failed=0 localhost : ok=1 changed=0 unreachable=0 failed=0 Friday 31 January 2020 10:15:09 +0300 (0:00:00.488) 0:13:57.031 ******** =============================================================================== container-engine/docker : Docker | reload docker ————————————————————- 31.32s kubernetes/master : Master | wait for kube-scheduler ——————————————————— 22.32s kubernetes/preinstall : Update package management cache (APT) ————————————————- 9.40s kubernetes-apps/ansible : Kubernetes Apps | Start Resources ————————————————— 6.99s download : download | Download files / images —————————————————————— 6.79s kubernetes-apps/network_plugin/flannel : Flannel | Wait for flannel subnet.env file presence —————— 5.53s download : download_container | Download image if required —————————————————- 5.35s kubernetes-apps/ansible : Kubernetes Apps | Lay Down CoreDNS Template —————————————— 5.14s kubernetes-apps/cluster_roles : PriorityClass | Create k8s-cluster-critical ———————————— 4.78s container-engine/docker : ensure docker packages are installed ———————————————— 4.52s download : download | Sync files / images from ansible host to nodes —————————————— 4.52s kubernetes/preinstall : Hosts | populate inventory into hosts file ——————————————— 4.25s kubernetes/master : kubeadm | write out kubeadm certs ——————————————————— 3.99s bootstrap-os : Fetch /etc/os-release ————————————————————————— 3.88s download : download | Sync files / images from ansible host to nodes —————————————— 3.61s kubernetes/master : Generate new kubeconfigs with correct apiserver ——————————————- 3.56s download : download | Sync files / images from ansible host to nodes —————————————— 3.43s download : download_container | Download image if required —————————————————- 3.35s download : download | Download files / images —————————————————————— 3.23s download : download | Sync files / images from ansible host to nodes —————————————— 3.21s
dzmitry
helm upgrade ?
Mher
ага
Mher
вот например для прома
Mher
helm upgrade --namespace monitoring prom prometheus-operator/.
dzmitry
спасибо
Mher
да не за что )
Lucky SB
извините, если было - поиском пытался воспользоваться (безуспешно). подскажите пожалуйста — в чем может быть причина проблемы с подключением к кластеру: kub-master-2:~$ kubectl get nodes The connection to the server localhost:8080 was refused — did you specify the right host or port? порт 8080 не слушает ни одно из приложений ни на одном из мастеров :( повторная установка проходит без ошибок (ОС Ubuntu 18.04) PLAY RECAP *********************************************************************************************************** kub-ingress-1 : ok=359 changed=18 unreachable=0 failed=0 kub-master-1 : ok=527 changed=35 unreachable=0 failed=0 kub-master-2 : ok=486 changed=33 unreachable=0 failed=0 kub-master-3 : ok=488 changed=33 unreachable=0 failed=0 kub-node-1 : ok=389 changed=21 unreachable=0 failed=0 kub-node-2 : ok=357 changed=18 unreachable=0 failed=0 localhost : ok=1 changed=0 unreachable=0 failed=0 Friday 31 January 2020 10:15:09 +0300 (0:00:00.488) 0:13:57.031 ******** =============================================================================== container-engine/docker : Docker | reload docker ————————————————————- 31.32s kubernetes/master : Master | wait for kube-scheduler ——————————————————— 22.32s kubernetes/preinstall : Update package management cache (APT) ————————————————- 9.40s kubernetes-apps/ansible : Kubernetes Apps | Start Resources ————————————————— 6.99s download : download | Download files / images —————————————————————— 6.79s kubernetes-apps/network_plugin/flannel : Flannel | Wait for flannel subnet.env file presence —————— 5.53s download : download_container | Download image if required —————————————————- 5.35s kubernetes-apps/ansible : Kubernetes Apps | Lay Down CoreDNS Template —————————————— 5.14s kubernetes-apps/cluster_roles : PriorityClass | Create k8s-cluster-critical ———————————— 4.78s container-engine/docker : ensure docker packages are installed ———————————————— 4.52s download : download | Sync files / images from ansible host to nodes —————————————— 4.52s kubernetes/preinstall : Hosts | populate inventory into hosts file ——————————————— 4.25s kubernetes/master : kubeadm | write out kubeadm certs ——————————————————— 3.99s bootstrap-os : Fetch /etc/os-release ————————————————————————— 3.88s download : download | Sync files / images from ansible host to nodes —————————————— 3.61s kubernetes/master : Generate new kubeconfigs with correct apiserver ——————————————- 3.56s download : download | Sync files / images from ansible host to nodes —————————————— 3.43s download : download_container | Download image if required —————————————————- 3.35s download : download | Download files / images —————————————————————— 3.23s download : download | Sync files / images from ansible host to nodes —————————————— 3.21s
нет конфига для kubectl, он по дефолту на инсекуре порт 8080 ломится. cp /etc/kubernetes/admin.conf ~/.kube/config
Fedor
ааа, надо 6443 ?
Lucky SB
ааа, надо 6443 ?
хз. на 6443 надо с нужным токеном или сертификатми ходить, чтобы подтвердить форму усов и размер хвоста
Lucky SB
так какой тогда бест практис? свой юзать values?
https://helm.sh/docs/intro/using_helm/#customizing-the-chart-before-installing
dzmitry
👍
Boriss
пАмАгите затраблшутить плиз ) - https://prnt.sc/qvj5qg поставил юзая helm upgrade --install gitlab gitlab/gitlab --set global.hosts.https=false --set global.ingress.configureCertmanager=false --set certmanager.install=false --set global.hosts.domain=git.guzlo.gg (baremetal, metallb) - пытаюсь открыть, 404дфлтбакэндбэйби