Grisha
токены старые поубивал
Lucky SB
я обновил на каждом мастере
а на первом мастере сертификат кублета продлил ? kubeadm alpha kubeconfig user --client-name system:node:kube.slurm.io --org system:nodes > /etc/kubernetes/kubelet.conf
Lucky SB
на всех мастерах это сделал
хм. в принципе на первом было достаточно это сделать.
Grisha
это же 1.13 версия
Lucky SB
а теперь вопрос со звездочкой. у тебя три мастера. а под у тебя на воркер-ноде запускается ? правильно ? и обращение к локалхосту идет ? Значит есть какой-то прокси на воркер-ноде, который слушает 127.0.0.1:6443 и балансирует по мастерам
Grisha
нет)) он обращается к одному из мастеров
Grisha
когда join был был выбран какой-то мастер
Lucky SB
нет)) он обращается к одному из мастеров
мля. network: Get https://localhost:6443/api/v1/namespaces/default/pods/runner-yca9kxrx-project-1754-concurrent-02h8wt: x509: certificate has expired or is not yet valid
Lucky SB
вот тут чей лог ?
Grisha
поды
Lucky SB
какой поды ???
Grisha
ааа тьфу
Grisha
да, стоит nginx
Lucky SB
ну покажь его конфиг
Grisha
stream { upstream kube_apiserver { least_conn; server 10.79.1.21:6443; server 10.79.1.22:6443; server 10.79.1.23:6443; } server { listen 127.0.0.1:6443; proxy_pass kube_apiserver; proxy_timeout 10m; proxy_connect_timeout 1s; } }
Grisha
тут все как бы просто
Lucky SB
а покажи конфиг /etc/kubernetes/kubelet.conf с воркер ноды
Grisha
apiVersion: v1 clusters: - cluster: certificate-authority-data: BLALBALBLA= server: https://localhost:6443 name: default-cluster contexts: - context: cluster: default-cluster namespace: default user: default-auth name: default-context current-context: default-context kind: Config preferences: {} users: - name: default-auth user: client-certificate: /etc/kubernetes/ssl/ams-kube-node3.crt client-key: /etc/kubernetes/ssl/ams-kube-node3.key
Grisha
они валидн
Grisha
Validity Not Before: Jan 21 14:11:07 2020 GMT Not After : Jan 18 14:11:07 2030 GMT
Lucky SB
openssl x509 -in /etc/kubernetes/ssl/ams-kube-node3.prd.pmcorp.loc.crt -text
Grisha
их тоже перегенирили сегодня
Grisha
правда руками
Grisha
кажется я понял в чем дело
Grisha
в серте в X509v3 Subject Alternative Name не указан localhost, а у меня пода пытается пойти на localhost
Grisha
может ли это быть причиной?
Grisha
openssl x509 -in /etc/kubernetes/ssl/ams-kube-node3.crt -text
Grisha
тут
Grisha
о да
спасибо, сейчас перегенерю
Lucky SB
стоп
Lucky SB
тут
тут нет. это ж клиентский сертификат под которым коннектится нода.
Lucky SB
ты точно проверил что на всех трех твоих API серверах валидные сертификаты ?
MRY
Так и не получается получить секрет из secret: Вот под конфиг для пайплайна: apiVersion: v1 kind: Pod metadata: labels: job: pipeline spec: containers: - name: composer image: 22222222222.dkr.ecr.us-east-1.amazonaws.com/builder:latest command: - "cat" tty: true env: - name: "AUTH_TOKEN" valueFrom: secretKeyRef: name: gitsecret key: token КАК астериски убрать…. и сикрет прочесть.... Обычные ENVs получаю без проблем.
Grisha
да вроде
George
Он в пайплайне маскируется
Lucky SB
Он в пайплайне маскируется
а вдруг у него пароль - 8 звездочек ?
George
Остаётся его вычитать, и как-то засплиттить . Чтобы обмануть пайплайн
MRY
Никак
Внутри системы он тоже с астерисками....
MRY
Вряд ли
Там json строка задекрденная
łibfitź.r14.a
в файл записать
MRY
записывал. Также звездочки
George
Ещё раз - он сам маскирует
MRY
Я внутри контейнера делаю команду echo $TOKEN >> somefile.txt и потом считываю cat somefile.txt внутри звезды….. по идее тут женкинс не причем… все делается отльно по идее…..
MRY
единственное я через дженкис кидаю команды echo и cat
łibfitź.r14.a
катом зачем
łibfitź.r14.a
в воркспейс зайди и прочитай оттуда
MRY
тупо чтобы увидеть что внутри через консоль
MRY
При том
Ок… пойду поколдую..
Dmitry
А есть альтернативы еще?
Во, случайно наткнулся: http://joxi.net/BA0L6W1tPMj8vA.jpg
MRY
Ок… пойду поколдую..
Все ок оказывается…. внутри контейнера все видится правильно… а женкинс маскирует… спасибо за помощь
Dmitry
Спасибище
werf ктстати тоже обещают: https://habr.com/ru/company/flant/blog/481306/ (см. пункт: Работа внутри Kubernetes). В конце весны возможно сделают
Tadeusz
а они уже в 3-й хельм умеют?
Dmitry
Обещают в феврале-марте 2020 г.
Dmitry
а они уже в 3-й хельм умеют?
Это обещали февраль-март
Tadeusz
гуд
Vadim
https://kubernetes.github.io/ingress-nginx/examples/rewrite/#rewrite-target
Vadim
народ почему rewrite-target не работает, создал Ingress, направил его на Ingress-controller и в логе вижу 192.168.1.51 - - [21/Jan/2020:19:48:13 +0000] "GET /some/dfdf HTTP/1.1" 503 203 "-" а должно быть по задумке GET /dfdf
Vadim
appVersion: 0.27.1 из хельма, старше 0.22 где это появилось
Vadim
убрал только тэг host
Vadim
apiVersion: networking.k8s.io/v1beta1 kind: Ingress metadata: name: test-ingress annotations: nginx.ingress.kubernetes.io/use-regex: "true" nginx.ingress.kubernetes.io/rewrite-target: /$2 kubernetes.io/ingress.class: "nginx" spec: rules: - http: paths: - path: /some(/|$)(.*) backend: serviceName: ng-nginx-ingress-controller servicePort: 80
Vadim
направил на сам ингресс чтоб в его логе видеть запрос легко, в сервисе не видно
Vadim
192.168.1.51 - - [21/Jan/2020:20:05:33 +0000] "GET /some/dd HTTP/1.1" ожидаю запрос GET /dd