
Ayrat
13.09.2016
14:45:26
у меня без сертов кластер пока
Внутри containera:
$ cat /etc/kubernetes/kubeconfig.yaml
apiVersion: v1
kind: Config
clusters:
- cluster:
server: http://10.0.229.3:8080
name: kubernetes
contexts:
- context:
cluster: kubernetes
user: ""
name: kubelet-context
current-context: kubelet-context
то есть без сертов не заработает ?

Maxim
13.09.2016
14:59:24
а апишечка инсекуре-портом слушает что-то кроме локалхоста?

Google

Maxim
13.09.2016
14:59:58
--insecure-bind-address=0.0.0.0, например
или там --insecure-bind-address=10.0.229.3

Ayrat
13.09.2016
15:01:58
apiserver стартовал с —insecure-bind-address=0.0.0.0
и --advertise-address=10.0.229.3

Maxim
13.09.2016
15:02:32
ага
так
ну чего там аддон-манагер?
поправил енв в манифесте?

Ayrat
13.09.2016
15:03:44
да но не помогло
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- cat /etc/kubernetes/kubeconfig.yaml
apiVersion: v1
kind: Config
clusters:
- cluster:
server: http://10.0.229.3:8080
name: kubernetes
contexts:
- context:
cluster: kubernetes
user: ""
name: kubelet-context
current-context: kubelet-context
~$ kubectl exec -it --namespace=kube-system kube-addon-manager -- which kubectl
/usr/local/bin/kubectl
вроде все внутри пода

Maxim
13.09.2016
15:05:00
и дескрайб еще

Google

Maxim
13.09.2016
15:05:23
$ kubectl describe po kube-addon-manager --namespace kube-system


Ayrat
13.09.2016
15:05:56
$ kubectl describe po kube-addon-manager --namespace kube-system
Name: kube-addon-manager
Namespace: kube-system
Node: 10.0.229.4/10.0.229.4
Start Time: Tue, 13 Sep 2016 14:55:17 +0000
Labels: <none>
Status: Running
IP: 10.0.229.4
Controllers: <none>
Containers:
kube-addon-manager:
Container ID: docker://6b5391a5c0f59931f7930b06ab1c750f2b7631dbd12255734c5e93acb77f545f
Image: gcr.io/google-containers/kube-addon-manager-amd64:v5.1
Image ID: docker://sha256:735ce4344f7f05e28dd9e8631d4ebeccf194bb8180c91e6df0069e4151832e78
Port:
Requests:
cpu: 5m
memory: 50Mi
State: Running
Started: Tue, 13 Sep 2016 14:55:20 +0000
Ready: True
Restart Count: 0
Environment Variables:
KUBECTL: /usr/local/bin/kubectl --kubeconfig=/etc/kubernetes/kubeconfig.yaml
ADDON_CHECK_INTERVAL_SEC: 10
Conditions:
Type Status
Initialized True
Ready True
PodScheduled True
Volumes:
addons:
Type: HostPath (bare host directory volume)
Path: /etc/kubernetes
QoS Tier: Burstable
Events:
FirstSeen LastSeen Count From SubobjectPath Type Reason Message
--------- -------- ----- ---- ------------- -------- ------ -------
10m 10m 1 {default-scheduler } Normal Scheduled Successfully assigned kube-addon-manager to 10.0.229.4
10m 10m 1 {kubelet 10.0.229.4} spec.containers{kube-addon-manager} Normal Pulled Container image "gcr.io/google-containers/kube-addon-manager-amd64:v5.1" already present on machine
10m 10m 1 {kubelet 10.0.229.4} spec.containers{kube-addon-manager} Normal Created Created container with docker id 6b5391a5c0f5
10m 10m 1 {kubelet 10.0.229.4} spec.containers{kube-addon-manager} Normal Started Started container with docker id 6b5391a5c0f5


Maxim
13.09.2016
15:06:48
во, выглядит правильно
чего там в логе?

Ayrat
13.09.2016
15:07:27
$ kubectl logs kube-addon-manager --namespace kube-system |head -10
== Kubernetes addon manager started at 2016-09-13T14:55:20+0000 with ADDON_CHECK_INTERVAL_SEC=60 ==
The connection to the server localhost:8080 was refused - did you specify the right host or port?
== Failed to start /opt/namespace.yaml in namespace at 2016-09-13T14:55:20+0000. 99 tries remaining. ==
The connection to the server localhost:8080 was refused - did you specify the right host or port?
так же

Maxim
13.09.2016
15:07:52
так
а добавь сервер явно
в переменную $KUBECTL допиши -s http://10.0.229.3:8080

Ayrat
13.09.2016
15:16:17
Environment Variables:
KUBECTL: /usr/local/bin/kubectl -s http://10.0.229.3:8080 --kubeconfig=/etc/kubernetes/kubeconfig.yaml
ADDON_CHECK_INTERVAL_SEC: 10
так ?

Maxim
13.09.2016
15:16:45
угу

Ayrat
13.09.2016
15:17:20
не пошло пока
$ kubectl logs kube-addon-manager --namespace kube-system |head -10
== Kubernetes addon manager started at 2016-09-13T15:15:47+0000 with ADDON_CHECK_INTERVAL_SEC=60 ==
The connection to the server localhost:8080 was refused - did you specify the right host or port?

Maxim
13.09.2016
15:17:40
даблять
$ kubectl exec -it kube-addon-manager --namespace kube-system -- /usr/local/bin/kubectl -s http://10.0.229.3:8080 --kubeconfig=/etc/kubernetes/kubeconfig.yaml get no

Ayrat
13.09.2016
15:18:48
$ kubectl exec -it kube-addon-manager --namespace kube-system -- /usr/local/bin/kubectl -s http://10.0.229.3:8080 --kubeconfig=/etc/kubernetes/kubeconfig.yaml get no
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- /usr/local/bin/kubectl -s http://10.0.229.3:8080 get nodes
NAME STATUS AGE
10.0.229.4 Ready 3d
10.0.229.6 Ready 6h
и так так раьотает

Maxim
13.09.2016
15:19:32
так

Google

Maxim
13.09.2016
15:20:45
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- env|grep KUBECTL

Ayrat
13.09.2016
15:21:33
~$ kubectl exec -it --namespace=kube-system kube-addon-manager -- env|grep KUBECTL
KUBECTL=/usr/local/bin/kubectl -s http://10.0.229.3:8080 --kubeconfig=/etc/kubernetes/kubeconfig.yaml

Maxim
13.09.2016
15:22:09
хуета какая-то...
все ж правильно
аааабля
а покажи ка весь енв
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- env

Ivan
13.09.2016
15:24:00
можбыть kubectl describe services —all-namespaces ?

Ayrat
13.09.2016
15:24:03
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- env
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin
HOSTNAME=murano-gdloaisvzejre3w-kube-2-r25kgtsczb5i
KUBECTL=/usr/local/bin/kubectl -s http://10.0.229.3:8080 --kubeconfig=/etc/kubernetes/kubeconfig.yaml
ADDON_CHECK_INTERVAL_SEC=10
KUBERNETES_PORT_443_TCP=tcp://10.32.0.1:443
KUBERNETES_PORT_443_TCP_PROTO=tcp
KUBERNETES_PORT_443_TCP_PORT=443
KUBERNETES_PORT_443_TCP_ADDR=10.32.0.1
KUBERNETES_SERVICE_HOST=10.32.0.1
KUBERNETES_SERVICE_PORT=443
KUBERNETES_SERVICE_PORT_HTTPS=443
KUBERNETES_PORT=tcp://10.32.0.1:443
LANG=C.UTF-8
HOME=/root

Maxim
13.09.2016
15:24:40
и да, присоединяюсь к предыдущему оратору
--all-namespaces не надо

Ivan
13.09.2016
15:24:57
а точно

Ivan
13.09.2016
15:25:04
—all-namespaces это я тупанул

Maxim
13.09.2016
15:25:35
достаточно $ kubectl get svc,ep kubernetes для начала

Ayrat
13.09.2016
15:26:00
addon ведь pod только

Maxim
13.09.2016
15:26:15
да там не в нем дело

Ayrat
13.09.2016
15:26:45
$ kubectl get pods,svc --all-namespaces
NAMESPACE NAME READY STATUS RESTARTS AGE
default nginxpod-wcyft 1/1 Running 0 42m
default nginxpod-y8cru 1/1 Running 0 1h
kube-system kube-addon-manager 1/1 Running 0 5m
NAMESPACE NAME CLUSTER-IP EXTERNAL-IP PORT(S) AGE
default kubernetes 10.32.0.1 <none> 443/TCP 3d
default svc-ygwqoit1jjn1w3z 10.32.0.233 <none> 80/TCP 1h

Maxim
13.09.2016
15:27:06
нене
вжопу поды ;)
с ними все хорошо

Google

Ivan
13.09.2016
15:27:22
я тут упустил, какая версия k8s-то?

Maxim
13.09.2016
15:27:33
1.3

Ivan
13.09.2016
15:28:52
тогда ладно, а то я тут фиксил ацкое западло с endpoint’ами в 1.4.0alpha https://github.com/kubernetes/kubernetes/issues/32050 — оно ломалось, когда в качестве имён нод были IP

Maxim
13.09.2016
15:29:18
> оно ломалось, когда в качестве имён нод были IP
о, у меня как-раз так ;)
меня ждет задорный секс при обновлении?

Ivan
13.09.2016
15:29:37
уже исправлено https://github.com/kubernetes/kubernetes/pull/32052

Maxim
13.09.2016
15:30:08
круто!
Ayrat $ kubectl get svc,ep kubernetes

Ayrat
13.09.2016
15:31:14
$ kubectl get svc,ep kubernetes
NAME CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes 10.32.0.1 <none> 443/TCP 3d
NAME ENDPOINTS AGE
kubernetes 10.0.229.3:6443 3d

Admin
ERROR: S client not available

Maxim
13.09.2016
15:43:41
так
блин, мистика какая-то
откуда локалхост-то

Ayrat
13.09.2016
15:49:26
я уже везде обложил api-server инфой. уже по идеи должно зарабоать
попробую другую версию addon
со старым имеджем лог выглядит лучше
v3

Maxim
13.09.2016
16:03:14
?

Ayrat
13.09.2016
16:03:22
$ kubectl logs kube-addon-manager --namespace kube-system |head -10
== Kubernetes addon manager started at 2016-09-13T16:01:45+0000 with ADDON_CHECK_INTERVAL_SEC=10 ==
The connection to the server localhost:8080 was refused - did you specify the right host or port?
== Failed to start /opt/namespace.yaml in namespace at 2016-09-13T16:01:45+0000. 99 tries remaining. ==
The connection to the server localhost:8080 was refused - did you specify the right host or port?
ADDON_CHECK_INTERVAL_SEC правильное значение

Google

Ayrat
13.09.2016
16:03:48
как в confige

Maxim
13.09.2016
16:04:08
в манифесте

Ayrat
13.09.2016
16:04:23
да сорри в манифесте
$ kubectl describe po kube-addon-manager --namespace kube-system
Name: kube-addon-manager
Namespace: kube-system
Node: 10.0.229.4/10.0.229.4
Start Time: Tue, 13 Sep 2016 16:01:38 +0000
Labels: <none>
Status: Running
IP: 10.0.229.4
Controllers: <none>
Containers:
kube-addon-manager:
Container ID: docker://486ab405cc9ae313467778339a75b60c63e1df0de307d4336c1e6c0ecd467d70
Image: gcr.io/google-containers/kube-addon-manager-amd64:v3
Image ID: docker://sha256:59e53f9a8cdd7b84f4ff371ce65e400a567a8e7f69f111243f128682e0d4ebef
Port:
Requests:
cpu: 5m
memory: 50Mi
State: Running
Started: Tue, 13 Sep 2016 16:01:45 +0000
Ready: True
Restart Count: 0
Environment Variables:
KUBECTL: /usr/local/bin/kubectl -s http://10.0.229.3:8080 --kubeconfig=/etc/kubernetes/kubeconfig.yaml
ADDON_CHECK_INTERVAL_SEC: 10

Maxim
13.09.2016
16:05:08
проверь, там ли бинарь
он вроде там перекладывался от версии к версии

Ayrat
13.09.2016
16:05:28
/usr/local/bin/kubectl ?

Maxim
13.09.2016
16:05:33
угу
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- which kubectl

Ayrat
13.09.2016
16:06:26
~$ kubectl exec -it --namespace=kube-system kube-addon-manager -- which kubectl
/usr/local/bin/kubectl
$ kubectl exec -it --namespace=kube-system kube-addon-manager -- ls -ltr /usr/local/bin/kubectl
-rwxr-x--- 1 root root 41225728 Jun 25 18:05 /usr/local/bin/kubectl

Maxim
13.09.2016
16:06:36
но вообще у тебя та же ошибка была и с неправильной переменной
помнишь, когда у тебя в переменной был /usr/bin/kubectl
ошибка та же была

Ayrat
13.09.2016
16:08:37
да эдинственное что в первый раз log показал:
ADDON_CHECK_INTERVAL_SEC=10

Maxim
13.09.2016
16:09:25
как-будто он на env болт забивает

Andrey
13.09.2016
19:11:11
а ставил кто-нибудь gitlab, и/или настраивал раннеры гитлабовские с gitlub.com в кубернетес?

Maxim
13.09.2016
19:20:37
мне кажется, даже официальный гайд про это был
а нет, показалось
там про наоборот

Andrey
13.09.2016
19:26:31
да, там есть фишка "вот запустите гитлаб в своем кубике и можете ранеры создавать временные"
а мне хранилище кода неохота держать у себя