Roman
цеф установлен не в кубе, отдельно
Alexander
у тебя в контейнере должен быть rbd,что бы маунтить волюмы
Alexander
его там в стандартном контейнере нету
Alexander
ссылку не дает вставить
Roman
интересно, в сиписке чатов ссылка есть а в чате нет)
Maksim
цеф установлен не в кубе, отдельно
К тебя kubelet контейнеризирован? Дык прокинь библиотеки через bind mount
Roman
мне тут вроде подсказали я пропустил пунк про замену образа kube-controller-manager
Roman
еще не проверил, отпишусь
Maksim
Не. Тебе провижен нужен контроллер заменять точно не надо
Maksim
Провижен ты можешь натравить и на внешний цеф.
Andrey
бинарь rbd нужен, а его нет в текущем image для kube-controller-manager, хотя у меня с 1.9.2 (еще на coreos в контейнерах) бинарник уже был
Andrey
и сейчас есть в 1.11 (gcr.io/google-containers/hyperkube:v1.11.1)
Alexander
ну bind-mount - костыль
Andrey
да, самое простое - биндить
Roman
где тут смайл с взорвавшимся мозгомм
Maksim
ну bind-mount - костыль
Почему? И что такое костыль?)
Andrey
я просто удивился что внутри образа нет rbd бинарника. Интересна версия k8s
Maksim
Мне всегда интересно как люди определяют что костыль а что нет.)
Alexander
у каждого свое понятие.Для кого-то это нормально,для кого-то "и тааак сойдет (с)"
Maksim
Кстати офф тема от цефа это делать отдельный контейнер с провизингом
Roman
в общем помогло подменить образ
Roman
осталось понять как теперь этот волюм юзать
Maksim
https://github.com/ceph/ceph-container/blob/master/examples/kubernetes/rbd-provisioner/README.md
Maksim
Так что замена образа то же в какой-то мере костыль)
𝚔𝚟𝚊𝚙𝚜
почему? я пробовал rbd-provisioner - отлично работает
Михаил
Михаил
а так мне просто не нравится держать части ceph в докере
Михаил
любые части)
𝚔𝚟𝚊𝚙𝚜
и то правда :)
Дмитрий
Почему ?
𝚔𝚟𝚊𝚙𝚜
так там и нет никаких частей
𝚔𝚟𝚊𝚙𝚜
там только ceph client который общается с мониторами напрямую
𝚔𝚟𝚊𝚙𝚜
тут собственно два варианта in-tree или out-of-tree provisioner, оба в контейнерах, а первый вроде как уже deprecated
Roman
kubectl delete -f ceph-vc.yml --namespace=kubecloud persistentvolumeclaim "claim" deleted
Roman
висит полчаса )
Roman
как пнуть?
𝚔𝚟𝚊𝚙𝚜
смотри логи твоего провижионера
Roman
не знаю кт омой провижинер
Valerii
Всем привет. По GKE и Cloud SQL вопрос: как дать доступ только к определённому инстансу? В роли быть разрешения на cloudsql.instances.connect, но это даст разрешение на подключение к любому инстансу, насколько понимаю?
Ivan
а , блин... не туда написал )) сорри ))
Andrey
чуваки, как можно запихнуть в под файлы с конфигами, если они лежат в поддиректориях?
Andrey
configs/ * main.json * subdir/ * lol.json * kek.json
Andrey
я хочу всю вот эту папору сделать доступной в поде, в докере я бы её примонтировал, а в кубах — хз как правильно
Andrey
попытался создать конфигмап из файлов, указал директорию, но он не стал её рекурсивно обходить, в итоге там оказался только файл main.json
Stanislav
Можешь так же примонтировать как том.
Andrey
Можешь так же примонтировать как том.
и тогда эти конфиги придётся хранить на каждой ноде кластера?
Stanislav
Если хочешь, чтоб мигрировали - да
Andrey
или откуда он будет их брать?
Stanislav
А чтоб брал из одного места - либо извращаться с общим хранилищем, либо извращаться с несколькими конфигмапами и projected томом
Stanislav
И, кстати, в каком докере мог создать каталог с файлами и монтировать его на соседней ноде?
Andrey
И, кстати, в каком докере мог создать каталог с файлами и монтировать его на соседней ноде?
эм, ни в каком, у меня на докере просто нет соседней ноды, только моя дев машина :D
Stanislav
Тогда тебе пофиг
Stanislav
Просто у кубернетеса по-умолчанию нижний уровень контейнеризации обеспечивает докер, так что по факту всё как там + ещё сервис кубернетеса.
Stanislav
Остальное (общее хранилище и т.п.) - добавляется отдельно.
Andrey
спасибо, буду курить
Roman
Всем привет, прошу прощения за мега нубский вопрос. Я правильно понимаю, что ReplicationController уже неактуален и надо описывать Deployment?
Roman
благодарю
Valerii
по проектам привязанным к одному биллинг аккаунту, пртчины: тупой гугловый иам, который не интегрирован с кубовым рбаком нормально, тупой биллинг который не интегрирован с кубовой моделью, рпзделение прав доступа нормальное, все что нужно общее для проектов в отдельном проекте, который пирится с остальными
Ваша правда насчёт тупого гугловского iam, хотя и понятно, почему так. В iam создал кастомную роль с правами на container.clusters.getCredentials и раздал всем права внутрикластерным rbac'ом Однако, например, для подключения разработчиков к cloud sql, на котором у нас базы для разных окружений (на разных инстансах, конечно) нужна роль Cloud SQL client, а это даёт право на подключение к любому инстансу :( Конечно credentials разные, но тем не менее. Ещё возникла проблема, что если накатывать nat gateway по доке gke (https://cloud.google.com/solutions/using-a-nat-gateway-with-kubernetes-engine), то он накатывается в единственном экземпляре и опять же ничего не знает про мультикластерность. Соответственно, если передеплоить нацелив на другой кластер, то перестаёт работать для первого. Это всё, возможно, решаемо, но быстрее создать другой проект (в рамках того же биллингового аккаунта) и накатить другой кластер туда и всё заработает "из коробки" :(
Stas
Ваша правда насчёт тупого гугловского iam, хотя и понятно, почему так. В iam создал кастомную роль с правами на container.clusters.getCredentials и раздал всем права внутрикластерным rbac'ом Однако, например, для подключения разработчиков к cloud sql, на котором у нас базы для разных окружений (на разных инстансах, конечно) нужна роль Cloud SQL client, а это даёт право на подключение к любому инстансу :( Конечно credentials разные, но тем не менее. Ещё возникла проблема, что если накатывать nat gateway по доке gke (https://cloud.google.com/solutions/using-a-nat-gateway-with-kubernetes-engine), то он накатывается в единственном экземпляре и опять же ничего не знает про мультикластерность. Соответственно, если передеплоить нацелив на другой кластер, то перестаёт работать для первого. Это всё, возможно, решаемо, но быстрее создать другой проект (в рамках того же биллингового аккаунта) и накатить другой кластер туда и всё заработает "из коробки" :(
ну проблема с гетвеем решается добавление в роутинг рул еще одного нетворг тега для нод из другого кластера скорее всего, но как я и говорил проще все делить проектами, с биллингом история такая, что он отчет строит по инстансам компьюта, вы там будете потом всякимм скриптами формировать нормальный отчет по кластерам для планировпния нагрузки и профилированию порогов аутоскейла, а когда отдельные проекты то можно отфильтровать по проекту и ску,
G72K
попытался создать конфигмап из файлов, указал директорию, но он не стал её рекурсивно обходить, в итоге там оказался только файл main.json
Все это в tar, его в конфигмап и распаковать из конфигмапа в initcontainer туда куда надо, потом стартанет обычный контейнер и все найдет как привык
Roman
Всем привет, второй день не могу удалить pvc, kubectl delete -f завистает kubectl get pvc --all-namespaces NAMESPACE NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE kubecloud claim Terminating pvc-a35fe65c-bbff-11e8-a3cd-0050569975f5 0 fast 17h
Roman
STATUS Terminating
Владимир
У меня была такая проблема, по моему дело было в "старом" клиенте RBD
Владимир
Ты взял готовую сборку с поддержкой RBD или сам собирал?
Владимир
ты про kube-controller-manager ?
Да. Если с его помощью делал
Roman
quay.io/attcomdev/kube-controller-manager:v1.6.1 этот использовал
Владимир
К сожалению не помню на каком споткнулся. В итоге собрал свой на базе оригинала. И все заработало.
Roman
я так еще не делал
Alexander N.
коллеги, помогите traefik одолеть
Alexander N.
No certificate provided dynamically can check the domain "kubernetes.default.svc.cluster.local", a per default certificate will be used.
Alexander N.
весь заваливает вот такими ошибками