NM
а по хорошему FreeIPA + полиси на права работы в консоли и профиль запускаемых команд
Никита
Видимо ты в ансибл не умеешь? Там смотри в консоль - увидишь имя задачи, потом в плейбук посмотри, что там за задача, что в ней вызывается, вызови руками и посмотри что там. Еще можешь плейбук с -vvv запустить - будет гора служебной инфы, может в ней там будет видно и команду, и че она от тебя ждет в интерактивном режиме
<ud-virt-s-k8s-2> (1, b'\n{"msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\\n", "failed": true, "invocation": {"module_args": {"name": "node2"}}}\n', b'OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017\r\ndebug1: Reading configuration data /etc/ssh/ssh_config\r\ndebug1: /etc/ssh/ssh_config line 58: Applying options for *\r\ndebug1: auto-mux: Trying existing master\r\ndebug2: fd 3 setting O_NONBLOCK\r\ndebug2: mux_client_hello_exchange: master version 4\r\ndebug3: mux_client_forwards: request forwardings: 0 local, 0 remote\r\ndebug3: mux_client_request_session: entering\r\ndebug3: mux_client_request_alive: entering\r\ndebug3: mux_client_request_alive: done pid = 8535\r\ndebug3: mux_client_request_session: session request sent\r\ndebug1: mux_client_request_session: master session id: 2\r\ndebug3: mux_client_read_packet: read header failed: Broken pipe\r\ndebug2: Received exit status from master 1\r\n') <ud-virt-s-k8s-2> Failed to connect to the host via ssh: OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017 debug1: Reading configuration data /etc/ssh/ssh_config debug1: /etc/ssh/ssh_config line 58: Applying options for * debug1: auto-mux: Trying existing master debug2: fd 3 setting O_NONBLOCK debug2: mux_client_hello_exchange: master version 4 debug3: mux_client_forwards: request forwardings: 0 local, 0 remote debug3: mux_client_request_session: entering debug3: mux_client_request_alive: entering debug3: mux_client_request_alive: done pid = 8535 debug3: mux_client_request_session: session request sent debug1: mux_client_request_session: master session id: 2 debug3: mux_client_read_packet: read header failed: Broken pipe debug2: Received exit status from master 1 fatal: [node2]: FAILED! => { "changed": false, "invocation": { "module_args": { "name": "node2" } }, "msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\n" }
Lucky SB
<ud-virt-s-k8s-2> (1, b'\n{"msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\\n", "failed": true, "invocation": {"module_args": {"name": "node2"}}}\n', b'OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017\r\ndebug1: Reading configuration data /etc/ssh/ssh_config\r\ndebug1: /etc/ssh/ssh_config line 58: Applying options for *\r\ndebug1: auto-mux: Trying existing master\r\ndebug2: fd 3 setting O_NONBLOCK\r\ndebug2: mux_client_hello_exchange: master version 4\r\ndebug3: mux_client_forwards: request forwardings: 0 local, 0 remote\r\ndebug3: mux_client_request_session: entering\r\ndebug3: mux_client_request_alive: entering\r\ndebug3: mux_client_request_alive: done pid = 8535\r\ndebug3: mux_client_request_session: session request sent\r\ndebug1: mux_client_request_session: master session id: 2\r\ndebug3: mux_client_read_packet: read header failed: Broken pipe\r\ndebug2: Received exit status from master 1\r\n') <ud-virt-s-k8s-2> Failed to connect to the host via ssh: OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017 debug1: Reading configuration data /etc/ssh/ssh_config debug1: /etc/ssh/ssh_config line 58: Applying options for * debug1: auto-mux: Trying existing master debug2: fd 3 setting O_NONBLOCK debug2: mux_client_hello_exchange: master version 4 debug3: mux_client_forwards: request forwardings: 0 local, 0 remote debug3: mux_client_request_session: entering debug3: mux_client_request_alive: entering debug3: mux_client_request_alive: done pid = 8535 debug3: mux_client_request_session: session request sent debug1: mux_client_request_session: master session id: 2 debug3: mux_client_read_packet: read header failed: Broken pipe debug2: Received exit status from master 1 fatal: [node2]: FAILED! => { "changed": false, "invocation": { "module_args": { "name": "node2" } }, "msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\n" }
ключик -k у ансибля позволяет по паролю ходить на сервера
Валентин
<ud-virt-s-k8s-2> (1, b'\n{"msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\\n", "failed": true, "invocation": {"module_args": {"name": "node2"}}}\n', b'OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017\r\ndebug1: Reading configuration data /etc/ssh/ssh_config\r\ndebug1: /etc/ssh/ssh_config line 58: Applying options for *\r\ndebug1: auto-mux: Trying existing master\r\ndebug2: fd 3 setting O_NONBLOCK\r\ndebug2: mux_client_hello_exchange: master version 4\r\ndebug3: mux_client_forwards: request forwardings: 0 local, 0 remote\r\ndebug3: mux_client_request_session: entering\r\ndebug3: mux_client_request_alive: entering\r\ndebug3: mux_client_request_alive: done pid = 8535\r\ndebug3: mux_client_request_session: session request sent\r\ndebug1: mux_client_request_session: master session id: 2\r\ndebug3: mux_client_read_packet: read header failed: Broken pipe\r\ndebug2: Received exit status from master 1\r\n') <ud-virt-s-k8s-2> Failed to connect to the host via ssh: OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017 debug1: Reading configuration data /etc/ssh/ssh_config debug1: /etc/ssh/ssh_config line 58: Applying options for * debug1: auto-mux: Trying existing master debug2: fd 3 setting O_NONBLOCK debug2: mux_client_hello_exchange: master version 4 debug3: mux_client_forwards: request forwardings: 0 local, 0 remote debug3: mux_client_request_session: entering debug3: mux_client_request_alive: entering debug3: mux_client_request_alive: done pid = 8535 debug3: mux_client_request_session: session request sent debug1: mux_client_request_session: master session id: 2 debug3: mux_client_read_packet: read header failed: Broken pipe debug2: Received exit status from master 1 fatal: [node2]: FAILED! => { "changed": false, "invocation": { "module_args": { "name": "node2" } }, "msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\n" }
Failed to connect to the host via ssh - ну значит или ключи для ssh надо, или че-то еще
Alexander
Solyar
Секурно
Для дебага)
Lucky SB
Секурно
временно )))
Alexander
настройте psp и rbac и не страдайте фигней
Тьфу, я забыл, что речь про кубер, а не про голый докер. В кубере норм.
Alexander
KrivdaTheTriewe
Minio/ceph
это есть
KrivdaTheTriewe
прост получается с RBD писать может один под
KrivdaTheTriewe
если цеф
KrivdaTheTriewe
если много подов,то может заморочится на локальных дисках все поднять
Solyar
<ud-virt-s-k8s-2> (1, b'\n{"msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\\n", "failed": true, "invocation": {"module_args": {"name": "node2"}}}\n', b'OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017\r\ndebug1: Reading configuration data /etc/ssh/ssh_config\r\ndebug1: /etc/ssh/ssh_config line 58: Applying options for *\r\ndebug1: auto-mux: Trying existing master\r\ndebug2: fd 3 setting O_NONBLOCK\r\ndebug2: mux_client_hello_exchange: master version 4\r\ndebug3: mux_client_forwards: request forwardings: 0 local, 0 remote\r\ndebug3: mux_client_request_session: entering\r\ndebug3: mux_client_request_alive: entering\r\ndebug3: mux_client_request_alive: done pid = 8535\r\ndebug3: mux_client_request_session: session request sent\r\ndebug1: mux_client_request_session: master session id: 2\r\ndebug3: mux_client_read_packet: read header failed: Broken pipe\r\ndebug2: Received exit status from master 1\r\n') <ud-virt-s-k8s-2> Failed to connect to the host via ssh: OpenSSH_7.4p1, OpenSSL 1.0.2k-fips 26 Jan 2017 debug1: Reading configuration data /etc/ssh/ssh_config debug1: /etc/ssh/ssh_config line 58: Applying options for * debug1: auto-mux: Trying existing master debug2: fd 3 setting O_NONBLOCK debug2: mux_client_hello_exchange: master version 4 debug3: mux_client_forwards: request forwardings: 0 local, 0 remote debug3: mux_client_request_session: entering debug3: mux_client_request_alive: entering debug3: mux_client_request_alive: done pid = 8535 debug3: mux_client_request_session: session request sent debug1: mux_client_request_session: master session id: 2 debug3: mux_client_read_packet: read header failed: Broken pipe debug2: Received exit status from master 1 fatal: [node2]: FAILED! => { "changed": false, "invocation": { "module_args": { "name": "node2" } }, "msg": "Command failed rc=1, out=, err=Could not set property: Interactive authentication required.\n" }
А можно комманду?
Solyar
которой запускаете?
Никита
А можно комманду?
уже запустилось, пока всё идет нормально
Alexander N.
Коллеги, сталкивался кто-то с подобной херней, иногда busybox внутри контейнеров ведет себя странно, при попытке выполнить тот же ls пишет "ls: can't open '.': Value too large for defined data type"
Incognito
привет всем. а кто-нибудь ипользует "rancher2_cluster" для создание rke cluster через терраформ ? а то у меня вроде сам класстер создается, а ноды в не добавляют и я не понимаю что я делаю не так, но понимаю что не одинок потому что нашел https://forums.rancher.com/t/terraform-rancher2-rke-config-not-building-nodes-in-rancher/15478
Alexander
прост получается с RBD писать может один под
Я про s3 на ceph говорил, а не про rbd
Alexey
временно )))
нет ничего более persistent, чем temporary )
Ilia
Всем привет, кто-нибудь использует кластер кубера в azure? Не получается развернуть, с kubenet
Vladimir
Всем привет! хочу у группы system:unauthenticated убрать роль system:discovery но чето ссыкотно лезть в дефолтные пресеты RBAC'а можно ли как-то подругому убрать у system:anonymous права на всё кроме nonResourceURLs /healtz ? хочу через route53 делать healthcheck'и у kube-apiserver
Arumato
Хай
Arumato
Ребят вопросик, один большой проект все сервисы в кубе как примерно можно решить проблему с авторизацией, то есть один раз авторизовался через один сервис потом чтобы при обращений на другие сервисы он проверял авторизован юзер или нет. У кого возникали такие проблемы и как решали, буду очень рад если направите куда надо
Arumato
Что-то типа SSO service to service что-ли надо юзать илиии? (Щас читаю доки keycloak)
G72K
Авторизацию все же каждый сервер сам проводить должен, аутентификацию можно и централизованно
Sergei
@oik741 у вас кластер какой версии?
Arumato
Всем спс, посмотрю, и почитаю разницю аутентика от авторизацией
Sergey
Повторю вопрос, может сейчас больше повезет, середина дня все-таки) Никто не знает почему такое может быть? kubectl --token="$token" get deployment Error from server (InternalError): an error on the server ("") has prevented the request from succeeding (get deployments.apps) Причем время от времени, иногда нормально отдает, а иногда падает Ничего не найти в сети прям (
Sergey
У меня головная боль с CI из-за этого
AkelMaister (Богдан)
Всем привет. Нужна помощь. Как так получается, что, если поды находятся на разных нодах, то пинги проходят, даже telnet подключается на нужный порт, а вот если curl-ом стрелять (например), то заголовки пишет типа: < HTTP/1.1 200 OK < accept-ranges: bytes < content-length: 2884 < content-type: text/html < date: Tue, 28 Jan 2020 12:29:20 GMT < etag: "3484911868" < last-modified: Tue, 28 Jan 2020 11:38:46 GMT < server: Cowboy и дальше висит до ctrl + c. А, если поды развернуть на одной ноде через nodeSelector, то всё работает так как и должно было. Уже несколько дней голову ломаю и гуглю, но, пока не нашел ничего похожего.
Sergey
ну а в логи API сервера то смотрел ?
Хороший вопрос) А как? Я вот как раз ставлю k8s пытаюсь разобраться
Lucky SB
Хороший вопрос) А как? Я вот как раз ставлю k8s пытаюсь разобраться
ну рассказывай как ставишь, сколько мастеров
AkelMaister (Богдан)
сеть у вас сломана
Понимаю. Но, как-то не особо очевидно что делать, с учётом того, что заголовки всё таки получаю, telnet-ом получается достучаться и пинги проходят...
Sergey
Ставлю себе на удаленную машинку, убунта snap install microk8s --classic snap alias microk8s.kubectl kubectl microk8s.status --wait-ready microk8s.enable dns dashboard storage registry kubectl get nodes kubectl version
Sergey
потом делаю сервисного юзера для деплоя
Sergey
и юзаю его токен
Sergey
могу углубится в любую сторону как именно..
Sergey
потом хожу с этим токеном, и время от времени куб выдает ошибку
Sergey
на команды типа kubectl get nodes
Sergey
А как правильно на убунту? если не microk8s
Lucky SB
три мастера+N workers+M ingress node обмазать кубспреем. крутить до готовности
AkelMaister (Богдан)
А стоп. туплю. у тебя ж curl вернул 200 OK или оно 2884 байт не может получить ?
Если на разных нодах, то не получаю тело. В общем, это уже самый простой способ воспроизведения проблемы. Изначально, в первый раз с ней столкнулся при попытке развернуть кластер postgresql, ловил проблемы что при пересоздании неймспейса с нуля, периодически кластер из 1 мастера и 1 слейва то собирается нормально, то слейв не может выполнить дамп. Начал копать и нашел, что проблема воспроизводиться, если сервисы на разных нодах. Но, вот что интересно, так это то, что redis-клестер работает без проблем.
Sergey
Зависит от задач.
просто прикрутить к CI для начала
Никита
traefik как ингресс контроллер только канареечный деплой умеет?
Lucky SB
просто прикрутить к CI для начала
лично я бы поставил докер и сверху minikube --vmdriver=none или просто kubeadm init
AkelMaister (Богдан)
у тебя своя локалка ? jumbo frame на каком то из коммутаторов не включили ?
3 сервера на DO, дополнительно обмазоно слоем своего VPN-а. Разворачивалось kubespray-ем
Sergey
Окей, а если тоже самое то какие логи смотреть?
Aleksandr
Всем привет, кто-нибуть сталкивался с проблемой: Есть менеджерская нода и несколько воркеров, базовое сетевое взаимодействие выполняется через VPN, те все ноды воркеров и нода менеджерская соединены по VPN. Проблема: Иногда воркер (в рандомное время но точно через 2-3 дня работы) перестает получать DNS ответ от кибернетисового DNS по таймауту. Вопрос: В каком месте посмотреть? На уровне flannel? Что-то с сетью?
Lucky SB
Окей, а если тоже самое то какие логи смотреть?
в ns kube-system запущены поды с названием kube-apiserver..... вот их логи. если апи сервер совсе тупить и не работает. можно зайти на мастер узлы и docker logs нужных контейнеров
Lucky SB
3 сервера на DO, дополнительно обмазоно слоем своего VPN-а. Разворачивалось kubespray-ем
чота сложна... вообще оно выглядит так, как будто это проблемы с mtu большие пакеты не пролазиют в твой VPN
Lucky SB
и не фрагментируются
Lucky SB
Круто спасибо, щас попробую
вангую что там будет ругань на проблемы доступа к etcd, а в Etcd ругань на медленные диски
Sergey
Посмотрим может повезет)
Lucky SB
я не спрашиваю зачем вы кластер куба без локалки между узлами поднимаете. но вот зачем вы VPN строите ? того VPN, что делают для подов flannel vxlan иди calico с ip-ip вам мало?
Lucky SB
скорее всего речь про vpn для доступа к кластеру 🤔
нууу вон чо пигут те все ноды воркеров и нода менеджерская соединены по VPN. дополнительно обмазоно слоем своего VPN-а
Lucky SB
Это же разные люди
ну проблемы то одинаковые )
Aleksandr
++
У меня VPN поднято между узлами для того чтобы не шарить порты кибернетиса в паблик, потому что все машины в основном за роутерами находятся
Aleksandr
Сам VPN микротики реализуют, а машины просто по внутренним IP коннектятся и все