Etki
Меня, безусловно, умиляет, что ты думаешь, что если каким-то делом занято больше одного человека, то личной ответственности как бы и нет, но я просто взял последнее сообщение.
Sergey
не надо брать просто последнее сообщение
Sergey
тем более если ты не понял его посыла
Etki
А. Там был глубокий смысл. Извините
Igor
bebebe
если подкладывать на кажую ноду
/root/.aws/credentials и /root/.aws/config и не накидывать AIM ROLE на виртуалки - то опять не работает
bebebe
https://github.com/aws/aws-sdk-go/blob/master/aws/credentials/shared_credentials_provider.go#L31
Роман
Делаю на любой ноде:
docker run -it alpine sh
Оттуда пингую интернет (ping 8.8.8.8) - нет пинга. Думаю, виноват кубер. Куда посмотреть?
Andrew
Файрволы есть?
Роман
Andrew
ufw, firewalld проверь
Andrew
На ноде
Sergey
работает ли правильно нат?
Sergey
врублен при пакет форвадинг?
Sergey
смотри нат
Sergey
iptables -L -vn -t nat
Andrew
Пингом лучше не проверять, бывает ICMP не форвардится
Sergey
еще момент
Sergey
нет ли дропа деволтного на таблицу форварда
Andrew
Попробуй телнетом на TCP или курлом
Роман
Sergey
ip a && ip r && iptables -L -vn && iptables -L -vn -t nat
Sergey
в студию
Sergey
а то /dev/astral заебал
Роман
Ооо. Сейчас залью куда-нибудь. В iptables нет цепочки DOCKER, которая обычно есть, когда не установлен кубер.
Роман
Sergey
И не должно
Sergey
Ща я поем
bebebe
вот я не до конца понимаю, читаю кодец
https://github.com/aws/aws-sdk-go/blob/master/aws/credentials/shared_credentials_provider.go#L31
это credential provider для aws который используется hyperkube'ом когда прокидывается параметр --cloud-provider=aws
этот кодец ищет файлы ~/.aws/credentials и ~/.aws/config
эти файлы можно создать руками, можно создать при помощи aws-cli configure, формат они имеют обычного ini файла
я сгенерировал их на каждой из трех нод.
но я не понимаю, hyperkube запускается, дальше aws библиотека пытается их прочить внутри докерконтейнера и каким образом эти файлы из хостовой системы дожлжны попасть в контейнер kubelet
bebebe
Anonymous
а у меня до сих пор с bare-metal проблемки ( я аж из-за сроков обратно на azure перекатился )
кто как load-balancer настраивал на bare-metal?
там надо чтоли отдельно nginx поставить и мапить на k8s?
Igor
Sergey
и чем запрокси будет лучше нгинкс?
Салтыдык
по определению
Igor
tcp balancing
Sergey
у меня вообще https://github.com/yyyar/gobetween с екзек дискавери и там маленький скрипт на баше которые вытаскивает сервисы и ставит на балансинг
Sergey
что именно не так с nginx stream для tcp балансинга?
Sergey
ну хоть скажите, что в бесплатной версии нет нормального хелчекинга)
bebebe
был жи
Igor
зачем говорить, я ж не на экзамене 🙂
Салтыдык
nginx уже умеет в L4?
Sergey
да
Sergey
модуль stream
Sergey
именно для балансинга l4
Sergey
пару лет как в открытом доступе уже
Sergey
всех с разморозкой
Sergey
https://nginx.org/ru/docs/stream/ngx_stream_core_module.html
Igor
пример конфигурации
listen containers-80
bind *:80
option httpchk GET /healthz
http-check expect status 200
default-server inter 5000 rise 2 fall 2
server server_name IP:PORT check
server server_name IP:PORT check
listen containers-443
bind *:443
option httpchk GET /healthz
http-check expect status 200
default-server inter 5000 rise 2 fall 2
server server_name IP:PORT verify none check check-ssl
server server_name IP:PORT verify none check check-ssl
Etki
по-моему оригинальный вопрос всего этого вообще не касался
Салтыдык
ну интересно же
Igor
оригинальный вопрос был, нужен ли балансер для нод k8s
Салтыдык
а nginx-ingress-controller поддерживает stream модуль?
Sergey
ye;ty
Sergey
нужен
Sergey
инжест нацелен на L7
Sergey
если мне память не подводит
Салтыдык
да, точн. чот тупанул
Sergey
https://github.com/kubernetes/contrib/tree/master/ingress/controllers/nginx/examples/tcp
Etki
Sergey
хотя чет есть
Sergey
надо разбераться с вопросом
Igor
в contrib старая репа, сейчас отдельная для ingress
Igor
https://github.com/kubernetes/ingress
Sergey
ну я к тому, что явно какой-то механизм даже через конфиг мап поиметь stream модуль есть, если нгинкс там собран с его поддержкой
Салтыдык
https://github.com/kubernetes/ingress/tree/master/examples/tcp/nginx
Igor
еще бы оно работало 🙂
Салтыдык
ну HAP точно работает)
Igor
там проще у сервиса объявить nodePort и забалансировать его внешним балансером
Салтыдык
если он есть
Igor
в районе 30XXX можно статикой выбрать
Igor
всё равно для нод нужен балансер
Sergey
у меня вообще балансер ходит на внутренний порт айпи контейнера
Sergey
минуя сука таблицу ната
Sergey
нода с балансером имеет маршруты на докер сети
Sergey
flannel type host-gw
Igor
Мы всё что в k8s наружу не светим по дефолту иначе вся Network Policy Isolation идёт боком
Sergey
все ноды в серой сети
Sergey
вообще