Я неопытный

Я гуглил, гуглил, гуглил и в конечном итоге пришёл к тому, что можно попробовать

И попробовал

у меня pgpool сливал голому постгресу по производительности

это конечно давно было, но осадочек остался

ну и я туда в код тогда заглядывал, после этого не хочется связываться с ним

pgbouncer ван лав

Почему нельзя приложения настроить так, чтобы они своими пулами не пробивали максимум коннектов?

всё равно лучше пул перед базой прицепить специально

потому что приложение может заскейлиться например

Привет всем! Есть у кого-нибудь опыт использования бд (postgres) в kubernetes? Какие нюансы и проблемы могут возникнуть? Или вообще пока рано помещать подобные системы в контейнеры?

есть. Не делайте так.

потому что приложение может заскейлиться например

Тоже верно. Я пробовал тоже и pgpool и pgbouncer, в итоге точнее пулы аппов настроили и стало лучше

pgbouncer никак не мешает пулам приложений

Вообще любая прослойка может неожиданный эффект иметь

Единственное к чему я не имею претензий это к GO шаблонизатору, и даже в этом моменте разрабы helm нагавнякали, выпилили поддержку env и expandenv из него. Вот реально пидарасы.

они не выпилили насколько я понимаю, просто рендерится темплейт то на стороне тиллера где нету env ваших локальных

Зачем дублировать файлы с параметрами? Потом сложнее уследить где править кмк, чем когда всё перед глазами

а не надо дублировать, сложить в один values.yaml общее и в два других то что отличается и потом по два файла (общий плюс значения для этого кластера) в зависимости от кластера хелму передавать

а не надо дублировать, сложить в один values.yaml общее и в два других то что отличается и потом по два файла (общий плюс значения для этого кластера) в зависимости от кластера хелму передавать

спасибо, уже в этом разобрался.

у самой Java проблемы при работе в докере. JVM не понимает, что работает в изоляции. полноценно исправлено в Java10. для Java9 есть -XX:+UnlockExperimentalVMOptions и -XX:+UseCGroupMemoryLimitForHeap. погуглите по java + docker + cgroups. в целом есть способы ускорить даже 8-ку.

кстати да, есть же просто прекрасная статья от линкедина по теме https://engineering.linkedin.com/blog/2016/11/application-pauses-when-running-jvm-inside-linux-control-groups

Джентльмены, подскажите, как вы организуете деплой всякого квазистатического в кластере? таких вещей как дашборд, днс-аддон и т.д.

хелм чартами

Что с CPU лимитами, что по графикам соотношение container_cpu_cfs_throttled_periods_total к container_cpu_cfs_periods_total? Как себя чувствует etcd и apiserver?

а эти статы прометеус умеет собирать из нод экспортера или еще откуда?

Господа, стоит ли смотреть на ALB-ingress-controller?

зависит от юзкейса, возможно стоит сразу на EKS смотреть тогда - там он из коробки

зависит от юзкейса, возможно стоит сразу на EKS смотреть тогда - там он из коробки

в случае EKS таки нет проблем использовать nginx ingress

и чот нет в EKS ALB изкаропке. как минимум в моём EKS.

Redis бенчил в кластере, так что он выжирал ядро и упирался в проц. Потюнил машины немного чтобы добраться до этого результата. Решили что подходит

редис в проц упирался? он же однопоточный, на сервере одно ядро было чтоли?

Почему нельзя приложения настроить так, чтобы они своими пулами не пробивали максимум коннектов?

хмм а как ты это представляешь если приложения сидят на HPA по цпу или кастомной метрике и могут скейлиться от 2 до 10 реплик (например)? Ну т.е. можно но выйдет пул на реплику 20 коннектов (например) что может быть недостаточно

и чот нет в EKS ALB изкаропке. как минимум в моём EKS.

да там у них как обычно надо сделать пачку пост инсталл шагов

да там у них как обычно надо сделать пачку пост инсталл шагов

EKS таки после GKE выглядит как поделка

ноды сам, с апгрейдами - непонятно, интеграции RBAC с IAM нет

во https://github.com/aws-samples/aws-workshop-for-kubernetes/tree/master/04-path-security-and-networking/405-ingress-controllers

EKS таки после GKE выглядит как поделка

эт точно

позавчера был у нас в компании воркшоп от амазона, сидели офигевали

во https://github.com/aws-samples/aws-workshop-for-kubernetes/tree/master/04-path-security-and-networking/405-ingress-controllers

хорошая ссылка, спасибо.

позавчера был у нас в компании воркшоп от амазона, сидели офигевали

ну т.е. я пока не вижу ЗНАЧИТЕЛЬНЫХ преимуществ перед kops/kubespray у EKS

есть надежда, что сделают получше

15 минут на создание кластера и это мы только получаем мастера, а потом еще 10-15 минут добавить воркеры

преимущество простое - решение проблем через создание тикета

15 минут на создание кластера и это мы только получаем мастера, а потом еще 10-15 минут добавить воркеры

ну таки у меня катаются мастера + ноды одним конфигом терраформа за 11-12 минут

преимущество простое - решение проблем через создание тикета

Если у тебя саппорт куплен нужный

Иначе - сасай

ну конечно энтерпрайз саппорт есть

это по дефолту, иначе вообще с амазоном серьезные приложения не покрутишь имхо

будешь выгребать все их тупые баги когда ломается какой-то managed service типа elasticache и дальше первого уровня индусов саппорта не пробьешься

это по дефолту, иначе вообще с амазоном серьезные приложения не покрутишь имхо

Ну тут такое, но крупный интерпрейз все же чаще покупает саппорт

ну конечно, а как ещё

а эти статы прометеус умеет собирать из нод экспортера или еще откуда?

из cadvisor'а

в кубернетесе есть рестрикшены на длину имен неймспейсов ?

Насколько помню, как в днс, 64 максимум на сегмент, 256 все целиком. Но лучше свериться со спекой.

кстати, может кто-то может подсказать как мне заставить kube-dns не пытаться резолвить некоторые домены сначала внутри кластера? т.е. у меня есть route53 зона и я хочу чтобы на резолв доменов вида *.companydomain.com он сразу отправлял запрос в dns server выданный амазон в vpc (т.е. в случае дефолтного cidr это 10.0.0.2)? пробовал по вот этой доке настроить https://kubernetes.io/blog/2017/04/configuring-private-dns-zones-upstream-nameservers-kubernetes/ stubDomains: | {“companydomain.com”: [“10.0.0.2”]} но вижу в логах он всё равно пытается сначала зарезовлить внутри кластера добавляю .svc.local в конец и т.п.

может конечно днс под не увидел configmap после того как я его создал как в статье описано и рестартанул под (внутрь контейнера не заходил не проверял появился ли маунт, надо бы проверить)

а может я что-то не понимаю и это вообще не так надо делать? И вопрос в догонку, может это можно сделать с помошью coredns? У меня сейчас 1.10 но в 1.11 coredns из коробки - может стоит сразу переехать на coredns если это решит все эти бесконечные проблемы с днс

само по себе то что резолвить сначала пытается внутри кластера не проблема но у меня я так понимаю вот эта проблема https://github.com/kubernetes/dns/issues/96 - т.е. иногда рандомно приложение не может зарезолвить днс. Я уже поднял количество реплик kube-dns чтобы было по 1 реплике на ноду (так я спасался от этих проблем во времена 1.4) но что-то не помогло 😕

у тебя же в resolv.conf в подах вписано ndots:2 или 3

куда копать как задебажить проблему нормально если она рандомно вылазит время от времени - теряюсь в догадках. Включил логи запросов в kube-dns но там их столько сыпется что там фиг что найдешь

ну то есть в днс-сервер будет прилетать всегда с подстановкой куберовского днс сначала

у тебя же в resolv.conf в подах вписано ndots:2 или 3

у меня вообще 5 кажется стоит - как по дефолту в копсе

ну там задранное значение, я не помню точно

да, а как это можно исправить? я вот думал stubDomains опция должна это исправить

но что-то ничего не поменялось

ну настройки резолв.конф она точно не исправит

честно говоря даже не знаю

короче надо дебажить дальше :(

так уж резолвер работает

coredns у меня что-то с полпинка не взлетел (как обычно есть хелм чарт который stable но ни фига не работает), вот думаю стоит попытаться докрутить coredns или там будет та же проблема

ну проблема-то не в днс-сервер

так уж резолвер работает

я понимаю но по статье (вот картинка https://1.bp.blogspot.com/-IeFx2Uuq_i0/WORRuQpxG_I/AAAAAAAABBA/g1P3ljd7YGYMShoHJnPRK1IfX5h3o9GvACEw/s400/dns.png не должен kube-dns ломиться на кластерный резолвер а должен сразу идти на апстрим)

вернее dnsmasq

а ты можешь настройки днсмаск подкрутить?

хотя тебе же под всё равно посылает сначала днс-запрос с приаттаченым твоим днс-адресом

конечно могу и я уже подкрутил - включил логирование запросов

хотя тебе же под всё равно посылает сначала днс-запрос с приаттаченым твоим днс-адресом

вот тут не уверен что понял, можно поподробнее?

под ломится на что-то типа mysql.demo.company.com который есть CNAME или A ALIAS в амазоновском route53 для RDS, elasticache и т.п.

ну ты же знаешь как ndots работает и кто его читает

может ломится и по прямому урлу зостед сервиса, т.е. типа <какакая-то херня из букв и цифр>.amazonaws.com

а тебе этому поду надо во внутренние куберные адреса ходить?

кажется до меня дошло, у меня же сначала resolv.conf внутри каждого пода

ну!

а тебе этому поду надо во внутренние куберные адреса ходить?

надо ходить в один (но может стать больше)

а приемлимо ли будет ходить по полным внутрикуберовским адресам?

если да, то просто сделай ndots:0

ну или типа того

для этого пода