Dmitry
Пока это звучит как мифический костыль который "должен быть лучше" чем autoscale AWS.
inqfen
Куски подобного встечал, полное описание не помню, видел или нет
George
я б тоже почитал, про правильный скейл
inqfen
Пока это звучит как мифический костыль который "должен быть лучше" чем autoscale AWS.
у автоскейла такое маленько количество параметров для срабатывания и нельзя сделать кастомные
Dmitry
не всегда
Допустим, мы говорим о конфиге с 0. голая убунт, типа
inqfen
Что он скорее только дает ложную уверенность, что у тебя все хорошо будет
inqfen
У нас на соседнем проекте такая фигня была. Есть автоскейл - из всех факапов только пару раз вроде сработал
inqfen
А остальное - то в сеть уперлись то еще во что
inqfen
Но никак не в cpu utilization
Dmitry
George
нет?
Старый
Допустим, мы говорим о конфиге с 0. голая убунт, типа
Ты ещё предложи вариант, когда ансибл запускает контейнер и потом в него софт ставит
inqfen
Забиты сокеты. Как это проявляется? (и почему ulimit не выставлен?)
При обращении к ноде nginx отпадает по таймауту и в netstat можешь наплюдать дропнутые пакеты, которые отброшены из-за того, что в сокете место кончилось
inqfen
Обращений много
Dmitry
потому что ulimit - это другое
Если правильно выставлен ulimit то сокеты забьется до этого предела, а мы сможем узнать состояние приложения (health, latency, итд)
Старый
Забиты сокеты. Как это проявляется? (и почему ulimit не выставлен?)
Это ты как собрался улимит без костылей то править?
Dmitry
"containerDefinitions": [ { ... "ulimits": [ { "softLimit": 2048, "hardLimit": 2048, "name": "nofile" } ] ... } ]
Dmitry
например так
inqfen
И вообще при постепенном росте коннектов в сокете ulimit не поможет
Dmitry
Во, классно. И как автоскейл на это состояние настроить?
Если посмотреть на список: CPUUtilization NetworkIn NetworkOut DiskWriteOps DiskReadBytes DiskReadOps DiskWriteBytes Latency RequestCount HealthyHostCount UnhealthyHostCount Latency или HealthyHostCount`/`UnhealthyHostCount вполне должны сработать,
inqfen
Просто внезапно в 1 момент nginx будет отправлять пакеты в ноду, а они отбрасываются
inqfen
Или не в ноду а куда угодно собственно
Dmitry
Просто внезапно в 1 момент nginx будет отправлять пакеты в ноду, а они отбрасываются
HealthCheck ведь на это придумали. Приложение знает о своем статусе
Старый
ну поставь на самой ноде 1004000
inqfen
Только определённый процент пользователей посылается куда подальше
Dmitry
Как оно работает, если оно отбрасывает?
inqfen
10% запросов отбрасывается, 90% обрабатывается
Dmitry
Только определённый процент пользователей посылается куда подальше
healthcheck от ELB должен поймать этот процент и создать еще инстансов
Dmitry
плюс увеличится Latency, я думаю
inqfen
healthcheck от ELB должен поймать этот процент и создать еще инстансов
ага, напрмер в случае фронтов и статики на одних хостах отбрасывает nginx, а проблема в сервисе за ним
inqfen
И eb бодро бежит увеличивать хосты с nginx
inqfen
а проблема не в нем, а за ним
Dmitry
Вообще, я не знаю деталей, так что спорить смысла нет, скорее всего я не прав))
Dmitry
Да и изнутри виднее) Просто уже года 3 Elastic Beanstalk мне экономит 1-2 доп девопса
inqfen
Вообще, я не знаю деталей, так что спорить смысла нет, скорее всего я не прав))
В некоторых случаях автоскейлинг eb бесспорно будет очень полезен
inqfen
Просто иногда он тебе даст только ложную уверенность, что у тебя он сработает
Dmitry
Да и изнутри виднее) Просто уже года 3 Elastic Beanstalk мне экономит 1-2 доп девопса
И я иду исключительно от этого момента, когда какое-то решение экономит деньги. Не факт что это идеально, но для бизнеса самое то (пока)
inqfen
А если у тебя связка из 10 например компонентов - проблема на 5 по очереди, а проявляется на втором
George
возможно - нужно тупо делать nginx + backend на одном EC2 инстансе
George
тогда скейлим nginx - и бекенды скейлятся сами
George
но при этом мы влезаем в другую проблему -нужно перегенировать конфиги nginx динамически на все ноды.... аргх
inqfen
Не всегда возможно, и backend может состоять не из одного приложения
inqfen
Тогда уж вообще все и фронт и бек и кеш и дб тупо на один инстанс, для надежности)
George
Не всегда возможно, и backend может состоять не из одного приложения
я не спорю. Но тогда нужно платформе давать понимание о том из чего приложение собрано. Примерно как операторы в кубе
Dmitry
Если подойти с точки зрения AWS , то есть этому всему решения. ALB, например. nginx вообще отпадает часто
George
nginx прошлый век. Наш Бог - envoy
George
и название хорошее
George
собери себе инфраструктуру из послов, консулов, директоров ))))
Dmitry
я вот возлюбил traefik
George
я тоже
George
но там выше на него гнали
V 🏴‍☠️
я вот возлюбил traefik
Он не умеет ТСР
George
что-де нагрузку не держит
George
Он не умеет ТСР
ЩИТО? ОЛОЛО
V 🏴‍☠️
У меня связка fabio+traefik+gobetween
George
а по какому протоколу он работает тогда???? 😱
V 🏴‍☠️
ТСР балансировки там нет
George
L7
а, ты про балансинг. Уф.
V 🏴‍☠️
Либо сокеты, либо веб (http(s))
George
ты меня так не пугай. А то звучит, что трефик, как будто через УДП работает )))) аххахаха
Dmitry
ТСР балансировки там нет
это правда, и думаю они когда-то допилят. но для http классно.
inqfen
НУ где всякие директора, бриллиантовые директора
George
ну, он больше, чем балансер
inqfen
Изумрудные, сапфровые и подобное вот это все
inqfen
Это балансер, не совсем умеющий балансировать
V 🏴‍☠️
это правда, и думаю они когда-то допилят. но для http классно.
Мне фабио больше вкатил, но в фабио нет выбора методов балансировки
inqfen
Я вообще старовер, у меня трафик раскидывает haproxy