
Fike
25.04.2017
20:49:22
Но ты не найдешь готовых спецов по той же кассандре
Но сделана она в разы логичнее того же мускула, хоть в сторону внутренностей и плюются

KOT
25.04.2017
20:49:51

Ivan
25.04.2017
20:50:03

Google

Ivan
25.04.2017
20:50:36

KOT
25.04.2017
20:50:47

Ivan
25.04.2017
20:51:21

KOT
25.04.2017
20:53:50
У амазона есть сервис "Route53" это сервера ДНС с расширенными возможностями.
1. У них есть балансировка по задержке, чтобы перекинуть юзера на самый ближайший по времени отклика сервак.
2. К записям можно привязать Healthchecks, которые там же создаёшь, система наблюдает за тем, насколько жизнеспособна структура в локации, и отталкиваясь от "healthy/unhealthy" выбирает пускать туда траф или нет.
Вот оно используется ввиде балансировщика.

Ivan
25.04.2017
20:54:32

KOT
25.04.2017
20:54:37
Далее прописаны ИПшки машин на ЕС2 это обычные виртуалки, на которых крутятся вебсервера со скриптами.

Ivan
25.04.2017
20:54:44
или она только опрашивает сегменты и решает куда что слать?

KOT
25.04.2017
20:54:48
Нет, там не данные проходят, а только ДНС запросы

Ivan
25.04.2017
20:54:55
тааак
уже интересно

KOT
25.04.2017
20:56:00
А вот куда Route53 решит отдать траф, туда он и пойдёт. Хэлтчек срабатывает достаточно быстро, у меня сейчас на полном автомате переключается траф на сервак "чуть дальше", если ближайший задыхается.
Так вот, скрипты на веб-сервере идут по своей логике, и для начала обращаются в мемкэш, если там нету данных, то в базу.
Как устроено сейчас:
1. Ирландия - Главный ДБ сервер на RDS (сервис амазона с готовым решением под СУБД), который имеет резервного брата близница там же, если первый накрывается, второй подхватывает, реплики переподключаются секунд за 30 примерно. Так же там реплика для чтения рядом.
2. Лондон - реплика слэйв
3. Вирджиния - реплика слэйв

Google

KOT
25.04.2017
20:59:47
Скрипт на вебсервере если не может подключится к мэмкэшу, то тупо его игнорит не паря ошибками. Если не выходит подключится к своему слэйву (в этих же трёх локациях вебсервера стоят), то пытаются к "соседнему", а потом к мастеру (хуевастая идея, валил несколько раз мастера на апдейтах)
В нашей задаче очень важно время отклика

Ivan
25.04.2017
21:01:02
вот я вообще хочу уйти на multi-master
И в твоей схеме с рулением DNS - мне на каждый запрос предлагаешь DNS щелкать?

Pavel
25.04.2017
21:02:08
mm разве существует?


KOT
25.04.2017
21:02:20
У нас были сервера в разных частях мира. Проблема в том, что скрипт кроме чтения в слэйве должен сделать 1-3 записи на мастер, а это задержки. По замерам среднее время выполнения скриптов из разных локаций:
Ирландия - 0,15сек
Лондон - 0,5сек
Франкфурт - 0,8сек
Вирджиния - 1,1сек
Калифорния - 1,6сек
Мумбай - 2сек
Сингапур - 2,7сек
По разным причинам рано или поздно выкидывали:
- сингапур -> перетянули в мумбай
- калифорния -> перетянули в вирджинию
- франкфурт -> перетянули в Лондон
Предположительно будут взяты зоны:
Ирландия - Мастер ( + Слэйв)
Лондон - Слэйв (Мастер в Ирландии)
Вирджиния - Мастер ( + Слэйв)
Калифорния - Слэйв (Мастер в Вирджинии)
Сау-Паулу - Слэйв (Мастер в Вирджинии)
Сингапур - Мастер ( + Слэйв)
Мумбай - Слэйв (Мастер в Сингапуре)
С. Корея либо Япония - Слэйв (Мастер в Сингапуре)
Сидней - Слэйв (Мастер в Сингапуре)
Мастера будут МММ актив-актив
НЕ кольцо.
"Все на всех"
используя фишку 5.7 "multi source replication"


Ivan
25.04.2017
21:08:06
я уже 2 недели штудирую

KOT
25.04.2017
21:08:31
Тем самым траф в который упадёт на Сау-Пауло, отдаст инфу за примерно 1,5 сек, его данные запишутся в Вирджинии, та отдаст их Мастеру в Сингапуре, а тот спустит в Сидней.

Ivan
25.04.2017
21:08:44
только все же multi-group replication)

KOT
25.04.2017
21:08:50
По моим прикидам за 5-6 секунд из любой точки должно расползтись ко всем остальным.
я мульти-гроуп в первый раз на днях прочитал

Google

KOT
25.04.2017
21:09:15
Ещё осенью такого термина не слышал
Давай сравнивать ))

Ivan
25.04.2017
21:16:04
К середине мая)

KOT
25.04.2017
21:16:11
В плане?

Ivan
25.04.2017
21:16:50
пока абсолютно не готов даже формулировать что то, т.к. постоянно дергают другими задачами и не дают нормально разобраться)

KOT
25.04.2017
21:17:18
Я вот сейчас пытаюсь понять смысл GTID
Мне нужно, чтобы сервера по кругу не гоняли данные + при всяких перезапусках и похуй чем ещё, сами перезапускали реплики, автопозиция итд

Al
25.04.2017
21:19:31

KOT
25.04.2017
21:23:34

Fike
25.04.2017
21:23:47

Al
25.04.2017
21:25:25
Это же даже не СУБД
Она зато решает то что ты описал. Цепляешь к ней сервера, создаешь группы и правила и она разруливает

KOT
25.04.2017
21:27:58

Al
25.04.2017
21:29:33
Приложениями может выступать субд и все что угодно

Fike
25.04.2017
21:30:43
боже, брокер сообщений

Al
25.04.2017
21:31:21
Спасибо. Зови меня просто, мой Господин.

Fike
25.04.2017
21:31:46
Да, ваше уткейшество

Al
25.04.2017
21:33:01
Если он прочитал описание и не понял. То "брокер сообщений" ему мало обьяснит

Fike
25.04.2017
21:34:31
У вещей есть имена, мой мастер

Google

Al
25.04.2017
21:34:56
Но кафку как раз и сделали для подобных кейсов. Распределенние нагрузки с гарантированной доставкой и прочими плюшками
Ток они б еще документацию нориальную сделали. И не агрились на любой вопрос.

Fike
25.04.2017
21:35:44
там забавная система фейловера, которая, скорее всего, не очень гарантирует доставку

Al
25.04.2017
21:37:44
Там по идее нужно весь ихний фарш цеплять для идеальной работы. Касандру, эластик, кафку. Оно там как пазл одно в другое

Fike
25.04.2017
21:38:23
бля
извините
кафка никак не связана с кассандрой
вообще
эластик - с апачем

Admin
ERROR: S client not available

Al
25.04.2017
21:38:42
Не связана

Fike
25.04.2017
21:38:49
он использует apache lucene под капотом
это совсем разные инструменты, которые можно объединять
и даже строить вторичные индексы для кассандры на эластике, что запрещено законом

Al
25.04.2017
21:39:17
Но во всех примерах оно там в куче

Fike
25.04.2017
21:39:17
но никакого пазла нет

Al
25.04.2017
21:39:35

Fike
25.04.2017
21:39:48
если видите статью, в которой вам объясняют как жить, выбрасывайте ее в мусорное ведро, даже если это "десять советов закадрить девчонку твоей мечты"

Al
25.04.2017
21:40:29
Даже если статья написана самой девочкой?

Fike
25.04.2017
21:41:16
в этом случае тебе точно не перепадет ничего, кроме опустошения кошелька и комнатки для самооценки

Google

Al
25.04.2017
21:41:50
У нас в чатиге старый ловелас теоретик

Fike
25.04.2017
21:42:46
а меня как назовешь?

KOT
25.04.2017
21:43:53
Его можно разнести по континентам?

Al
25.04.2017
21:44:35
О, не старый, либо очень старый и впавший в маразм. Ибо играет в детскую игру " это ты, а я кто"

Fike
25.04.2017
21:45:15
http://images4.wikia.nocookie.net/__cb20080809184551/scrubs/images/f/fc/1x21CoxSmile.jpg

Al
25.04.2017
21:45:20

KOT
25.04.2017
21:45:54

Fike
25.04.2017
21:46:06
разраб виноват™

KOT
25.04.2017
21:46:11

Al
25.04.2017
21:47:36

KOT
25.04.2017
21:49:28

Al
25.04.2017
21:49:36
А вы мне про то как к девкам подкатывать рассказываете

KOT
25.04.2017
21:49:43
Да ты к ним на грузовика подкатываешь, пару раз ТУ ТУ, и они все твои, кто не попадал )
Давай о самом главном. Хранилище у него в одном месте или в нескольких?

Al
25.04.2017
21:50:44

Fike
25.04.2017
21:50:54
аллокатор написал?

Al
25.04.2017
21:52:03
аллокатор написал?
Если ты мне, то нет. Развил теорию нечетких множеств. И написал алгоритм обобщения