Vladimir
ага
Vladimir
но тоже важно будет
Denis
в рамках региона тебе еще нужно балансировать умненько по нодам
Vladimir
угу
Denis
иначе в популярном регионе ты получишь постоянную промывку кешей
Vladimir
это уже от трафика зависит - объемы, тип
Vladimir
в простейшем случаи сойдет и round robin со sticky session'ами
Denis
да, верно. н оесли мы говорим про general решение, то оно должно поддерживать все основные "виды" нагрузок
Vladimir
ИМХО странно делать сразу general решение )
Vladimir
если ты его продавать не хочешь
Denis
Ну челоек сказал что они бизнес строят)
Vladimir
можно взять частное, запилить его
Vladimir
а потом уже плясать от реальных узких мест
Ivan
можно взять частное, запилить его
Вопрос в том, от чего отталкиваться в пилении. Что взять за основу (например, что-нить с репликацией типа Ceph), а что допиливать самому.
Vladimir
сколько регионов хотите, какой тип контента
Ivan
Ну тоже верно
Denis
@Civiloid а у тебя onapp.com открывается ?
Vladimir
Планы роста на ближайший год с момента внедрения системы
Vladimir
неа
Vladimir
@ptchol ^
Ivan
Интереснее конечно было бы услышать про готовые решения на рынке opensource, но видимо их нет :)
Vladimir
прям "вот тебе CDN, OpenSource" нету боюсь
Vladimir
нужно как всегда из "П", "Ж", "А", "О" собирать слово "Счастье"
Ivan
ну как бы ничего там сложного не должно быть, вроде: три nginx'a + пара скриптов с rsync + varnish какой-нибудь - вот тебе и CDN
Vladimir
весь вопрос в том как синхронизовать.
Vladimir
так то да, ECMP -> пулл nginx'ов или haproxy -> varnish или что-то в таком духе
Ivan
ок, спасибо за диалог
Denis
ну как бы ничего там сложного не должно быть, вроде: три nginx'a + пара скриптов с rsync + varnish какой-нибудь - вот тебе и CDN
смотри. у тебя скажем 10нод по 2 тб. суммарно контента 10тб. какова вероятность попасть по контенту в кеше ?
Vladimir
@vanch проблемы начнутся когда у тебя регионы будут далеко - остро встанет проблема синхронизации контента. Когда трафик вырастет, тут @ptchol уже говорил про то что вылезут проблемы с вымыванием данных из кэша. Ну и если это не про веб, то там совсем другое.
Denis
я имею ввиду что эти ноды кеширующие
Vladimir
на самом деле кажется, что может быть неплохой идеей посмотреть на https://github.com/reverbrain/elliptics для хранения данных.
Denis
честно, не стоит.
Vladimir
и некоторой логикой поверх него
Denis
если у вас нет в штате сишника.
Anonymous
честно, не стоит.
зачем брать на гитлабе какую то малоизвестную штуку
Anonymous
когда есть свифт и цеф?
Denis
в аналогичной ситуации, я пожил 2 года с эллиптиксом. когда мы занимались доставкой видеоконтента. сейчас перешел в аудио, и мы взяли свифт, и честно, пока больше нравится.
Denis
когда есть свифт и цеф?
потому что свифт тормозной а цеф дорого в эксплуатации по железу
Anonymous
вы ушли на свифт
Denis
вот мне тоже кажется, что свифт всё-таки решает больше проблем, чем создаёт
проблемы на свифте проще решаются, потому что код довольно простой в понимании и модульно архитектуры создает довольно узкий скоп при исследовании проблем
Vladimir
зачем брать на гитлабе какую то малоизвестную штуку
малоизвестная штука при этом основная хранилка у Яндекс.Диска, Яндекс.Музыки и Яндекс.Фотки
Vladimir
правда как и все сделанное в яндексе оно для инопланетян сделано
Anonymous
кто вам пилить будет?
Denis
вобще да, эллиптикс работает ок, и проблемы решаются с ним тоже быстро, но при наличии сишника в штате ) когда он потерялся, мне было тяжело.
Denis
проблема его в том, что он как то не формирует коммунити, и доков маловато.
Denis
но он простой как дверь и это плюс)
Anonymous
типа как с тарантулом? )
Anonymous
или я ошибаюсь
Denis
нету погружения в тарантул. Помоему там наоборот. они оч активно развивают его и везде пиарят
Ivan
проблема его в том, что он как то не формирует коммунити, и доков маловато.
последний раз тыкал его в 2012 и до сих пор нет коммьюнити? это чёт жестко
Vladimir
нету погружения в тарантул. Помоему там наоборот. они оч активно развивают его и везде пиарят
как я понимаю мыло.ру хочет тарантул в отдельную контору выделить
Vladimir
в смысле комерческая поддержка, комерческая версия, опенсорс версия и пр.
Vladimir
но это судя по тому как выглядит
Andrew
Это Осипов скорее хочет )
Ivan
Так не бывает.
Как отрезал. Почему? Я могу такое поднять и оно даже будет работать. Недолго наверное, правда :)
Lupsik Pupsik
кто-нибудь юзал https://github.com/jwilder/nginx-proxy ?
Zon
Товарищи, а кто как реализует у себя CDN? Так чтоб с репликацией между нодами, отдачей по HTTP, HA, всё такое. OS/Swift, rsync, Ceph etc?
Когда занимался видео была простая схема с nginx на кеше и сторажде + стораджи дублировались через rsync. Снаружи был балансер который хешрингом направлял на нужный кеш. Один дц всего, но 100гбит/с мы с него имели
Zon
Кеш находил нужную пару стораджа по префиксам
Vladimir
100гиг/сек из одного дц? Это шо ж за дц такой
Logan
Цветочная может?
Zon
7 кешей, 6 стораджей, около 50тб контента
Zon
Стойка считай
Logan
Rutube? Ivideon?
Zon
Типа того
Andrew
100гиг/сек из одного дц? Это шо ж за дц такой
в мыле тоже больше отдавали с одного дц
Zon
Можно было и больше, железка скейлилась до 960, серваков с ссд и памятью докинуть тоже не сложно. Но потребности не было.
Roman
А что за железка?
Zon
Juniper, модель не помню, года 3 назад было.