
Alex
23.06.2016
21:16:54
Я бы так туда-сюда не бегал
Решают гибридные схемы
Что-то в Pg, что-то в кассандре
А о каком количестве объектов в таблицах речь?

Google

Roman
23.06.2016
21:17:30

Steve
23.06.2016
21:17:51
Ну давай 50м в сутки

Roman
23.06.2016
21:18:01
50м?
не понял

Evgeny
23.06.2016
21:18:07

Steve
23.06.2016
21:18:08
Записей

Roman
23.06.2016
21:18:22

Alex
23.06.2016
21:18:30

Aleksandr
23.06.2016
21:18:36

Alex
23.06.2016
21:18:40
Какой-нибудь полуручной шардинг?

Roman
23.06.2016
21:19:22

Steve
23.06.2016
21:19:49
50 миллионов
В сутки записывать

Google

Steve
23.06.2016
21:19:49
Последовательно

Roman
23.06.2016
21:19:56
не много.

Alex
23.06.2016
21:19:59
Ну - это я уже понял

Steve
23.06.2016
21:20:03
Сейчас никак

Alex
23.06.2016
21:20:05
Да, в общем-то, довольно много

Aleksandr
23.06.2016
21:20:19

Steve
23.06.2016
21:20:25
Кассандра отлично подойдёт есть смысл запариться

Alex
23.06.2016
21:20:33
За 20 дней миллиард
Это, кагбе, дохрена

Roman
23.06.2016
21:20:38
бг 600к записей (изменение статуса или что-то такое) на nosql базе обрабатывал пока к нему на хост не подселили проектов еще, секунды за полторы.

Alex
23.06.2016
21:20:41

Steve
23.06.2016
21:20:53
Да все было быстро пиздец

Alex
23.06.2016
21:21:03
А сколько записей-то было?

Steve
23.06.2016
21:21:09
Пг в несколько раз хуже
Мало тысячи

Alex
23.06.2016
21:21:22
Аааа, хорошо
Вас ждет ряд неприятных открытий

Steve
23.06.2016
21:21:42
В чем?

Alex
23.06.2016
21:21:44
Первое из которых - кассандра использует mmapped files
Да во всем

Steve
23.06.2016
21:21:58
Ну и отлично?

Google

Alex
23.06.2016
21:22:03
Отлично?
Я правильно понимаю, что CTO ушел
А новый не вырос?

Roman
23.06.2016
21:22:28
кстати, по поводу нагрузок. мне тут про технологии стучалась какая-то женщина из IBM. может выбьем коллективную скидку от них для чатика?)

Alex
23.06.2016
21:22:35
И слова “memory-mapped files” не говорят ничего?

Roman
23.06.2016
21:22:42
ток я не знаю чего хотеть

Steve
23.06.2016
21:22:47
Разве ммап это не то как работают все файлы?

Alex
23.06.2016
21:22:52
Нет
Это специальный сисколл тащемта

Roman
23.06.2016
21:23:19
https://vscale.io/ru/ - а старый он?

Alex
23.06.2016
21:23:21
Который мэпит файл на виртуальную память

Aleksandr
23.06.2016
21:23:32

Roman
23.06.2016
21:23:42
как давно существует

Aleksandr
23.06.2016
21:23:50
по-моему меньше года

Evgeny
23.06.2016
21:23:58

Roman
23.06.2016
21:24:01
селектел - это адекватные чуваки?

Aleksandr
23.06.2016
21:24:05
да

Alex
23.06.2016
21:24:16

Evgeny
23.06.2016
21:24:34
+1
А если будет не хватать - увеличим свап.

Alex
23.06.2016
21:24:37
Но 50 миллионов записей в день - это хорошо, да

Google

Roman
23.06.2016
21:24:40
да
это про селектел? вскале.ио - их проект, выходит.

Alex
23.06.2016
21:24:43
Если не секрет - откуда такой поток

Aleksandr
23.06.2016
21:24:44

Roman
23.06.2016
21:24:52
пойду регаться)

Alex
23.06.2016
21:25:19
Ну и, конечно, тот факт, что кассандра - write-optimized
А читать с нее весьма сильная боль
Он кагбе тоже ускользнул
Пока хотсет в памяти - она лучше постгреса, дооо

Roman
23.06.2016
21:25:40
а кто такая касандра?
ток не бейте

Steve
23.06.2016
21:25:56
В системе ты открываешь файл а ос внутри делает ммап
И это самый быстрый и оч. Надёжный способ

Admin
ERROR: S client not available

Alex
23.06.2016
21:26:02
Если вообще есть критерии для сравнения этих двух не слишком похожих систем хранения и извлечения информации

Steve
23.06.2016
21:26:45
50м это 10м пользователей
Ну открой реализацию fopen

Alex
23.06.2016
21:27:10

Steve
23.06.2016
21:27:15
И 5 сообщений у каждого в личке
Актор сейчас в сети имеет пол ляма, новые кастомеры новые юзера
Если со сбером контракт подпишем то там сразу трафика будет прорва

Alex
23.06.2016
21:28:32
Ну - у любого роста есть предел же

Google

Steve
23.06.2016
21:28:48
Ну да
До 2 ярдов)

Alex
23.06.2016
21:29:17
Но идея в общем все та же
Чтобы кассандра нормально работала, надо чтобы хотсет не слишком вызывающего размера был
А то вышеупомянутые 20Т диски прикладывали довольно плотно

Steve
23.06.2016
21:29:40
Обычно так да

Alex
23.06.2016
21:29:45
Правда, коллеги нашли способ это преодолеть

Steve
23.06.2016
21:29:48
Сервер наш все сам кеширует
Там чтения даже нет обычно просто запись и иногда чтение
Все в оператве сервера идёт иначе такой перфрманс не сделать

Alex
23.06.2016
21:30:41
Ну - тогда более-менее пофиг
Это логично, да

Steve
23.06.2016
21:30:56
Сорян у меня тут инет пропадет
Ну вот для этой машины и разрабов и девопсов сложно найти)

Alex
23.06.2016
21:32:08
Да чот не должно быть сложно-то
Штук 5 в месяц разработчику
Штуки 4 в месяц девопсу
И все найдутся, я гарантирую

Nikolay
23.06.2016
21:34:00
да

Steve
23.06.2016
21:34:09
Закидывать баблом не получается слишком много пиздаболов
Особенно в мск

Nikolay
23.06.2016
21:34:26
а че такого?

Alex
23.06.2016
21:34:30
Да при чем тут “закидывать"
Это не очень большая зарплата хорошего специалиста

Steve
23.06.2016
21:34:49
Четверть ляма серьёзная сумма