
Dmitry
09.11.2016
13:44:22
разве не норм?)
насколько я понял платить мы должны по 4м параметрам:
- за объем хранимых данных ($0.0295 за ГБ)
- за создание, изменение файлов ($0.005 за 1000 запросов)
- за получение файлов ($0.004 за 10 000 запросов)
- за передачу данных из S3 в интернет ($0.090 за ГБ)

ptchol
09.11.2016
14:46:12
Если у вас всего 500гиг то может пару серверов и рсинк ? )

Sergey
09.11.2016
14:49:43
кажется, второй диск на 500 гб стоит пару тысяч рублей.

Google

Dmitry
09.11.2016
14:54:30
500 гиг это горячих файлов
нужно персистентное хранилище, в котором есть уверенность)
например в хетзнере уверенности нет с их дисками то

Anton
09.11.2016
15:45:03
Ни в чем нельзя быть уверенным, увы

ptchol
09.11.2016
15:46:16
10+тб это тоже пара дисков.
да не, если вам выгодно хранить это на амазончике то вперед конечно
возможно вам как раз подойдет это тих инфриквент аксесс
получится по 12баксов за терр в месяц.
просто трафик при этом всё равно 90баксов за терр будет )
возможно будет выгоднее взять вариант типа cdn storage + cdn traffic + upload to s3
типа льем на s3 в infrequent access, паралельно льем на cdn storage и отдаем с cdn (трафик там дешевле чем в amazon), там постоянно вытесняем и крутим эти ваши 500гб. а в s3 не ходим почти, или прописываем его как origin для нашего же cdn но если такого трафика будет какое то весомое кол-во то это может выйти дороже ) потому что заплатится за трафик с s3+трафик с cdn

Алексей
10.11.2016
11:02:03
господа а у ког оесть в инфраструктуре тарантул ?

Google

Sergey
10.11.2016
11:02:55
не хочешь ты этого
поверь бывшему мейлрушнику

Vladimir
10.11.2016
11:03:32

Sergey
10.11.2016
11:03:53
Почему?
почему поверить или почему не хочешь?

Vladimir
10.11.2016
11:04:10
Почему не хочешь

Кисик
10.11.2016
11:07:16
А по статейкам тарантул очень секасно выглядит

Dmitry
10.11.2016
11:07:31
по статейкам и 1с норм

Алексей
10.11.2016
11:08:28


Sergey
10.11.2016
11:11:00
дисклеймер: лично мой опыт может быть нерелевантным. мы использовали tarantool последний раз около трех лет назад, возможно с тех пор команда его поддописала, но эксплуатация мейлрушки целиком не очень его любит (опрос был проведен среди ~40 человек).
нам нужно было что-то вроде мемкеша, который умеет подниматься из дампа, небольшие изменения, read-mostly-нагрузка, без LRU.
мы получили +- что хотели по функционалу, но появилась пара нюансов.
если значение было жирноватым (1М+), то в момент получения такого ключа летенси на получении других ключей на этом же сервере давало резкую волосатость. как будто процесс вставал в отдачу, и только потом шел к остальным клиентам. кажется, это потом правили
в результате мы получили, что на нашей тогдашней нагрузке около 1% ключей (при этом нельзя было предсказать время) мы получали десятки миллисекунд, в то время как остальные укладывались в 500мкс.
это хорошо портило нам ровность работы сервиса.
один наш разработчик в конечном итоге психанул немножко и написал memcached-dd (https://github.com/dkrotx/memcached-dd). мы мигрировали и забыли.


Алексей
10.11.2016
11:12:49
ого. спасибо за длинный текст


Favoretti
10.11.2016
11:13:25
дисклеймер: лично мой опыт может быть нерелевантным. мы использовали tarantool последний раз около трех лет назад, возможно с тех пор команда его поддописала, но эксплуатация мейлрушки целиком не очень его любит (опрос был проведен среди ~40 человек).
нам нужно было что-то вроде мемкеша, который умеет подниматься из дампа, небольшие изменения, read-mostly-нагрузка, без LRU.
мы получили +- что хотели по функционалу, но появилась пара нюансов.
если значение было жирноватым (1М+), то в момент получения такого ключа летенси на получении других ключей на этом же сервере давало резкую волосатость. как будто процесс вставал в отдачу, и только потом шел к остальным клиентам. кажется, это потом правили
в результате мы получили, что на нашей тогдашней нагрузке около 1% ключей (при этом нельзя было предсказать время) мы получали десятки миллисекунд, в то время как остальные укладывались в 500мкс.
это хорошо портило нам ровность работы сервиса.
один наш разработчик в конечном итоге психанул немножко и написал memcached-dd (https://github.com/dkrotx/memcached-dd). мы мигрировали и забыли.
https://medium.com/@cdump/how-we-implemented-the-video-player-in-mail-ru-cloud-1b73499b7f56#.gyiu0i83t
Похоже они снова его полюбили ;)
Учитывая то, что эта статья на homepage tarantool :)


Sergey
10.11.2016
11:15:12
я говорил про эксплуатацию. пост написан разработчиком.

Алексей
10.11.2016
11:16:12
да, мне ближе вопросы эксплуатации как раз

Sergey
10.11.2016
11:18:26

Dmitry
10.11.2016
11:20:40

Sergey
10.11.2016
11:20:44
NIH
то есть любой другой NoSQL - NIH

Dmitry
10.11.2016
11:20:57
у майла есть возможности его внедрять\сапортить?

Google

Sergey
10.11.2016
11:21:17
ну мейл его написал же.

Dmitry
10.11.2016
11:24:41
ну просто мало написать. Если люди будут внедрять - будут сталкиваться с трудностями. К кому им идти?

Sergey
10.11.2016
11:25:42
очевидно, когда у тебя разработчики под боком - это относительно легко. во всяком случае, заметно легче, чем когда они не под боком.
тем не менее:
http://stackoverflow.com/search?q=tarantool 116 results
http://stackoverflow.com/search?q=redis 37k reuslts

Dmitry
10.11.2016
11:26:22
вот вот

Алексей
10.11.2016
11:26:38

Dmitry
10.11.2016
11:27:11
но если разработчик скажет что он вам ничем не обязан и вообще у него работы валом в своем мейле

Vladimir
10.11.2016
11:32:08
@spuzirev ну те чуваки что его разрабатывают в личном общении кажутся вменяемыми )

Sergey
10.11.2016
11:32:14
они возможно его и допилили.
но не находясь там я бы не рискнул его использовать.

Dmitry
10.11.2016
11:34:04
им бы продавать его
с сапортом и тд
мне кажется, это было бы тогда более интересно

Sergey
10.11.2016
11:36:15
они планируют

Алексей
10.11.2016
12:31:58
коллеги кому интересно https://telegram.me/clickhouse_ru

Dmitrii
10.11.2016
18:24:10
Есть боги nginx? https://gist.github.com/anonymous/e29965d6c2be07b958601910fb03a4b0
Чет при запросе на локейшен nginx валится в 400.
В случае когда запрос уходит на второй proxy_pass

yopp
10.11.2016
18:25:17
мрак
ты что хочешь сделать?

Dmitrii
10.11.2016
18:25:57
Проксирование картинок со стейджинга в прод.

Google

Dmitrii
10.11.2016
18:26:09
Которые 404

Sergey
10.11.2016
18:26:22

Vladimir
10.11.2016
18:26:36
Например что прилетает в фолбэк

Dmitrii
10.11.2016
18:30:06
Да, чет не подумал что ттуда бэдреквест прилететь тоже может )

yopp
10.11.2016
18:30:11
или это балансер?

Dmitrii
10.11.2016
18:30:37
Да

Admin
ERROR: S client not available

Dmitrii
10.11.2016
18:30:43
Там s3
Схема такая что я сначала ищу картинку в бакете стейджинга, если ее нет то иду в бакет прода
Это если упрощенно. Насамом деле оно сначала идет в кещ сервер, а кеш сервер в бакет
Ибо у нас ресайз на лету
В результате кто на стецджинге работает может загружать свои картинки к объектам, они будут лежать в бакете стейджа, а если в базе путь есть но самой картинки нет, то значит надо сходить в прод. Т.о. на стейдже всегда есть красивые картинки и не надо синкать бакеты.
...
PROFIT

Denis
11.11.2016
11:25:31
На лету ресайзите - а чем? Как?

ptchol
11.11.2016
11:30:53
энжинксом наверно ! )

Denis
11.11.2016
11:31:50
Ну способов как-бы не мало есть )

Dmitrii
11.11.2016
11:55:57
Мы используем сторонний сервис

Google

Dmitrii
11.11.2016
11:56:03
imgix
Там можно в панельке указать куда он должен ходить за исходниками. Вот у нас он ходит в S3. Перед ним стоит наш кэш чтобы было дешево.

Thomas
11.11.2016
14:15:39
Сап, бандиты. Хочу научиться программировать ДЛЯ СЕБЯ. Не стоит цели стать разработчиком. Просто имеется очень большой интерес к этому делу :) выбрал питон. Подскажите курсы или сайты для обучения. Желательно фри и ру.

Anton
11.11.2016
14:16:49
hexlet.io

Алексей
11.11.2016
14:17:29
главное не ходи сюда https://telegram.me/rudepython

Dmitry
11.11.2016
14:17:34
с дедом
http://www.intuit.ru/studies/courses/12179/1172/info

Magistr
11.11.2016
14:18:53

Ivan
11.11.2016
14:26:59
От гугла же ещё вроде хороший курс

Von
11.11.2016
14:36:31
https://www.codecademy.com/learn/python

ptchol
11.11.2016
14:37:37
"на интуите хороший" - звучит очень странно

Dmitry
11.11.2016
14:37:53
http://www.intuit.ru/studies/courses/16499/1298/info
мало там конечно нормального и куча старого говна, но норм вещи попадаются

ptchol
11.11.2016
14:38:56
и по какой версии ядра это ?

Dmitry
11.11.2016
14:39:30
ну там скорее общая инфа

ptchol
11.11.2016
14:39:54
тоесть ничем не отличающающаяся от десятков книжек
и достаточно прочитать того же робачевского ?

Dmitry
11.11.2016
14:40:19

ptchol
11.11.2016
14:40:21
или кернигана ?