Subbotin
нужно если ты хочешь вменяемой производительности. а так например вовсе не обязательно чтобы приложение использовало оперативной памяти не больше чем есть физически в сервере. ведь есть своп.
Anonymous
как своп тебе поможет в раздаче файлов? :)
Subbotin
это уже было лирическое отступление и сравнение
Anonymous
как своп тебе поможет в раздаче файлов? :)
Своп это ваще отдельная тема для обсуждения :)
Anonymous
но наверное это не в go.go надо обсуждать :)
Subbotin
да - система может работать если метаинформация о файлах не влезает в дисковый кэш. но будет тупить. да - система может работать если приложение с бизнес-логикой не влезает в оперативку и вываливается на своп. но будет адски тупить.
Anonymous
да я думал просто узнать секреты раздачи фоточек из мелких храналищ :)
Anonymous
а тут все какие-то общие фразы
Anonymous
" будет тупить"
Subbotin
что такое мелкие хранилища?
Subbotin
сформулируйте вопрос внятно
Subbotin
вам на него внятно ответят
Anonymous
ну 10 терабайт изначально
Subbotin
Anonymous
1 файл минимум 1 байт, т.е. 1000 млрд файлов итого
Subbotin
Anonymous
1 файл минимум 1 байт, т.е. 1000 млрд файлов итого
это не стандартная ситуация, требующие не стандартные решения.
Anonymous
и решения эти будет зависеть от необходимых результатов
Anonymous
ну ок, пусть будет (раз фоточки) - минимум 1000 байт :)
Subbotin
и проблемы с математикой
Subbotin
потому как 10 терабайт превратились в 1 триллион при размере файла в 1 байт?
Subbotin
10 триллионов тогда
Anonymous
ну не знаю, воспользуйся калькулятором :) всегда считал что 10 в 12 степени = тысяче миллиардов :)
Subbotin
а 10 терабайт это 10 в 13
Subbotin
но с таким подходом файлы надо идентифицировать по смещению только. потому что места для хранения имени не остаётся
Anonymous
возьмите 1000 байт :)
Anonymous
1 или 10 действительно малореально
Subbotin
возьмите 1000 байт :)
ну ок. 10 миллиардов файлов если без метаинформации типа имении файла. при таком размере (меньше блока файловой системы) и таких крошечных размерах работать с этим именно как с файлами скорее всего нет необходимости. такое стоит сложить в специализированное kv хранилище типа касандры
Anonymous
:)
Anonymous
это же фоточки
Subbotin
фоточка размером в килобайт
Subbotin
мухи в натуральную величину?
Anonymous
ну да, опять неудачно :) это скорее просто "изображения"
Anonymous
можно считать что файлов будет 1-2-3 млрд
Anonymous
не уверен что тут нужна каким-то боком кассандра :)
Subbotin
это всё равно нет тянет на фоточку. средняя фоточка в 2018 году это не меньше сотни килобайт
Anonymous
:) не важно. если будет меньше 1 млрд файлов - неинтересный кейс получается.
Subbotin
а если больше то надо хранилище брать уже не 10 терабайт
Anonymous
ну пусть не десять, 100. какая разница то. в общем ваш ответ - сложить в кассандру? :)
Subbotin
:) не важно. если будет меньше 1 млрд файлов - неинтересный кейс получается.
вам пофантазировать хочется или реальный вопрос есть
Anonymous
это и есть реальный вопрос
Anonymous
миллиард фоточек хранить
Eugenii
у нас в конторе под файло используется moosefs/lizardfs с метаинформацией в монге, лижат не мерянные залежи но деталей к сожалению не знаю, не моя епархия
Anonymous
это и есть реальный вопрос
храните распределенно, ни кто в здравом уме не будет столько хранить на одной ноде )
Anonymous
как конкретно то?
Subbotin
это и есть реальный вопрос
так. вам надо сохранить миллиард фоточек типичного среднего размера от сотен килобайт до нескольких мегабайт? вам их надо просто хранить или работать с ними?
Daniel
не уверен что тут нужна каким-то боком кассандра :)
а как вы отказоустойчивость своему миллиарду будете обеспечивать?
Anonymous
:) это и есть кейс
Subbotin
а как вы отказоустойчивость своему миллиарду будете обеспечивать?
может ему просто сохранить? тогда пусть катает на ленту в tar формате
Daniel
Subbotin
ну вот сергею непонятно пока что надо
Anonymous
читайте выше, изначально 10 терабайт фотохарнилище (если я правильно помню, лень мотать). но т.к. это мало, я предложил 1 млрд фоток заложить.
Daniel
сергей, у меня есть два доклада про ваш кейс
Anonymous
да он не мой :)
Daniel
они старые, но, похоже, все еще актуальные
Anonymous
читайте выше, изначально 10 терабайт фотохарнилище (если я правильно помню, лень мотать). но т.к. это мало, я предложил 1 млрд фоток заложить.
ну дак что должно получится? Просто хранение или отдавать контект кому то? И кому тоже имеет роль
Subbotin
сергей, у меня есть два доклада про ваш кейс
да-да. я помню их читал и думал "что за безумцы" :)
Anonymous
выше почитайте
Anonymous
просто 10 терабайт это неинтересно
Subbotin
а зачем их хранить, если не отдавать ?)
чтоб инопланетянам было что поизучать после прилета на ядерное пепелище
Anonymous
если его проект успешен они быстро наполнятся :)
Daniel
архив не?
/dev/null - самый лучший архиватор, если не предполагается разархивирование
Anonymous
/dev/null - самый лучший архиватор, если не предполагается разархивирование
вы видимо не знакомы с некоторыми законами нашего госудаства. Когда нужно хранить по 5 лет и дай бог если этот файл прочитается хотя бы раз. И где это лучше хранить ? Конечно же на ленте. Я еще раз говорю, что все зависит от конечных целей.
Subbotin
Необходимо хранить и отдавать контент. Да пускай будет не 10Тб а 100
вам его надо отдавать раз в год 1 файл на 50 мегабайт логов отделу разборов полётов или обеспечить отдачу гигабитов трафика браузерным клиентам?
Anonymous
Необходимо хранить и отдавать контент. Да пускай будет не 10Тб а 100
вам написали верное решение - 10 ТБ - это амазон или что-то другое. Все что больше, если есть деньги то ceph s3 и его подобные
Anonymous
самое интересное что такой вопрос обязательно раз в несколько лет встретишь где-то :) ("сделать свой файлохостинг")
Sasha
А на счет резарвирования. Чесно думаю 6го рейда хватит. Делать еще доп бекап это еще 100Тб куда-то класть/реплицировать/актуализировать. Ну возможно со временем, но по началу нумаю вполне хватит рейда
Anonymous
пока что тебе только это и предлагают :)
Anonymous
лента очень, очень дорогая.
самый дешевый вариант в соотношении гб и стоимости