Дык о чем и речь, после прочтения этого:
"Erasure coded pools now have full support for overwrites,
allowing them to be used with RBD and CephFS."
и написал пост
ак сам luminous еще не стабилен 🙃
Anonymous
Anonymous
я сам пока не тестил вообщем, да стенда пока тестового нет.
Mark ☢️
хоть на обычный жесткий диск записывай через dd
В моем вместо дд надо использрвать куему имг конверт. И это быстрее потосу что читать меньше
Mark ☢️
В тч за счет дискардов в рбд которые умееьшают дифф
Mark ☢️
В моем вместо дд надо использрвать куему имг конверт. И это быстрее потосу что читать меньше
И писать кстати ибо нули писать не будет в залискарденых областях
Anonymous
В моем вместо дд надо использрвать куему имг конверт. И это быстрее потосу что читать меньше
Не забывай, что читать меньше, а сравнивать больше. Мы тестили разные вариации, ДЛЯ НАС, меньше телодвижений за счет именно полного бекапа.
Anonymous
И писать кстати ибо нули писать не будет в залискарденых областях
Архиватор убирает эти нули
Mark ☢️
Mark ☢️
Все мгновенно же
Mark ☢️
Или ты о чем
Mark ☢️
(я весь чат перенесу в доку)
Дмитрий
Как мне сделать чтобы мою писню ктонибудь посмотрил и грамотно опустил ?
Меняешь ник на Марк Цукерберг и пишешь типа на фэйсбуке тестим такую-то хрень
Mark ☢️
Mark ☢️
Сверхоригинальная
Anonymous
@socketpair у тебя большие объемы бекапов?
Mark ☢️
Полный слив около полутора терчика
Mark ☢️
А чо
Anonymous
не-не, просто ради интереса. У нас за ночь породой до 50 ТБ доходит.
Mark ☢️
Диффов?
Anonymous
нее, полные но упакованные и большенство из них с trim'ом
Mark ☢️
Попробуй посливать моей тулзой
Mark ☢️
Она ридонли за исключением создания снапшотов рбд
Anonymous
Попробуй посливать моей тулзой
ты пиши давай статью, а потом и правда можно попробовать :)
Mark ☢️
К сожалению я пишу в кукоу2 черкз qemy-nbd а оно не умеет в сжатие. Когда переделаю на прямую запись в кукоу2 то там есть встроенное сжатие
Mark ☢️
Ты можешь помочь тем что наптшешь мне вопросы которые надо осветить
Mark ☢️
не-не, просто ради интереса. У нас за ночь породой до 50 ТБ доходит.
А куда ты эти 50 тб сохраняешь?
Anonymous
К сожалению я пишу в кукоу2 черкз qemy-nbd а оно не умеет в сжатие. Когда переделаю на прямую запись в кукоу2 то там есть встроенное сжатие
я сразу при выходе из rbd export упаковываю с помощью pigz.
Anonymous
RadosGW тоесть
Mark ☢️
Пфф. Дак проще тогда рбд дифф экспорт гзипать
Mark ☢️
Места пиздец меньше
Александр
Mark ☢️
Но у тебя нет ребейзов
Anonymous
Пфф. Дак проще тогда рбд дифф экспорт гзипать
дак вот по времени, к сожалению, средства ceph тоже самое получается и даже чуть больше
Mark ☢️
А в кукоу2 есть. И тем самым обеспечивается стирание старых бекапов без потери целостности
Anonymous
в jewel только это дело ускорили
Anonymous
но у нас досих пор hammer в проде
Mark ☢️
дак вот по времени, к сожалению, средства ceph тоже самое получается и даже чуть больше
Оч странно. Чтото ты делаешь не так. Либо у тебя оч старый цеф и там нету фастдиффов
Mark ☢️
А ну вот
Anonymous
не-не, в hammer нету.
Anonymous
да и чтобы делать diff пришлось бы вначале выкопировать основной образ из S3. А из S3 выкопировать в один поток - это долго.
Mark ☢️
Наркоман ?
Mark ☢️
Зачем
Anonymous
а как тогда?
Mark ☢️
У тебя исходные образы в рбд ?
Anonymous
полный бекап образа ты имеешь ввиду?
Mark ☢️
Нет. Не бекап вобще
Anonymous
да, конечно в rbd
Mark ☢️
Вот. Делаешь снапшот. Сливаешь его как полный бекап один раз. Через неделю делаешь снап2. Сливаешь дифф между снаршотами. Удаляешь первый снапшот рбд
Mark ☢️
И дальше так работаешь
Mark ☢️
В итоге у тебя слит полный бекап и серия недельных диффов
Anonymous
ак вот этот полный бекап на S3 и лежит...
Mark ☢️
Ну так и пусть лежит
Mark ☢️
И диффы туда же сувай
Anonymous
а все понял, что ты имел ввиду
Mark ☢️
Главный прикол кукоу2 что там каждый файл в цепочке юзабелен напрямую. Ненадо ничо мержить перед восстановлением с бекапа
Mark ☢️
Кароч как коммиты в гите
Mark ☢️
Он же дифф он же слепок
Anonymous
ага
Mark ☢️
а все понял, что ты имел ввиду
Даже в хаммере за счет мкньшего объема слива, должно бытт быстрее
Anonymous
сливает то понятно, что меньше, но вот время не фига не меньше тратится
Mark ☢️
Образ 50 гигов например, а диф 2 гига
Anonymous
но для нас время критичнее, чем занимаемое место на бекапе
Mark ☢️
На что оно тратится то во время слива диффа ?
Mark ☢️
Наоборот. С диффами и обьем меньше и время на пробкапливание
Anonymous
Наоборот. С диффами и обьем меньше и время на пробкапливание
на хаммере точно нет, протестировано. На более новых версия, уверен что быстрее
Anonymous
я помню даже бага была на эту тему
Mark ☢️
Не поверю. У мну был образ без фастдиффа. Ну уж не настолько медленнее
Anonymous
не заставляй меня искать )))))
Mark ☢️
Ну попробуй :) моя тулза умеет конкретный образ бекапить
Mark ☢️
Заодно расскажешь идет ли на хаммере
Anonymous
вот одна из баг: https://www.spinics.net/lists/ceph-users/msg34441.html
Anonymous
еще одна была, но я что-то ее найти не могу
Mark ☢️
На всякий анально отгороди. Я конеш не зловред. Но мало ли. Админский кейринг удали