Δαρθ
сейчас zfs не жмёт блок если он не сжался хотя бы на 12.5%
какая мотивация? целых 10% сжали и выкинули
Georg🎞️🎥
сейчас zfs не жмёт блок если он не сжался хотя бы на 12.5%
У меня старая фринасина , 20 года, там еще не последний zfs
George
какая мотивация? целых 10% сжали и выкинули
больная тема, плюс ещё же нужно хотя бы один сектор (ashift) сэкономить, иначе тоже не будет пожато
Y
имхо сжатие ZFS полезно для хвостов файлов
George
если этот коэффициент уменьшать, то начинается бОльший аффект по цпу
George
на чтении
Δαρθ
больная тема, плюс ещё же нужно хотя бы один сектор (ashift) сэкономить, иначе тоже не будет пожато
не, ну если блоков не сэкономили тут понятно что смысл потерялся. Но если сэкономили И пожали 5% -- чоб и не?
Georg🎞️🎥
этой логике лет 15
Я из личной практики : сжатие по умолчанию адски залагивало чтение … в моем конкретном случае🤷🏻‍♂️
George
если этот коэффициент уменьшать, то начинается бОльший аффект по цпу
тут можно эпос почитать про это, с моим участием https://github.com/openzfs/zfs/pull/9416
Δαρθ
если этот коэффициент уменьшать, то начинается бОльший аффект по цпу
чтото типа если сжалось плохо, то депак начинает жрать цпу?
riv
16 гиговые по факту видно 12 кажется (точно не помню) - остально похоже про запас.... тут никто не спорит - если есть деньги всегда большой ОПТАН хорошо... все решает соотношение цена/плюшки но 16 гига стоит меньше 10 баксов + переходник PCIEx1 M.2 и того примерно 20 баксов чисто на LOG... а вот спешл надо избыточность не меньше пула (иначе это точка отказа) - и того скажем для RAIDZ2 - получится уже 3 оптана для моего пула (30 тера) - это по расчетам около 100 гига, то есть минимальный оптан 118 гига - стоит 100+ баксов на ебай... их надо 3 штуки, и к нем по хорошему для надо 12 свободных линий PCI-E... и того 300+ баксов и это без l2arc ибо он туда уже толком не влезет.... а оптаны по 480+ гига уже совсем не гуманно стоят, хотя да можно порезать - несколько гига на ЛОГ, сотню в тройное зеркало на СПЕШЛ, и хвосты в страйп для l2arc.... но дорого.... но кучеряво...
Я пробовал, у меня более менее нормально работали 32Гб и производительность у них чуть получше. Но греются сильно почему-то, при перегреве дохнут. У меня несколько штук сдохло, но я их использовал под систему. Вод под систему musthave только срадиатор нужен на контроллер. Мне показалось что по iops они слабенькие, т.к. там всего 1 чип в 16гб и два в 32гб.
Georg🎞️🎥
интересно где у вас что аффектило, но по коду это так
Не знаю, меня волнует практическая сторона - вкл сжатие , даже то, что по умолчанию, делало работу невозможной к сожалению (((
George
jfyi - в openzfs 2.2 сжатие будет по дефолту включено
Georg🎞️🎥
Каким алго сжатие?
Тот что изначально предлагается по умолчанию в веб морде 👋
George
там вообще будет пачка изменений дефолтов: - volblocksize = 16K - compression=on=lz4 - relatime=on
Δαρθ
Тот что изначально предлагается по умолчанию в веб морде 👋
мож там гзип был -- тогда с ним точно проблемы
Vladislav
там вообще будет пачка изменений дефолтов: - volblocksize = 16K - compression=on=lz4 - relatime=on
О, а про блок неожиданно Но согласен, 16 оптимально выглядело на nvme
Δαρθ
там вообще будет пачка изменений дефолтов: - volblocksize = 16K - compression=on=lz4 - relatime=on
Раз дефолтом делаете лз4, получается что он лучше zstd в большинстве случаев? В смысле, что например при таком же сжатии он жрёт меньше цпу?
Δαρθ
Я не имею в виду верхние настройки зстд ессно, где он жмёт хорошо
Georg🎞️🎥
Мне нужна отзывчивость чтения , все что мешает - нафиг
George
lz4 сильно быстрее чем zstd, при худшем сжатии конечно же, но оно и понятно
George
так что то что бутер только zstd интегрировали - мне их жалко
Δαρθ
Еще вот кстати, неужели хоть 0.1% юзеров нужно atime? До сих пор везде приходится отключать atime, zfs не исключение. Ради чего страдаю? :)))
Δαρθ
Ну так-то да. Но мне кажется что в 2023 надо дефолтом отключать atime. Кому надо те сами включат
George
https://github.com/openzfs/zfs/pull/13614
riv
там вообще будет пачка изменений дефолтов: - volblocksize = 16K - compression=on=lz4 - relatime=on
Я уже давно везде юзаю volblocksize=16k - самое разумное значение.
George
там это где ?
в следующем мажорном релизе openzfs
Станислав
да, именно
Странно это слышать. Я когда последний раз fio тесты гонял, его данные не жмутся, то на многоядерном проце (10с-20t E5-2666v3) в многопотоке выигрыш в разы был у zstd. Да, проц выжирало на 100%, а у lz4 - 30%, но запись и чтение чувствительно быстрее проходили.
George
Странно это слышать. Я когда последний раз fio тесты гонял, его данные не жмутся, то на многоядерном проце (10с-20t E5-2666v3) в многопотоке выигрыш в разы был у zstd. Да, проц выжирало на 100%, а у lz4 - 30%, но запись и чтение чувствительно быстрее проходили.
> Я когда последний раз fio тесты гонял, его данные не жмутся для этого что-то делалось? просто по дефолту его данные как раз очень хорошо жмутся, зависит от recordsize, конечно
Станислав
блин, это гениально👍 , а то я тупо копировал 200 гиговый файловый набор когда недавно тоже тестил разные комбинации параметров сжатия
Я тоже файлы битрикса копировал, их больше 400Гб. Сравнивал, есть ли толк заниматься этим. Сделал вывод, что fio более чем достаточно, по крайней мере в моих кейсах
Art
Я тоже файлы битрикса копировал, их больше 400Гб. Сравнивал, есть ли толк заниматься этим. Сделал вывод, что fio более чем достаточно, по крайней мере в моих кейсах
мне с фио нравится идея, беру на вооружение. Понятно, что синтетика, все дела, но удобное же. А кстати сам тест не скинете? Хочу у себя попробовать. А то пока я сам на lz4 решил остаться, ибо действительно и жмёт норм, и проц не грузит
Evgenii
Кто будет тестироват, проверьте пожалуйста zstd-fast против lz4
Aba
Кто будет тестироват, проверьте пожалуйста zstd-fast против lz4
А в сети чего бы тесты не глянуть по этим алгоритмам? ну или просто чекнуть производительность у себя на нужных настройках
George
у fio есть параметр где можно выставить коэффициент сжимаемости, если что
George
и по дефолту он не пытается сделать данные несжимаемыми
George
а zstd тоже несжимаемые данные не трогает?
он быстрее их пропускает, но всё равно сильно медленнее чем lz4
George
ну и любимое - как оба на несжимаемое реагируют, lz4 шпарит со скоростью memcpy $ ./lzbench -t16,16 -elz4/zstd ~/Downloads/silesia.zip lzbench 1.8 (64-bit Linux) AMD Ryzen 7 5800U with Radeon Graphics Assembled by P.Skibinski Compressor name Compress. Decompress. Compr. size Ratio Filename memcpy 16746 MB/s 17025 MB/s 67633896 100.00 /home/gmelikov/Downloads/silesia.zip lz4 1.9.3 15155 MB/s 15780 MB/s 67899128 100.39 /home/gmelikov/Downloads/silesia.zip zstd 1.5.0 -1 1777 MB/s 10058 MB/s 67597066 99.95 /home/gmelikov/Downloads/silesia.zip zstd 1.5.0 -2 1841 MB/s 10013 MB/s 67597045 99.95 /home/gmelikov/Downloads/silesia.zip
George
во, нашёл
Y
вот такой диск урвал по смешной (для нас цене) - мне он как ИПу обошелся в 222 $ на 16 тера... будет использоватся в "тревожном чемоданчике" - не дай бог (дисклеймер: бога нет)
Y
ну как показывает опыт украины - внезапно всё может стать очень плохо... а восток дело тонкое.... и НАС на 12 дисков + полочка на 15 тяжелые
Y
зы. компы и НАСы и т.п. у меня зашифрованы, это кстати очень удобно - хочешь продать/выкинуть/бросить подержанный диск/комп - не надо парится стирать или разбивать молотком....
Y
Бля … в таких делах не до дисков … вот уж … фоточки домашние тащить ? 🤷🏻‍♂️
почему бы и не фоточки - всё остальное можно купить (если жив останешься) ? документы всякие и т.п. в электронном виде и много многое другое, конечно часть на гугле хранится... но тем не менее вторая копия не помешает...
Georg🎞️🎥
Если полетят ракеты , мне уже похуй, кто посмотрит видосики на моих дисках🤣
Georg🎞️🎥
Animal
16 терабайт ключей ?🤣
да чойта... пачку блокчейнов
Animal
ну а че.. сколько там биток? гиг за 300 уже или больше?
Y
так или иначе - лишняя копия некогда не помешает - офлайновая....
Georg🎞️🎥
да чойта... пачку блокчейнов
А кошелек в терах весит ? )) вот уже не знал )) по 300 гиг монета ? ))
Animal
ть. сам блокчейн
Y
на самом деле восспоминания и "фоточки" это всё что делает личность человека - остальное покупается
Georg🎞️🎥
Нас у друзей в другом государстве. Тогда уже )) 16 тер вполне посильно ))
Georg🎞️🎥
на самом деле восспоминания и "фоточки" это всё что делает личность человека - остальное покупается
У отца с матерью альбом был за всю жизнь тоньше , час у тинейджера за день на телефоне ))))🤷🏻‍♂️
Y
ну у меня есть еще 2 тера в гугле - платные - но санкции всякие бывают - мало ли что
Animal
а так конечно да.. нахер диски. а ключи и пр ну ... варианты. локальная шифрованная копия закопанная в несгораемом кейсе...+ копия загруженная в кнть распределенное хранилище
Maksim
раз в месяцок да вспоминаю
Georg🎞️🎥
часто
Я вот воооще не смотрю даже месяц назад ))
Y
Я вот воооще не смотрю даже месяц назад ))
месяц не интересно - интересно лет 10-20 +
Animal
это да