Хотя может быть я борщу. При чтении из такого пула мелкими блоками (например 1М) скорость будет сильно меньше, верно ?

zpool create -o ashift=13 \ > -O recordsize=16M \ > -o feature@large_blocks=enabled \ > -O encryption=aes-256-gcm \ > -O keylocation=prompt -O keyformat=passphrase \ > -O acltype=posixacl -O canmount=off -O compression=lz4 \ > -O dnodesize=auto -O normalization=formD -O relatime=on \ > -O xattr=sa -O mountpoint=/ -R /mnt \ > SATA /dev/disk/by-id/ cannot create 'SATA': record size invalid что я делаю не так ?

Параметр модуля ядра для 16м рекордсайза выставили?

нет, не в курсе про него )

в основном большой скорости работы и не ожидаю. это массив для хранения музыки,фильмов,фоток. в таком случае чем больше recordsize, тем лучше ?

на форумах за 2018-2019 года писали что там что-то непонятное со стабильностью на таком размере. сейчас всё ок ? планирую пользоваться zfs send на этом пуле.

https://gist.github.com/fling-/c66bf1e4a082b5cf9cd4d1106fe6e2bc к примеру такое. возможно ужет закрыт этот issue, я особо не разбирался. решил узнать мнение пользующихся.

в основном большой скорости работы и не ожидаю. это массив для хранения музыки,фильмов,фоток. в таком случае чем больше recordsize, тем лучше ?

Ну и понимайте кейс 16м рекордсайза, он улучшит эффективность хранения но латенси будет хуже чем у 1м того же

Георгий, а что за латенси?

задержка при операциях записи. Представьте - сколько времени нужно чтобы сжать блок в 128кб или в 16мб? вот на каждую операцию записи будет "вызываться" подсистема сжатия, которая попробует сжать записываемые данные. При записи разреженных данных коэф. компрессии будет на 16Мб конечно лучше чем на 128. Но какой ценой)

Хотя с другой стороны, какая разница если надо сжать 100мб?

Я как раз сейчас тестирую сжатие и прочие вещи на предмет насколько это все лучше или хуже, и сколько можно сэкономить места, да и вообще влияет ли это на латенси

Я как раз сейчас тестирую сжатие и прочие вещи на предмет насколько это все лучше или хуже, и сколько можно сэкономить места, да и вообще влияет ли это на латенси

ну так и превратите один из блейдов на каждом шасси в NAS, который будет отдавать общее хранилище в кластер. А между собой эти NAS можно синхронизировать. Я выше ссылку давал ZFS HA

Добрый день все обдумываю, получается я могу одну ноду, на каждом шасси сделать хранилищем? И HA будет работать? не понятно ведь эти NAS по сути разные будут , то естьв этом варианте получается именно синхронизация? полноценно машина не перебежит же, на второй нас в другом шасси? да и в одном шасси всего 6 дисков вставить можно, кажется маловато будет.

что то ни так ни так не выходит отказоустойчивости, с двумя шасси. Прям печаль. А что за эмулятор?

https://www.servethehome.com/the-case-for-using-zfs-compression/

среднее сжатие 1.4 у меня

задержка при операциях записи. Представьте - сколько времени нужно чтобы сжать блок в 128кб или в 16мб? вот на каждую операцию записи будет "вызываться" подсистема сжатия, которая попробует сжать записываемые данные. При записи разреженных данных коэф. компрессии будет на 16Мб конечно лучше чем на 128. Но какой ценой)

И чтения тоже, вы в обоих случаях с дисков целым блоком работаете, на чтении будет проверка контрольных сумм всего блока

lz4 почти не влияет. возможно и zle не будет влиять, но у этого алгоритма хуже сжатие.

Вот кстати zle не такой быстрый и на базовых тестах lz4 у меня был побыстрее, видимо за счёт эвристик своих, он умеет на раннем этапе несжимаемое не трогать

видел патчи по добавлению zstd. Вроде по скорости ничем не хуже lz4, но лучше жмёт. Но их вроде пока не приняли

чем больше рекордсайз тем больше будет а) компрессия и б) потоковые чтение/запись. Но я сомневаюсь что на современных алгортимах компрессии фото и видео можно ещё что-то выжать дополнительно. Пул будет работаь на постоянную раздачу или это своего рода "длительное хранение личных фото"?

будет потихоньку накапливаться всякий хлам, который жалко удалить.

будет потихоньку накапливаться всякий хлам, который жалко удалить.

мне кажется овчинка не стоит выделки. Взять 1М и будет практически тот же эффект что и от 16

сжать эффективнее шансов больше минимум

это если сжимаемый контент. Я даже не представляю что это за контент, который на 16 сожмётся хотя бы на >20% лучше чем на 1М))

H.264/H.265/JPG/HEIC - они практически не сжимаемые

у lz4 не существует опций сжатия ?

у lz4 не существует опций сжатия ?

а вот для swap рекомендуют lze. не лучше ли просто zswap включить ?

а почему этого явно не пишут в рекомендации делать zvol для swap ?