George
Надо свежий тогда сделать будет. На старых-то большая часть данных с меньшим отношением
емнип в arc оно не пережимает, а as is сжатое хранит что на диске уже лежит сжатым
Александр
емнип в arc оно не пережимает, а as is сжатое хранит что на диске уже лежит сжатым
Так заметная часть того, что лежит в БД, например - оно лежит себе и лежит. А то, что активный набор данных - оно свежее
George
Так заметная часть того, что лежит в БД, например - оно лежит себе и лежит. А то, что активный набор данных - оно свежее
ага, вот мысль как раз - посмотреть compressratio активного набора данных в датасетах
Murmuring
Добрый день! А как дифференцировать потребление памяти пулом? К примеру, есть 2 пула отдельных (raid1, raid10), как то можно ограничить потребление озу для каждого пула по отдельности?
Ivan
А зачем? Я вот не считаю себя умнее менеджера виртуальной памяти...
а если скорость чтения с одного пула совсем не важна, а другому хочется отдать приоритет. а память кушают они примерно поровну.
George
primarycache=metadata на не важные датасеты
George
но mru кеш они всё равно немного аффектить будут
Murmuring
ну тип, первый пул чисто для системы, там операции записи очень редко происходят, больше чтение. Второй пул для виртуалок, там будет активное чтение/запись. И второй вопрос, можно ли добавить диск, как запасной? чтобы если вылетел, он автоматом стал частью массива?
George
т.е. я бы ничего не делал
Ivan
и там настройка автозамены у spare есть
Murmuring
можно. spare называется.
и таким образом можно физически поменять диски в рейд массиве, в режиме онлайн, так?
Ivan
и таким образом можно физически поменять диски в рейд массиве, в режиме онлайн, так?
с включенной автозаменой само поменяется, когда zfs решит что диск лучше не юзать из-за ошибок.
Murmuring
или оно будет работать так: вылетает диск, spare диск встает на его место, до тех пор, пока основной диск не поменяешь?
Vladimir
или оно будет работать так: вылетает диск, spare диск встает на его место, до тех пор, пока основной диск не поменяешь?
могу и ошибаться, но обратной замены не происходит, и замененный диск становиться резервным диском, да и собственно зачем грузить систему переносом данных еще раз?
Murmuring
хм, интересно)
Vladimir
хм, интересно)
для любителей феншуя пару таких замен и нумерация сбиваеться :)
Murmuring
для любителей феншуя пару таких замен и нумерация сбиваеться :)
Типа имеется raidz на 5 дерьмовых дисках, и их можно посредством spare заменить последовательно на нормальные
Владимир
какой именно raidz?
Ivan
кмк в такой ситуации spare не особо нужен. так же и руками можно менять по одному диску. spare ведь тоже надо будет навешивать на каждый новый диск.
riv
видел бенч с qcow2 в zfs и qcow2 быстрее робит чем zvol. типа это достигается за счет дополнительных слоев кэширования.
Я ждал этого камента. Дополнительные слои кеширования = writeback без транзакционности. sync=disabled намного безопаснее, а эффект даже лучше!
riv
https://3dnews.ru/1020105 забавно
WD вступило в фазу прямого обмана покупателя: предоствляют не верную информацию о скорости вращения шпинделя, скрывают информацию о факте применения технологии msr
Олег
Даже на полгода
riv
qemu делает fsync() когда writethrough ?
Если скорость возрасла, значит на каком-то уровне произошел обход транзакуионности. Самое хорошее что можно сделать, не понижая надёжность, подключить выделенный special vdev на ssd. Это имеет смысл делать и на пуле из ssd, особенно если special - это optane
Олег
Сейчас любой отзыв начинается с факта наличия-отсутствия smr
riv
Сейчас любой отзыв начинается с факта наличия-отсутствия smr
Я говорил о действиях WD. А отзывы - это реакция на их недобросовесную стратегию. ЗСЗБ
Олег
Вообще на ssd делать zfs такое себе.
Олег
Жаль что в ext4 нет сжатия
riv
Вообще на ssd делать zfs такое себе.
У меня есть даже пул с дедупликацией на ssd. Дедупликация на выделенном optane. На пуле виртуалки в продакшене. Всё работает.
Джифорсович
Олег
Делуп это для чего?
Олег
Он ад
Олег
Поскорости
Олег
Надо
riv
Он ад
Вы просто не умеете его готовить <- вот за этот базар я отвечаю!
Олег
Олег
При всех тюнингах
Олег
Раз 10?
Олег
А удаления раз 20?
Олег
это ж почему?
Потеря скорости
Олег
Какова задача?
George
видел бенч с qcow2 в zfs и qcow2 быстрее робит чем zvol. типа это достигается за счет дополнительных слоев кэширования.
в zvol на линуксе минимум есть нюансы по перформансу, обычные датасеты его сейчас делают местами
George
Потеря скорости
из nvme вы всё не выжмите, но это не значит что на ссд смысла нет держать пул
George
При всех тюнингах какова разница скорости?
под рукой нет цифр, плюс зависит от версии, в мастере есть фиксы по перформансу как раз
Олег
Они и без цифр видны не вооруженным взглядом
Олег
Zfs это дорого
Олег
Просто накатите и посмотрите)))
riv
Какая потеря скорости по сравнению с ext4?
Это такая спекулятивная тема. Дело в том, что синтетика часто не соответствует рабочим нагрузкам. По этому мерять попугаи не очень верно. А ещё если вдруг ext4 работает быстрее, это достигается возможностью потери данных при сбое. Включите sync=disable и у вас хотя бы неконсистентных данных не будет после сбоя. А скорость станет буквально космической. Я сравниваю решения по другому: достаточно или нет вот под данную рабочую нагрузку. ZFS медленнее ext4, если их грузить условно, час по максимому, и значительно превзойдёт по записи при не полной загрузке и sync=dissbled. Важен экономический аспект. Что дешевле? Например, на сервере резервного копировпния под dedup vdev я использую пару s3700 и это даёт скорость записи около 100 мегабит сжатого трафика. Зато коэфициент дедупликации около 2.5-х в 2 с половиной раза делают дешевле нжмд часть хранилища. А пара оптайнов даст уже около гигабита на запись. Имеет смысл если у вас 50 почти одинаковых виртуальных машин.
Олег
Это такая спекулятивная тема. Дело в том, что синтетика часто не соответствует рабочим нагрузкам. По этому мерять попугаи не очень верно. А ещё если вдруг ext4 работает быстрее, это достигается возможностью потери данных при сбое. Включите sync=disable и у вас хотя бы неконсистентных данных не будет после сбоя. А скорость станет буквально космической. Я сравниваю решения по другому: достаточно или нет вот под данную рабочую нагрузку. ZFS медленнее ext4, если их грузить условно, час по максимому, и значительно превзойдёт по записи при не полной загрузке и sync=dissbled. Важен экономический аспект. Что дешевле? Например, на сервере резервного копировпния под dedup vdev я использую пару s3700 и это даёт скорость записи около 100 мегабит сжатого трафика. Зато коэфициент дедупликации около 2.5-х в 2 с половиной раза делают дешевле нжмд часть хранилища. А пара оптайнов даст уже около гигабита на запись. Имеет смысл если у вас 50 почти одинаковых виртуальных машин.
Резервное копирование дедуплицировать, это чтоли без энкрименталки совсем?
Ivan
Это такая спекулятивная тема. Дело в том, что синтетика часто не соответствует рабочим нагрузкам. По этому мерять попугаи не очень верно. А ещё если вдруг ext4 работает быстрее, это достигается возможностью потери данных при сбое. Включите sync=disable и у вас хотя бы неконсистентных данных не будет после сбоя. А скорость станет буквально космической. Я сравниваю решения по другому: достаточно или нет вот под данную рабочую нагрузку. ZFS медленнее ext4, если их грузить условно, час по максимому, и значительно превзойдёт по записи при не полной загрузке и sync=dissbled. Важен экономический аспект. Что дешевле? Например, на сервере резервного копировпния под dedup vdev я использую пару s3700 и это даёт скорость записи около 100 мегабит сжатого трафика. Зато коэфициент дедупликации около 2.5-х в 2 с половиной раза делают дешевле нжмд часть хранилища. А пара оптайнов даст уже около гигабита на запись. Имеет смысл если у вас 50 почти одинаковых виртуальных машин.
ну нет, с sync=dissbled скорость космической не становится. быстрее - да, но не значительно.
riv
из nvme вы всё не выжмите, но это не значит что на ссд смысла нет держать пул
Я иногда наблюдаю в atop 100% загрузку nvme-лиска. Потом запускаю ещё одну нагрузку и у первой скорость не падает, а в атоп по прежнему 100% По видимому само понятие загрузки для nvme-дисков сложнее чем доя обысных ssd, где как правило iops-ы складываются более-менее линейно. Но я согласен с тем, что zfs не очень хорошо доя таких накопителей подходит, особенно в отношении задержек на optane.
riv
Резервное копирование дедуплицировать, это чтоли без энкрименталки совсем?
С инкременталкой в пределах диска одной вм. А если таких вм 100 и они все обновились и на их дисках добавились одинаковые данные, то дедупл кация дамт дополнительный выигрышь.
Олег
Ну это хостинг, я к счастью не он))
Олег
Так для хостинга наверное
Олег
А планировщик диска какой используете для name?
Олег
И кстати не встречали корзин для m2 дисков? Или вы на u2?
riv
ARC не даёт выжать из nvme сейчас всё, ага
Я думаю, что для nvme должна быть просто аппаратная возможность поддержки снепшотов и инкоементальной пересылки. Там внутри и так не проще чем в zfs всё устроено. Тот случай когда проц только тормозит всё.
riv
И кстати не встречали корзин для m2 дисков? Или вы на u2?
На u.2, к материнке через oculink. На m.2 я что-то не встречал подходящих для нагрузок дисков, там же только десктопные, а они все на буфер завязаны.
riv
И кстати не встречали корзин для m2 дисков? Или вы на u2?
Я видел концеп https://www.icydock.com/goods.php?id=260
Олег
Я видел концеп https://www.icydock.com/goods.php?id=260
Концепт прикольный у гигабита был
Олег
прям аж мммм
Олег
через OCuLink интересно
Олег
сжатые сроки были не сообразил с ними
Олег
для кликхауса взял m2 samsung
Олег
вполне давольны
Олег
но там упор в проц у нас, все 64 на 100% под нагрузкой заливок