George
дефолтные checksums практически бесплатны, т.к. они юзают simd и данные уже находятся в кеше CPU
Anonymous
Александр
Человек скачал продукт, поставил каким-то образом, увидел некоторое потребление ресурсов, начал выяснять что может их потреблять, и сходу решил что-то отключить. Довольно странное решение. Очень грубое приближение попробую сформировать, чтобы показать как выглядят ваши вопросы. Купил я значит туфли, а шнурки по ногам болтаются, я думаю их нужно укоротить, и тут у меня два вариант, отрезать или короткие вставить, но с короткими засада, отверстия в туфлях маленькие, может можно их увеличить? А еще там есть стелька, но она не отдирается, а то мне цвет не нравится.
Александр
1. перед тем как задавать вопросы по программному продукту proxmox прочтите wiki (там детально описано все что входит в состав) 2. Если остались вопросы какой-то части этого комплекса, попробуйте самостоятельно найти информацию в поисковике (из 7 миллиардов жителей, кто-то наверняка завал подобный ответ, так же на него кто-то уже отвечал) 3. Если вам не понятен ответ, соберите свои шаги в структурированное сообщение (я установил, такие параметры указал, так-то настроил, там-то изменил) 4. затем ваше сообщение с шагами можете сюда приложить и логи по необходимости. Как правило собирая всю информацию, вы уже ответите на свой вопрос скорее всего, а если нет, то будете в приближении к нему и коллегам не понадобится 50 вопросов для уточнения вашей проблемы, ответы будут по существу и полными. Никто за вас вашу информацию собирать не будет.
Autumn
Просто настройка есть при создании, вот и не понял https://openzfs.github.io/openzfs-docs/Basic%20Concepts/Checksums.html Тут про типы пулов не написано
эти чексуммы как дополнительный броневой лист, они позволяют проверить целостность во время чтения или сенд-ресива, на усмотрение, какой оверхед они дают я хз, надо тестить, но я думаю не надо в них лазит особенно если Вы зфс под прокс собираете, поставьте себе верный ashift да включите сжатие, ну и на датасетах можете с recordsize поиграть под разные контейнеры/виртуалки, да и все
Autumn
но что raidz не про скорость это факт
не факт, мои тесты ссд пулов под прокс говорят что не всегда
Autumn
Что-то мне кажется, что это сжатие съедает проц) Какое стоит?
не особо съедает, дефолтное lz4 вообще на современных процах мало визуально видимой нагрузки оказывает
Autumn
Это вообще нормально такое потребление CPU ? Диски NVMe Datacentr
Вы делаете высоконагруженное синтетическое тестирование и Ваша нагрузка на ЦП либо "синтетическая" и показывает самые худшие условия к которым в реальной работе Вы вряд ли приблизитесь, либо обусловлена некорректным тестом, т.е. Вы запускаете тест с параметрами не для Вашей рабочей нагрузки и видите страшные цифры.
Александр
а еще очень странно проводить такого рода нагрузочное тестирование, без понимания для чего оно вообще...
Александр
ну что-то читает, что-то пишет, что-то грузит...
Александр
а самое главное, делать вывод, что оно нам не подходит, потому что оно не так грузит. читает и пишет
Александр
https://t.me/Vo_IT/125278
Александр
Подобного рода видео присылают и просят помочь.
Александр
Доктор, когда я так делаю, болит, что делать?! Ответ доктора прост. не делайте так.
Александр
Из серии собираю домашний сервачок для прода....
Александр
Сейчас как накачу виртуалок, как запущу датацентр на балконе. пока зима на улице. будет классно, а к весне в подвал отнесу!
Станислав
не особо съедает, дефолтное lz4 вообще на современных процах мало визуально видимой нагрузки оказывает
При lz4 и recordsize=16к грузит 10ядерный E5-2666v3 на 30%. Так что вполне себе заметно)
Autumn
При lz4 и recordsize=16к грузит 10ядерный E5-2666v3 на 30%. Так что вполне себе заметно)
тут дело не в lz4, но таки да иногда грузят, туту дело в типе самой нагрузки, сейчас кину свои тесты, вытащу нагрузку на проц, там только единичные в основном WRITE/READ доводят проц до 32% но таки бывает, но это же не смертельно, хотя может кому-то и 10% это ужас-ужас =)
Autumn
но я на ссд не буду сжатие вырубать, т.к. в зфс на проксе я вижу компрессию 1.4х-1.8х и как бы жаба давит терять ссд дисковое отрубая ее
Autumn
ну и сжатие улучшает производительность зфс, тоже мои тесты показали, так что это же баланс - где то чего то убыло, где то прибыло =)
Autumn
Без сжатия нагрузка около 0 крутится
сейчас доделаю выборку и прогоню те же тесты на том же железе без сжатия и глянем
Autumn
https://pastebin.com/9f5XAGkN
Autumn
ну вот часть моих тестов на сас ссд пулах, из 56 тестов в 20 нагрузка превысила 20%, в 2-х 30%
Станислав
сейчас доделаю выборку и прогоню те же тесты на том же железе без сжатия и глянем
Но Вы его всё равно оставьте включенным)) Это же тест максимальной нагрузки на ФС, она далеко не всегда так используется. Я вообще везде юзаю компрессию zstd, проц грузит в аналогичном тесте на 100%, но при этом скорость записи выше. Уже дофига всего крутиться на этом серваке и сжатие незаметно работает относительно других задач
Autumn
Но Вы его всё равно оставьте включенным)) Это же тест максимальной нагрузки на ФС, она далеко не всегда так используется. Я вообще везде юзаю компрессию zstd, проц грузит в аналогичном тесте на 100%, но при этом скорость записи выше. Уже дофига всего крутиться на этом серваке и сжатие незаметно работает относительно других задач
я об этом же, тест синтетика - худший вариант, в реале конечно будет общая нагрузка ниже, но ради интереса пока железо доступно я проведу тест, я уже делал тест без сжатия против сжатия и я не помню что бы там без сжатия в том же тесте нагрузка на ЦП была существенно ниже (но уверенно утверждать не буду), но вот производительность пула со сжатием определенно выше
Autumn
я проверял zstd - монопенисуально что lz4 по производительности, а вот нагрузку на ЦП между разными типами сжатия я проверил и lz4 дает самый меньший оверхед у меня, так что я остановился на нем
Autumn
Это смотря что сжимать 🤔
виртуалки и контейнеры
Autumn
я про связку zfs+proxmox тесты под нее делались по другим вариантам не берусь утверждать, но я думаю что в общем картина может быть +- идентичная если экстраполировать
Autumn
т.е. по моим тестам большая часть тестов где нагрузка на ЦП превысила 20% был тест последовательной записи, сомневаюсь что если его же проводит для конфигурации файлопоймойки он покажет другую нагрузку относительно случайной записи или чтения например
Autumn
хотя чудеса бывают
Autumn
mirror менее требователен к CPU, а ещё получите большую производительность
Вот пример из тестов когда миррор "кушает" больше чем raidz1: ssd-raid10x4-4K-32 rr: cpu: usr=0.53%, sys=9.06% rw: cpu: usr=0.20%, sys=5.62% r: cpu: usr=0.47%, sys=8.60% w: cpu: usr=0.92%, sys=25.67% ssd-z1-4K-32 rr: cpu: usr=0.47%, sys=7.76% rw: cpu: usr=0.19%, sys=6.07% r: cpu: usr=0.43%, sys=8.00% w: cpu: usr=0.94%, sys=22.85%
Autumn
разница в их производительности в тоже время даже до 15% не доходит: w,iops,bw z1: 108k,423MiB/s r10x4: 100k,430MiB/s 2% rw,iops,bw z1: 12.3k,48MiB/s r10x4: 12.9k,50MiB/s 5% r,iops,bw z1: 41.8k,163MiB/s r10x4: 48.1k,188MiB/s 13% rr,iops,bw z1: 39.9k,156MiB/s r10x4: 47.2k,184MiB/s 14%
Autumn
если бы я абстрагировался от % и смотрел только на числа, то я бы на эту разницу забил бы, кмк она не существенна, зато бонус от +1 ссд под данные еще какой, если это например сата 3.84ТБ
Александр🇷🇺
@neurox пора комботу сюда
Вадим «Дым» Илларионов ☭
@neurox пора комботу сюда
Давно. Как и спам-боту.
Autumn
Без сжатия нагрузка около 0 крутится
Увы не крутится, вот тест без компрессии и сравнение с lz4, сжатие дает ну максимум +1% нагрузки на ЦП: LZ4 --- ssd-raid10x4-4K-32 rr: cpu: usr=0.53%, sys=9.06% rw: cpu: usr=0.20%, sys=5.62% r: cpu: usr=0.47%, sys=8.60% w: cpu: usr=0.92%, sys=25.67% ssd-z1-4K-32 rr: cpu: usr=0.47%, sys=7.76% rw: cpu: usr=0.19%, sys=6.07% r: cpu: usr=0.43%, sys=8.00% w: cpu: usr=0.94%, sys=22.85% NO COMP --- ssd-raid10x4-4K-32 rr: cpu: usr=0.46%, sys=7.64% rw: cpu: usr=0.15%, sys=5.01% r: cpu: usr=0.41%, sys=7.19% w: cpu: usr=0.92%, sys=25.50% ssd-z1-4K-32 rr: cpu: usr=0.37%, sys=7.26% rw: cpu: usr=0.16%, sys=5.52% r: cpu: usr=0.35%, sys=7.24% w: cpu: usr=0.92%, sys=21.93%
Vladislav
Чем то, что lz4 даёт нагрузку
Михаил
gzip ном дает нагрузку, но и результат конечно
Владимир
Гзип разносит я в пух и прах
Владимир
Он не нужен с появлением zstd
Михаил
Он не нужен с появлением zstd
Хм. Надо будет попробовать
Вадим «Дым» Илларионов ☭
Он не нужен с появлением zstd
У меня гзип остался только для читалки AlReader, которая из сжатых понимает только зип и гз. Но зиповать 7-зипоп муторно, да ещё и предварительно переименовывать .фб2 в латиницу приходится. А с гзипом Ф2 в МС нажал, тыцнул "у" — и вуаля.
Вадим «Дым» Илларионов ☭
А зстд тоже в мс-менюшку добавил, конечно. Странно, что "искаропки" "ихтамнет". :)
Вадим «Дым» Илларионов ☭
Но читал, что lz4 даже получше зстд для того же зсвопа.
Станислав
А зстд тоже в мс-менюшку добавил, конечно. Странно, что "искаропки" "ихтамнет". :)
Я просто установил zstd и он сам появился в MC. Так начиная с Debian 11 и Ubuntu 22
Autumn
Я делал тесты между дефолтным zstd (просто врубить для датастора, без допнастроек) и lz4, разницы никакой, ни по сжатию, ни по скорости работы с датасетом ни по нагрузке на ЦП (если пренебречь тем, что в некоторых случаях zstd генерировал чуть большую нагрузку, но это в пределах того же 1% на который можно забить), поэтому наверное в zfs включение compression on врубает обычный lz4. Конечно если задать степень компрессии для zstd повыше то и бонус может быть лучше, но уверен что за это придется заплатить повышенной нагрузкой на ЦП. Поэтому скорее всего в zfs по умолчанию включается lz4 сохраняющий баланс между профитом и накладными расходами. В общем, без хитрого тюнинга и массовых тестов, я не вижу смысла менять lz4 на zstd у себя.
Алексей
Я использую zstd-fast на 2609 вполне
Autumn
Я использую zstd-fast на 2609 вполне
вроде она как дефолтный уровень zstd +-, где-то на реддите тесты видел, что результаты почти такие же как если просто включить zstd
Autumn
Не, дефолтно просто zstd
коллега Вы не правильно поняли - я знаю что это чуть меньший уровень компресии чем просто zstd (помоему он level 3, но это не точно), я о том что нет особого смысла включать именно fast потому что результаты тестов что я видел (чужих) говорят что она почти такая же как просто дефолтная zstd
Autumn
дефолтная zstd +- такая же как lz4, где-то чуть лучше, где-то чуть хуже, тут интереснее найти такой уровень сжатия zstd когда накладные расходы относительно lz4 будут минимальны, но степень компрессии и скороть работы с датасетом дадут существенный бонус, но это надо тьму тестов провести и получить опыт с реальными данными, у меня увы на это времени сейчас нет, а было бы интересно, а так lz4 сойдет
Autumn
вот, нашел тест, честно говоря пока не впечатляет zstd - https://www.reddit.com/r/zfs/comments/sxx9p7/a_simple_real_world_zfs_compression_speed_an/#:~:text=ZSTD%20background%3A,3%20(zstd%2D3).
Вадим «Дым» Илларионов ☭
Я делал тесты между дефолтным zstd (просто врубить для датастора, без допнастроек) и lz4, разницы никакой, ни по сжатию, ни по скорости работы с датасетом ни по нагрузке на ЦП (если пренебречь тем, что в некоторых случаях zstd генерировал чуть большую нагрузку, но это в пределах того же 1% на который можно забить), поэтому наверное в zfs включение compression on врубает обычный lz4. Конечно если задать степень компрессии для zstd повыше то и бонус может быть лучше, но уверен что за это придется заплатить повышенной нагрузкой на ЦП. Поэтому скорее всего в zfs по умолчанию включается lz4 сохраняющий баланс между профитом и накладными расходами. В общем, без хитрого тюнинга и массовых тестов, я не вижу смысла менять lz4 на zstd у себя.
Ещё как придётся. Умолчальная компрессия у него как "-3" идёт — и это отлично. Но начинаешь задирать — и там счёт даже не в разы, а чуть ли не на порядки скачет.
Вадим «Дым» Илларионов ☭
Не, дефолтно просто zstd
Умолчально именно -3. -2 и -1 по скорости почти не отличаются, но и почти не жмут.
Autumn
Всё именно так. Тестил на постгре-базах. Больших.
Я в основном на vm-ках тестю, но спс, буду знать что и под субд выводы те же.
Oleg
Всем привет, сильно не кидайте тапками, не прям любитель а не профи, так что немного нубский вопрос, если эффективность кеша zfs падает стабильно но почуть чуть на протяжении нескольких недель, на что это влияет и есть ли смысл добовлять озу? Спасибо
Fedor
Всем привет, сильно не кидайте тапками, не прям любитель а не профи, так что немного нубский вопрос, если эффективность кеша zfs падает стабильно но почуть чуть на протяжении нескольких недель, на что это влияет и есть ли смысл добовлять озу? Спасибо
Может быть, меняется характер потребления данных. Где-то в кстат вроде бы были счётчики, по комбинации которых можно понять, хватает ли текущего объёма ОЗУ для горячих данных.
Fedor
Есть ли это в линуксе, правда, не знаю. На иллюмосе было.
Fedor
Все зависит от характера данных и частоты потребления одних и тех же блоков
Oleg
Все зависит от характера данных и частоты потребления одних и тех же блоков
Характер данных не поменялся, но вырось объем данных на массиве
Oleg
И сетевая активность подросла
Fedor
Тогда, может быть, правда имеет смысл посмотреть на счётчики внутри зфс.
Fedor
В иллюмосе кстат. В линуксе тоже что-то такое должно быть.
Oleg
Спасибо сейчас гляну
Fedor
Вот где-то около того остальные и должны лежать
Oleg
Это оно?
Oleg
Или это?
Fedor
Где-то около тех названий