Vladislav
Это точно квапс?
У всех бывают вопросы, когда быстрее спросить чат, чем тестировать, плюс интересные решения могут подсказать. Админам однозначно такое можно
Alex
ну как бы выключил, но облегчения от этого не будет 😃
как не будет, данные-то сдедуплицированны
Alex
при отключении дедупа они не раздедупятся =)
Ivan
при отключении дедупа они не раздедупятся =)
жор памяти и тормоза не исчезнут
Alex
жор памяти и тормоза не исчезнут
а про это разговор не шел . Жор и тормоза будут , если не хватает ресурсов
Alex
Если потом эти файлы не трогать (удалять/модицифировать), то проблем особых быть не должно, вроде
Artem
Всем доброго времени суток. Уважаемые, хм, участники сей беседы, а подскажите, пожалуйста, что делать в ситуации, когда при установки ubuntu я сделал файловую систему zfs, а сейчас ноут пришлось поменять, а файловая система на диске так zfs и осталась и ни винда ни macos по умолчанию этот диск не видят. Если есть что-то типо шагов или инструкции, с радостью прочитаю, просто 2 тб лежат мёртвым грузом.
Nikita
Всем доброго времени суток. Уважаемые, хм, участники сей беседы, а подскажите, пожалуйста, что делать в ситуации, когда при установки ubuntu я сделал файловую систему zfs, а сейчас ноут пришлось поменять, а файловая система на диске так zfs и осталась и ни винда ни macos по умолчанию этот диск не видят. Если есть что-то типо шагов или инструкции, с радостью прочитаю, просто 2 тб лежат мёртвым грузом.
Я озвучу самый простой вариант, а дальше коллеги, если захотят - способы с подвывертом. Но вам придётся уточнить, чем вам не подошел простой вариант. Ииии.... самым простым вариантом будет загрузиться с live образа с поддержкой zfs(поищите по сообщениям, тут публиковался. или возьмите ту же убунту), импортировать туда ваш пул, снять информацию, отформатировать диск в формат, который нативно понимают ваши ОС,
Nikita
Хорошо. Существует ли необходимость использования zfs в описанной вами ситуации и в чем она заключается?
Vladislav
Всем доброго времени суток. Уважаемые, хм, участники сей беседы, а подскажите, пожалуйста, что делать в ситуации, когда при установки ubuntu я сделал файловую систему zfs, а сейчас ноут пришлось поменять, а файловая система на диске так zfs и осталась и ни винда ни macos по умолчанию этот диск не видят. Если есть что-то типо шагов или инструкции, с радостью прочитаю, просто 2 тб лежат мёртвым грузом.
А зачем Вы сделали zfs на Ubuntu, если не знаете что это? Она даже как экспериментальная помечена в установщике если не ошибаюсь И с каких пор винда понимает хоть что-то из файловых систем linux, кроме FAT? И да, если Вам нужны эти данные - копируйте их в нужную файловую систему
Artem
Хорошо. Существует ли необходимость использования zfs в описанной вами ситуации и в чем она заключается?
В той ситуации, в которой при установке ubuntu я сделал zfs ную файловую систему я решил, что как раз можно поучиться и попробовать новое. (В целом у меня есть сервер с 2 zfs ными пулами, которые стоят на 4 2 тб дисках), просто сейчас диски полные (работой) и вот так взять и скопировать ещё туда 2 тб я не могу (просто места нет).
Artem
А зачем Вы сделали zfs на Ubuntu, если не знаете что это? Она даже как экспериментальная помечена в установщике если не ошибаюсь И с каких пор винда понимает хоть что-то из файловых систем linux, кроме FAT? И да, если Вам нужны эти данные - копируйте их в нужную файловую систему
ExFat windows понимает. А так, ещё раз повторюсь, просто для изучения нового. Не думал, что за год забью мобильный нотик всякой всячиной. Ну и не подумал о последствиях, если ноут буду менять. В целом, взял, вставил диск в новый ноут и пошёл дальше работать (ну, так можно сделать, если прям очень надо), а вот в мак m2 диск не вставишь (напрямую) и просто так не поработаешь и не затрёшь, что надо.
Artem
Хорошо. Существует ли необходимость использования zfs в описанной вами ситуации и в чем она заключается?
И соответственно, нет, сейчас необходимости нет, хочу просто освободить диск (если есть возможность) за минимальное время/силы. Для меня самый простой способ - это взять диск, смонтировать на сервере, вставить внешний хард и перекинуть данные. Просто подумал, что может это можно сделать и без покупки харда, а так получается, что накопителей не хватает.
Владимир
Что-то мне кажется, что это сжатие съедает проц) Какое стоит?
да кстати, если жесткое сжатие выбрать там реально много может съесть))
Вадим «Дым» Илларионов ☭
ну как бы выключил, но облегчения от этого не будет 😃
Ну, почему же. Скинуть дедубликаты снова на внешний носитель и грохнуть датасет, куда они складывались.
Вадим «Дым» Илларионов ☭
На самом деле, когда продавал нотик, надежда была, что macos поймёт диск, но, пока руки не дошли, да и мак только 1 тб.
Зачем полагаться на авось, если типы ФС, поддержываемые разными ОС, легко гуглятся?
Artem
Зачем полагаться на авось, если типы ФС, поддержываемые разными ОС, легко гуглятся?
Да в том то и дело, что macos понимает zfs, а вот диск как устройство не видит :( (но я только учусь и мог что-то незаметить)
Вадим «Дым» Илларионов ☭
Вадим «Дым» Илларионов ☭
Сходить в магазин и купить диск на 2тб
Ценники после распродаж видели? Там какой-то ахтунг!
Вадим «Дым» Илларионов ☭
Ага, уже думаю свой внешний терабайтный НВМе-шник доп.накопителем в комп воткнуть, а в обиходе снова мелкими тормозными флэхами перебиваться.
Δαρθ
Да 7к както не гуманно
м*ководам суждено тратиться на то, что юзеры нормальных ос и компов имеют бесплатно )
Artem
Ценники после распродаж видели? Там какой-то ахтунг!
Вот да, цена аховая, а если ещё и ssd, то плакать хочется :(
Илья
Вот да, цена аховая, а если ещё и ssd, то плакать хочется :(
Для дома да, можно и авито посмотреть, а если данные нужны по работе, то без разницы сколько стоит, а если и так дорого, то вр вскусно и точку, сейчас всегда требуются люди, там хорошие зарплаты)
Вадим «Дым» Илларионов ☭
м*ководам суждено тратиться на то, что юзеры нормальных ос и компов имеют бесплатно )
Полностью согласен, но однажды мне вдруг стало дешевле прикупить с рук за недорого маковку для жены, чем чистить/переставлять ей на лапте винду или объяснять, что линь в обиходе с её нуждами ничуть не хуже последней — зато без виндозаморочек с глюками-вирусами. А мака она за неделю освоила и сама мышку в сторону отринула, потому что трекпад удобней. :)
Вадим «Дым» Илларионов ☭
Для дома да, можно и авито посмотреть, а если данные нужны по работе, то без разницы сколько стоит, а если и так дорого, то вр вскусно и точку, сейчас всегда требуются люди, там хорошие зарплаты)
Прям так и встаёт перед внутренним взором сотрудник "свободной кассы" с маковкой наперевес. Правда, в виде аниме-персонажа почему-то. :)
Вадим «Дым» Илларионов ☭
а чтш мешало 1ый раз сдампить образ (а вот в зфс просто снапшот был бы гы) и потом не чистить-переставлять а раскатывать образ обратно?
Какой образ? Винды? Линя? Я о том, что в макось настолько низкий порог входа и мизерные риски, что ламера дешевле маковкой обеспечить, чем весь этот гемор претерпевать/админить. Дома я больше сисьобним, чем сисадмин на работе.
Вадим «Дым» Илларионов ☭
Ну, не линя же.
Δαρθ
его тоже можно
Δαρθ
как всегда проблемы наверное токо с яблоосью )
Вадим «Дым» Илларионов ☭
Но не нужно. В гробу я видал это недоделие. Четверть века без него прекрасно обходился и нырять в этот дерьмомут доселе не намерен.
Δαρθ
день с видео работает без зарядки?
Вадим «Дым» Илларионов ☭
как всегда проблемы наверное токо с яблоосью )
Ноль! В отпуска даже свой любимый командировочный Асер-Р7 не беру, ездим с макпрошкой жены — он легче, компактней и незаметней. А на отпускные нужды более чем достаточен. Чай, не админить удалённо всю хрень. А в редких аварийных ситуациях и его хватает.
Artem
День прогать и тягать машинку без зарядки. А с видео работать по 3 часа обработки было пару дней подряд и к вечеру заряжать ставил.
Вадим «Дым» Илларионов ☭
кого "чистить-переставлять" приходилось
Прямым же текстом без разночтений было сказано, цитирую: "чистить/переставлять ей на лапте винду".
Вадим «Дым» Илларионов ☭
его тоже можно
Можно. Но нахрена? Если того же альта и прочих апторулимых легко тянуть через кучу мажорных версий издревле до свежанины. Без переустановок.
Alexander
Всем привет, что-то надоело уже медленное потоковое чтение большими блоками в ZFS. Тестирую zpool 7х 5400 дисков (увы, только такие есть прямо сейчас в кол-ве дома), просто в страйпе, собран с -o ashift=12 canmount=off -O xattr=sa -O dnodesize=auto -O compression=off -O atime=off -O recordsize=1M; железо - 1x Xeon2680v4, 32GB (arc=50%), Proxmox 8.1.3 (kernel: 6.5.11-6-pve, zfs 2.2.0-pve4). Тестирую программой frametest (эмулирует техпроцесс в кинопроизводстве - пишет/читает (в моем случае) 9000шт. 2к кадров (размером 1шт ~ 12МБ) в 4 потока) - собственно такой реальный техпроцесс и есть.. Получаю запись ~900МБ/с, чтение ~400МБ/с По мониторингу видно, что prefetch hit = 0%, соответственно на чтении почти половина операций из за этого идет зазря. При prefetch_disable=1 чтение еще немного хуже - все чтение идет в sync_read. Дальше особо не настраивал - только повысил все zfs_vdev_(a)sync_read_min(max)_active - не помогло .. Результаты и кое-что из мониторинга на https://pastebin.com/ZxdbV04y
Alexander
Понятно, что с чтением у zfs все не так хорошо, но в 2+ раза хуже записи? Стоит еще дальше пытаться настраивать, как думаете? Или плюнуть уже...
Georg🎞️🎥
м*ководам суждено тратиться на то, что юзеры нормальных ос и компов имеют бесплатно )
Оооо… знаток маков видно сразу )))🤣🤣🤣🤣🤣👋 Бесплатно лежать под столом и тюнить ось с железом вместо работы ))👍
Georg🎞️🎥
или бесплатно жрать что дают без возможности оттюнить, ага
Мне работать а не тюнить :)) но мож кому нравится :))) 👋просто по вашим задачам не нужен эпле👋
Δαρθ
предполагаю что по примерно никаким
Fedor
И у эппл, и у линукс свои плюсы и минусы. Тут чат не про это.
Fedor
Кажется, речь про линуховые фс
Vladislav
Кажется, речь про линуховые фс
Винда как-то всё ещё не умеет в ext4, f2fs, btrfs, zfs, bcachefs, etc
Алексей
Всем привет, что-то надоело уже медленное потоковое чтение большими блоками в ZFS. Тестирую zpool 7х 5400 дисков (увы, только такие есть прямо сейчас в кол-ве дома), просто в страйпе, собран с -o ashift=12 canmount=off -O xattr=sa -O dnodesize=auto -O compression=off -O atime=off -O recordsize=1M; железо - 1x Xeon2680v4, 32GB (arc=50%), Proxmox 8.1.3 (kernel: 6.5.11-6-pve, zfs 2.2.0-pve4). Тестирую программой frametest (эмулирует техпроцесс в кинопроизводстве - пишет/читает (в моем случае) 9000шт. 2к кадров (размером 1шт ~ 12МБ) в 4 потока) - собственно такой реальный техпроцесс и есть.. Получаю запись ~900МБ/с, чтение ~400МБ/с По мониторингу видно, что prefetch hit = 0%, соответственно на чтении почти половина операций из за этого идет зазря. При prefetch_disable=1 чтение еще немного хуже - все чтение идет в sync_read. Дальше особо не настраивал - только повысил все zfs_vdev_(a)sync_read_min(max)_active - не помогло .. Результаты и кое-что из мониторинга на https://pastebin.com/ZxdbV04y
Это чтение и запись одновременно или по отдельности?
Vladislav
Всем привет, что-то надоело уже медленное потоковое чтение большими блоками в ZFS. Тестирую zpool 7х 5400 дисков (увы, только такие есть прямо сейчас в кол-ве дома), просто в страйпе, собран с -o ashift=12 canmount=off -O xattr=sa -O dnodesize=auto -O compression=off -O atime=off -O recordsize=1M; железо - 1x Xeon2680v4, 32GB (arc=50%), Proxmox 8.1.3 (kernel: 6.5.11-6-pve, zfs 2.2.0-pve4). Тестирую программой frametest (эмулирует техпроцесс в кинопроизводстве - пишет/читает (в моем случае) 9000шт. 2к кадров (размером 1шт ~ 12МБ) в 4 потока) - собственно такой реальный техпроцесс и есть.. Получаю запись ~900МБ/с, чтение ~400МБ/с По мониторингу видно, что prefetch hit = 0%, соответственно на чтении почти половина операций из за этого идет зазря. При prefetch_disable=1 чтение еще немного хуже - все чтение идет в sync_read. Дальше особо не настраивал - только повысил все zfs_vdev_(a)sync_read_min(max)_active - не помогло .. Результаты и кое-что из мониторинга на https://pastebin.com/ZxdbV04y
Давай определимся, Вам нужна скорость или надёжность?
Алексей
По отдельности
У вас в пуле данные лежат в zvol или в датасетах?
Δαρθ
И у эппл, и у линукс свои плюсы и минусы. Тут чат не про это.
Вот кстати, интересно, планируется хотя бы теоретически, у разрабов openzfs дефрагментация?
Alexander
Давай определимся, Вам нужна скорость или надёжность?
Мне нужна надежность и скорость чтения чтобы была поближе к скорости записи. В реальной жизни - хотябы 800МБ/с с 8 дисков с данными при потоковом чтении
Alexander
У вас в пуле данные лежат в zvol или в датасетах?
в датасете. Прокс - это так просто дома тестирую, ничего общего с виртуальными машинами ))
Vladislav
Мне нужна надежность и скорость чтения чтобы была поближе к скорости записи. В реальной жизни - хотябы 800МБ/с с 8 дисков с данными при потоковом чтении
Нуууу, может тогда стоит попробовать не ZFS? Bcachefs, хотя там ещё скраба нет А если серьёзно почитайте сперва это и это и в целом ссылки по *zfs tuning*
Алексей
в датасете. Прокс - это так просто дома тестирую, ничего общего с виртуальными машинами ))
Попробуйте сделать рекордсайз 4 или 8 или еще больше мб, запишите новые данные (они запишутся новым размером). После чего попробуйте прочитать их, какая будет скорость? Для рекордсайза больше 1мб надо будет твикнуть немного
Alexander
Нуууу, может тогда стоит попробовать не ZFS? Bcachefs, хотя там ещё скраба нет А если серьёзно почитайте сперва это и это и в целом ссылки по *zfs tuning*
Спасибо. Я достаточно пробовал оптимизировать в свое время - на Люстре over ZFS у меня тоже конечно чтение медленнее. но не на столько же))
Алексей
Раньше не рекомендовали > 1M в продакшн...
Продакшн продакшну рознь. У вас поточные данные а рекомендации средние по больнице
Vladislav
Всем привет, что-то надоело уже медленное потоковое чтение большими блоками в ZFS. Тестирую zpool 7х 5400 дисков (увы, только такие есть прямо сейчас в кол-ве дома), просто в страйпе, собран с -o ashift=12 canmount=off -O xattr=sa -O dnodesize=auto -O compression=off -O atime=off -O recordsize=1M; железо - 1x Xeon2680v4, 32GB (arc=50%), Proxmox 8.1.3 (kernel: 6.5.11-6-pve, zfs 2.2.0-pve4). Тестирую программой frametest (эмулирует техпроцесс в кинопроизводстве - пишет/читает (в моем случае) 9000шт. 2к кадров (размером 1шт ~ 12МБ) в 4 потока) - собственно такой реальный техпроцесс и есть.. Получаю запись ~900МБ/с, чтение ~400МБ/с По мониторингу видно, что prefetch hit = 0%, соответственно на чтении почти половина операций из за этого идет зазря. При prefetch_disable=1 чтение еще немного хуже - все чтение идет в sync_read. Дальше особо не настраивал - только повысил все zfs_vdev_(a)sync_read_min(max)_active - не помогло .. Результаты и кое-что из мониторинга на https://pastebin.com/ZxdbV04y
Вам бы тогда l2arc добавить кстати
Алексей
Вам бы тогда l2arc добавить кстати
Одна из самых бесполезных фичей в зфсе
Alexander
Вам бы тогда l2arc добавить кстати
В реальной жизни там сотни тысяч 12М файлов читаются - никакого l2 не хватит..
Vladislav
Одна из самых бесполезных фичей в зфсе
Её просто надо готовить уметь
Vladislav
В частности убрать троттлинг
Алексей
В частности убрать троттлинг
Что такое троттлинг?