George
Повреждение битов в памяти перед записью заблокирует больший объём информации в случае с зфс, чем с другими фс
явно добавлю, что другие ФС тупо повреждённые данные запишут и промолчат, а потом радостно их же отдадут на чтении
George
да, Фёдор выше хорошо объяснил этот момент)
каждый должен попробовать ddшкой под zfs попортить данные и восхититься 😂😍
Fedor
Я повреждал именно дд, было шикарно :)
Алексей
А я ещё не пробовал
Алексей
Интересно, что же там будет?
Fedor
данные будут в сохранности, ресилверинг восстановит содержимое диска.
Fedor
потом можно второй диск из того же вдева пнуть - всё то же самое
Konstantin
Не развалится, zfs'у пофиг на имя и порядок, он на содержимое смотрит
а как зфс относится к пулам с одинаковыми именами? я внутри прокса сделал виртуалку прокса для тестов, но диски подкинул живые, при ребуте рпул не импортировался, ругаясь на то что у меня 2 рпула
Ivan
у меня вот странная ситуация: пул с /boot импортируется с ошибкой и не монтируется из-за того что до этого успевает смонтироваться /boot/efi, но при этом zfs считает этот пул импортированным и его можно экспортнуть.
Konstantin
не очень, можно руками с временным другим именем импортнуть
я руками импортировал по id, но похоже чтобы потестить новый бэкап сервер надо будет ставить его на виртуальный ext4, а для хранилища уже создавать пул из дисков с другим именем
Ivan
ты делал по инструкции из документации? там был описан подобный момент с созданием сервиса импорта
да просто юнит сам запускается невовремя и выдает ошибку 😃 суть не в этом. а в небольшом недочете, как мне кажется. т.е. пул для zfs импортирован, но вот не смонтирован в итоге.
Alexander
Если важна надежность, я бы не стал так экспериментировать без локальных хранилищ.
кстати, наткнулся на статью на Wiki... https://openzfs.org/wiki/ZFS_on_high_latency_devices
Fedor
кстати, наткнулся на статью на Wiki... https://openzfs.org/wiki/ZFS_on_high_latency_devices
тут даже не в хай летенси дело. Дело в том, что часть записанных с точки зрения зфс данных может не долететь до постоянного хранилища в ряде случаев.
Alexander
с rbd так бывает? вообще, судя по некоторым issues, такая конфигурация у кого-то работает (Issue 2014 года, https://github.com/openzfs/spl/pull/353), но судя по всему не очень популярна...
Fedor
Я цеф не использовал.
Alexander
https://stanislas.blog/2019/08/how-i-fixed-zfs-data-corruption-errors-hetzner-cloud/ у меня нагуглилась статья с интересным опытом как раз по Hetzner Cloud: там RAID на NVMe (локальный) работал с ошибками, тогда как с Ceph всё было ок since my Hetzner VM has a single virtual disk backed by a RAID on NVMe drives, I thought the drives couldn't get corrupted. Apparently I was wrong and it does actually happen more often that not. и как результат у него (после замены на Ceph) It's been 10 weeks and I haven't had a single issue:
Alexander
т.е. получается, что вот есть кейс, когда удалённый Ceph работает с ZFS лучше, чем локальный RAID на NVMe (если верить автору статьи)
Fedor
Для зфс из локального рекомендуется только hba-никаких рейдов. Даже NCQ вредит.
Vladislav
У меня умер один HDD на 4ТБ. хочется где-то глянуть рейтинг 3-4ТБ HDD
X
Google???
Vladislav
у получить 100500 мест, где купить HDD ? спасибо
Vladislav
раньше nix.ru более -менее хорошо оценивал HDD
George
У меня умер один HDD на 4ТБ. хочется где-то глянуть рейтинг 3-4ТБ HDD
если статистика отказов - есть у бекблейза про перформанс - только штучно искать, если кто найдёт что дельное с аггрегацией - поделитесь плиз
Vladislav
у меня еще подозрение, что Сигейты даже в рамках одной и той же модели пихают разные устройства
Vladislav
вылетел HDD ST4000DM004-2CV104 0001 в живых остались два ST3000VX000-1ES166 CV27 и один TOSHIBA DT01ACA300 MX6OABB0
George
с smr дисками драма же, один партнамбер может быть и smr и pmr
Vladislav
причем вылетевший куплен последним
Vladislav
отработал 2 года и почти 9 месяцев
Vladislav
Отвалился из-за Device: /dev/ada0, 48 Currently unreadable (pending) sectors (changed +8) Device: /dev/ada0, 48 Offline uncorrectable sectors В понедельник доберусь, попробую перезагрузиться и если не получится, попробую поставить на стенд, на проверку
Vladislav
это единственный HDD в массиве подключен к тупому рейду - Silicon Image, SiI 3132 Serial ATA Raid II Controller
Стоян Белчев
Насчет статистики дисков...https://www.backblaze.com/blog/backblaze-hard-drive-stats-q1-2020/
Стоян Белчев
https://www.backblaze.com/b2/hard-drive-test-data.html
Ivan
пришлось поставить винду, чтобы обновить биос, винда снесла загрузчик. загружаюсь с livecd, импортирую пул, в смонтированном каталоге пусто. zpool list показывает что пул чем-то занят, т.е. вроде как данные на месте. как такое побороть ?
Ivan
#пишуизгорящеготанка
Fedor
zfs list или show
Ivan
zfs list или show
там тоже все ок: датасеты и точки монтирования
Fedor
Но так же пусто?
Ivan
Ivan
причем каталог бут сохранился после импорта загрузочного пула
Ivan
и там остался после экспорта/импорта
Ivan
будто старые данные удалены
Сергей
zfs mount что говорит
Сергей
zfs mount -a
Ivan
самая печаль - снапшотов не делал
Ivan
zfs mount -a
пусто
Сергей
и в логах никаких ошибок?
Ivan
нет
Сергей
zfs umount -a и потом опять mount. zpool status -v
Ivan
может быть из-за того что в дебиане версия 8.4, а в убунте 8.3 ?
Сергей
может быть из-за того что в дебиане версия 8.4, а в убунте 8.3 ?
там вроде не было новых фич, которые могли бы влиять. это минорное обновление
Ivan
Ivan
при импорте ни на что не ругалось
Сергей
zfs mount -a
Ivan
zfs mount -a
пусто
Сергей
т.е. только /mnt/boot?
Ivan
т.е. только /mnt/boot?
в mnt вообще пусто было, пока не смонтировал бут пул
Ivan
теперь вот только /boot каталог виден
Сергей
а если каждый датасет вручную монтировать zfs mount sata-rpool/.... /mnt...
George
used не пустой, данные где-то есть) как пул импортировали? Где-то перекрыли маунты видать
Ivan
zfs load-key sata-rool
Ivan
или я неправильно монтирую зашифрованный пул ?
George
после load key iirc надо руками монтировать
George
но тут могу ошибаться, я только тестил давно разок нативное шифрование
Ivan
короче странная ситуация. после пары ребутов liveusb перестала появляться просто /boot при монтировани и тогда то руками без всякой ругани датасет примонтировался.
Ivan
ms конечно эпичные чудаки. не дают возможности выбрать куда ставить загрузчик, да ещё подчистую сносят без спроса чужие загрузчики.
Vladislav
судя по ману zfs невозножно рекурсивно назначить права на директорию. приходится ручками каждую вложенную диреткорию указывать....
Vladislav
zfs allow -u user9 compression,create,destroy,mount,mountpoint,receive,rollback,send,snapshot tank/ftp/storage1002/user9
Vladislav
Отвалился из-за Device: /dev/ada0, 48 Currently unreadable (pending) sectors (changed +8) Device: /dev/ada0, 48 Offline uncorrectable sectors В понедельник доберусь, попробую перезагрузиться и если не получится, попробую поставить на стенд, на проверку
после перезагрузки диск увиделся, но растут ошибки ```72 Offline uncorrectable sectors```пока выключил через smartd полную проверку этого диска и снял нагрузку на запись для этого пула ZFS...
George
вести с полей - альфа openzfs 2.0 планируется в конце августа 2020, стабилизация около полугода обычно до выпуска stable релиза
Fedor
круто!