Vladislav
Открываешь мануал к своему дистрибутиву и читаешь про пакетный менеджер и установку программ.
Nikolay
Всем привет. Обновил свой livecd, теперь там zfs 2.1.4 https://git.s-morozov.net/sergey/archlive-zfs/releases/tag/2022.03.30
я же правильно понял что это для реанимации zfs можно использовать ?
riv
это своего рода изврат для бекапирования ФС на облако. я хочу потом измененные файлы vdev отправлять на облако. но если меняется так много при копировании копеечного файла, то это не варик.
Вот более "нормальный" изврат для облака, в духе zfs: делается snapshot, потом выгрудается на облако через zfs send. После копирований делается еще snapshot и выгружается разница через zfs send -i snap1 snap2 и результат кладеся на облако. Потом zfs send -i snap2 snap3 и тоже на облако. Если на облаке есть zfs (есть конторы оказывающие услугу приема и хранения снимков zfs) у вас появляется машина времени в облаке.
riv
Так работает sanoid
Или bash-скрапт на 30 строк. Или санойд действительно хорош?
riv
я же правильно понял что это для реанимации zfs можно использовать ?
Наконец-то! Давно искал ливсиди для этой цели.
Vladislav
Или bash-скрапт на 30 строк. Или санойд действительно хорош?
Хорош. Я пару скриптиков дописал, чтоб monit контролировал рассинхронизацию
riv
Хорош. Я пару скриптиков дописал, чтоб monit контролировал рассинхронизацию
Мой баш скрипт, который мне стыдно показать, обладает некими зачатками робастости: - делает скюнимки локально и ставит на снимок один или несколтко холдов: по холду на каждый сервер резервного копирования куда должен быть отправлен снимок. Это защита от удаления бекапов. - другая часть скрипта запускается на сервере резервного копирования. Она получает список снимков, засасывает их на сервер, проверяет, что снимок принялся и снимает холд с источника - первая часть скрипта удаляет созданные ей снимки без холдов. Как у санойда и других скриптов с этим?
Vladislav
Защита есть
Nikolay
Или bash-скрапт на 30 строк. Или санойд действительно хорош?
я вот этим пользуюсь: https://github.com/psy0rz/zfs_autobackup
Vladislav
Я перед использованием саноида пересмотрел с 10к скриптов
Vladislav
Все они мне показались ногами написанные.
Maverick
Коллеги подскажите пожалуйста можно чем то мониторить производительность zfs. Есть ли какой-то аналог iostat для обычных дисков... Чтобы посмотреть на сколько процентов утилизация дисковой подсистемы идет
central
так iostat вам загрузку дисков и покажет, а сколько можно выжать из самой zfs это отдельный вопрос
Maverick
так iostat вам загрузку дисков и покажет, а сколько можно выжать из самой zfs это отдельный вопрос
Так он показывает что загрузки дисков нет... Вот хотел понять почему... Так медленно копируются данные при 10гб сети
central
а что сам zfs показывает по операциям?
Maverick
а что сам zfs показывает по операциям?
А как посмотреть... А то я все это дело по дефолту на openmediavault развернул и по zfs over iscsi... Просто это моя первая проба. И хотелось бы понять куда копать или что почитать
central
zpool get iostat
Maverick
А там можно как то ну чтобы динамика была
Vladislav
А как посмотреть... А то я все это дело по дефолту на openmediavault развернул и по zfs over iscsi... Просто это моя первая проба. И хотелось бы понять куда копать или что почитать
1) Включаете iperf с tcp 2) Делаете fio локально на zfs 3) подключаете zfs по iscsi к другой линуксовой машинке делаете fio там
Maverick
zpool get iostat
Просто iostat с get не работает
George
zpool iostat
Vladislav
А если у меня в пуле только блочные устройства диски vm..
А как это связано если для проверки скорости записи мы используем Linux со всех сторон?
Vladislav
По дефолту
"For TCP tests, the default value is 128KB." Выставить на размер блока, что испольется в Вашей системе (64кб для Вари к примеру)
Vladislav
Я имел ввиду fio на локальном zfs как сделать
Проверяете, что достаточно свободного места, монтируете zfs volume в корень системы, делаете fio. Но я бы лучше вычистил всё и проверил fio на пустом массиве
Maverick
Если zvol это блочное устройство а внутри виртуалка... Я
Vladislav
И что Вам это даст, если запись идёт из оперативки?
Maverick
А кстати jambo frame есть смысл использовать по подключении полки?
Maverick
А если я создам ещё один zvol но внутри уже фс будет и на ней потестить?
Vladislav
Чё то я запутался...
Нарисуйте схему подключения себе и представьте как идут данные по ней
Maverick
У понимаю что у пеня относительная каша в голове. Не могу пазл сложить. Поначитался всего
Maverick
А нарисовано
Vladislav
И в чем будет разница между Fio на ВМ, которая на сервере И Fio на ZFS, который на хранилке
Vladislav
Maverick
Maverick
И в чем будет разница между Fio на ВМ, которая на сервере И Fio на ZFS, который на хранилке
Не знаю просто не понятно почему zfs так медленно работает ... Собран stripe mirror аналог raid10
Vladislav
И в чем будет разница между Fio на ВМ, которая на сервере И Fio на ZFS, который на хранилке
Посмотрите ещё раз на схему и попробуйте ответить на вопрос как пойдут данные в этих двух ситуациях
Vladislav
Не знаю просто не понятно почему zfs так медленно работает ... Собран stripe mirror аналог raid10
Для начала надо устранить другие варианты "почему медленно"
Vladislav
А потом говорить про тюнинг zfs
Maverick
Да я не тбнит хотел а посмотретт
Maverick
Сейчас попробую iperf с 4кб
Maverick
Ух ты по 4к скорость падает до 4гбс
Maverick
3.6
Vladislav
The
почему zfs так медленно работает zfs так медленно работает
Vladislav
3.6
Почему omv? Он не совсем как iscsi таргет используется обычно
Maverick
Почему omv? Он не совсем как iscsi таргет используется обычно
А что посоветует? Truenas не встал на это железо.а так для виндовых админов чтоб понятнее было, гуй интерфейс.
Maverick
Почему omv? Он не совсем как iscsi таргет используется обычно
Я просто подумал обычны дебиан настрою lio и подключу к проксу
Maverick
Сетевая карта не понравилась ему или?
Не понравилось ему рейд контроллер adaptec... 😳
Maverick
Вот это вторая идея после трунаса
Ну а omv обычный дебиан, но в случае zfs они ядро от проксмокс берут
Vladislav
Не понравилось ему рейд контроллер adaptec... 😳
Простите, а как он у Вас настроен?
Vladislav
Только не говорите, что у Вас рейд собран на нём?
The
Так даже лучше.
Maverick
Только не говорите, что у Вас рейд собран на нём?
Нет проброшены диски jbod Линукс видит смарт и диск полностью
Александр
А вот такой вопрос: если я добавил к пулу special devices, то избавиться от них - только пересозданием пула?
George
А вот такой вопрос: если я добавил к пулу special devices, то избавиться от них - только пересозданием пула?
если пул только из мирроров и ashift у всех будет одинаков - zpool remove емнип поможет, но стоит на конкретной версии проверить
George
если хотя бы ashift разойдётся или есть raidz - да, только пересоздание сейчас
Александр
если хотя бы ashift разойдётся или есть raidz - да, только пересоздание сейчас
Так я и думал почему-то. А кто пробовал, насколько быстрее получается?
George
Так я и думал почему-то. А кто пробовал, насколько быстрее получается?
очень зависит от нагрузки, но я ещё не видел отрицательного влияния, в инете были бенчи
Александр
Ну, хм...
George
лично до бенчей так и не добрался
Александр
Эх. Ну, что, попробуем. Долбанет так долбанет...
Maverick
если хотя бы ashift разойдётся или есть raidz - да, только пересоздание сейчас
А если собирал stripe mirrored из 4х hdd sata. Не указывая ashift? Это плохо или в зеркалах не важно?
George
А если собирал stripe mirrored из 4х hdd sata. Не указывая ashift? Это плохо или в зеркалах не важно?
дефолт норм, просто у hdd и ssd/nvme разный размер блока обычно диск отдаёт, и дефолт будет разный = zpool remove не сработает